Hadoop集群資源管理器是什么?它是如何為上層應(yīng)用提供資源管理和調(diào)度的呢?我們一起來(lái)看Apache Hadoop YARN的引入,為集群在利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面帶來(lái)的巨大好處。
讓客戶(hù)滿(mǎn)意是我們工作的目標(biāo),不斷超越客戶(hù)的期望值來(lái)自于我們對(duì)這個(gè)行業(yè)的熱愛(ài)。我們立志把好的技術(shù)通過(guò)有效、簡(jiǎn)單的方式提供給客戶(hù),將通過(guò)不懈努力成為客戶(hù)在信息化領(lǐng)域值得信任、有價(jià)值的長(zhǎng)期合作伙伴,公司提供的服務(wù)項(xiàng)目有:申請(qǐng)域名、雅安服務(wù)器托管、營(yíng)銷(xiāo)軟件、網(wǎng)站建設(shè)、桃源網(wǎng)站維護(hù)、網(wǎng)站推廣。從開(kāi)發(fā)人員來(lái)講提交作業(yè)(應(yīng)用)到Y(jié)ARN集群,通過(guò)YARN的UI來(lái)監(jiān)控和管理作業(yè)。Hadoop給開(kāi)發(fā)員提供了三種主要YARN工具:(1)Hue Job Browser;(2)YARN Web UI;(3)YARN命令。YARN管理員可以使用Cloudera Manager,包含在Cloudera Express和ClouderaEnterprise中,對(duì)開(kāi)發(fā)人員也有一些幫助。下面我們一起來(lái)看具體組件的作用:
(1)Hue Job Browser:可以監(jiān)控作業(yè)狀態(tài)、查看日志、殺掉作業(yè)
(2)YARN Web UI:Resource Manager UI是主要的入口點(diǎn),運(yùn)行在RM主機(jī)的8088端口,相比Hue,提供了更多明細(xì)視圖(可以查看每一個(gè)應(yīng)用下面的任務(wù),任務(wù)里面有多少attempt,以及一些日志情況),但是它不提供任何控制或者配置。在這里我們看一下YARN Web UI的類(lèi)別:
1)Resource Manager UI:Nodes
2)Resource Manager UI:Applications
3)ResourceManager UI:Application Detail
(3)YARN命令行
1)通過(guò)命令配置和查看關(guān)于YARN集群的信息
a)yarn <command>
2)大多數(shù)YARN命令行工具是為管理員而不是開(kāi)發(fā)員準(zhǔn)備的
3)一些對(duì)開(kāi)發(fā)員有用的命令
b)yarn application,使用-list來(lái)查看運(yùn)行的應(yīng)用,使用-kill來(lái)殺掉運(yùn)行的應(yīng)用.
c)yarn logs –applicationId<app-id>,查看特定應(yīng)用的日志
(4)Cloudera Manager
Cloudera Manager提供了強(qiáng)大地從單個(gè)節(jié)點(diǎn)監(jiān)控和配置集群的能力
YARN作為Hadoop的資源管理器,給集群的資源管理與共享帶來(lái)了便捷,但是我們必須明確YARN 在實(shí)際應(yīng)用中的特點(diǎn),才能夠更好的掌握和應(yīng)用。大數(shù)據(jù)由于當(dāng)下發(fā)展的需要,給每一位想要從事或者已經(jīng)從事大數(shù)據(jù)的人員提供了機(jī)遇和挑戰(zhàn),我們不僅要多方位思考總結(jié),還要借鑒和學(xué)習(xí)別人的經(jīng)驗(yàn),不斷地改善自己的知識(shí)架構(gòu),才會(huì)取得更大的進(jìn)步。平時(shí)可以關(guān)注“大數(shù)據(jù)cn”這樣的微信資訊平臺(tái),上面分享的大數(shù)據(jù)相關(guān)知識(shí)對(duì)于我們從業(yè)者來(lái)說(shuō),很新穎獨(dú)特,對(duì)開(kāi)闊我們的視野,拓展我們的知識(shí)面,激發(fā)我們的思維都有著很好地幫助作用!
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無(wú)理由+7*72小時(shí)售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性?xún)r(jià)比高”等特點(diǎn)與優(yōu)勢(shì),專(zhuān)為企業(yè)上云打造定制,能夠滿(mǎn)足用戶(hù)豐富、多元化的應(yīng)用場(chǎng)景需求。
分享題目:大數(shù)據(jù)資源如何管理-創(chuàng)新互聯(lián)
網(wǎng)頁(yè)網(wǎng)址:http://www.rwnh.cn/article20/csegjo.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供小程序開(kāi)發(fā)、搜索引擎優(yōu)化、建站公司、企業(yè)網(wǎng)站制作、網(wǎng)站策劃、關(guān)鍵詞優(yōu)化
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容