區(qū)別
做NOSQL有很多,hive與hbase,二者都是基于hadoop的,不同是,hive基于類sql引擎的,所以可以用HSQL語句來 用來統(tǒng)計查詢,返回數(shù)據(jù)比較慢,默認是便利表中所有的數(shù)據(jù)。
hbase呢是key/value的數(shù)據(jù)庫,用來實時查詢是比較擅長的,facebook的消息實時分析用此,
創(chuàng)新互聯(lián)長期為超過千家客戶提供的網(wǎng)站建設(shè)服務(wù),團隊從業(yè)經(jīng)驗10年,關(guān)注不同地域、不同群體,并針對不同對象提供差異化的產(chǎn)品和服務(wù);打造開放共贏平臺,與合作伙伴共同營造健康的互聯(lián)網(wǎng)生態(tài)環(huán)境。為永仁企業(yè)提供專業(yè)的做網(wǎng)站、網(wǎng)站建設(shè),永仁網(wǎng)站改版等技術(shù)服務(wù)。擁有10余年豐富建站經(jīng)驗和眾多成功案例,為您定制開發(fā)。
名詞:MapReduce
由master分配任務(wù)給worker執(zhí)行,map函數(shù)讀取被分配的輸入數(shù)據(jù)片段,輸出中間key/value pair值的集合,reduce函數(shù)手機具有相中中間key值的value值,合并這些value值,形成一個較小的value值的集合
把一些數(shù)據(jù)通過map來歸類,通過reducer來把同一類的數(shù)據(jù)進行處理
hbase理解的應(yīng)該有以下幾個模塊
簡單理解hbase更新數(shù)據(jù),首先寫到hlog日志,然后同時通過hregionserver 到region,再通過store模塊的memstore存儲,如果達到設(shè)置的值則執(zhí)行store file,flush到hfile中,這樣這幾個模塊都用上了
master或者hmaster 是Master Server的實現(xiàn),負責監(jiān)控集群中的RegionServer實例,同時是所有metadata改變的接口,在集群中,通常運行在NameNode上面
hregionserver 是RegionServer的實現(xiàn),服務(wù)和管理Regions,集群中RegionServer運行在DataNode
region 代表table,Region有多個Store(列簇),Store有一個Memstore和多個StoreFiles(HFiles),StoreFiles的底層是Block
連接 https://blog.csdn.net/maketubu7/article/details/80612930
https://blog.csdn.net/huangliuyu00/article/details/79704371
Hlog
memstore
store file
Hlog如何保證hbase一致性的
HBase的可靠性是通過HLog實現(xiàn)的,HLog機制是WAL(Write-Ahead Logging)的一種實現(xiàn),預(yù)寫日志。WAL是事務(wù)機制中常見的一致性實現(xiàn)方式。每個Region Server中都會有一個HLog實現(xiàn),Region Server更新操作時,先把記錄到寫到WAL(也就是HLog)中,再寫入到Store的MemStore,最終MemStore會將數(shù)據(jù)寫入到持久化的HFile中,當MemStore到達配置的內(nèi)存閥值時。通過先寫WAL(HLog),再寫MemStore,這樣的方式保證寫的可靠性。
如果沒有WAL,當Region Server宕掉的時候,MemStore還沒寫入到HFile,或者StoreFile還沒保存,那么數(shù)據(jù)就會丟失。而HFile的數(shù)據(jù)由HDFS保證的,默認HDFS中會有3份。
如果服務(wù)器崩潰,region server會回訪Hlog,通過數(shù)據(jù)回寫,來恢復(fù)服務(wù)器的內(nèi)存數(shù)據(jù)。下圖顯示了寫入過程,也是一個Hbase的框架圖
————————————————
另外cell,column family ,columns ,table,row,定義是什么
這個連接很清楚https://blog.csdn.net/huangliuyu00/article/details/79704371
新聞標題:hbase干貨
路徑分享:http://www.rwnh.cn/article16/psghdg.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供云服務(wù)器、手機網(wǎng)站建設(shè)、軟件開發(fā)、外貿(mào)網(wǎng)站建設(shè)、品牌網(wǎng)站建設(shè)、定制網(wǎng)站
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)