小編給大家分享一下hive中order by,distribute by,sort by,cluster by有什么用，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

創(chuàng)新互聯(lián)長期為1000多家客戶提供的網(wǎng)站建設(shè)服務(wù)，團(tuán)隊(duì)從業(yè)經(jīng)驗(yàn)10年，關(guān)注不同地域、不同群體，并針對不同對象提供差異化的產(chǎn)品和服務(wù)；打造開放共贏平臺(tái)，與合作伙伴共同營造健康的互聯(lián)網(wǎng)生態(tài)環(huán)境。為興和企業(yè)提供專業(yè)的做網(wǎng)站、網(wǎng)站制作，興和網(wǎng)站改版等技術(shù)服務(wù)。擁有十載豐富建站經(jīng)驗(yàn)和眾多成功案例,為您定制開發(fā)。

order by,distribute by,sort by,cluster by  查詢使用說明

// 根據(jù)年份和氣溫對氣象數(shù)據(jù)進(jìn)行排序，以確保所有具有相同年份的行最終都在一個(gè)reducer分區(qū)中 

// 一個(gè)reduce(海量數(shù)據(jù),速度很慢)
select year, temperature
order by year asc, temperature desc
limit 100;  


// 多個(gè)reduce(海量數(shù)據(jù),速度很快)
select year, temperature  
distribute by year  
sort by year asc, temperature desc
limit 100;

order by  (全局排序 )
order by 會(huì)對輸入做全局排序，因此只有一個(gè)reducer（多個(gè)reducer無法保證全局有序）
只有一個(gè)reducer，會(huì)導(dǎo)致當(dāng)輸入規(guī)模較大時(shí)，需要較長的計(jì)算時(shí)間。

在hive.mapred.mode=strict模式下，強(qiáng)制必須添加limit限制，這么做的目的是減少reducer數(shù)據(jù)規(guī)模
例如，當(dāng)限制limit 100時(shí)， 如果map的個(gè)數(shù)為50， 則reducer的輸入規(guī)模為100*50



distribute by  (類似于分桶)
根據(jù)distribute by指定的字段對數(shù)據(jù)進(jìn)行劃分到不同的輸出reduce 文件中。


sort by   (類似于桶內(nèi)排序)
sort by不是全局排序，其在數(shù)據(jù)進(jìn)入reducer前完成排序。
因此，如果用sort by進(jìn)行排序，并且設(shè)置mapred.reduce.tasks>1， 則sort by只保證每個(gè)reducer的輸出有序，不保證全局有序。



cluster by
cluster by 除了具有 distribute by 的功能外還兼具 sort by 的功能。 
但是排序只能是倒序排序，不能指定排序規(guī)則為asc 或者desc。

因此，常常認(rèn)為cluster by = distribute by + sort by

以上是“hive中order by,distribute by,sort by,cluster by有什么用”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道！

新聞標(biāo)題：hive中orderby,distributeby,sortby,clusterby有什么用
網(wǎng)站網(wǎng)址：http://www.rwnh.cn/article6/jsdhog.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供域名注冊、網(wǎng)站導(dǎo)航、手機(jī)網(wǎng)站建設(shè)、品牌網(wǎng)站制作、App設(shè)計(jì)、網(wǎng)站制作

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)