大數(shù)據(jù)正在如何改變數(shù)據(jù)庫格局

大數(shù)據(jù)正在如何改變數(shù)據(jù)庫格局

銀海網(wǎng)站建設(shè)公司創(chuàng)新互聯(lián)建站,銀海網(wǎng)站設(shè)計(jì)制作，有大型網(wǎng)站制作公司豐富經(jīng)驗(yàn)。已為銀海上千多家提供企業(yè)網(wǎng)站建設(shè)服務(wù)。企業(yè)網(wǎng)站搭建\成都外貿(mào)網(wǎng)站建設(shè)要多少錢，請(qǐng)找那個(gè)售后服務(wù)好的銀海做網(wǎng)站的公司定做！

提及“數(shù)據(jù)庫”，大多數(shù)人會(huì)想到擁有30多年風(fēng)光歷史的RDBMS。然而，這可能很快就會(huì)發(fā)生改變。

一大批新的競(jìng)爭(zhēng)者都在爭(zhēng)奪這一塊重要市場(chǎng)，他們的方法是多種多樣的，卻都有一個(gè)共同點(diǎn)：極其專注于大數(shù)據(jù)。推動(dòng)新的數(shù)據(jù)迭代衍生品大部分都是基于底層大數(shù)據(jù)的3V特征：數(shù)量，速度和種類。本質(zhì)上來講，今天的數(shù)據(jù)比以往任何時(shí)候都要傳輸更快，體積更大， 同時(shí)更加多樣化。這是一個(gè)新的數(shù)據(jù)世界，換言之，傳統(tǒng)的關(guān)系數(shù)據(jù)庫管理系統(tǒng)并沒有真正為此而設(shè)計(jì)。“基本上，他們不能擴(kuò)展到大量，或快速，或不同種類的數(shù)據(jù)?！币晃粩?shù)據(jù)分析、數(shù)據(jù)科學(xué)咨詢機(jī)構(gòu)的總裁格雷戈里認(rèn)為。這就是哈特漢克斯最近發(fā)現(xiàn)。截至到2013年左右，營銷服務(wù)機(jī)構(gòu)使用不同的數(shù)據(jù)庫，包括Microsoft SQL Server和Oracle真正應(yīng)用集群（RAC）的組合?！拔覀冏⒁獾剑瑪?shù)據(jù)隨著時(shí)間的增長(zhǎng)，我們的系統(tǒng)不能足夠快速的處理信息”一位科技發(fā)展公司的負(fù)責(zé)人肖恩說到?！叭绻悴粩嗟刭徺I服務(wù)器，你只能繼續(xù)走到這幺遠(yuǎn)，我們希望確保自己有向外擴(kuò)展的平臺(tái)?！弊钚』袛嗍且粋€(gè)重要的目標(biāo)，Iannuzzi說到，因此“我們不能只是切換到Hadoop?！毕喾矗瑓s選擇了拼接機(jī)器，基本上把完整的SQL數(shù)據(jù)庫放到目前流行的Hadoop大數(shù)據(jù)平臺(tái)之上，并允許現(xiàn)有的應(yīng)用程序能夠與它連接，他認(rèn)為。哈特漢克斯現(xiàn)在是在執(zhí)行的初期階段，但它已經(jīng)看到了好處，Iannuzzi說，包括提高容錯(cuò)性，高可用性，冗余性，穩(wěn)定性和“性能全面提升”。一種完美風(fēng)暴推動(dòng)了新的數(shù)據(jù)庫技術(shù)的出現(xiàn)，IDC公司研究副總裁Carl Olofson說到。首先，“我們正在使用的設(shè)備與過去對(duì)比，處理大數(shù)據(jù)集更加快速，靈活性更強(qiáng)”O(jiān)lofson說。在過去，這樣的集合“幾乎必須放在旋轉(zhuǎn)磁盤上”，而且數(shù)據(jù)必須以特定的方式來結(jié)構(gòu)化，他解釋說。現(xiàn)在有64位尋址，使得能夠設(shè)置更大的存儲(chǔ)空間以及更快的網(wǎng)絡(luò)，并能夠串聯(lián)多臺(tái)計(jì)算器充當(dāng)單個(gè)大型數(shù)據(jù)庫?！斑@些東西在不可用之前開辟了可能性”O(jiān)lofson說。與此同時(shí)，工作負(fù)載也發(fā)生了變化。10年前的網(wǎng)站主要是靜態(tài)的，例如，今天我們享受到的網(wǎng)絡(luò)服務(wù)環(huán)境和互動(dòng)式購物體驗(yàn)。反過來，需要新的可擴(kuò)展性，他說。公司正在利用新的方式來使用數(shù)據(jù)。雖然傳統(tǒng)上我們大部分的精力都放在了對(duì)事務(wù)處理 – 銷售總額的記錄，比如，數(shù)據(jù)存儲(chǔ)在可以用來分析的地方 – 現(xiàn)在我們做的更多。應(yīng)用狀態(tài)管理就是一個(gè)例子假設(shè)你正在玩一個(gè)網(wǎng)絡(luò)游戲。該技術(shù)會(huì)記錄你與系統(tǒng)的每個(gè)會(huì)話并連接在一起，以呈現(xiàn)出連續(xù)的體驗(yàn)，即使你切換設(shè)備或各種移動(dòng)，不同的服務(wù)器都會(huì)進(jìn)行處理，Olofson解釋說。數(shù)據(jù)必須保持連續(xù)性，這樣企業(yè)才可以分析問題，例如“為什么從來沒有人穿過水晶廳”。在網(wǎng)絡(luò)購物方面，為什么對(duì)方點(diǎn)擊選擇顏色后大多數(shù)人不會(huì)購買某個(gè)特殊品牌的鞋子。“以前，我們并沒試圖解決這些問題，或者我們?cè)噲D扔進(jìn)盒子也不太合適”O(jiān)lofson說。Hadoop是當(dāng)今新的競(jìng)爭(zhēng)者中一個(gè)重量級(jí)的產(chǎn)品。雖然他本身不是一個(gè)數(shù)據(jù)庫，它的成長(zhǎng)為企業(yè)解決大數(shù)據(jù)扮演關(guān)鍵角色。從本質(zhì)上講，Hadoop是一個(gè)運(yùn)行高度并行應(yīng)用程序的數(shù)據(jù)中心平臺(tái)，它有很強(qiáng)的可擴(kuò)展性。通過允許企業(yè)擴(kuò)展“走出去”的分布方式，而不是通過額外昂貴的服務(wù)器“向上”擴(kuò)展，“它使得我們可以低成本地把一個(gè)大的數(shù)據(jù)集匯總，然后進(jìn)行分析研究成果”O(jiān)lofson說。其他新的RDBMS的替代品如NoSQL家族產(chǎn)品，其中包括MongoDB -目前第四大流行數(shù)據(jù)庫管理系統(tǒng)，比照DB引擎和MarkLogic非結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)服務(wù)?！瓣P(guān)系型數(shù)據(jù)庫一直是一項(xiàng)偉大的技術(shù)持續(xù)了30年，但它是建立在不同的時(shí)代有不同的技術(shù)限制和不同的市場(chǎng)需求，”MarkLogic的執(zhí)行副總裁喬·產(chǎn)品帕卡說。大數(shù)據(jù)是不均勻的，他說。許多傳統(tǒng)的技術(shù)，這仍然是一個(gè)基本要求?！跋胂笠幌拢愕墓P記本電腦上唯一的程序是Excel”帕卡說。“設(shè)想一下，你要和你的朋友利用網(wǎng)絡(luò)保持聯(lián)系 – 或者你正在寫一個(gè)合約卻不適合放進(jìn)行和列中?！逼唇訑?shù)據(jù)集是特別棘手的“關(guān)系型，你把所有這些數(shù)據(jù)集中在一起前，必須先決定如何去組織所有的列，”他補(bǔ)充說?！拔覀兛梢圆扇∪魏涡问交蚪Y(jié)構(gòu)，并立即開始使用它。”NoSQL數(shù)據(jù)庫沒有使用關(guān)系數(shù)據(jù)模型，并且它們通常不具有SQL接口。盡管許多的NoSQL存儲(chǔ)折中支持速度等其他因素，MarkLogic為企業(yè)定身量做，提供更為周全的選擇。NoSQL儲(chǔ)存市場(chǎng)有相當(dāng)大的增長(zhǎng)，據(jù)市場(chǎng)研究媒體，不是每個(gè)人都認(rèn)為這是正確的做法-至少，不是在所有情況下。NoSQL系統(tǒng)“解決了許多問題，他們橫向擴(kuò)展架構(gòu)，但他們卻拋出了SQL，”一位CEO-Monte Zweben說。這反過來，又為現(xiàn)有的代碼構(gòu)成問題。Splice Machine是一家基于Hadoop的實(shí)時(shí)大數(shù)據(jù)技術(shù)公司，支持SQL事務(wù)處理，并針對(duì)OLAP 和OLAP應(yīng)用進(jìn)行實(shí)時(shí)優(yōu)化處理。它被稱為替代NewSQL的一個(gè)例子，另一類預(yù)期會(huì)在未來幾年強(qiáng)勁增長(zhǎng)?！拔覀兊睦砟钍潜３諷QL，但橫向擴(kuò)展架構(gòu)”Zweben說?！斑@是新事物，但我們正在努力試圖使它讓人們不必重寫自己的東西。”深度信息科學(xué)選擇并堅(jiān)持使用SQL，但需要另一種方法。公司的DeepSQL數(shù)據(jù)庫使用相同的應(yīng)用程序編程接口（API）和關(guān)系模型如MySQL，意味著沒有應(yīng)用變化的需求而使用它。但它以不同的方式處理數(shù)據(jù)，使用機(jī)器學(xué)習(xí)。DeepSQL可以自動(dòng)適應(yīng)使用任何工作負(fù)載組合的物理，虛擬或云主機(jī)，該公司表示，從而省去了手動(dòng)優(yōu)化數(shù)據(jù)庫的需要。該公司的首席戰(zhàn)略官Chad Jones表示，在業(yè)績(jī)大幅增加的同時(shí)，也有能力將“規(guī)?；睘樯锨|的行。一種來自Algebraix數(shù)據(jù)完全不同的方式，表示已經(jīng)開發(fā)了數(shù)據(jù)的第一個(gè)真正的數(shù)學(xué)化基礎(chǔ)。而計(jì)算器硬件需在數(shù)學(xué)建模前建成，這不是在軟件的情況下，Algebraix首席執(zhí)行官查爾斯銀說?！败浖绕涫菙?shù)據(jù)，從未建立在數(shù)學(xué)的基礎(chǔ)上”他說，“軟件在很大程度上是語言學(xué)的問題?！苯?jīng)過五年的研發(fā)，Algebraix創(chuàng)造了所謂的“數(shù)據(jù)的代數(shù)”集合論，“數(shù)據(jù)的通用語言”Silver說。“大數(shù)據(jù)骯臟的小秘密是數(shù)據(jù)仍然放在不與其他數(shù)據(jù)小倉融合的地方”Silver解釋說。“我們已經(jīng)證明，它都可以用數(shù)學(xué)方法來表示所有的集成?！迸鋫湟粋€(gè)基礎(chǔ)的平臺(tái)，Algebraix現(xiàn)在為企業(yè)提供業(yè)務(wù)分析作為一種服務(wù)。改進(jìn)的性能，容量和速度都符合預(yù)期的承諾。時(shí)間會(huì)告訴我們哪些新的競(jìng)爭(zhēng)者取得成功，哪些沒有，但在此期間，長(zhǎng)期的領(lǐng)導(dǎo)者如Oracle不會(huì)完全停滯不前?！败浖且粋€(gè)非常時(shí)尚行業(yè)”安德魯·門德爾松，甲骨文執(zhí)行副總裁數(shù)據(jù)庫服務(wù)器技術(shù)說。“事情經(jīng)常去從流行到不受歡迎，回再次到流行?！苯裉斓脑S多創(chuàng)業(yè)公司“帶回炒冷飯少許拋光或旋轉(zhuǎn)就可以了”他說。“這是一個(gè)新一代孩子走出學(xué)校和重塑的東西。”SQL是“唯一的語言，可以讓業(yè)務(wù)分析師提出問題并得到答案，他們沒有程序員，”門德爾松說?！按笫袌?chǎng)將始終是關(guān)系型?！敝劣谛碌臄?shù)據(jù)類型，關(guān)系型數(shù)據(jù)庫產(chǎn)品早在上世紀(jì)90年代發(fā)展為支持非結(jié)構(gòu)化數(shù)據(jù)，他說。在2013年，甲骨文的同名數(shù)據(jù)庫版本12C增加了支持JSON（JavaScript對(duì)象符號(hào)）。與其說需要一個(gè)不同類型的數(shù)據(jù)庫，它更是一種商業(yè)模式的轉(zhuǎn)變，門德爾松說。“云，若是每個(gè)人都去，這將破壞這些小家伙”他說。“大家都在云上了，所以在這里有沒有地方來放這些小家伙？“他們會(huì)去亞馬遜的云與亞馬遜競(jìng)爭(zhēng)？” 他補(bǔ)充說?！斑@將是困難的?！奔坠俏挠小白顝V泛的云服務(wù)”門德爾松說?！霸诂F(xiàn)在的位置，我們感覺良好?！盙artner公司的研究主任里克·格林沃爾德，傾向于采取了類似的觀點(diǎn)?！皩?duì)比傳統(tǒng)強(qiáng)大的RDBMS，新的替代品并非功能齊全”格林沃爾德說。“一些使用案例可以與新的競(jìng)爭(zhēng)者來解決，但不是全部，并非一種技術(shù)”。展望未來，格林沃爾德預(yù)計(jì)，傳統(tǒng)的RDBMS供貨商感到價(jià)格壓力越來越大，并為他們的產(chǎn)品增加新的功能?！坝行┤藭?huì)自由地帶來新的競(jìng)爭(zhēng)者進(jìn)入管理自己的整個(gè)數(shù)據(jù)生態(tài)系統(tǒng)”他說。至于新的產(chǎn)品，有幾個(gè)會(huì)生存下來，他預(yù)測(cè)“許多人將被收購或資金耗盡”。今天的新技術(shù)并不代表傳統(tǒng)的RDBMS的結(jié)束，“正在迅速發(fā)展自己”IDC的Olofson。贊成這種說法，“RDBMS是需要明確定義的數(shù)據(jù) – 總是會(huì)有這樣一個(gè)角色?！钡矔?huì)有一些新的競(jìng)爭(zhēng)者的角色，他說，特別是物聯(lián)網(wǎng)技術(shù)和新興技術(shù)如非易失性內(nèi)存芯片模塊（NVDIMM）占據(jù)上風(fēng)。

以上是小編為大家分享的關(guān)于大數(shù)據(jù)正在如何改變數(shù)據(jù)庫格局的相關(guān)內(nèi)容，更多信息可以關(guān)注環(huán)球青藤分享更多干貨

技術(shù)選型 - OLAP大數(shù)據(jù)技術(shù)哪家強(qiáng)？

Lambda架構(gòu)的核心理念是“流批一體化”，因?yàn)殡S著機(jī)器性能和數(shù)據(jù)框架的不斷完善，用戶其實(shí)不關(guān)心底層是如何運(yùn)行的，批處理也好，流式處理也罷，能按照統(tǒng)一的模型返回結(jié)果就可以了，這就是Lambda架構(gòu)誕生的原因?，F(xiàn)在很多應(yīng)用，例如Spark和Flink，都支持這種結(jié)構(gòu)，也就是數(shù)據(jù)進(jìn)入平臺(tái)后，可以選擇批處理運(yùn)行，也可以選擇流式處理運(yùn)行，但不管怎樣，一致性都是相同的。

Kylin

Kylin的主要特點(diǎn)是預(yù)計(jì)算，提前計(jì)算好各個(gè)cube，這樣的優(yōu)點(diǎn)是查詢快速，秒級(jí)延遲；缺點(diǎn)也非常明顯，靈活性不足，無法做一些 探索 式的，關(guān)聯(lián)性的數(shù)據(jù)分析。

適合的場(chǎng)景也是比較固定的，場(chǎng)景清晰的地方。

ClickHouse

Clickhouse由俄羅斯yandex公司開發(fā)。專為在線數(shù)據(jù)分析而設(shè)計(jì)。

Clickhouse最大的特點(diǎn)首先是快 ，為了快采用了列式儲(chǔ)存，列式儲(chǔ)存更好的支持壓縮，壓縮后的數(shù)據(jù)傳輸量變小，所以更快；同時(shí)支持分片，支持分布式執(zhí)行，支持SQL。

ClickHouse很輕量級(jí)，支持?jǐn)?shù)據(jù)壓縮和最終數(shù)據(jù)一致性，其數(shù)據(jù)量級(jí)在PB級(jí)別。

另外Clickhouse不是為關(guān)聯(lián)分析而生，所以多表關(guān)聯(lián)支持的不太好。

同樣Clickhouse不能修改或者刪除數(shù)據(jù)，僅能用于批量刪除或修改。沒有完整的事務(wù)支持，不支持二級(jí)索引等等，缺點(diǎn)也非常明顯。

與Kylin相比ClickHouse更加的靈活，sql支持的更好，但是相比Kylin，ClickHouse不支持大并發(fā)，也就是不能很多訪問同時(shí)在線。

總之ClickHouse用于在線數(shù)據(jù)分析，支持功能簡(jiǎn)單。CPU 利用率高，速度極快。最好的場(chǎng)景用于行為統(tǒng)計(jì)分析。

Hive

Hive這個(gè)工具，大家一定很熟悉，大數(shù)據(jù)倉庫的首選工具。可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張數(shù)據(jù)庫表，并提供完整的sql查詢功能。

主要功能是可以將sql語句轉(zhuǎn)換為相對(duì)應(yīng)的MapReduce任務(wù)進(jìn)行運(yùn)行，這樣可能處理海量的數(shù)據(jù)批量，

Hive與HDFS結(jié)合緊密，在大數(shù)據(jù)開始初期，提供一種直接使用sql就能訪問HDFS的方案，擺脫了寫MapReduce任務(wù)的方式，極大的降低了大數(shù)據(jù)的門檻。

當(dāng)然Hive的缺點(diǎn)非常明顯，定義的是分鐘級(jí)別的查詢延遲，估計(jì)都是在比較理想的情況。 但是作為數(shù)據(jù)倉庫的每日批量工具，的確是一個(gè)穩(wěn)定合格的產(chǎn)品。

Presto

Presto極大的改進(jìn)了Hive的查詢速度，而且Presto 本身并不存儲(chǔ)數(shù)據(jù)，但是可以接入多種數(shù)據(jù)源，并且支持跨數(shù)據(jù)源的級(jí)聯(lián)查詢，支持包括復(fù)雜查詢、聚合、連接等等。

Presto沒有使用MapReduce，它是通過一個(gè)定制的查詢和執(zhí)行引擎來完成的。它的所有的查詢處理是在內(nèi)存中，這也是它的性能很高的一個(gè)主要原因。

Presto由于是基于內(nèi)存的，缺點(diǎn)可能是多張大表關(guān)聯(lián)操作時(shí)易引起內(nèi)存溢出錯(cuò)誤。

另外Presto不支持OLTP的場(chǎng)景，所以不要把Presto當(dāng)做數(shù)據(jù)庫來使用。

Presto相比ClickHouse優(yōu)點(diǎn)主要是多表join效果好。相比ClickHouse的支持功能簡(jiǎn)單，場(chǎng)景支持單一，Presto支持復(fù)雜的查詢，應(yīng)用范圍更廣。

Impala

Impala是Cloudera 公司推出，提供對(duì) HDFS、Hbase 數(shù)據(jù)的高性能、低延遲的交互式 SQL 查詢功能。

Impala 使用 Hive的元數(shù)據(jù), 完全在內(nèi)存中計(jì)算。是CDH 平臺(tái)首選的 PB 級(jí)大數(shù)據(jù)實(shí)時(shí)查詢分析引擎。

Impala 的缺點(diǎn)也很明顯，首先嚴(yán)重依賴Hive，而且穩(wěn)定性也稍差，元數(shù)據(jù)需要單獨(dú)的mysql/pgsql來存儲(chǔ)，對(duì)數(shù)據(jù)源的支持比較少，很多nosql是不支持的。但是，估計(jì)是cloudera的國內(nèi)市場(chǎng)推廣做的不錯(cuò)，Impala在國內(nèi)的市場(chǎng)不錯(cuò)。

SparkSQL

SparkSQL的前身是Shark，它將 SQL 查詢與 Spark 程序無縫集成，可以將結(jié)構(gòu)化數(shù)據(jù)作為 Spark 的 RDD 進(jìn)行查詢。

SparkSQL后續(xù)不再受限于Hive，只是兼容Hive。

SparkSQL提供了sql訪問和API訪問的接口。

支持訪問各式各樣的數(shù)據(jù)源，包括Hive, Avro, Parquet, ORC, JSON, and JDBC。

Drill

Drill好像國內(nèi)使用的很少，根據(jù)定義，Drill是一個(gè)低延遲的分布式海量數(shù)據(jù)交互式查詢引擎，支持多種數(shù)據(jù)源，包括hadoop，NoSQL存儲(chǔ)等等。

除了支持多種的數(shù)據(jù)源，Drill跟BI工具集成比較好。

Druid

Druid是專為海量數(shù)據(jù)集上的做高性能 OLAP而設(shè)計(jì)的數(shù)據(jù)存儲(chǔ)和分析系統(tǒng)。

Druid 的架構(gòu)是 Lambda 架構(gòu)，分成實(shí)時(shí)層和批處理層。

Druid的核心設(shè)計(jì)結(jié)合了數(shù)據(jù)倉庫，時(shí)間序列數(shù)據(jù)庫和搜索系統(tǒng)的思想，以創(chuàng)建一個(gè)統(tǒng)一的系統(tǒng)，用于針對(duì)各種用例的實(shí)時(shí)分析。Druid將這三個(gè)系統(tǒng)中每個(gè)系統(tǒng)的關(guān)鍵特征合并到其接收層，存儲(chǔ)格式，查詢層和核心體系結(jié)構(gòu)中。

目前 Druid 的去重都是非精確的，Druid 適合處理星型模型的數(shù)據(jù)，不支持關(guān)聯(lián)操作。也不支持?jǐn)?shù)據(jù)的更新。

Druid最大的優(yōu)點(diǎn)還是支持實(shí)時(shí)與查詢功能，解約了很多開發(fā)工作。

Kudu

kudu是一套完全獨(dú)立的分布式存儲(chǔ)引擎，很多設(shè)計(jì)概念上借鑒了HBase，但是又跟HBase不同，不需要HDFS，通過raft做數(shù)據(jù)復(fù)制；分片策略支持keyrange和hash等多種。

數(shù)據(jù)格式在parquet基礎(chǔ)上做了些修改，支持二級(jí)索引，更像一個(gè)列式存儲(chǔ)，而不是HBase schema-free的kv方式。

kudu也是cloudera主導(dǎo)的項(xiàng)目，跟Impala結(jié)合比較好，通過impala可以支持update操作。

kudu相對(duì)于原有parquet和ORC格式主要還是做增量更新的。

Hbase

Hbase使用的很廣,更多的是作為一個(gè)KV數(shù)據(jù)庫來使用，查詢的速度很快。

Hawq

Hawq是一個(gè)Hadoop原生大規(guī)模并行SQL分析引擎，Hawq采用 MPP 架構(gòu)，改進(jìn)了針對(duì) Hadoop 的基于成本的查詢優(yōu)化器。

除了能高效處理本身的內(nèi)部數(shù)據(jù)，還可通過 PXF 訪問 HDFS、Hive、HBase、JSON 等外部數(shù)據(jù)源。HAWQ全面兼容 SQL 標(biāo)準(zhǔn)，還可用 SQL 完成簡(jiǎn)單的數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)。無論是功能特性，還是性能表現(xiàn)，HAWQ 都比較適用于構(gòu)建 Hadoop 分析型數(shù)據(jù)倉庫應(yīng)用。

什么是NoSQL，它有什么優(yōu)缺點(diǎn)？

NoSQL，指的是非關(guān)系型的數(shù)據(jù)庫。NoSQL有時(shí)也稱作Not Only SQL的縮寫，是對(duì)不同于傳統(tǒng)的關(guān)系型數(shù)據(jù)庫的數(shù)據(jù)庫管理系統(tǒng)的統(tǒng)稱。

NoSQL用于超大規(guī)模數(shù)據(jù)的存儲(chǔ)。（例如谷歌或Facebook每天為他們的用戶收集萬億比特的數(shù)據(jù)）。這些類型的數(shù)據(jù)存儲(chǔ)不需要固定的模式，無需多余操作就可以橫向擴(kuò)展。

NoSQL的優(yōu)點(diǎn)/缺點(diǎn)

優(yōu)點(diǎn):

- 高可擴(kuò)展性

- 分布式計(jì)算

- 低成本

- 架構(gòu)的靈活性，半結(jié)構(gòu)化數(shù)據(jù)

- 沒有復(fù)雜的關(guān)系

缺點(diǎn):

- 沒有標(biāo)準(zhǔn)化

- 有限的查詢功能（到目前為止）

- 最終一致是不直觀的程序 （BY三人行慕課）

目前哪些NoSQL數(shù)據(jù)庫應(yīng)用廣泛，各有什么特點(diǎn)

特點(diǎn)：

它們可以處理超大量的數(shù)據(jù)。

它們運(yùn)行在便宜的PC服務(wù)器集群上。

PC集群擴(kuò)充起來非常方便并且成本很低，避免了“sharding”操作的復(fù)雜性和成本。

它們擊碎了性能瓶頸。

NoSQL的支持者稱，通過NoSQL架構(gòu)可以省去將Web或Java應(yīng)用和數(shù)據(jù)轉(zhuǎn)換成SQL友好格式的時(shí)間，執(zhí)行速度變得更快。

“SQL并非適用于所有的程序代碼，” 對(duì)于那些繁重的重復(fù)操作的數(shù)據(jù)，SQL值得花錢。但是當(dāng)數(shù)據(jù)庫結(jié)構(gòu)非常簡(jiǎn)單時(shí)，SQL可能沒有太大用處。

沒有過多的操作。

雖然NoSQL的支持者也承認(rèn)關(guān)系數(shù)據(jù)庫提供了無可比擬的功能集合，而且在數(shù)據(jù)完整性上也發(fā)揮絕對(duì)穩(wěn)定，他們同時(shí)也表示，企業(yè)的具體需求可能沒有那么多。

Bootstrap支持

因?yàn)镹oSQL項(xiàng)目都是開源的，因此它們?nèi)狈?yīng)商提供的正式支持。這一點(diǎn)它們與大多數(shù)開源項(xiàng)目一樣，不得不從社區(qū)中尋求支持。

優(yōu)點(diǎn)：

易擴(kuò)展

NoSQL數(shù)據(jù)庫種類繁多，但是一個(gè)共同的特點(diǎn)都是去掉關(guān)系數(shù)據(jù)庫的關(guān)系型特性。數(shù)據(jù)之間無關(guān)系，這樣就非常容易擴(kuò)展。也無形之間，在架構(gòu)的層面上帶來了可擴(kuò)展的能力。

大數(shù)據(jù)量，高性能

NoSQL數(shù)據(jù)庫都具有非常高的讀寫性能，尤其在大數(shù)據(jù)量下，同樣表現(xiàn)優(yōu)秀。這得益于它的無關(guān)系性，數(shù)據(jù)庫的結(jié)構(gòu)簡(jiǎn)單。一般MySQL使用 Query Cache，每次表的更新Cache就失效，是一種大粒度的Cache，在針對(duì)web2.0的交互頻繁的應(yīng)用，Cache性能不高。而NoSQL的 Cache是記錄級(jí)的，是一種細(xì)粒度的Cache，所以NoSQL在這個(gè)層面上來說就要性能高很多了。

靈活的數(shù)據(jù)模型

NoSQL無需事先為要存儲(chǔ)的數(shù)據(jù)建立字段，隨時(shí)可以存儲(chǔ)自定義的數(shù)據(jù)格式。而在關(guān)系數(shù)據(jù)庫里，增刪字段是一件非常麻煩的事情。如果是非常大數(shù)據(jù)量的表，增加字段簡(jiǎn)直就是一個(gè)噩夢(mèng)。這點(diǎn)在大數(shù)據(jù)量的web2.0時(shí)代尤其明顯。

高可用

NoSQL在不太影響性能的情況，就可以方便的實(shí)現(xiàn)高可用的架構(gòu)。比如Cassandra，HBase模型，通過復(fù)制模型也能實(shí)現(xiàn)高可用。

主要應(yīng)用：

Apache HBase

這個(gè)大數(shù)據(jù)管理平臺(tái)建立在谷歌強(qiáng)大的BigTable管理引擎基礎(chǔ)上。作為具有開源、Java編碼、分布式多個(gè)優(yōu)勢(shì)的數(shù)據(jù)庫，Hbase最初被設(shè)計(jì)應(yīng)用于Hadoop平臺(tái)，而這一強(qiáng)大的數(shù)據(jù)管理工具，也被Facebook采用，用于管理消息平臺(tái)的龐大數(shù)據(jù)。

Apache Storm

用于處理高速、大型數(shù)據(jù)流的分布式實(shí)時(shí)計(jì)算系統(tǒng)。Storm為Apache Hadoop添加了可靠的實(shí)時(shí)數(shù)據(jù)處理功能，同時(shí)還增加了低延遲的儀表板、安全警報(bào)，改進(jìn)了原有的操作方式，幫助企業(yè)更有效率地捕獲商業(yè)機(jī)會(huì)、發(fā)展新業(yè)務(wù)。

Apache Spark

該技術(shù)采用內(nèi)存計(jì)算，從多迭代批量處理出發(fā)，允許將數(shù)據(jù)載入內(nèi)存做反復(fù)查詢，此外還融合數(shù)據(jù)倉庫、流處理和圖計(jì)算等多種計(jì)算范式，Spark用Scala語言實(shí)現(xiàn)，構(gòu)建在HDFS上，能與Hadoop很好的結(jié)合，而且運(yùn)行速度比MapReduce快100倍。

Apache Hadoop

該技術(shù)迅速成為了大數(shù)據(jù)管理標(biāo)準(zhǔn)之一。當(dāng)它被用來管理大型數(shù)據(jù)集時(shí)，對(duì)于復(fù)雜的分布式應(yīng)用，Hadoop體現(xiàn)出了非常好的性能，平臺(tái)的靈活性使它可以運(yùn)行在商用硬件系統(tǒng)，它還可以輕松地集成結(jié)構(gòu)化、半結(jié)構(gòu)化和甚至非結(jié)構(gòu)化數(shù)據(jù)集。

Apache Drill

你有多大的數(shù)據(jù)集？其實(shí)無論你有多大的數(shù)據(jù)集，Drill都能輕松應(yīng)對(duì)。通過支持HBase、Cassandra和MongoDB，Drill建立了交互式分析平臺(tái)，允許大規(guī)模數(shù)據(jù)吞吐，而且能很快得出結(jié)果。

Apache Sqoop

也許你的數(shù)據(jù)現(xiàn)在還被鎖定于舊系統(tǒng)中，Sqoop可以幫你解決這個(gè)問題。這一平臺(tái)采用并發(fā)連接，可以將數(shù)據(jù)從關(guān)系數(shù)據(jù)庫系統(tǒng)方便地轉(zhuǎn)移到Hadoop中，可以自定義數(shù)據(jù)類型以及元數(shù)據(jù)傳播的映射。事實(shí)上，你還可以將數(shù)據(jù)（如新的數(shù)據(jù)）導(dǎo)入到HDFS、Hive和Hbase中。

Apache Giraph

這是功能強(qiáng)大的圖形處理平臺(tái)，具有很好可擴(kuò)展性和可用性。該技術(shù)已經(jīng)被Facebook采用，Giraph可以運(yùn)行在Hadoop環(huán)境中，可以將它直接部署到現(xiàn)有的Hadoop系統(tǒng)中。通過這種方式，你可以得到強(qiáng)大的分布式作圖能力，同時(shí)還能利用上現(xiàn)有的大數(shù)據(jù)處理引擎。

Cloudera Impala

Impala模型也可以部署在你現(xiàn)有的Hadoop群集上，監(jiān)視所有的查詢。該技術(shù)和MapReduce一樣，具有強(qiáng)大的批處理能力，而且Impala對(duì)于實(shí)時(shí)的SQL查詢也有很好的效果，通過高效的SQL查詢，你可以很快的了解到大數(shù)據(jù)平臺(tái)上的數(shù)據(jù)。

Gephi

它可以用來對(duì)信息進(jìn)行關(guān)聯(lián)和量化處理，通過為數(shù)據(jù)創(chuàng)建功能強(qiáng)大的可視化效果，你可以從數(shù)據(jù)中得到不一樣的洞察力。Gephi已經(jīng)支持多個(gè)圖表類型，而且可以在具有上百萬個(gè)節(jié)點(diǎn)的大型網(wǎng)絡(luò)上運(yùn)行。Gephi具有活躍的用戶社區(qū)，Gephi還提供了大量的插件，可以和現(xiàn)有系統(tǒng)完美的集成到一起，它還可以對(duì)復(fù)雜的IT連接、分布式系統(tǒng)中各個(gè)節(jié)點(diǎn)、數(shù)據(jù)流等信息進(jìn)行可視化分析。

MongoDB

這個(gè)堅(jiān)實(shí)的平臺(tái)一直被很多組織推崇，它在大數(shù)據(jù)管理上有極好的性能。MongoDB最初是由DoubleClick公司的員工創(chuàng)建，現(xiàn)在該技術(shù)已經(jīng)被廣泛的應(yīng)用于大數(shù)據(jù)管理。MongoDB是一個(gè)應(yīng)用開源技術(shù)開發(fā)的NoSQL數(shù)據(jù)庫，可以用于在JSON這樣的平臺(tái)上存儲(chǔ)和處理數(shù)據(jù)。目前，紐約時(shí)報(bào)、Craigslist以及眾多企業(yè)都采用了MongoDB，幫助他們管理大型數(shù)據(jù)集。（Couchbase服務(wù)器也作為一個(gè)參考）。

十大頂尖公司：

Amazon Web Services

Forrester將AWS稱為“云霸主”，談到云計(jì)算領(lǐng)域的大數(shù)據(jù)，那就不得不提到亞馬遜。該公司的Hadoop產(chǎn)品被稱為EMR（Elastic Map Reduce），AWS解釋這款產(chǎn)品采用了Hadoop技術(shù)來提供大數(shù)據(jù)管理服務(wù)，但它不是純開源Hadoop，經(jīng)過修改后現(xiàn)在被專門用在AWS云上。

Forrester稱EMR有很好的市場(chǎng)前景。很多公司基于EMR為客戶提供服務(wù)，有一些公司將EMR應(yīng)用于數(shù)據(jù)查詢、建模、集成和管理。而且AWS還在創(chuàng)新，F(xiàn)orrester稱未來EMR可以基于工作量的需要自動(dòng)縮放調(diào)整大小。亞馬遜計(jì)劃為其產(chǎn)品和服務(wù)提供更強(qiáng)大的EMR支持，包括它的RedShift數(shù)據(jù)倉庫、新公布的Kenesis實(shí)時(shí)處理引擎以及計(jì)劃中的NoSQL數(shù)據(jù)庫和商業(yè)智能工具。不過AWS還沒有自己的Hadoop發(fā)行版。

Cloudera

Cloudera有開源Hadoop的發(fā)行版，這個(gè)發(fā)行版采用了Apache Hadoop開源項(xiàng)目的很多技術(shù)，不過基于這些技術(shù)的發(fā)行版也有很大的進(jìn)步。Cloudera為它的Hadoop發(fā)行版開發(fā)了很多功能，包括Cloudera管理器，用于管理和監(jiān)控，以及名為Impala的SQL引擎等。Cloudera的Hadoop發(fā)行版基于開源Hadoop，但也不是純開源的產(chǎn)品。當(dāng)Cloudera的客戶需要Hadoop不具備的某些功能時(shí)，Cloudera的工程師們就會(huì)實(shí)現(xiàn)這些功能，或者找一個(gè)擁有這項(xiàng)技術(shù)的合作伙伴。Forrester表示：“Cloudera的創(chuàng)新方法忠于核心Hadoop，但因?yàn)槠淇蓪?shí)現(xiàn)快速創(chuàng)新并積極滿足客戶需求，這一點(diǎn)使它不同于其他那些供應(yīng)商。”目前，Cloudera的平臺(tái)已經(jīng)擁有200多個(gè)付費(fèi)客戶，一些客戶在Cloudera的技術(shù)支持下已經(jīng)可以跨1000多個(gè)節(jié)點(diǎn)實(shí)現(xiàn)對(duì)PB級(jí)數(shù)據(jù)的有效管理。

Hortonworks

和Cloudera一樣，Hortonworks是一個(gè)純粹的Hadoop技術(shù)公司。與Cloudera不同的是，Hortonworks堅(jiān)信開源Hadoop比任何其他供應(yīng)商的Hadoop發(fā)行版都要強(qiáng)大。Hortonworks的目標(biāo)是建立Hadoop生態(tài)圈和Hadoop用戶社區(qū)，推進(jìn)開源項(xiàng)目的發(fā)展。Hortonworks平臺(tái)和開源Hadoop聯(lián)系緊密，公司管理人員表示這會(huì)給用戶帶來好處，因?yàn)樗梢苑乐贡还?yīng)商套牢（如果Hortonworks的客戶想要離開這個(gè)平臺(tái)，他們可以輕松轉(zhuǎn)向其他開源平臺(tái)）。這并不是說Hortonworks完全依賴開源Hadoop技術(shù)，而是因?yàn)樵摴緦⑵渌虚_發(fā)的成果回報(bào)給了開源社區(qū)，比如Ambari，這個(gè)工具就是由Hortonworks開發(fā)而成，用來填充集群管理項(xiàng)目漏洞。Hortonworks的方案已經(jīng)得到了Teradata、Microsoft、Red Hat和SAP這些供應(yīng)商的支持。

IBM

當(dāng)企業(yè)考慮一些大的IT項(xiàng)目時(shí)，很多人首先會(huì)想到IBM。IBM是Hadoop項(xiàng)目的主要參與者之一，F(xiàn)orrester稱IBM已有100多個(gè)Hadoop部署，它的很多客戶都有PB級(jí)的數(shù)據(jù)。IBM在網(wǎng)格計(jì)算、全球數(shù)據(jù)中心和企業(yè)大數(shù)據(jù)項(xiàng)目實(shí)施等眾多領(lǐng)域有著豐富的經(jīng)驗(yàn)。“IBM計(jì)劃繼續(xù)整合SPSS分析、高性能計(jì)算、BI工具、數(shù)據(jù)管理和建模、應(yīng)對(duì)高性能計(jì)算的工作負(fù)載管理等眾多技術(shù)。”

Intel

和AWS類似，英特爾不斷改進(jìn)和優(yōu)化Hadoop使其運(yùn)行在自己的硬件上，具體來說，就是讓Hadoop運(yùn)行在其至強(qiáng)芯片上，幫助用戶打破Hadoop系統(tǒng)的一些限制，使軟件和硬件結(jié)合的更好，英特爾的Hadoop發(fā)行版在上述方面做得比較好。Forrester指出英特爾在最近才推出這個(gè)產(chǎn)品，所以公司在未來還有很多改進(jìn)的可能，英特爾和微軟都被認(rèn)為是Hadoop市場(chǎng)上的潛力股。

MapR Technologies

MapR的Hadoop發(fā)行版目前為止也許是最好的了，不過很多人可能都沒有聽說過。Forrester對(duì)Hadoop用戶的調(diào)查顯示，MapR的評(píng)級(jí)最高，其發(fā)行版在架構(gòu)和數(shù)據(jù)處理能力上都獲得了最高分。MapR已將一套特殊功能融入其Hadoop發(fā)行版中。例如網(wǎng)絡(luò)文件系統(tǒng)（NFS）、災(zāi)難恢復(fù)以及高可用性功能。Forrester說MapR在Hadoop市場(chǎng)上沒有Cloudera和Hortonworks那樣的知名度，MapR要成為一個(gè)真正的大企業(yè)，還需要加強(qiáng)伙伴關(guān)系和市場(chǎng)營銷。

Microsoft

微軟在開源軟件問題上一直很低調(diào)，但在大數(shù)據(jù)形勢(shì)下，它不得不考慮讓W(xué)indows也兼容Hadoop，它還積極投入到開源項(xiàng)目中，以更廣泛地推動(dòng)Hadoop生態(tài)圈的發(fā)展。我們可以在微軟的公共云Windows Azure HDInsight產(chǎn)品中看到其成果。微軟的Hadoop服務(wù)基于Hortonworks的發(fā)行版，而且是為Azure量身定制的。

微軟也有一些其他的項(xiàng)目，包括名為Polybase的項(xiàng)目，讓Hadoop查詢實(shí)現(xiàn)了SQLServer查詢的一些功能。Forrester說：“微軟在數(shù)據(jù)庫、數(shù)據(jù)倉庫、云、OLAP、BI、電子表格（包括PowerPivot）、協(xié)作和開發(fā)工具市場(chǎng)上有很大優(yōu)勢(shì)，而且微軟擁有龐大的用戶群，但要在Hadoop這個(gè)領(lǐng)域成為行業(yè)領(lǐng)導(dǎo)者還有很遠(yuǎn)的路要走?！?/p>

Pivotal Software

EMC和Vmware部分大數(shù)據(jù)業(yè)務(wù)分拆組合產(chǎn)生了Pivotal。Pivotal一直努力構(gòu)建一個(gè)性能優(yōu)越的Hadoop發(fā)行版，為此，Pivotal在開源Hadoop的基礎(chǔ)上又添加了一些新的工具，包括一個(gè)名為HAWQ的SQL引擎以及一個(gè)專門解決大數(shù)據(jù)問題的Hadoop應(yīng)用。Forrester稱Pivotal Hadoop平臺(tái)的優(yōu)勢(shì)在于它整合了Pivotal、EMC、Vmware的眾多技術(shù)，Pivotal的真正優(yōu)勢(shì)實(shí)際上等于EMC和Vmware兩大公司為其撐腰。到目前為止，Pivotal的用戶還不到100個(gè)，而且大多是中小型客戶。

Teradata

對(duì)于Teradata來說，Hadoop既是一種威脅也是一種機(jī)遇。數(shù)據(jù)管理，特別是關(guān)于SQL和關(guān)系數(shù)據(jù)庫這一領(lǐng)域是Teradata的專長(zhǎng)。所以像Hadoop這樣的NoSQL平臺(tái)崛起可能會(huì)威脅到Teradata。相反，Teradata接受了Hadoop，通過與Hortonworks合作，Teradata在Hadoop平臺(tái)集成了SQL技術(shù)，這使Teradata的客戶可以在Hadoop平臺(tái)上方便地使用存儲(chǔ)在Teradata數(shù)據(jù)倉庫中的數(shù)據(jù)。

AMPLab

通過將數(shù)據(jù)轉(zhuǎn)變?yōu)樾畔?，我們才可以理解世界，而這也正是AMPLab所做的。AMPLab致力于機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)庫、信息檢索、自然語言處理和語音識(shí)別等多個(gè)領(lǐng)域，努力改進(jìn)對(duì)信息包括不透明數(shù)據(jù)集內(nèi)信息的甄別技術(shù)。除了Spark，開源分布式SQL查詢引擎Shark也源于AMPLab，Shark具有極高的查詢效率，具有良好的兼容性和可擴(kuò)展性。近幾年的發(fā)展使計(jì)算機(jī)科學(xué)進(jìn)入到全新的時(shí)代，而AMPLab為我們?cè)O(shè)想一個(gè)運(yùn)用大數(shù)據(jù)、云計(jì)算、通信等各種資源和技術(shù)靈活解決難題的方案，以應(yīng)對(duì)越來越復(fù)雜的各種難題。

國內(nèi)做分布式數(shù)據(jù)庫開發(fā)的現(xiàn)狀如何？

應(yīng)該說，現(xiàn)在是國產(chǎn)分布式數(shù)據(jù)庫發(fā)展的利好時(shí)期。在討論發(fā)展前景前，首先要先看看分布式數(shù)據(jù)庫的發(fā)展方向。

大家把傳統(tǒng)關(guān)系型數(shù)據(jù)庫稱作oldSQL，給人感覺要被淘汰似的。但其實(shí)數(shù)據(jù)量不是很大或者事務(wù)處理的場(chǎng)景夏，關(guān)系型數(shù)據(jù)庫的還是占優(yōu)的。

關(guān)系型數(shù)據(jù)庫的主要問題在于：

性能瓶頸，

單一模型（關(guān)系模型），只適合OLTP

應(yīng)對(duì)業(yè)務(wù)的靈活性不夠，

彈性擴(kuò)充能力不夠，

兩地三中心和雙活等問題上不足。

隨著互聯(lián)網(wǎng)和手機(jī)的飛速發(fā)展，無論從用戶規(guī)模、使用頻率、還是場(chǎng)景多樣性都使得這些問題浮出水面。其實(shí)Oracle在92年就開始嘗試轉(zhuǎn)向分布式，還當(dāng)時(shí)引起了業(yè)界的巨大爭(zhēng)論，最后失敗。更何況過去CPU、內(nèi)存、存儲(chǔ)、帶寬的高成本導(dǎo)致分布式數(shù)據(jù)庫的性價(jià)比并不高，只能停留在學(xué)術(shù)階段，限制了分布式的發(fā)展。

新分布式數(shù)據(jù)庫首先是要避免和傳統(tǒng)關(guān)系型數(shù)據(jù)庫的競(jìng)爭(zhēng)，這是明智的選擇，能夠輕裝上陣。因此從幾個(gè)方面入手，應(yīng)對(duì)海量數(shù)據(jù)處理、分析、緩存、流式處理、開發(fā)模式等等。相對(duì)應(yīng)列式，KV，Document等多種存儲(chǔ)數(shù)據(jù)結(jié)構(gòu)。

所有這些都被稱為NoSQL數(shù)據(jù)庫，放棄ACID和事務(wù)能力還換取性能。然而，NoSQL又收到了大量的批評(píng)反對(duì)意見，主要是說把數(shù)據(jù)庫應(yīng)該處理的問題交還給了開發(fā)是種發(fā)展的倒退。這些問題包括，索引、版本、SQL支持、事務(wù)支持等等。市場(chǎng)上超過90%的開發(fā)員都需要SQL，而且SQL也是非常有效和成熟。于是大家無論底層是什么存儲(chǔ)結(jié)構(gòu)又開始支持SQL，形成了NewSQL。

這里插一句題外話，在硅谷已經(jīng)不再用SQL、NoSQL、NewSQL來劃分?jǐn)?shù)據(jù)庫了。理由很簡(jiǎn)單，SQL是一種語言，從來沒有SQL數(shù)據(jù)庫的說法，自然也不應(yīng)該有NoSQL數(shù)據(jù)庫的說法。NewSQL數(shù)據(jù)庫就更不合理，用的SQL并非什么“New“的新東西。所以專業(yè)上用關(guān)系型和非關(guān)系型數(shù)據(jù)庫來劃分，分布式數(shù)據(jù)庫主要都是非關(guān)系型數(shù)據(jù)庫。

回過頭來看國內(nèi)分布式數(shù)據(jù)庫市場(chǎng)需求，中小企業(yè)不滿足Mysql的性能，分庫分表又很難搞，也不徹底；大型企業(yè)被Oracle等壟斷支付高額成本，而且又不解決實(shí)際碰到的瓶頸問題。因此，用戶都在尋找新的解決方案。小型用戶、云計(jì)算的用戶、大型企業(yè)都需要對(duì)應(yīng)的分布式數(shù)據(jù)庫產(chǎn)品。

再加上國產(chǎn)自主和去IOE浪潮，更加推動(dòng)了國產(chǎn)分布式數(shù)據(jù)庫的發(fā)展利好。值得注意的是，數(shù)據(jù)庫研發(fā)是個(gè)嚴(yán)肅的事情，沒法短平快。

分享文章：中國nosql市場(chǎng),什么叫nosql數(shù)據(jù)庫
本文地址：http://www.rwnh.cn/article46/dssdohg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站排名、品牌網(wǎng)站制作、標(biāo)簽優(yōu)化、微信公眾號(hào)、建站公司、做網(wǎng)站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)