利用碎片化時(shí)間查看資訊已經(jīng)成為互聯(lián)網(wǎng)原住民的生活方式,據(jù)大數(shù)據(jù)服務(wù)QuestMobile報(bào)告稱:2016年底,綜合資訊行業(yè)規(guī)模已達(dá)5.3億,同比增長(zhǎng)率近70%,超過(guò)一半的移動(dòng)網(wǎng)民都在使用新聞App。
4月18日,QuestMobile發(fā)布了2017春季報(bào)告,新浪新聞App作為新浪網(wǎng)最重要的分支之一,月用戶規(guī)模(月活)達(dá)6056萬(wàn),同比增長(zhǎng)138.3%,中高消費(fèi)水平用戶占比75.4%。面對(duì)如此體量,新浪網(wǎng)的后端數(shù)據(jù)庫(kù)如何支持?在數(shù)據(jù)庫(kù)選型上有哪些標(biāo)準(zhǔn)?數(shù)據(jù)安全又如何把控?帶著這些疑問(wèn),我們?cè)L問(wèn)了新浪數(shù)據(jù)庫(kù)平臺(tái)高級(jí)DBA趙景波。
趙景波,先后就職于杭州沃趣科技、新浪網(wǎng),從事Oracle、MySQL、Redis相關(guān)方面的運(yùn)維工作。目前為新浪數(shù)據(jù)庫(kù)平臺(tái)高級(jí)DBA,主要負(fù)責(zé)新浪數(shù)據(jù)庫(kù)平臺(tái)Redis自動(dòng)化運(yùn)維、kafka運(yùn)維等相關(guān)方面工作。
揭秘新浪網(wǎng)的數(shù)據(jù)庫(kù)構(gòu)成
據(jù)趙景波介紹,目前新浪網(wǎng)的數(shù)據(jù)庫(kù)平臺(tái)共有9個(gè)主要IDC,1200+服務(wù)器,7k+實(shí)例,1000+億 hits/天,總存儲(chǔ)容量1PB+。為了更好的滿足公司業(yè)務(wù)需求,新浪網(wǎng)采取了不同的數(shù)據(jù)庫(kù)平臺(tái)和數(shù)據(jù)系統(tǒng)服務(wù)平臺(tái)來(lái)提供相關(guān)的數(shù)據(jù)服務(wù):
·基于MySQL的關(guān)系型數(shù)據(jù)庫(kù)存儲(chǔ)服務(wù)
·基于Redis的KV存儲(chǔ)服務(wù)
·基于Mongodb的文檔存儲(chǔ)服務(wù)
·基于Hbase半結(jié)構(gòu)化大數(shù)據(jù)存儲(chǔ)服務(wù)
·基于Memcached的緩存服務(wù)
·基于mcq和kafaka的消息隊(duì)列服務(wù)
·zookeeper服務(wù),業(yè)務(wù)如果有數(shù)據(jù)發(fā)布/訂閱、命名服務(wù),選舉等需求也可以申請(qǐng)使用。
新浪網(wǎng)作為國(guó)內(nèi)主流的新聞門戶網(wǎng)站,業(yè)務(wù)場(chǎng)景繁多,不同的業(yè)務(wù)場(chǎng)景是如何進(jìn)行數(shù)據(jù)庫(kù)選型的呢?趙景波表示因?yàn)镸ySQL是一個(gè)很成熟的產(chǎn)品,其插件式的引擎特性也能滿足大多數(shù)場(chǎng)景要求,再加上它的社區(qū)相當(dāng)活躍,人才儲(chǔ)備也最豐富,所以如果業(yè)務(wù)場(chǎng)景適合會(huì)優(yōu)先選擇MySQL。但是如果業(yè)務(wù)場(chǎng)景有某些特殊需求,我們也會(huì)考慮其他數(shù)據(jù)庫(kù),例如業(yè)務(wù)場(chǎng)景只是簡(jiǎn)單的kv存儲(chǔ)模型、或者業(yè)務(wù)對(duì)于響應(yīng)時(shí)間要求極高,再或者業(yè)務(wù)需要schemaless類型的數(shù)據(jù)庫(kù)以便于業(yè)務(wù)快速開發(fā)迭代等等。
目前新浪網(wǎng)平臺(tái)不僅提供MySQL服務(wù),還同時(shí)提供MongoDB、Redis、Memcached、Hbase等服務(wù)。趙景波為我們介紹了新浪網(wǎng)內(nèi)部服務(wù)發(fā)布系統(tǒng)的變遷,早年新浪網(wǎng)發(fā)布的新聞都是用MySQL存儲(chǔ),隨著業(yè)務(wù)發(fā)展,個(gè)性化的需求與日俱增,業(yè)務(wù)表結(jié)構(gòu)變更(添加字段)的需求也越來(lái)越多,此時(shí)MySQL固定schema的存儲(chǔ)模型無(wú)法滿足業(yè)務(wù)快速開發(fā)迭代的需求,所以發(fā)布系統(tǒng)的新聞數(shù)據(jù)就從MySQL全部遷移到了MongoDB。另外,新聞推薦push等業(yè)務(wù)對(duì)部分接口的響應(yīng)時(shí)間要求很高,所以就采用了Redis或者M(jìn)emcached這種內(nèi)存KV緩存來(lái)解決業(yè)務(wù)的需求。
新浪網(wǎng)如何把控?cái)?shù)據(jù)安全
對(duì)于互聯(lián)網(wǎng)公司來(lái)說(shuō),數(shù)據(jù)安全可以說(shuō)是生命線,據(jù)相關(guān)媒體報(bào)告稱僅在2016年前10個(gè)月,全球已約有3000起公開的數(shù)據(jù)泄漏事件,22億條記錄被披露,已經(jīng)超過(guò)2015年全年。面對(duì)如此嚴(yán)峻的數(shù)據(jù)安全的局面,趙景波表示新浪網(wǎng)在數(shù)據(jù)安全性方面有很多硬性規(guī)定,并做了主機(jī)維度、業(yè)務(wù)維度和服務(wù)維度的層次劃分。
主機(jī)維度:制定了相關(guān)標(biāo)準(zhǔn),給出了主機(jī)安全防護(hù)基線要求,主要有身份驗(yàn)證、訪問(wèn)控制、入侵防范等,對(duì)安裝的軟件、登陸使用的方式等等也都有嚴(yán)格的標(biāo)準(zhǔn)。
業(yè)務(wù)維度:規(guī)定了新浪業(yè)務(wù)及應(yīng)用的安全防護(hù)要求,主要約束了應(yīng)用的上傳下載、網(wǎng)站外鏈、惡意代碼、信息加密等。
數(shù)據(jù)服務(wù)維度:這一層面的安全性主要體現(xiàn)在數(shù)據(jù)庫(kù)備份、存儲(chǔ)可靠性、服務(wù)器資源使用(通過(guò)Cgroup隔離)、數(shù)據(jù)庫(kù)訪問(wèn)帳號(hào)、SQL注入防范、數(shù)據(jù)加密、數(shù)據(jù)一致性等。
·建立了動(dòng)態(tài)密碼更新機(jī)制,對(duì)于非常核心的重點(diǎn)業(yè)務(wù)做到了數(shù)據(jù)庫(kù)帳號(hào)密碼動(dòng)態(tài)更新,提高安全性;
·數(shù)據(jù)庫(kù)的賬號(hào)只保留了增、刪、改、查的權(quán)限,其他的如truncate、drop等權(quán)限全部回收,大大減少了業(yè)務(wù)方通過(guò)此類危險(xiǎn)命令誤刪除數(shù)據(jù)的機(jī)會(huì);
·對(duì)內(nèi)部管理數(shù)據(jù)庫(kù)的賬號(hào)做分級(jí),只有少數(shù)資深高級(jí)DBA才有較大的權(quán)限來(lái)操作數(shù)據(jù)庫(kù),常規(guī)的DBA也只保有在固定服務(wù)器上的有約束性的權(quán)限
·數(shù)據(jù)存儲(chǔ)安全主要做了兩個(gè)事情,一個(gè)是針對(duì)涉密的數(shù)據(jù),我們對(duì)備份的數(shù)據(jù)做了加密,除了對(duì)應(yīng)的專職管理員有權(quán)限查看,其他人沒(méi)有權(quán)限查看,另外一個(gè)就是我們備份的數(shù)據(jù)會(huì)存儲(chǔ)到HDFS集群,保障數(shù)據(jù)的可靠性。
在業(yè)務(wù)發(fā)展早期,為了更快的滿足業(yè)務(wù)資源申請(qǐng)需求而忽視平臺(tái)自身的規(guī)范建設(shè)是很多企業(yè)都面臨或者正在經(jīng)歷的事情。在中國(guó)數(shù)據(jù)庫(kù)技術(shù)大會(huì)(DTCC 2017)上,趙景波會(huì)以Redis服務(wù)為例,為我們講述隨著業(yè)務(wù)規(guī)模壯大,新浪網(wǎng)核心業(yè)務(wù)運(yùn)維遇到了哪些痛點(diǎn)?當(dāng)運(yùn)維過(guò)程暴露出越來(lái)越多的問(wèn)題時(shí),新浪網(wǎng)又是如何去規(guī)范、完善Redis運(yùn)維平臺(tái)的。
當(dāng)前文章:1200服務(wù)器,1000億hits,揭秘新浪數(shù)據(jù)庫(kù)-創(chuàng)新互聯(lián)
文章來(lái)源:http://www.rwnh.cn/article4/dohhoe.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供品牌網(wǎng)站設(shè)計(jì)、網(wǎng)站營(yíng)銷、網(wǎng)站改版、標(biāo)簽優(yōu)化、自適應(yīng)網(wǎng)站、企業(yè)建站
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)