中文字幕日韩精品一区二区免费_精品一区二区三区国产精品无卡在_国精品无码专区一区二区三区_国产αv三级中文在线

高并發(fā)下如何縮短響應(yīng)時間

2021-02-16    分類: 網(wǎng)站建設(shè)

  • 1. http請求到達(dá)目標(biāo)網(wǎng)站服務(wù)器之前
  • 2. http請求到達(dá)目標(biāo)網(wǎng)站服務(wù)器之后
    • 如果忽略其中硬件部分和部分細(xì)節(jié),請求一個網(wǎng)站數(shù)據(jù)的大體過程如下圖所示(其中CDN和緩存部分可以省略):


      我們要想縮短一個網(wǎng)站的響應(yīng)時間,本質(zhì)上是提高數(shù)據(jù)的返回速度,說的直白一點就是要把請求數(shù)據(jù)過程中的各個步驟提高速度,這樣整體下來響應(yīng)時間就會縮短。

      把數(shù)據(jù)放在離用戶越近的地方響應(yīng)時間越快

      客戶端

      客戶端是發(fā)起一個網(wǎng)站請求的源頭,其實這個源頭可以施加一定的策略來大大縮短某些數(shù)據(jù)的獲取時間。其中最為常用的就是緩存,一些常用的,很少變動的資源緩存在客戶端,不但能縮短獲取資源的時間,而且在很大程度上能減輕服務(wù)端的壓力。比如一些圖片,css,js文件,甚至一些接口的數(shù)據(jù)或者整個網(wǎng)頁內(nèi)容都可以在客戶端做緩存。另外http請求的合并也可以減少對服務(wù)端的請求次數(shù),在一定程度上可以縮短請求的響應(yīng)時間。

      DNS

      一般網(wǎng)站的訪問方式都采用域名的方式(很少見IP方式),既然是域名就涉及到DNS解析速度的問題,如果DNS服務(wù)解析的速度比較慢,整體過程的響應(yīng)時間也會加長,不過這個過程其實很少出現(xiàn)慢的問題(不是說沒有)。

      網(wǎng)絡(luò)

      客戶端獲取到網(wǎng)站IP之后通過網(wǎng)卡把Http請求發(fā)送出去,目標(biāo)地址為相應(yīng)的網(wǎng)站服務(wù)器。在這個過程當(dāng)中如果客戶端和服務(wù)器端有一方帶寬比較小的話,就會加大響應(yīng)時間。我司曾經(jīng)就因為服務(wù)器帶寬過小導(dǎo)致客戶端響應(yīng)時間很長的情況,當(dāng)時排查了很長時間才發(fā)現(xiàn)。

      當(dāng)然網(wǎng)絡(luò)是不可靠的,這個過程的響應(yīng)時間其實取決于很多因素,比如路由器的路由策略是否最優(yōu),整個過程通過的網(wǎng)關(guān)數(shù)據(jù)量等。所以有很多網(wǎng)站其實是多地區(qū)多機(jī)房部署的,目的就是為了讓用戶通過很短的網(wǎng)絡(luò)路徑就能到達(dá)網(wǎng)站(其實這個過程運(yùn)營商的選擇也有影響)。

      網(wǎng)站

      當(dāng)一個請求到達(dá)網(wǎng)站服務(wù)器,服務(wù)器便開始處理請求,一般會有專門處理業(yè)務(wù)請求的一個業(yè)務(wù)層,有的體現(xiàn)為rpc協(xié)議的微服務(wù),有的體現(xiàn)為簡單的一個代碼分層。最終請求的數(shù)據(jù)會通過查詢數(shù)據(jù)庫來返回。其實這個過程和車站購票流程一樣,每個窗口的處理能力是有限的,對應(yīng)到服務(wù)器處理能力。由于這個原因,所以誕生了負(fù)載均衡的策略,核心思想就是:分。一臺服務(wù)器不夠,那就兩臺,三臺,四臺..... 直到并發(fā)的所有請求的響應(yīng)時間都在可控范圍之內(nèi)。

      數(shù)據(jù)庫的情況類似,一個數(shù)據(jù)庫扛不住壓力,就加到N個數(shù)據(jù)庫分散壓力。一個表扛不住壓力,就把這個表拆分開,拆分成多個表,甚至拆分到多個不同服務(wù)器數(shù)據(jù)庫,這就是我們常用的拆表策略。有的時候在同一個數(shù)據(jù)庫中進(jìn)行表拆分,性能的提升并非大化,因為一臺服務(wù)器的磁盤IO是有上限的,就算拆成100個表,還是在同一個物理磁盤上,當(dāng)然這樣可緩解鎖單表的情況。

      現(xiàn)在有很多的場景采用NOsql代替關(guān)系型數(shù)據(jù)庫來縮短響應(yīng)時間,在正常情況下,由于關(guān)系型數(shù)據(jù)庫的本身因素在特定場景下的讀寫速度比Nosql要慢很多,所以系統(tǒng)設(shè)計初期,可以考慮采用關(guān)系型數(shù)據(jù)庫和Nosql混用的方案。

      緩存

      當(dāng)并發(fā)的請求到達(dá)一定程度,瓶頸大部分情況下發(fā)生在DB層面,甚至DB無論怎么優(yōu)化總有上限。為了避免頻繁查詢數(shù)據(jù)庫產(chǎn)生瓶頸,誕生了緩存。在訪問數(shù)據(jù)庫之前加入了緩存層,當(dāng)然這里的緩存采用的方案在數(shù)據(jù)的響應(yīng)時間上要比數(shù)據(jù)庫小很多,比如常用的redis,Memcache,但是這些第三方的緩存組件還是要走網(wǎng)絡(luò),比起進(jìn)程內(nèi)的緩存還是要慢的多。

      現(xiàn)在一般流行的設(shè)計在網(wǎng)站層和服務(wù)層都有緩存策略,只不過緩存的數(shù)據(jù)和策略有所不同,但是最終目的都是為了加快請求的響應(yīng)。當(dāng)然加了緩存之后,數(shù)據(jù)的一致性需要仔細(xì)設(shè)計才可以,如果發(fā)生數(shù)據(jù)不一致的情況,程序員可能要背鍋了。

      緩解數(shù)據(jù)庫壓力并不是引入緩存的唯一因素。

      CDN加速

      一些小廠可能用不到CDN,但是CDN帶來的加速還是很客觀的。CDN依靠部署在各地的邊緣服務(wù)器,通過中心平臺的負(fù)載均衡、內(nèi)容分發(fā)、調(diào)度等功能模塊,使用戶就近獲取所需內(nèi)容,降低網(wǎng)絡(luò)擁塞,提高用戶訪問響應(yīng)速度和命中率。CDN就是把離用戶最近的數(shù)據(jù)返回給用戶。


      寫在最后

      程序異步化其實并不能縮短響應(yīng)時間,但是對提高吞吐量有很大作用。

      標(biāo)題名稱:高并發(fā)下如何縮短響應(yīng)時間
      轉(zhuǎn)載注明:http://www.rwnh.cn/news39/101289.html

      成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供軟件開發(fā)、標(biāo)簽優(yōu)化網(wǎng)站設(shè)計、品牌網(wǎng)站設(shè)計網(wǎng)站導(dǎo)航、建站公司

      廣告

      聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

      外貿(mào)網(wǎng)站建設(shè)
      九龙城区| 尉犁县| 芜湖市| 北川| 高尔夫| 南投市| 赞皇县| 封丘县| 石家庄市| 吉安县| 白沙| 蓝田县| 镇平县| 广宗县| 叶城县| 上栗县| 玉屏| 通城县| 义乌市| 嘉义县| 大连市| 泗洪县| 哈尔滨市| 诏安县| 湖北省| 乃东县| 鄂伦春自治旗| 南溪县| 四川省| 竹溪县| 新河县| 乐安县| 衡阳县| 高淳县| 金门县| 互助| 凤凰县| 海城市| 敦煌市| 库车县| 芜湖市|