Go語言——goroutine并發(fā)模型

參考：

創(chuàng)新互聯(lián)專注于安陽企業(yè)網(wǎng)站建設(shè),成都響應(yīng)式網(wǎng)站建設(shè)公司,商城網(wǎng)站制作。安陽網(wǎng)站建設(shè)公司,為安陽等地區(qū)提供建站服務(wù)。全流程定制網(wǎng)站建設(shè)，專業(yè)設(shè)計，全程項目跟蹤，創(chuàng)新互聯(lián)專業(yè)和態(tài)度為您提供的服務(wù)

Goroutine并發(fā)調(diào)度模型深度解析手擼一個協(xié)程池

Golang 的 goroutine 是如何實現(xiàn)的？

Golang - 調(diào)度剖析【第二部分】

OS線程初始棧為2MB。Go語言中，每個goroutine采用動態(tài)擴容方式，初始2KB，按需增長，最大1G。此外GC會收縮棧空間。

BTW，增長擴容都是有代價的，需要copy數(shù)據(jù)到新的stack，所以初始2KB可能有些性能問題。

更多關(guān)于stack的內(nèi)容，可以參見大佬的文章。 聊一聊goroutine stack

用戶線程的調(diào)度以及生命周期管理都是用戶層面，Go語言自己實現(xiàn)的，不借助OS系統(tǒng)調(diào)用，減少系統(tǒng)資源消耗。

Go語言采用兩級線程模型，即用戶線程與內(nèi)核線程KSE（kernel scheduling entity）是M:N的。最終goroutine還是會交給OS線程執(zhí)行，但是需要一個中介，提供上下文。這就是G-M-P模型

Go調(diào)度器有兩個不同的運行隊列：

go1.10\src\runtime\runtime2.go

Go調(diào)度器根據(jù)事件進行上下文切換。

調(diào)度的目的就是防止M堵塞，空閑，系統(tǒng)進程切換。

詳見 Golang - 調(diào)度剖析【第二部分】

Linux可以通過epoll實現(xiàn)網(wǎng)絡(luò)調(diào)用，統(tǒng)稱網(wǎng)絡(luò)輪詢器N（Net Poller）。

文件IO操作

上面都是防止M堵塞，任務(wù)竊取是防止M空閑

每個M都有一個特殊的G，g0。用于執(zhí)行調(diào)度，gc，棧管理等任務(wù)，所以g0的棧稱為調(diào)度棧。g0的棧不會自動增長，不會被gc，來自os線程的棧。

go1.10\src\runtime\proc.go

G沒辦法自己運行，必須通過M運行

M通過通過調(diào)度，執(zhí)行G

從M掛載P的runq中找到G，執(zhí)行G

Golang 線程和協(xié)程的區(qū)別

線程：

多線程是為了解決CPU利用率的問題，線程則是為了減少上下文切換時的開銷，進程和線程在Linux中沒有本質(zhì)區(qū)別，最大的不同就是進程有自己獨立的內(nèi)存空間，而線程是共享內(nèi)存空間。

在進程切換時需要轉(zhuǎn)換內(nèi)存地址空間，而線程切換沒有這個動作，所以線程切換比進程切換代價要小得多。

協(xié)程：

想要簡單，又要性能高，協(xié)程就可以達到我們的目的，它是用戶視角的一種抽象，操作系統(tǒng)并沒有這個概念，主要思想是在用戶態(tài)實現(xiàn)調(diào)度算法，用少量線程完成大量任務(wù)的調(diào)度。

Goroutine是GO語言實現(xiàn)的協(xié)程，其特點是在語言層面就支持，使用起來十分方便，它的核心是MPG調(diào)度模型：M即內(nèi)核線程;P即處理器，用來執(zhí)行Goroutine，它維護了本地可運行隊列;G即Goroutine，代碼和數(shù)據(jù)結(jié)構(gòu);S及調(diào)度器，維護M和P的信息。

協(xié)程與異步IO

協(xié)程，又稱微線程，纖程。英文名 Coroutine 。Python對協(xié)程的支持是通過 generator 實現(xiàn)的。在generator中，我們不但可以通過for循環(huán)來迭代，還可以不斷調(diào)用 next()函數(shù) 獲取由 yield 語句返回的下一個值。但是Python的yield不但可以返回一個值，它還可以接收調(diào)用者發(fā)出的參數(shù)。yield其實是終端當(dāng)前的函數(shù)，返回給調(diào)用方。python3中使用yield來實現(xiàn)range，節(jié)省內(nèi)存，提高性能，懶加載的模式。

asyncio是Python 3.4 版本引入的 標(biāo)準(zhǔn)庫 ，直接內(nèi)置了對異步IO的支持。

從Python 3.5 開始引入了新的語法 async 和 await ，用來簡化yield的語法：

import asyncio

import threading

async def compute(x, y):

print("Compute %s + %s ..." % (x, y))

print(threading.current_thread().name)

await asyncio.sleep(x + y)

return x + y

async def print_sum(x, y):

result = await compute(x, y)

print("%s + %s = %s" % (x, y, result))

print(threading.current_thread().name)

if __name__ == "__main__":

loop = asyncio.get_event_loop()

tasks = [print_sum(1, 2), print_sum(3, 4)]

loop.run_until_complete(asyncio.wait(tasks))

loop.close()

線程是內(nèi)核進行搶占式的調(diào)度的，這樣就確保了每個線程都有執(zhí)行的機會。而 coroutine 運行在同一個線程中，由語言的運行時中的 EventLoop（事件循環(huán)） 來進行調(diào)度。和大多數(shù)語言一樣，在 Python 中，協(xié)程的調(diào)度是非搶占式的，也就是說一個協(xié)程必須主動讓出執(zhí)行機會，其他協(xié)程才有機會運行。

讓出執(zhí)行的關(guān)鍵字就是 await。也就是說一個協(xié)程如果阻塞了，持續(xù)不讓出 CPU，那么整個線程就卡住了，沒有任何并發(fā)。

PS: 作為服務(wù)端，event loop最核心的就是IO多路復(fù)用技術(shù)，所有來自客戶端的請求都由IO多路復(fù)用函數(shù)來處理;作為客戶端，event loop的核心在于利用Future對象延遲執(zhí)行，并使用send函數(shù)激發(fā)協(xié)程,掛起,等待服務(wù)端處理完成返回后再調(diào)用CallBack函數(shù)繼續(xù)下面的流程

Go語言的協(xié)程是 語言本身特性 ，erlang和golang都是采用了CSP(Communicating Sequential Processes)模式(Python中的協(xié)程是eventloop模型)，但是erlang是基于進程的消息通信，go是基于goroutine和channel的通信。

Python和Go都引入了消息調(diào)度系統(tǒng)模型，來避免鎖的影響和進程/線程開銷大的問題。

協(xié)程從本質(zhì)上來說是一種用戶態(tài)的線程，不需要系統(tǒng)來執(zhí)行搶占式調(diào)度，而是在語言層面實現(xiàn)線程的調(diào)度 。因為協(xié)程 不再使用共享內(nèi)存/數(shù)據(jù) ，而是使用 通信 來共享內(nèi)存/鎖，因為在一個超級大系統(tǒng)里具有無數(shù)的鎖，共享變量等等會使得整個系統(tǒng)變得無比的臃腫，而通過消息機制來交流，可以使得每個并發(fā)的單元都成為一個獨立的個體，擁有自己的變量，單元之間變量并不共享，對于單元的輸入輸出只有消息。開發(fā)者只需要關(guān)心在一個并發(fā)單元的輸入與輸出的影響，而不需要再考慮類似于修改共享內(nèi)存/數(shù)據(jù)對其它程序的影響。

【golang詳解】go語言GMP(GPM)原理和調(diào)度

Goroutine調(diào)度是一個很復(fù)雜的機制，下面嘗試用簡單的語言描述一下Goroutine調(diào)度機制，想要對其有更深入的了解可以去研讀一下源碼。

首先介紹一下GMP什么意思：

G ----------- goroutine: 即Go協(xié)程，每個go關(guān)鍵字都會創(chuàng)建一個協(xié)程。

M ---------- thread內(nèi)核級線程，所有的G都要放在M上才能運行。

P ----------- processor處理器，調(diào)度G到M上，其維護了一個隊列，存儲了所有需要它來調(diào)度的G。

Goroutine 調(diào)度器P和 OS 調(diào)度器是通過 M 結(jié)合起來的，每個 M 都代表了 1 個內(nèi)核線程，OS 調(diào)度器負責(zé)把內(nèi)核線程分配到 CPU 的核上執(zhí)行

模型圖：

避免頻繁的創(chuàng)建、銷毀線程，而是對線程的復(fù)用。

1）work stealing機制

當(dāng)本線程無可運行的G時，嘗試從其他線程綁定的P偷取G，而不是銷毀線程。

2）hand off機制

當(dāng)本線程M0因為G0進行系統(tǒng)調(diào)用阻塞時，線程釋放綁定的P，把P轉(zhuǎn)移給其他空閑的線程執(zhí)行。進而某個空閑的M1獲取P，繼續(xù)執(zhí)行P隊列中剩下的G。而M0由于陷入系統(tǒng)調(diào)用而進被阻塞，M1接替M0的工作，只要P不空閑，就可以保證充分利用CPU。M1的來源有可能是M的緩存池，也可能是新建的。當(dāng)G0系統(tǒng)調(diào)用結(jié)束后，根據(jù)M0是否能獲取到P，將會將G0做不同的處理：

如果有空閑的P，則獲取一個P，繼續(xù)執(zhí)行G0。

如果沒有空閑的P，則將G0放入全局隊列，等待被其他的P調(diào)度。然后M0將進入緩存池睡眠。

如下圖

GOMAXPROCS設(shè)置P的數(shù)量，最多有GOMAXPROCS個線程分布在多個CPU上同時運行

在Go中一個goroutine最多占用CPU 10ms，防止其他goroutine被餓死。

具體可以去看另一篇文章

【Golang詳解】go語言調(diào)度機制 搶占式調(diào)度

當(dāng)創(chuàng)建一個新的G之后優(yōu)先加入本地隊列，如果本地隊列滿了，會將本地隊列的G移動到全局隊列里面，當(dāng)M執(zhí)行work stealing從其他P偷不到G時，它可以從全局G隊列獲取G。

協(xié)程經(jīng)歷過程

我們創(chuàng)建一個協(xié)程 go func()經(jīng)歷過程如下圖：

說明：

這里有兩個存儲G的隊列，一個是局部調(diào)度器P的本地隊列、一個是全局G隊列。新創(chuàng)建的G會先保存在P的本地隊列中，如果P的本地隊列已經(jīng)滿了就會保存在全局的隊列中；處理器本地隊列是一個使用數(shù)組構(gòu)成的環(huán)形鏈表，它最多可以存儲 256 個待執(zhí)行任務(wù)。

G只能運行在M中，一個M必須持有一個P，M與P是1：1的關(guān)系。M會從P的本地隊列彈出一個可執(zhí)行狀態(tài)的G來執(zhí)行，如果P的本地隊列為空，就會想其他的MP組合偷取一個可執(zhí)行的G來執(zhí)行；

一個M調(diào)度G執(zhí)行的過程是一個循環(huán)機制；會一直從本地隊列或全局隊列中獲取G

上面說到P的個數(shù)默認等于CPU核數(shù)，每個M必須持有一個P才可以執(zhí)行G，一般情況下M的個數(shù)會略大于P的個數(shù)，這多出來的M將會在G產(chǎn)生系統(tǒng)調(diào)用時發(fā)揮作用。類似線程池，Go也提供一個M的池子，需要時從池子中獲取，用完放回池子，不夠用時就再創(chuàng)建一個。

work-stealing調(diào)度算法：當(dāng)M執(zhí)行完了當(dāng)前P的本地隊列隊列里的所有G后，P也不會就這么在那躺尸啥都不干，它會先嘗試從全局隊列隊列尋找G來執(zhí)行，如果全局隊列為空，它會隨機挑選另外一個P，從它的隊列里中拿走一半的G到自己的隊列中執(zhí)行。

如果一切正常，調(diào)度器會以上述的那種方式順暢地運行，但這個世界沒這么美好，總有意外發(fā)生，以下分析goroutine在兩種例外情況下的行為。

Go runtime會在下面的goroutine被阻塞的情況下運行另外一個goroutine：

用戶態(tài)阻塞/喚醒

當(dāng)goroutine因為channel操作或者network I/O而阻塞時（實際上golang已經(jīng)用netpoller實現(xiàn)了goroutine網(wǎng)絡(luò)I/O阻塞不會導(dǎo)致M被阻塞，僅阻塞G，這里僅僅是舉個栗子），對應(yīng)的G會被放置到某個wait隊列(如channel的waitq)，該G的狀態(tài)由_Gruning變?yōu)開Gwaitting，而M會跳過該G嘗試獲取并執(zhí)行下一個G，如果此時沒有可運行的G供M運行，那么M將解綁P，并進入sleep狀態(tài)；當(dāng)阻塞的G被另一端的G2喚醒時（比如channel的可讀/寫通知），G被標(biāo)記為，嘗試加入G2所在P的runnext（runnext是線程下一個需要執(zhí)行的 Goroutine。）， 然后再是P的本地隊列和全局隊列。

系統(tǒng)調(diào)用阻塞

當(dāng)M執(zhí)行某一個G時候如果發(fā)生了阻塞操作，M會阻塞，如果當(dāng)前有一些G在執(zhí)行，調(diào)度器會把這個線程M從P中摘除，然后再創(chuàng)建一個新的操作系統(tǒng)的線程(如果有空閑的線程可用就復(fù)用空閑線程)來服務(wù)于這個P。當(dāng)M系統(tǒng)調(diào)用結(jié)束時候，這個G會嘗試獲取一個空閑的P執(zhí)行，并放入到這個P的本地隊列。如果獲取不到P，那么這個線程M變成休眠狀態(tài)， 加入到空閑線程中，然后這個G會被放入全局隊列中。

隊列輪轉(zhuǎn)

可見每個P維護著一個包含G的隊列，不考慮G進入系統(tǒng)調(diào)用或IO操作的情況下，P周期性的將G調(diào)度到M中執(zhí)行，執(zhí)行一小段時間，將上下文保存下來，然后將G放到隊列尾部，然后從隊列中重新取出一個G進行調(diào)度。

除了每個P維護的G隊列以外，還有一個全局的隊列，每個P會周期性地查看全局隊列中是否有G待運行并將其調(diào)度到M中執(zhí)行，全局隊列中G的來源，主要有從系統(tǒng)調(diào)用中恢復(fù)的G。之所以P會周期性地查看全局隊列，也是為了防止全局隊列中的G被餓死。

除了每個P維護的G隊列以外，還有一個全局的隊列，每個P會周期性地查看全局隊列中是否有G待運行并將其調(diào)度到M中執(zhí)行，全局隊列中G的來源，主要有從系統(tǒng)調(diào)用中恢復(fù)的G。之所以P會周期性地查看全局隊列，也是為了防止全局隊列中的G被餓死。

M0

M0是啟動程序后的編號為0的主線程，這個M對應(yīng)的實例會在全局變量rutime.m0中，不需要在heap上分配，M0負責(zé)執(zhí)行初始化操作和啟動第一個G，在之后M0就和其他的M一樣了

G0

G0是每次啟動一個M都會第一個創(chuàng)建的goroutine，G0僅用于負責(zé)調(diào)度G，G0不指向任何可執(zhí)行的函數(shù)，每個M都會有一個自己的G0，在調(diào)度或系統(tǒng)調(diào)用時會使用G0的?？臻g，全局變量的G0是M0的G0

一個G由于調(diào)度被中斷，此后如何恢復(fù)？

中斷的時候?qū)⒓拇嫫骼锏臈Ｐ畔ⅲ４娴阶约旱腉對象里面。當(dāng)再次輪到自己執(zhí)行時，將自己保存的棧信息復(fù)制到寄存器里面，這樣就接著上次之后運行了。

我這里只是根據(jù)自己的理解進行了簡單的介紹，想要詳細了解有關(guān)GMP的底層原理可以去看Go調(diào)度器 G-P-M 模型的設(shè)計者的文檔或直接看源碼

參考： ()

()

講講go語言的結(jié)構(gòu)體

作為C語言家族的一員，go和c一樣也支持結(jié)構(gòu)體?？梢灶惐扔趈ava的一個POJO。

在學(xué)習(xí)定義結(jié)構(gòu)體之前，先學(xué)習(xí)下定義一個新類型。

新類型 T1 是基于 Go 原生類型 int 定義的新自定義類型，而新類型 T2 則是 基于剛剛定義的類型 T1，定義的新類型。

這里要引入一個底層類型的概念。

如果一個新類型是基于某個 Go 原生類型定義的， 那么我們就叫 Go 原生類型為新類型的底層類型

在上面的例子中，int就是T1的底層類型。

但是T1不是T2的底層類型，只有原生類型才可以作為底層類型，所以T2的底層類型還是int

底層類型是很重要的，因為對兩個變量進行顯式的類型轉(zhuǎn)換，只有底層類型相同的變量間才能相互轉(zhuǎn)換。底層類型是判斷兩個類型本質(zhì)上是否相同的根本。

這種類型定義方式通常用在 項目的漸進式重構(gòu)，還有對已有包的二次封裝方面

類型別名表示新類型和原類型完全等價，實際上就是同一種類型。只不過名字不同而已。

一般我們都是定義一個有名的結(jié)構(gòu)體。

字段名的大小寫決定了字段是否包外可用。只有大寫的字段可以被包外引用。

還有一個點提一下

如果換行來寫

Age: 66,后面這個都好不能省略

還有一個點，觀察e3的賦值

new返回的是一個指針。然后指針可以直接點號賦值。這說明go默認進行了取值操作

e3.Age 等價于 (*e3).Age

如上定義了一個空的結(jié)構(gòu)體Empty。打印了元素e的內(nèi)存大小是0。

有什么用呢？

基于空結(jié)構(gòu)體類型內(nèi)存零開銷這樣的特性，我們在日常 Go 開發(fā)中會經(jīng)常使用空 結(jié)構(gòu)體類型元素，作為一種“事件”信息進行 Goroutine 之間的通信

這種以空結(jié)構(gòu)體為元素類建立的 channel，是目前能實現(xiàn)的、內(nèi)存占用最小的 Goroutine 間通信方式。

這種形式需要說的是幾個語法糖。

語法糖1：

對于結(jié)構(gòu)體字段，可以省略字段名，只寫結(jié)構(gòu)體名。默認字段名就是結(jié)構(gòu)體名

這種方式稱為 嵌入字段

語法糖2：

如果是以嵌入字段形式寫的結(jié)構(gòu)體

可以省略嵌入的Reader字段，而直接訪問ReaderName

此時book是一個各個屬性全是對應(yīng)類型零值的一個實例。不是nil。這種情況在Go中稱為零值可用。不像java會導(dǎo)致npe

結(jié)構(gòu)體定義時可以在字段后面追加標(biāo)簽說明。

tag的格式為反單引號

tag的作用是可以使用[反射]來檢視字段的標(biāo)簽信息。

具體的作用還要看使用的場景。

比如這里的tag是為了幫助 encoding/json 標(biāo)準(zhǔn)包在解析對象時可以利用的規(guī)則。比如omitempty表示該字段沒有值就不打印出來。

2020-08-20：GO語言中的協(xié)程與Python中的協(xié)程的區(qū)別？

福哥答案2020-08-20：

1.golang的協(xié)程是基于gpm機制，是可以多核多線程的。Python的協(xié)程是eventloop模型（IO多路復(fù)用技術(shù)）實現(xiàn)，協(xié)程是嚴(yán)格的 1:N 關(guān)系，也就是一個線程對應(yīng)了多個協(xié)程。雖然可以實現(xiàn)異步I/O，但是不能有效利用多核(GIL)。

2.golang用go func。python用import asyncio，async/await表達式。

評論

分享名稱：go語言一個協(xié)程所占 go的協(xié)程為什么厲害
網(wǎng)頁URL：http://www.rwnh.cn/article4/higooe.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站建設(shè)、網(wǎng)站改版、營銷型網(wǎng)站建設(shè)、商城網(wǎng)站、網(wǎng)站設(shè)計、標(biāo)簽優(yōu)化

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)