Go語言CSP並行模型實現MPG

2022-05-25 22:01:32

Golang排程機制

最近抽空研究、整理了一下Golang排程機制，學習了其他大牛的文章。把自己的理解寫下來。如有錯誤，請指正！！！

golang的goroutine機制有點像執行緒池：

一、go 內部有三個物件： P物件(processor) 代表上下文（或者可以認為是cpu），M(work thread)代表工作執行緒，G物件（goroutine）.

二、正常情況下一個cpu物件啟一個工作執行緒物件，執行緒去檢查並執行goroutine物件。碰到goroutine物件阻塞的時候，會啟動一個新的工作執行緒，以充分利用cpu資源。所有有時候執行緒物件會比處理器物件多很多

我們用如下圖分別表示P、M、G

在單核情況下，所有goroutine執行在同一個執行緒（M0）中，每一個執行緒維護一個上下文（P），任何時刻，一個上下文中只有一個goroutine，其他goroutine在runqueue中等待。一個goroutine執行完自己的時間片後，讓出上下文，自己回到runqueue中（如下圖左邊所示）。

當正在執行的G0阻塞的時候（可以需要IO），會再建立一個執行緒（M1），P轉到新的執行緒中去執行。

當M0返回時，它會嘗試從其他執行緒中“偷”一個上下文過來，如果沒有偷到，會把goroutine放到global runqueue中去，然後把自己放入執行緒快取中。上下文會定時檢查global runqueue。

Go語言是為並行而生的語言，Go語言是為數不多的在語言層面實現並行的語言；也正是Go語言的並行特性，吸引了全球無數的開發者。

並行(concurrency)和並行(parallellism)

並行(concurrency)：兩個或兩個以上的任務在一段時間內被執行。我們不必care這些任務在某一個時間點是否是同時執行，可能同時執行，也可能不是，我們只關心在一段時間內，哪怕是很短的時間（一秒或者兩秒）是否執行解決了兩個或兩個以上任務。

並行(parallellism)：兩個或兩個以上的任務在同一時刻被同時執行。

並行說的是邏輯上的概念，而並行，強調的是物理執行狀態。並行“包含”並行。

Go的CSP並行模型

Go實現了兩種並行形式。第一種是大家普遍認知的：多執行緒共用記憶體。其實就是Java或者C++等語言中的多執行緒開發。另外一種是Go語言特有的，也是Go語言推薦的：CSP（communicating sequential processes）並行模型。

CSP並行模型是在1970年左右提出的概念，屬於比較新的概念，不同於傳統的多執行緒通過共用記憶體來通訊，CSP講究的是“以通訊的方式來共用記憶體”。

請記住下面這句話：

Do not communicate by sharing memory; instead, share memory by communicating.

“不要以共用記憶體的方式來通訊，相反，要通過通訊來共用記憶體。”

普通的執行緒並行模型，就是像Java、C++、或者Python，他們執行緒間通訊都是通過共用記憶體的方式來進行的。非常典型的方式就是，在存取共用資料（例如陣列、Map、或者某個結構體或物件）的時候，通過鎖來存取，因此，在很多時候，衍生出一種方便操作的資料結構，叫做“執行緒安全的資料結構”。例如Java提供的包”java.util.concurrent”中的資料結構。Go中也實現了傳統的執行緒並行模型。

Go的CSP並行模型，是通過goroutine和channel來實現的。

goroutine是Go語言中並行的執行單位。有點抽象，其實就是和傳統概念上的”執行緒“類似，可以理解為”執行緒“。

channel是Go語言中各個並行結構體(goroutine)之前的通訊機制。通俗的講，就是各個goroutine之間通訊的”管道“，有點類似於Linux中的管道。

生成一個goroutine的方式非常的簡單：Go一下，就生成了。

go f();

通訊機制channel也很方便，傳資料用channel <- data，取資料用<-channel。

在通訊過程中，傳資料channel <- data和取資料<-channel必然會成對出現，因為這邊傳，那邊取，兩個goroutine之間才會實現通訊。

而且不管傳還是取，必阻塞，直到另外的goroutine傳或者取為止。

有兩個goroutine，其中一個發起了向channel中發起了傳值操作。（goroutine為矩形，channel為箭頭）

左邊的goroutine開始阻塞，等待有人接收。

這時候，右邊的goroutine發起了接收操作。

右邊的goroutine也開始阻塞，等待別人傳送。

這時候，兩邊goroutine都發現了對方，於是兩個goroutine開始一傳，一收。

這便是Golang CSP並行模型最基本的形式。

Go並行模型的實現原理

我們先從執行緒講起，無論語言層面何種並行模型，到了作業系統層面，一定是以執行緒的形態存在的。而作業系統根據資源存取許可權的不同，體系架構可分為使用者空間和核心空間；核心空間主要操作存取CPU資源、I/O資源、記憶體資源等硬體資源，為上層應用程式提供最基本的基礎資源，使用者空間呢就是上層應用程式的固定活動空間，使用者空間不可以直接存取資源，必須通過“系統呼叫”、“庫函數”或“Shell指令碼”來呼叫核心空間提供的資源。

我們現在的計算機語言，可以狹義的認為是一種“軟體”，它們中所謂的“執行緒”，往往是使用者態的執行緒，和作業系統本身核心態的執行緒（簡稱KSE），還是有區別的。

執行緒模型的實現，可以分為以下幾種方式：

使用者級執行緒模型

如圖所示，多個使用者態的執行緒對應著一個核心執行緒，程式執行緒的建立、終止、切換或者同步等執行緒工作必須自身來完成。

核心級執行緒模型

這種模型直接呼叫作業系統的核心執行緒，所有執行緒的建立、終止、切換、同步等操作，都由核心來完成。C++就是這種。

兩級執行緒模型

這種模型是介於使用者級執行緒模型和核心級執行緒模型之間的一種執行緒模型。這種模型的實現非常複雜，和核心級執行緒模型類似，一個程序中可以對應多個核心級執行緒，但是程序中的執行緒不和核心執行緒一一對應；這種執行緒模型會先建立多個核心級執行緒，然後用自身的使用者級執行緒去對應建立的多個核心級執行緒，自身的使用者級執行緒需要本身程式去排程，核心級的執行緒交給作業系統核心去排程。

Go語言的執行緒模型就是一種特殊的兩級執行緒模型。暫且叫它“MPG”模型吧。

Go執行緒實現模型MPG

M指的是Machine，一個M直接關聯了一個核心執行緒。P指的是”processor”，代表了M所需的上下文環境，也是處理使用者級程式碼邏輯的處理器。G指的是Goroutine，其實本質上也是一種輕量級的執行緒。

三者關係如下圖所示：

以上這個圖講的是兩個執行緒(核心執行緒)的情況。一個M會對應一個核心執行緒，一個M也會連線一個上下文P，一個上下文P相當於一個“處理器”，一個上下文連線一個或者多個Goroutine。P(Processor)的數量是在啟動時被設定為環境變數GOMAXPROCS的值，或者通過執行時呼叫函數runtime.GOMAXPROCS()進行設定。Processor數量固定意味著任意時刻只有固定數量的執行緒在執行go程式碼。Goroutine中就是我們要執行並行的程式碼。圖中P正在執行的Goroutine為藍色的；處於待執行狀態的Goroutine為灰色的，灰色的Goroutine形成了一個佇列runqueues

三者關係的宏觀的圖為：

拋棄P(Processor)

你可能會想，為什麼一定需要一個上下文，我們能不能直接除去上下文，讓Goroutine的runqueues掛到M上呢？答案是不行，需要上下文的目的，是讓我們可以直接放開其他執行緒，當遇到核心執行緒阻塞的時候。

一個很簡單的例子就是系統呼叫sysall，一個執行緒肯定不能同時執行程式碼和系統呼叫被阻塞，這個時候，此執行緒M需要放棄當前的上下文環境P，以便可以讓其他的Goroutine被排程執行。

如上圖左圖所示，M0中的G0執行了syscall，然後就建立了一個M1(也有可能本身就存在，沒建立)，（轉向右圖）然後M0丟棄了P，等待syscall的返回值，M1接受了P，將·繼續執行Goroutine佇列中的其他Goroutine。

當系統呼叫syscall結束後，M0會“偷”一個上下文，如果不成功，M0就把它的Gouroutine G0放到一個全域性的runqueue中，然後自己放到執行緒池或者轉入休眠狀態。全域性runqueue是各個P在執行完自己的原生的Goroutine runqueue後用來拉取新goroutine的地方。P也會週期性的檢查這個全域性runqueue上的goroutine，否則，全域性runqueue上的goroutines可能得不到執行而餓死。