協程

協程，即協作式程式，其思想是，一系列互相依賴的協程間依次使用CPU，每次只有一個協程工作，而其他協程處於休眠狀態。協程可以在執行期間的某個點上暫停執行，並在恢復執行時從暫停的點上繼續執行。 
協程已經被證明是一種非常有用的程式元件，不僅被python、lua、ruby等指令碼語言廣泛採用，而且被新一代面向多核的程式語言如golang rust-lang等採用作為併發的基本單位。 
協程可以被認為是一種使用者空間執行緒，與傳統的執行緒相比，有2個主要的優點：

• 與執行緒不同，協程是自己主動讓出CPU，並交付他期望的下一個協程執行，而不是在任何時候都有可能被系統排程打斷。因此協程的使用更加清晰易懂，並且多數情況下不需要鎖機制。
• 與執行緒相比，協程的切換由程式控制，發生在使用者空間而非核心空間，因此切換的代價非常小。

網路程式設計模型

首先來簡單回顧一下一些常用的網路程式設計模型。網路程式設計模型可以大體的分為同步模型和非同步模型兩類。

• 同步模型：

同步模型使用阻塞IO模式,在阻塞IO模式下呼叫read等IO函式時會阻塞執行緒直到IO完成或失敗。

同步模型的典型代表是thread per connection模型，每當阻塞在主執行緒上的accept呼叫返回時則建立一個新的執行緒去服務於新的socket的讀/寫。這種模型的優點是程式簡潔，編寫簡單；缺點是可伸縮性收到執行緒數的限制，當連線越來越多時，執行緒也越來越多，頻繁的執行緒切換會嚴重拖累效能。

• 非同步模型：

非同步模型一般使用非阻塞IO模式，並配合epoll/select/poll等多路複用機制。在非阻塞模式下呼叫read，如果沒有資料可讀則立即返回並通知使用者沒有可讀（EAGAIN/EWOULDBLOCK），而非阻塞當前執行緒。非同步模型可以使一個執行緒同時服務於多個IO物件。

非同步模型的典型代表是reactor模型。在reactor模型中，我們將所有要處理的IO事件註冊到一箇中心的IO多路複用器中（一般為epoll/select/poll），同時主執行緒阻塞在多路複用器上。一旦有IO事件到來或者就緒，多路複用器返回並將對應的IO事件分發到對應的處理器（即回撥函式）中，最後處理器呼叫read/write函式來進行IO操作。

非同步模型的特點是效能和可伸縮性比同步模型要好很多，但是其結構複雜，不易於編寫和維護。在非同步模型中，IO之前的程式碼（IO任務的提交者）和IO之後的處理程式碼（回撥函式）是割裂開來的。

協程與網路程式設計

協程為克服同步模型和非同步模型的缺點，並結合他們的優點提供了可能：

首先簡單認識一下排程器：一個執行緒執行一個排程器，可以在一個排程器上建立若干個協程。排程器負責排程這些協程。並且排程器在其內部維護了一個多路複用器（epoll/select/poll）。

現在假設我們有3個協程A,B,C分別要進行數次IO操作。這3個協程執行在同一個排程器(執行緒)的上下文中，並依次使用CPU。

協程A首先執行，當它執行到一個IO操作，但該IO操作並沒有立即就緒時，A將該IO事件註冊到排程器中，並主動放棄CPU。這時排程器將B切換到CPU上開始執行，同樣，當它碰到一個IO操作的時候將IO事件註冊到排程器中，並主動放棄CPU。排程器將C切換到cpu上開始執行。當所有協程都被“阻塞”後，排程器檢查註冊的IO事件是否發生或就緒。假設此時協程B註冊的IO事件已經就緒，排程器將恢復B的執行，B將從上次放棄CPU的地方接著向下執行。A和C同理。

這樣，對於某個協程而言，我們採用的是同步的模型；但是對於整個排程器（執行緒）而言，實際上卻是非同步的模型。

好了，原理說完了，我們來看一個實際的例子，echo server。

echo server

在這個例子中，我們將使用orchid庫來編寫一個echo server。orchid庫是一個構建於boost基礎上的 協程/網路IO 庫。

echo server首先必須要處理連線事件，我們建立一個協程來專門處理連線事件：