一舉拿下網(wǎng)絡(luò) IO 模型

前言

IO 是計算機(jī)體系中重要的一部分?。不同的 IO 設(shè)備有著不同的特點：數(shù)據(jù)率不一樣、傳送單位不一樣，數(shù)據(jù)表示不一樣，等等。所以，很難實現(xiàn)一種統(tǒng)一的輸入輸出方法。

IO 有兩種操作，同步 IO 和異步 IO。同步 IO 指的是，必須等待 IO 操作完成后，控制權(quán)才返回給用戶進(jìn)程。異步 IO 是，無須等待 IO 操作完成，就將控制權(quán)返回給用戶進(jìn)程。

上面就是一個典型的阻塞 IO，對方還沒有準(zhǔn)備好回啥，發(fā)送只能等著，知道對方想好回復(fù)語，再進(jìn)行回復(fù)。下面學(xué)習(xí)一下常見的 4 種 IO 模型。

阻塞 IO 模型

在Linux ，默認(rèn)情況下所有的 socket 都是阻塞的，一個典型的讀操作流程如圖所示。

阻塞和非阻塞的概念描述的是用戶線程調(diào)用內(nèi)核 IO 操作的方式：阻塞是指 IO 操作需要徹底完成后才返回到用戶空間；而非阻塞是指 IO 操作被調(diào)用后立即返回給用戶一個狀態(tài)值，不需要等到 IO 操作徹底完成。

當(dāng)應(yīng)用進(jìn)程調(diào)用了 recvfrom 這個系統(tǒng)調(diào)用后，系統(tǒng)內(nèi)核就開始了 IO 的第一個階段 ：準(zhǔn)備數(shù)據(jù)。

對于網(wǎng)絡(luò) IO 來說，很多時候數(shù)據(jù)在一開始還沒到達(dá)時，系統(tǒng)內(nèi)核就要等待足夠的數(shù)據(jù)到來。而在用戶進(jìn)程這邊，整個進(jìn)程會被阻塞。

當(dāng)系統(tǒng)內(nèi)核一直等到數(shù)據(jù)準(zhǔn)備好了，它就會將數(shù)據(jù)從系統(tǒng)內(nèi)核中拷貝到用戶內(nèi)存中，然后系統(tǒng)內(nèi)核返回結(jié)果，用戶進(jìn)程才解除阻塞的狀態(tài)，重新運行起來。所以，阻塞 IO 模型的特點就是 IO 執(zhí)行的兩個階段都被阻塞了。

大部分的 socke 接口都是阻塞型的。所謂阻塞型接口是指系統(tǒng)調(diào)用時卻不返回調(diào)用結(jié)果，并讓當(dāng)前線程一直處于阻塞狀態(tài)，只有當(dāng)該系統(tǒng)調(diào)用獲得結(jié)果或者超時出錯時才返回結(jié)果。

實際上，除非特別指定，幾乎所有的 IO 接口都阻塞型的。這給網(wǎng)絡(luò)編程帶來了一個很大的問題，如在調(diào)用 send 的同時，線程處于阻塞狀態(tài)，則在此期間，線程將無法執(zhí)行任何運算或響應(yīng)任何網(wǎng)絡(luò)請求。

非阻塞?IO 模型

在Linux 下，可以通過設(shè)置 socket IO 變?yōu)榉亲枞麪顟B(tài)。當(dāng)一個非阻塞的 socket執(zhí)行 read 操作時，流程如圖：

當(dāng)用戶進(jìn)程發(fā)出 read 操作時，如果內(nèi)核中的數(shù)據(jù)還沒有準(zhǔn)備好，那么它并不會 block 用戶進(jìn)程，而是立刻返回一個錯誤。

從用戶進(jìn)程角度講，它發(fā)起 read 操作后，并不需要等待，而是馬上就得到了一個結(jié)果 當(dāng)用戶進(jìn)程判斷結(jié)果是一個錯誤時，它就知道數(shù)據(jù)還沒有準(zhǔn)備好，于是它可以再次發(fā)送 read 操作。

一旦內(nèi)核中的數(shù)據(jù)準(zhǔn)備好了，并且又再次收到了用戶進(jìn)程的系統(tǒng)調(diào)用，那么它馬上就將數(shù)據(jù)復(fù)制到了用戶內(nèi)存中，然后返回正確的返回值。

所以，在非阻塞式 IO 中，用戶進(jìn)程其實需要不斷地主動詢問 kernel 數(shù)據(jù)是否準(zhǔn)備好。非阻塞的接口相比于阻塞型接口的顯著差異在于被調(diào)用之后立即返回，使用如下的函數(shù)可以將某句柄歸設(shè)為非阻塞狀態(tài)：fcntl( fd , F_SETFL , O_NONBLOCK);

在非阻塞狀態(tài)下，recv 接口在被調(diào)用后立即返回，返回值代表了不同的含義，如下所述。

• recv 返回值大于 0，表示接收數(shù)據(jù)完畢，返回值即是接收到的字節(jié)數(shù)。

• recv 返回 0，表示連接已經(jīng)正常斷開。

• recv 返回 -1 ，且 errno 等于 EAGAIN ，表示 recv 操作還沒執(zhí)行完成。

• recv 返回?-1，且 errno 不等于 EAGAIN ，表示 recv 操作遇到系統(tǒng)錯誤 errno。

可以看到服務(wù)器線程可以通過循環(huán)調(diào)用 recv 接口，可以在單個線程內(nèi)實現(xiàn)對所有連接的數(shù)據(jù)接收。但是上述模型絕不被推薦，因為循環(huán)調(diào)用 recv 將大幅度占用 CPU 使用率。

此外，在這個方案 recv 更多的是起到檢測“操作是否完成”的作用，實際操作系統(tǒng)提供了更為高效的檢測“操作是否完成”作用的接口，例如 select 多路復(fù)用模式，可以次檢測多個連接是存活躍。

多路 IO 復(fù)用模型

多路 IO 復(fù)用，有時也稱為事件驅(qū)動 IO。它的基本原理就是有個函數(shù)會不斷地輪詢所負(fù)責(zé)的所有 socket ，當(dāng)某個 socket 有數(shù)據(jù)到達(dá)了，就通知用戶進(jìn)程。IO 復(fù)用模型的流程如圖：

當(dāng)用戶進(jìn)程調(diào)用了 select ，那么整個進(jìn)程會被阻塞，而同時，內(nèi)核會 "監(jiān)視" 所有 select 負(fù)責(zé)的 socket ，當(dāng)任何一個 socket 中的數(shù)據(jù)準(zhǔn)備好了， select 就會返回。這個時候用戶進(jìn)程再調(diào)用 read 操作，將數(shù)據(jù)從內(nèi)核拷貝到用戶進(jìn)程。

這個模型和阻塞 IO 的模型其實并沒有太大的不同，事實上還更差一些 因為這里需要使用兩個系統(tǒng)調(diào)用，而阻塞 IO 只調(diào)用了一個系統(tǒng)調(diào)用 recvfrom，用 select 的優(yōu)勢在于它可以同時處理多個連接。

如果處理的連接數(shù)不是很高的話，使用 select/epoll Web server 定比使用多線程的阻塞 IO Web server 性能更好，可能延遲還更大；select/poll 的優(yōu)勢并不是對于單個連接能處理得更快，而是在于能處理更多的連接。

異步 IO 模型

上面是異步 IO 模型。

用戶進(jìn)程發(fā)起 read 操作之后，立刻就可以開始去做其他的事；而另一方面，從內(nèi)核的角度，當(dāng)它收到一個異步的 read 請求操作之后，首先會立刻返回，所以不會對用戶進(jìn)程產(chǎn)生任何阻塞。

然后，內(nèi)核會等待數(shù)據(jù)準(zhǔn)備完成，然后將數(shù)據(jù)拷貝到用戶內(nèi)存中，當(dāng)這一切都完成之后，內(nèi)核會給用戶進(jìn)程發(fā)送一個信號，返回 read 操作已完成的信息。

調(diào)用阻塞 IO 一直阻塞住對應(yīng)的進(jìn)程直到操作完成，而非阻塞 IO 在內(nèi)核還在準(zhǔn)備數(shù)據(jù)的情況下會立刻返回。兩者的區(qū)別就在于同步 IO 進(jìn)行 IO 操作時會阻塞進(jìn)程。

非阻塞 IO 在執(zhí)行 recvfrom 這個系統(tǒng)調(diào)用的時候，如果內(nèi)核的數(shù)據(jù)沒有準(zhǔn)備好，這時候不會阻塞進(jìn)程。但是當(dāng)內(nèi)核中數(shù)據(jù)準(zhǔn)備好時，recvfrom 會將數(shù)據(jù)從內(nèi)核拷貝到用戶內(nèi)存中，這個時候進(jìn)程則被阻塞。

而異步 IO 則不 樣，當(dāng)進(jìn)程發(fā)起 IO 操作之后，就直接返回，直到內(nèi)核發(fā)送一個信號，告訴進(jìn)程 IO 已完成，則在這整個過程中，進(jìn)程完全沒有被阻塞。

絮叨

經(jīng)過上面的學(xué)習(xí)，你會發(fā)現(xiàn)非阻塞 IO 和異步 IO 的區(qū)別還是很明顯的。

在非阻塞 IO 中，雖然進(jìn)程大部分時間都不會被阻塞，但是它仍然要求進(jìn)程去主動檢查，并且當(dāng)數(shù)據(jù)準(zhǔn)備完成以后，也需要進(jìn)程主動地再次調(diào)用 recvfrom 來將數(shù)據(jù)拷貝到用戶內(nèi)存中。

而異步IO 則完全不同，它就像是用戶進(jìn)程將整個 IO 操作交給了內(nèi)核完成，然后內(nèi)核做完后發(fā)信號通知。

IO 作為計算機(jī)的基礎(chǔ)知識，后臺開發(fā)務(wù)必要掌握。更多網(wǎng)絡(luò)編程相關(guān)的知識可以去學(xué)習(xí) unix 網(wǎng)絡(luò)編程，祝大家學(xué)習(xí)愉快！

·················?END?··················

點擊關(guān)注公眾號，免費領(lǐng)學(xué)習(xí)資料