為什么 Redis 單線程卻能支撐高并發(fā)？
最近在看 Unix 網(wǎng)絡(luò)編程并研究了一下 Redis 的實(shí)現(xiàn)，感覺 Redis 的源代碼十分適合閱讀和分析，其中 I/O 多路復(fù)用部分的實(shí)現(xiàn)非常干凈和優(yōu)雅，在這里想對(duì)這部分的內(nèi)容進(jìn)行簡(jiǎn)單的整理。
幾種 I/O 模型
為什么 Redis 中要使用 I/O 多路復(fù)用這種技術(shù)呢？首先，Redis 是跑在單線程中的，所有的操作都是按照順序線性執(zhí)行的。
但是由于讀寫操作等待用戶輸入或輸出都是阻塞的，所以 I/O 操作在一般情況下往往不能直接返回。
這會(huì)導(dǎo)致某一文件的 I/O 阻塞導(dǎo)致整個(gè)進(jìn)程無法對(duì)其他客戶提供服務(wù)，而 I/O 多路復(fù)用就是為了解決這個(gè)問題而出現(xiàn)的。
Blocking I/O
先來看一下傳統(tǒng)的阻塞 I/O 模型到底是如何工作的：當(dāng)使用 Read 或者 Write 對(duì)某一個(gè)文件描述符（File Descriptor 以下簡(jiǎn)稱 FD)進(jìn)行讀寫時(shí)。
如果當(dāng)前 FD 不可讀或不可寫，整個(gè) Redis 服務(wù)就不會(huì)對(duì)其他的操作作出響應(yīng)，導(dǎo)致整個(gè)服務(wù)不可用。
這也就是傳統(tǒng)意義上的，我們?cè)诰幊讨惺褂米疃嗟淖枞Ｐ停?/span>
阻塞模型雖然開發(fā)中非常常見也非常易于理解，但是由于它會(huì)影響其他 FD 對(duì)應(yīng)的服務(wù)，所以在需要處理多個(gè)客戶端任務(wù)的時(shí)候，往往都不會(huì)使用阻塞模型。
I/O 多路復(fù)用
雖然還有很多其他的 I/O 模型，但是在這里都不會(huì)具體介紹。阻塞式的 I/O 模型并不能滿足這里的需求，我們需要一種效率更高的 I/O 模型來支撐 Redis 的多個(gè)客戶（redis-cli）。
這里涉及的就是 I/O 多路復(fù)用模型了：
在 I/O 多路復(fù)用模型中，最重要的函數(shù)調(diào)用就是 Select，該方法能夠同時(shí)監(jiān)控多個(gè)文件描述符的可讀可寫情況。
當(dāng)其中的某些文件描述符可讀或者可寫時(shí)， Select 方法就會(huì)返回可讀以及可寫的文件描述符個(gè)數(shù)。
關(guān)于 Select 的具體使用方法，在網(wǎng)絡(luò)上資料很多，這里就不過多展開介紹了。
與此同時(shí)也有其他的 I/O 多路復(fù)用函數(shù) Epoll/Kqueue/Evport，它們相比 Select 性能更優(yōu)秀，同時(shí)也能支撐更多的服務(wù)。
Reactor 設(shè)計(jì)模式
Redis 服務(wù)采用 Reactor 的方式來實(shí)現(xiàn)文件事件處理器。（每一個(gè)網(wǎng)絡(luò)連接其實(shí)都對(duì)應(yīng)一個(gè)文件描述符）
文件事件處理器使用 I/O 多路復(fù)用模塊同時(shí)監(jiān)聽多個(gè) FD，當(dāng) Accept、 Read、 Write 和 Close 文件事件產(chǎn)生時(shí)，文件事件處理器就會(huì)回調(diào) FD 綁定的事件處理器。
雖然整個(gè)文件事件處理器是在單線程上運(yùn)行的，但是通過 I/O 多路復(fù)用模塊的引入，實(shí)現(xiàn)了同時(shí)對(duì)多個(gè) FD 讀寫的監(jiān)控，提高了網(wǎng)絡(luò)通信模型的性能，同時(shí)也可以保證整個(gè) Redis 服務(wù)實(shí)現(xiàn)的簡(jiǎn)單。
I/O 多路復(fù)用模塊
I/O 多路復(fù)用模塊封裝了底層的 Select、 Epoll、 Avport 以及 Kqueue 這些 I/O 多路復(fù)用函數(shù)，為上層提供了相同的接口。
在這里我們簡(jiǎn)單介紹 Redis 是如何包裝 Select 和 Epoll 的，簡(jiǎn)要了解該模塊的功能，整個(gè) I/O 多路復(fù)用模塊抹平了不同平臺(tái)上 I/O 多路復(fù)用函數(shù)的差異性，提供了相同的接口：
static int aeApiCreate(aeEventLoop *eventLoop)
static int aeApiResize(aeEventLoop *eventLoop, int setsize)
static void aeApiFree(aeEventLoop *eventLoop)
static int aeApiAddEvent(aeEventLoop *eventLoop, int fd, int mask)
static void aeApiDelEvent(aeEventLoop *eventLoop, int fd, int mask)
static int aeApiPoll(aeEventLoop *eventLoop, struct timeval *tvp)
同時(shí)，因?yàn)楦鱾€(gè)函數(shù)所需要的參數(shù)不同，我們?cè)诿恳粋€(gè)子模塊內(nèi)部通過一個(gè) aeApiState 來存儲(chǔ)需要的上下文信息：
// select
typedef struct aeApiState {
fd_set rfds, wfds;
fd_set _rfds, _wfds;
} aeApiState;
// epoll
typedef struct aeApiState {
int epfd;
struct epoll_event *events;
} aeApiState;
這些上下文信息會(huì)存儲(chǔ)在 eventLoop 的 void*state 中，不會(huì)暴露到上層，只在當(dāng)前子模塊中使用。
封裝 Select 函數(shù)
Select 可以監(jiān)控 FD 的可讀、可寫以及出現(xiàn)錯(cuò)誤的情況。在介紹 I/O 多路復(fù)用模塊如何對(duì) Select 函數(shù)封裝之前，先來看一下 Select 函數(shù)使用的大致流程：
初始化一個(gè)可讀的 fd_set 集合，保存需要監(jiān)控可讀性的 FD。
使用 FD_SET 將 fd 加入 RFDS。
調(diào)用 Select 方法監(jiān)控 RFDS 中的 FD 是否可讀。
當(dāng) Select 返回時(shí)，檢查 FD 的狀態(tài)并完成對(duì)應(yīng)的操作。
int fd = /* file descriptor */
fd_set rfds;
FD_ZERO(&rfds);
FD_SET(fd, &rfds)
for ( ; ; ) {
select(fd+1, &rfds, NULL, NULL, NULL);
if (FD_ISSET(fd, &rfds)) {
/* file descriptor `fd` becomes readable */
}
}
而在 Redis 的 ae_select 文件中代碼的組織順序也是差不多的，首先在 aeApiCreate 函數(shù)中初始化 rfds 和 wfds：
static int aeApiCreate(aeEventLoop *eventLoop) {
aeApiState *state = zmalloc(sizeof(aeApiState));
if (!state) return -1;
FD_ZERO(&state->rfds);
FD_ZERO(&state->wfds);
eventLoop->apidata = state;
return 0;
}
而 aeApiAddEvent 和 aeApiDelEvent 會(huì)通過 FD_SET 和 FD_CLR 修改 fd_set 中對(duì)應(yīng) FD 的標(biāo)志位：
static int aeApiAddEvent(aeEventLoop *eventLoop, int fd, int mask) {
aeApiState *state = eventLoop->apidata;
if (mask & AE_READABLE) FD_SET(fd,&state->rfds);
if (mask & AE_WRITABLE) FD_SET(fd,&state->wfds);
return 0;
}
整個(gè) ae_select 子模塊中最重要的函數(shù)就是 aeApiPoll，它是實(shí)際調(diào)用 Select 函數(shù)的部分，其作用就是在 I/O 多路復(fù)用函數(shù)返回時(shí)，將對(duì)應(yīng)的 FD 加入 aeEventLoop 的 Fired 數(shù)組中，并返回事件的個(gè)數(shù)：
static int aeApiPoll(aeEventLoop *eventLoop, struct timeval *tvp) {
aeApiState *state = eventLoop->apidata;
int retval, j, numevents = 0;
memcpy(&state->_rfds,&state->rfds,sizeof(fd_set));
memcpy(&state->_wfds,&state->wfds,sizeof(fd_set));
retval = select(eventLoop->maxfd+1,
&state->_rfds,&state->_wfds,NULL,tvp);
if (retval > 0) {
for (j = 0; j <= eventLoop->maxfd; j++) {
int mask = 0;
aeFileEvent *fe = &eventLoop->events[j];
if (fe->mask == AE_NONE) continue;
if (fe->mask & AE_READABLE && FD_ISSET(j,&state->_rfds))
mask |= AE_READABLE;
if (fe->mask & AE_WRITABLE && FD_ISSET(j,&state->_wfds))
mask |= AE_WRITABLE;
eventLoop->fired[numevents].fd = j;
eventLoop->fired[numevents].mask = mask;
numevents++;
}
}
return numevents;
}
封裝 Epoll 函數(shù)
Redis 對(duì) Epoll 的封裝其實(shí)也是類似的，使用 epoll_create 創(chuàng)建 Epoll 中使用的 epfd：
static int aeApiCreate(aeEventLoop *eventLoop) {
aeApiState *state = zmalloc(sizeof(aeApiState));
if (!state) return -1;
state->events = zmalloc(sizeof(struct epoll_event)*eventLoop->setsize);
if (!state->events) {
zfree(state);
return -1;
}
state->epfd = epoll_create(1024); /* 1024 is just a hint for the kernel */
if (state->epfd == -1) {
zfree(state->events);
zfree(state);
return -1;
}
eventLoop->apidata = state;
return 0;
}
在 aeApiAddEvent 中使用 epoll_ctl 向 epfd 中添加需要監(jiān)控的 FD 以及監(jiān)聽的事件：
static int aeApiAddEvent(aeEventLoop *eventLoop, int fd, int mask) {
aeApiState *state = eventLoop->apidata;
struct epoll_event ee = {0}; /* avoid valgrind warning */
/* If the fd was already monitored for some event, we need a MOD
* operation. Otherwise we need an ADD operation. */
int op = eventLoop->events[fd].mask == AE_NONE ?
EPOLL_CTL_ADD : EPOLL_CTL_MOD;
ee.events = 0;
mask |= eventLoop->events[fd].mask; /* Merge old events */
if (mask & AE_READABLE) ee.events |= EPOLLIN;
if (mask & AE_WRITABLE) ee.events |= EPOLLOUT;
ee.data.fd = fd;
if (epoll_ctl(state->epfd,op,fd,&ee) == -1) return -1;
return 0;
}
由于 Epoll 相比 Select 機(jī)制略有不同，在 epoll_wait 函數(shù)返回時(shí)并不需要遍歷所有的 FD 查看讀寫情況。
在 epoll_wait 函數(shù)返回時(shí)會(huì)提供一個(gè) epoll_event 數(shù)組：
typedef union epoll_data {
void *ptr;
int fd; /* 文件描述符 */
uint32_t u32;
uint64_t u64;
} epoll_data_t;
struct epoll_event {
uint32_t events; /* Epoll 事件 */
epoll_data_t data;
};
其中保存了發(fā)生的 Epoll 事件（ EPOLLIN、 EPOLLOUT、 EPOLLERR 和 EPOLLHUP）以及發(fā)生該事件的 FD。
aeApiPoll 函數(shù)只需要將 epoll_event 數(shù)組中存儲(chǔ)的信息加入 eventLoop 的 Fired 數(shù)組中，將信息傳遞給上層模塊：
static int aeApiPoll(aeEventLoop *eventLoop, struct timeval *tvp) {
aeApiState *state = eventLoop->apidata;
int retval, numevents = 0;
retval = epoll_wait(state->epfd,state->events,eventLoop->setsize,
tvp ? (tvp->tv_sec*1000 + tvp->tv_usec/1000) : -1);
if (retval > 0) {
int j;
numevents = retval;
for (j = 0; j < numevents; j++) {
int mask = 0;
struct epoll_event *e = state->events+j;
if (e->events & EPOLLIN) mask |= AE_READABLE;
if (e->events & EPOLLOUT) mask |= AE_WRITABLE;
if (e->events & EPOLLERR) mask |= AE_WRITABLE;
if (e->events & EPOLLHUP) mask |= AE_WRITABLE;
eventLoop->fired[j].fd = e->data.fd;
eventLoop->fired[j].mask = mask;
}
}
return numevents;
}
子模塊的選擇
因?yàn)?Redis 需要在多個(gè)平臺(tái)上運(yùn)行，同時(shí)為了最大化執(zhí)行的效率與性能，所以會(huì)根據(jù)編譯平臺(tái)的不同選擇不同的 I/O 多路復(fù)用函數(shù)作為子模塊，提供給上層統(tǒng)一的接口。
在 Redis 中，我們通過宏定義的使用，合理的選擇不同的子模塊：
#ifdef HAVE_EVPORT
#include "ae_evport.c"
#else
#ifdef HAVE_EPOLL
#include "ae_epoll.c"
#else
#ifdef HAVE_KQUEUE
#include "ae_kqueue.c"
#else
#include "ae_select.c"
#endif
#endif
#endif
因?yàn)?Select 函數(shù)是作為 POSIX 標(biāo)準(zhǔn)中的系統(tǒng)調(diào)用，在不同版本的操作系統(tǒng)上都會(huì)實(shí)現(xiàn)，所以將其作為保底方案：
Redis 會(huì)優(yōu)先選擇時(shí)間復(fù)雜度為 O(1) 的 I/O 多路復(fù)用函數(shù)作為底層實(shí)現(xiàn)，包括 Solaries 10 中的 Evport、Linux 中的 Epoll 和 macOS/FreeBSD 中的 Kqueue。
上述的這些函數(shù)都使用了內(nèi)核內(nèi)部的結(jié)構(gòu)，并且能夠服務(wù)幾十萬的文件描述符。
但是如果當(dāng)前編譯環(huán)境沒有上述函數(shù)，就會(huì)選擇 Select 作為備選方案，由于其在使用時(shí)會(huì)掃描全部監(jiān)聽的描述符，所以其時(shí)間復(fù)雜度較差 O(n)。
并且只能同時(shí)服務(wù) 1024 個(gè)文件描述符，所以一般并不會(huì)以 Select 作為第一方案使用。
總結(jié)
Redis 對(duì)于 I/O 多路復(fù)用模塊的設(shè)計(jì)非常簡(jiǎn)潔，通過宏保證了 I/O 多路復(fù)用模塊在不同平臺(tái)上都有著優(yōu)異的性能，將不同的 I/O 多路復(fù)用函數(shù)封裝成相同的 API 提供給上層使用。
整個(gè)模塊使 Redis 能以單進(jìn)程運(yùn)行的同時(shí)服務(wù)成千上萬個(gè)文件描述符，避免了由于多進(jìn)程應(yīng)用的引入導(dǎo)致代碼實(shí)現(xiàn)復(fù)雜度的提升，減少了出錯(cuò)的可能性。
作者：Draveness
編輯：陶家龍、孫淑娟
出處：http://draveness.me/redis-io-multiplexing
推薦閱讀
? 從零搭建SpringCloud服務(wù)（史上最詳細(xì)）
? 公司高管寫出低級(jí)Bug，導(dǎo)致公司70GB數(shù)據(jù)泄露
? 955 互聯(lián)網(wǎng)公司白名單來了！這些公司月薪20k，沒有996！福利榜國(guó)內(nèi)大廠只有這家！
?一個(gè)完整的、全面k8s化的集群穩(wěn)定架構(gòu)（值得借鑒）
? 2020年國(guó)內(nèi)互聯(lián)網(wǎng)公司的薪酬排名！
? 基于SpringBoot 的CMS系統(tǒng)，拿去開發(fā)企業(yè)官網(wǎng)真香
? 深度介紹分布式系統(tǒng)原理與設(shè)計(jì)
? 程序員因違反竟業(yè)協(xié)議，賠騰訊97.6萬...
? 阿里一面：如何保證API接口數(shù)據(jù)安全？
? 徒手?jǐn)]了一個(gè)RPC框架，理解更透徹了，代碼已上傳github，自取~