Nginx 憑啥并發(fā)數(shù)可以達(dá)到 3w？
Nginx 的進(jìn)程模型
多進(jìn)程：一個 Master 進(jìn)程、多個 Worker 進(jìn)程。
Master 進(jìn)程：管理 Worker 進(jìn)程。對外接口：接收外部的操作（信號）；對內(nèi)轉(zhuǎn)發(fā)：根據(jù)外部的操作的不同，通過信號管理 Worker；監(jiān)控：監(jiān)控 Worker 進(jìn)程的運(yùn)行狀態(tài)，Worker 進(jìn)程異常終止后，自動重啟 Worker 進(jìn)程。
Worker 進(jìn)程：所有 Worker 進(jìn)程都是平等的。實(shí)際處理：網(wǎng)絡(luò)請求，由 Worker 進(jìn)程處理。Worker 進(jìn)程數(shù)量：在 nginx.conf 中配置，一般設(shè)置為核心數(shù)，充分利用 CPU 資源，同時，避免進(jìn)程數(shù)量過多，避免進(jìn)程競爭 CPU 資源，增加上下文切換的損耗。
請求是連接到 Nginx，Master 進(jìn)程負(fù)責(zé)處理和轉(zhuǎn)發(fā)？
如何選定哪個 Worker 進(jìn)程處理請求？請求的處理結(jié)果，是否還要經(jīng)過 Master 進(jìn)程？
HTTP 連接建立和請求處理過程
HTTP 連接建立和請求處理過程如下：
Nginx 啟動時，Master 進(jìn)程，加載配置文件。
Master 進(jìn)程，初始化監(jiān)聽的 Socket。
Master 進(jìn)程，F(xiàn)ork 出多個 Worker 進(jìn)程。
Worker 進(jìn)程，競爭新的連接，獲勝方通過三次握手，建立 Socket 連接，并處理請求。
Nginx 高性能、高并發(fā)
Nginx 采用多進(jìn)程+異步非阻塞方式（IO 多路復(fù)用 Epoll）。
請求的完整過程：建立連接→讀取請求→解析請求→處理請求→響應(yīng)請求。
請求的完整過程對應(yīng)到底層就是：讀寫 Socket 事件。
Nginx 的事件處理模型
接收請求：逐行讀取請求行和請求頭，判斷段有請求體后，讀取請求體。
處理請求。
返回響應(yīng)：根據(jù)處理結(jié)果，生成相應(yīng)的 HTTP 請求（響應(yīng)行、響應(yīng)頭、響應(yīng)體）。
模塊化體系結(jié)構(gòu)
常見問題剖析
Nginx vs Apache
IO 多路復(fù)用，Epoll（freebsd 上是 kqueue）
高性能
高并發(fā)
占用系統(tǒng)資源少
阻塞+多進(jìn)程/多線程
更穩(wěn)定，Bug 少
模塊更豐富
http://www.oschina.net/translate/nginx-vs-apache
https://www.zhihu.com/question/19571087
Nginx 最大連接數(shù)
Nginx 是多進(jìn)程模型，Worker 進(jìn)程用于處理請求。
單個進(jìn)程的連接數(shù)（文件描述符 fd），有上限（nofile）：ulimit -n。
Nginx 上配置單個 Worker 進(jìn)程的最大連接數(shù)：worker_connections 上限為 nofile。
Nginx 上配置 Worker 進(jìn)程的數(shù)量：worker_processes。
Nginx 的最大連接數(shù)：Worker 進(jìn)程數(shù)量 x 單個 Worker 進(jìn)程的最大連接數(shù)。
上面是 Nginx 作為通用服務(wù)器時，最大的連接數(shù)。
Nginx 作為反向代理服務(wù)器時，能夠服務(wù)的最大連接數(shù)：（Worker 進(jìn)程數(shù)量 x 單個 Worker 進(jìn)程的最大連接數(shù)）/ 2。
Nginx 反向代理時，會建立 Client 的連接和后端 Web Server 的連接，占用 2 個連接。
每打開一個 Socket 占用一個 fd？
為什么，一個進(jìn)程能夠打開的 fd 數(shù)量有限制？
HTTP 請求：
請求行：method、uri、http version
請求頭
請求體
HTTP 響應(yīng)：
響應(yīng)行：http version、status code
響應(yīng)頭
響應(yīng)體
IO 模型
IO 多路復(fù)用：一個線程，跟蹤多個 Socket 狀態(tài)，哪個就緒，就讀寫哪個。
阻塞 IO+多線程：每一個請求，新建一個服務(wù)線程。
IO 多路復(fù)用：單個連接的請求處理速度沒有優(yōu)勢。
大并發(fā)量：只使用一個線程，處理大量的并發(fā)請求，降低上下文環(huán)境切換損耗，也不需要考慮并發(fā)問題，相對可以處理更多的請求。
消耗更少的系統(tǒng)資源（不需要線程調(diào)度開銷）。
適用于長連接的情況（多線程模式長連接容易造成線程過多，造成頻繁調(diào)度）。
阻塞 IO +多線程：實(shí)現(xiàn)簡單，可以不依賴系統(tǒng)調(diào)用。
每個線程，都需要時間和空間。
線程數(shù)量增長時，線程調(diào)度開銷指數(shù)增長。
select/poll 和 epoll 比較如下：
https://www.cnblogs.com/wiessharling/p/4106295.html
// select 系統(tǒng)調(diào)用
int?select(int?maxfdp,fd_set *readfds,fd_set *writefds,fd_set *errorfds,struct?timeval *timeout);?
// poll 系統(tǒng)調(diào)用
int?poll(struct?pollfd fds[], nfds_t nfds,?int?timeout)；查詢 fd_set 中，是否有就緒的 fd，可以設(shè)定一個超時時間，當(dāng)有 fd (File descripter) 就緒或超時返回。
fd_set 是一個位集合，大小是在編譯內(nèi)核時的常量，默認(rèn)大小為 1024。
特點(diǎn)：連接數(shù)限制，fd_set 可表示的 fd 數(shù)量太小了；線性掃描：判斷 fd 是否就緒，需要遍歷一邊 fd_set；數(shù)據(jù)復(fù)制：用戶空間和內(nèi)核空間，復(fù)制連接就緒狀態(tài)信息。
解決了連接數(shù)限制：poll 中將 select 中的 fd_set 替換成了一個 pollfd 數(shù)組，解決 fd 數(shù)量過小的問題。
數(shù)據(jù)復(fù)制：用戶空間和內(nèi)核空間，復(fù)制連接就緒狀態(tài)信息。
事件機(jī)制：避免線性掃描，為每個 fd，注冊一個監(jiān)聽事件，fd 變更為就緒時，將 fd 添加到就緒鏈表。
fd 數(shù)量：無限制（OS 級別的限制，單個進(jìn)程能打開多少個 fd）。
I/O 多路復(fù)用的機(jī)制。
I/O 多路復(fù)用就通過一種機(jī)制，可以監(jiān)視多個描述符，一旦某個描述符就緒（一般是讀就緒或者寫就緒），能夠通知程序進(jìn)行相應(yīng)的讀寫操作；監(jiān)視多個文件描述符。
但 select，poll，epoll 本質(zhì)上都是同步 I/O：用戶進(jìn)程負(fù)責(zé)讀寫（從內(nèi)核空間拷貝到用戶空間），讀寫過程中，用戶進(jìn)程是阻塞的；異步 IO，無需用戶進(jìn)程負(fù)責(zé)讀寫，異步 IO，會負(fù)責(zé)從內(nèi)核空間拷貝到用戶空間。
Nginx 的并發(fā)處理能力
來源：ningg.top/nginx-series-principle/
版權(quán)申明：內(nèi)容來源網(wǎng)絡(luò)，版權(quán)歸原創(chuàng)者所有。除非無法確認(rèn)，我們都會標(biāo)明作者及出處，如有侵權(quán)煩請告知，我們會立即刪除并表示歉意。謝謝!
