如何讓你的Nginx 提升10倍性能?

負(fù)載均衡(參見“建議二”),反向代理服務(wù)器上運(yùn)行負(fù)載均衡服務(wù),把流量平均分配給幾臺應(yīng)用服務(wù)器。有了負(fù)載均衡,添加應(yīng)用服務(wù)器根本不需要修改應(yīng)用。 緩存靜態(tài)文件(參見“建議三”),圖片或代碼之類的可以直接請求的文件,都可以保存在反向代理服務(wù)器中,以便直接發(fā)給客戶端。這樣不僅可以更快地響應(yīng)請求,還能減輕應(yīng)用服務(wù)器的負(fù)擔(dān),加快其運(yùn)行速度。 保證站點(diǎn)安全,可以配置反向代理服務(wù)器提升其安全級別,通過它監(jiān)控來快速識別和響應(yīng)攻擊,從而保存應(yīng)用服務(wù)器安全。

傳統(tǒng)服務(wù)器與NGINX Worker的比較

靜態(tài)內(nèi)容緩存,不常變化的文件,如圖片(JPEG、PNG)和代碼(CSS、JavaScript),可以保存在邊緣服務(wù)器中,以便快速從內(nèi)容或磁盤中獲取。 動態(tài)內(nèi)容緩存,很多Web應(yīng)用會為每個頁面請求生成全新的HTML,把生成的每個HTML都緩存一小段時間,可能顯著減少需要生成的頁面總數(shù),同時又可以保證交付的內(nèi)容足夠新鮮。
把內(nèi)容放到離用戶近的地方。離用戶近,傳輸時間少。 把內(nèi)容放到較快的機(jī)器上。機(jī)器快,檢索速度快。 把內(nèi)容從過度使用的機(jī)器中拿走。有時候機(jī)器會比在專注執(zhí)行特定任務(wù)時慢很多,那是因?yàn)樘嗳蝿?wù)讓它們分心。這時候把內(nèi)容拿到其他機(jī)器上,不僅對緩存的內(nèi)容有好處,對非緩存的內(nèi)容同樣有利,因?yàn)橥泄芩鼈兊闹鳈C(jī)的負(fù)擔(dān)減輕了。
注意: 緩存涉及開發(fā)、決策和運(yùn)維,完善的緩存策略,比如本文提到的這些,能夠體現(xiàn)從DevOps角度考慮的價值。也說是說,開發(fā)人員、架構(gòu)師、運(yùn)維人員此時攜手,共同保障一個網(wǎng)站的功能、響應(yīng)時間、安全和業(yè)務(wù)目標(biāo)。


會話緩存。使用ssl_session_cache指令開啟緩存,緩存每次SSL/STL連接時用到的參數(shù)。 會話票或ID。把特定SSL/TLS會話的信息保存為一個會話票或ID,以便連接重用,而不必重新握手。 OCSP封套。通過緩存SSL/TLS證書信息減少握手時間。

文件描述符。NGINX對每個連接最多使用兩個文件描述符。如果系統(tǒng)服務(wù)于很多連接,可能需要增大sys.fs.file_max這個對描述符的系統(tǒng)級限制,以及nofile這個用戶文件描述符限制,以支持增大后的負(fù)載。 臨時端口。在作為代理使用時,NGINX會為每個上游服務(wù)器創(chuàng)建臨時端口。可以設(shè)置net.ipv4.ip_local_port_range,增大端口值的范圍,以增加可用的端口量。此外,還可以減小net.ipv4.tcp_fin_timeout的值,它控制非活動端口釋放重用的等待時間,加快周轉(zhuǎn)。 對NGINX而言,請參考NGINX性能調(diào)優(yōu)指南,了解如何不費(fèi)吹灰之力將你的Linux系統(tǒng)優(yōu)化為能夠支持更大的吞吐量。
訪問日志。不要每個請求的日志都馬上寫到磁盤,可以在內(nèi)存里做個緩存,然后批量定入。對NGINX而言,將buffer=_size_參數(shù)添加到access_log指令,等內(nèi)存緩沖區(qū)寫滿后再把日志寫到磁盤。如果你添加了**flush=_time_**參數(shù),那么緩沖區(qū)的內(nèi)容也會按照指定時間寫入磁盤。 緩沖。緩沖用于在內(nèi)存里保存部分響應(yīng),直到緩沖區(qū)被填滿,可以實(shí)現(xiàn)對客戶端更有效的響應(yīng)。無法寫入內(nèi)存的響應(yīng)會被寫到磁盤,從而降低性能。在NGINX的緩沖啟用時,可以使用proxy_buffer_size和proxy_buffers指令來管理它。 客戶端活動連接。活動連接可以減少時間消耗,特別是在使用SSL/TLS的情下。對NGINX而言,可以針對客戶端提高keepalive_requests的數(shù)值,默認(rèn)值為100;也可以增大keepalive_timeout的值,讓活動連接持續(xù)時間更長,從而讓后續(xù)請求得到更快響應(yīng)。 上游活動連接。上游連接,即連接到應(yīng)用服務(wù)器、數(shù)據(jù)庫服務(wù)器的連接,同樣可以從活動連接的設(shè)置中獲得好處。對上游連接來說,可以增加活動連接,也就是每個工作進(jìn)程可用的空閑活動連接的數(shù)量。這樣可以增進(jìn)連接重用,減少重開連接。關(guān)于活動連接的更多信息,請參考這篇博客。 限制。限制客戶端使用的資源可以提升性能和安全性。對NGINX而言,limit_conn和limit_conn_zone指令限制指定源的連接數(shù),而limit_rate限制帶寬。這些設(shè)置可以防止合法用戶“侵吞”資源,同時也有助于防止攻擊。limit_req和limit_req_zone指令限制客戶端請求。對于到上游服務(wù)器的連接,可以在上游配置區(qū)的服務(wù)器指令中使用max_conns參數(shù),它限制對上游服務(wù)器的連接,防止過載。相關(guān)的隊(duì)列指令會創(chuàng)建一個隊(duì)列,在max_conns限制到達(dá)后將指定的請求數(shù)保存指定的時間。 工作進(jìn)程。工作進(jìn)程負(fù)責(zé)處理請求。NGINX采用基于事件的模型和OS相關(guān)的機(jī)制有效地在工作進(jìn)程間分配請求。建議將worker_processes的值設(shè)置為每個CPU一個工作進(jìn)程。如果需要,大多數(shù)系統(tǒng)都支持提高worker_connections的值(默認(rèn)為512)。可以通過試驗(yàn)找到最適合你系統(tǒng)的這個值。 套接字分片。通常,一個套接字監(jiān)聽器向所有工作進(jìn)程分發(fā)新連接。套按字分片則為每個工作進(jìn)程都創(chuàng)建一個套接字監(jiān)聽器,由內(nèi)核在套接字監(jiān)聽器可用時為其指定連接。這樣可以減少鎖爭用,提升多核系統(tǒng)上的性能。要啟用套接字分片,在listen指令中包含reuseport參數(shù)。 線程池。一個費(fèi)時的操作會阻塞任何計算機(jī)進(jìn)程。對Web服務(wù)器軟件來說,磁盤訪問可能阻礙很多較快的操作,比如內(nèi)存中的計算和復(fù)制。在使用線程池的情況下,慢操作會被指定給一組獨(dú)立的任務(wù),而主處理循環(huán)會繼續(xù)運(yùn)行較快的操作。磁盤操作完成后,結(jié)果會返回到主處理循環(huán)。在NGINX中,read()系統(tǒng)調(diào)用和sendfile()被轉(zhuǎn)載到了線程池。


反向代理服務(wù)器及負(fù)載均衡。沒有負(fù)載均衡或池負(fù)載均衡,可能導(dǎo)致極低的性能。添加一個反向代理服務(wù)器,比如NGINX,可以減少Web應(yīng)用在內(nèi)存和磁盤之間的往返。負(fù)載均衡可以把任務(wù)從過載的服務(wù)器轉(zhuǎn)移到空閑的服務(wù)器,也便于擴(kuò)展。這些改變能極大地提升性能,與原有的部署方式最差的時候相比,10倍性能提升是很輕松的事,即使不到10倍那也在總體上有了質(zhì)的飛躍。 緩存動態(tài)和靜態(tài)內(nèi)容。如果你的Web服務(wù)器同時又充當(dāng)了應(yīng)用服務(wù)器,那么通過緩存動態(tài)內(nèi)容就可以達(dá)到高峰期10倍的性能提升。緩存靜態(tài)內(nèi)容也可以有幾倍的性能提升。 壓縮數(shù)據(jù)。使用JPEG、PNG、MPEG-4以及MP3等壓縮格式能顯著提升性能。如果這些手段都用上了,那么壓縮的文本數(shù)據(jù)(代碼及HTML)可以將初始頁面加載時間提升兩倍。 優(yōu)化SSL/TLS。安全握手對性能有很大影響,因此對其進(jìn)行優(yōu)化可以讓初次響應(yīng)加快兩倍,對于文本內(nèi)容較多的網(wǎng)站尤其如此。優(yōu)化SSL/TLS下的媒體文件帶來的性能提升很小。 實(shí)施HTTP/2和SPDY。在使用SSL/TLS的情況下,這兩個協(xié)議有可能提升網(wǎng)站的整體性能。 調(diào)優(yōu)Linux和Web服務(wù)器。使用優(yōu)化的緩沖策略、使用活動連接,將耗時的任務(wù)轉(zhuǎn)載至獨(dú)立的線程池,可以顯著提升性能。比如線程池可以將磁盤操作密集性任務(wù)的性能提升至少一個數(shù)量級。
? 開發(fā)者全社區(qū)?
評論
圖片
表情
