服務(wù)端 TCP 連接的 TIME_WAIT 問(wèn)題

閱讀文本大概需要3分鐘。

寫在開頭，大概 4 年前，聽(tīng)到運(yùn)維同學(xué)提到 TIME_WAIT 狀態(tài)的 TCP 連接過(guò)多的問(wèn)題，但是當(dāng)時(shí)沒(méi)有去細(xì)琢磨；最近又聽(tīng)人說(shuō)起，是一個(gè)新手進(jìn)行壓測(cè)過(guò)程中，遇到的問(wèn)題，因此，花點(diǎn)時(shí)間，細(xì)深究一下。

0.概要

幾個(gè)方面：

1. 問(wèn)題描述：什么現(xiàn)象？什么影響？

2. 問(wèn)題分析

3. 解決方案

4. 底層原理

1.問(wèn)題描述

模擬高并發(fā)的場(chǎng)景，會(huì)出現(xiàn)批量的?TIME_WAIT?的 TCP 連接：

短時(shí)間后，所有的?TIME_WAIT?全都消失，被回收，端口包括服務(wù)，均正常。

即，在高并發(fā)的場(chǎng)景下，TIME_WAIT?連接存在，屬于正常現(xiàn)象。

線上場(chǎng)景中，持續(xù)的高并發(fā)場(chǎng)景

• 一部分?TIME_WAIT?連接被回收，但新的?TIME_WAIT?連接產(chǎn)生；

• 一些極端情況下，會(huì)出現(xiàn)大量的?TIME_WAIT?連接。

Think：

上述大量的?TIME_WAIT?狀態(tài) TCP 連接，有什么業(yè)務(wù)上的影響嗎？

Nginx 作為反向代理時(shí)，大量的短鏈接，可能導(dǎo)致 Nginx 上的 TCP 連接處于?time_wait?狀態(tài)：

1. 每一個(gè) time_wait 狀態(tài)，都會(huì)占用一個(gè)「本地端口」，上限為?65535(16 bit，2 Byte)；

2. 當(dāng)大量的連接處于?time_wait?時(shí)，新建立 TCP 連接會(huì)出錯(cuò)，address already in use : connect?異常

統(tǒng)計(jì) TCP 連接的狀態(tài)：

// 統(tǒng)計(jì)：各種連接的數(shù)量
$ netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
ESTABLISHED 1154
TIME_WAIT 1645

Tips：

TCP 本地端口數(shù)量，上限為?65535（6.5w），這是因?yàn)?TCP 頭部使用?16 bit，存儲(chǔ)「端口號(hào)」，因此約束上限為?65535。

2.問(wèn)題分析

大量的?TIME_WAIT?狀態(tài) TCP 連接存在，其本質(zhì)原因是什么？

1. 大量的短連接存在

2. 特別是 HTTP 請(qǐng)求中，如果?connection?頭部取值被設(shè)置為?close?時(shí)，基本都由「服務(wù)端」發(fā)起主動(dòng)關(guān)閉連接

3. 而，TCP 四次揮手關(guān)閉連接機(jī)制中，為了保證?ACK 重發(fā)和丟棄延遲數(shù)據(jù)，設(shè)置?time_wait?為 2 倍的?MSL（報(bào)文最大存活時(shí)間）

TIME_WAIT 狀態(tài)：

1. TCP 連接中，主動(dòng)關(guān)閉連接的一方出現(xiàn)的狀態(tài)；（收到 FIN 命令，進(jìn)入 TIME_WAIT 狀態(tài)，并返回 ACK 命令）

2. 保持 2 個(gè)?MSL?時(shí)間，即，4 分鐘；（MSL 為 2 分鐘）

3.解決辦法

解決上述?time_wait?狀態(tài)大量存在，導(dǎo)致新連接創(chuàng)建失敗的問(wèn)題，一般解決辦法：

1. 客戶端，HTTP 請(qǐng)求的頭部，connection 設(shè)置為 keep-alive，保持存活一段時(shí)間：現(xiàn)在的瀏覽器，一般都這么進(jìn)行了

2. 服務(wù)器端，

1. 允許?time_wait?狀態(tài)的 socket 被重用

2. 縮減?time_wait?時(shí)間，設(shè)置為?1 MSL（即，2 mins）

更多細(xì)節(jié)，參考：

• https://www.cnblogs.com/yjf512/p/5327886.html

結(jié)論：幾個(gè)核心要點(diǎn)

1. time_wait 狀態(tài)的影響：

1. TCP 連接中，「主動(dòng)發(fā)起關(guān)閉連接」的一端，會(huì)進(jìn)入 time_wait 狀態(tài)

2. time_wait 狀態(tài)，默認(rèn)會(huì)持續(xù)?2 MSL（報(bào)文的最大生存時(shí)間），一般是 2x2 mins

3. time_wait 狀態(tài)下，TCP 連接占用的端口，無(wú)法被再次使用

4. TCP 端口數(shù)量，上限是 6.5w（65535，16 bit）

5. 大量 time_wait 狀態(tài)存在，會(huì)導(dǎo)致新建 TCP 連接會(huì)出錯(cuò)，address already in use : connect?異常

2. 現(xiàn)實(shí)場(chǎng)景：

1. 服務(wù)器端，一般設(shè)置：不允許「主動(dòng)關(guān)閉連接」

2. 但 HTTP 請(qǐng)求中，http 頭部 connection 參數(shù)，可能設(shè)置為 close，則，服務(wù)端處理完請(qǐng)求會(huì)主動(dòng)關(guān)閉 TCP 連接

3. 現(xiàn)在瀏覽器中， HTTP 請(qǐng)求?connection?參數(shù)，一般都設(shè)置為?keep-alive

4. Nginx 反向代理場(chǎng)景中，可能出現(xiàn)大量短鏈接，服務(wù)器端，可能存在

3. 解決辦法：

1. 允許?time_wait?狀態(tài)的 socket 被重用

2. 縮減?time_wait?時(shí)間，設(shè)置為?1 MSL（即，2 mins）

3. 服務(wù)器端，

4.附錄

幾個(gè)方面：

1. TCP 連接狀態(tài)的查詢

2. MSL 時(shí)間

3. TCP 三次握手和四次握手

附錄 A：查詢 TCP 連接狀態(tài)

Mac 下，查詢 TCP 連接狀態(tài)的具體命令：

// Mac 下，查詢 TCP 連接狀態(tài)
$ netstat -nat |grep TIME_WAIT

// Mac 下，查詢 TCP 連接狀態(tài)，其中 -E 表示 grep 或的匹配邏輯
$ netstat -nat | grep -E "TIME_WAIT|Local Address"
ProtoRecv-Q Send-Q  LocalAddressForeignAddress(state)
tcp4       00127.0.0.1.1080127.0.0.1.59061        TIME_WAIT

// 統(tǒng)計(jì)：各種連接的數(shù)量
$ netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
ESTABLISHED 1154
TIME_WAIT 1645

附錄 B：MSL 時(shí)間

MSL，Maximum Segment Lifetime，“報(bào)文最大生存時(shí)間”，

1. 任何報(bào)文在網(wǎng)絡(luò)上存在的最長(zhǎng)時(shí)間，超過(guò)這個(gè)時(shí)間報(bào)文將被丟棄。（IP 報(bào)文）

2. TCP報(bào)文 （segment）是ip數(shù)據(jù)報(bào)（datagram）的數(shù)據(jù)部分。

Tips：

RFC 793中規(guī)定MSL為2分鐘，實(shí)際應(yīng)用中常用的是30秒，1分鐘和2分鐘等。

2MSL，TCP 的?TIME_WAIT?狀態(tài)，也稱為2MSL等待狀態(tài)：

1. 當(dāng)TCP的一端發(fā)起主動(dòng)關(guān)閉（收到 FIN 請(qǐng)求），在發(fā)出最后一個(gè)ACK 響應(yīng)后，即第3次握 手完成后，發(fā)送了第四次握手的ACK包后，就進(jìn)入了TIME_WAIT狀態(tài)。

2. 必須在此狀態(tài)上停留兩倍的MSL時(shí)間，等待2MSL時(shí)間主要目的是怕最后一個(gè) ACK包對(duì)方?jīng)]收到，那么對(duì)方在超時(shí)后將重發(fā)第三次握手的FIN包，主動(dòng)關(guān)閉端接到重發(fā)的FIN包后，可以再發(fā)一個(gè)ACK應(yīng)答包。

3. 在 TIME_WAIT 狀態(tài)時(shí)，兩端的端口不能使用，要等到2MSL時(shí)間結(jié)束，才可繼續(xù)使用。（IP 層）

4. 當(dāng)連接處于2MSL等待階段時(shí)，任何遲到的報(bào)文段都將被丟棄。

不過(guò)在實(shí)際應(yīng)用中，可以通過(guò)設(shè)置 「SO_REUSEADDR選項(xiàng)」，達(dá)到不必等待2MSL時(shí)間結(jié)束，即可使用被占用的端口。

附錄 C：TCP 三次握手和四次握手

詳細(xì)細(xì)節(jié)，參考：

• TCP的三次握手與四次揮手（詳解+動(dòng)圖）

具體示意圖：

1. 三次握手，建立連接過(guò)程

2. 四次揮手，釋放連接過(guò)程

幾個(gè)核心疑問(wèn)：

1. time_wait 是「服務(wù)器端」的狀態(tài)？or 「客戶端」的狀態(tài)？

1. RE：time_wait 是「主動(dòng)關(guān)閉 TCP 連接」一方的狀態(tài)，可能是「客服端」的，也可能是「服務(wù)器端」的

2. 一般情況下，都是「客戶端」所處的狀態(tài)；「服務(wù)器端」一般設(shè)置「不主動(dòng)關(guān)閉連接」

2. 服務(wù)器在對(duì)外服務(wù)時(shí)，是「客戶端」發(fā)起的斷開連接？還是「服務(wù)器」發(fā)起的斷開連接？

1. 正常情況下，都是「客戶端」發(fā)起的斷開連接

2. 「服務(wù)器」一般設(shè)置為「不主動(dòng)關(guān)閉連接」，服務(wù)器通常執(zhí)行「被動(dòng)關(guān)閉」

3. 但 HTTP 請(qǐng)求中，http 頭部 connection 參數(shù)，可能設(shè)置為 close，則，服務(wù)端處理完請(qǐng)求會(huì)主動(dòng)關(guān)閉 TCP 連接

關(guān)于 Apache httpd 服務(wù)器的關(guān)聯(lián)配置，參考：https://elf8848.iteye.com/blog/1739571

關(guān)于 HTTP 請(qǐng)求中，設(shè)置的主動(dòng)關(guān)閉 TCP 連接的機(jī)制：TIME_WAIT的是主動(dòng)斷開方才會(huì)出現(xiàn)的，所以主動(dòng)斷開方是服務(wù)端？

1. 答案是是的。在HTTP1.1協(xié)議中，有個(gè) Connection 頭，Connection有兩個(gè)值，close和keep-alive，這個(gè)頭就相當(dāng)于客戶端告訴服務(wù)端，服務(wù)端你執(zhí)行完成請(qǐng)求之后，是關(guān)閉連接還是保持連接，保持連接就意味著在保持連接期間，只能由客戶端主動(dòng)斷開連接。還有一個(gè)keep-alive的頭，設(shè)置的值就代表了服務(wù)端保持連接保持多久。

2. HTTP默認(rèn)的Connection值為close，那么就意味著關(guān)閉請(qǐng)求的一方幾乎都會(huì)是由服務(wù)端這邊發(fā)起的。那么這個(gè)服務(wù)端產(chǎn)生TIME_WAIT過(guò)多的情況就很正常了。

3. 雖然HTTP默認(rèn)Connection值為close，但是，現(xiàn)在的瀏覽器發(fā)送請(qǐng)求的時(shí)候一般都會(huì)設(shè)置Connection為keep-alive了。所以，也有人說(shuō)，現(xiàn)在沒(méi)有必要通過(guò)調(diào)整參數(shù)來(lái)使TIME_WAIT降低了。

關(guān)于?time_wait：

1. TCP 連接建立后，「主動(dòng)關(guān)閉連接」的一端，收到對(duì)方的 FIN 請(qǐng)求后，發(fā)送 ACK 響應(yīng)，會(huì)處于 time_wait 狀態(tài)；

2. time_wait 狀態(tài)，存在的必要性：

1. 可靠的實(shí)現(xiàn) TCP 全雙工連接的終止：四次揮手關(guān)閉 TCP 連接過(guò)程中，最后的 ACK 是由「主動(dòng)關(guān)閉連接」的一端發(fā)出的，如果這個(gè) ACK 丟失，則，對(duì)方會(huì)重發(fā) FIN 請(qǐng)求，因此，在「主動(dòng)關(guān)閉連接」的一段，需要維護(hù)一個(gè) time_wait 狀態(tài)，處理對(duì)方重發(fā)的 FIN 請(qǐng)求；

2. 處理延遲到達(dá)的報(bào)文：由于路由器可能抖動(dòng)，TCP 報(bào)文會(huì)延遲到達(dá)，為了避免「延遲到達(dá)的 TCP 報(bào)文」被誤認(rèn)為是「新 TCP 連接」的數(shù)據(jù)，則，需要在允許新創(chuàng)建 TCP 連接之前，保持一個(gè)不可用的狀態(tài)，等待所有延遲報(bào)文的消失，一般設(shè)置為 2 倍的 MSL（報(bào)文的最大生存時(shí)間），解決「延遲達(dá)到的 TCP 報(bào)文」問(wèn)題；

來(lái)源：http://ningg.top/computer-basic-theory-tcp-time-wait/

☆

往期精彩

☆

01?Sentinel如何進(jìn)行流量監(jiān)控

02?Nacos源碼編譯

03?基于Apache Curator框架的ZooKeeper使用詳解

04?spring boot項(xiàng)目整合xxl-job

05?互聯(lián)網(wǎng)支付系統(tǒng)整體架構(gòu)詳解

關(guān)注我

每天進(jìn)步一點(diǎn)點(diǎn)

喜歡！在看?