nginx_concurrent_limit_module限制后端服務(wù)器并發(fā)級別

這是nginx的第三方模塊。它使nginx上游可以限制每個后端服務(wù)器的并發(fā)級別。目前僅支持循環(huán)模式。

在實際生產(chǎn)過程中，可能每臺backend server的配置不同，導致存在不同的系能瓶頸，一旦請求并發(fā)數(shù)超過閾值，會造成雪崩效應(yīng)，使服務(wù)器連閾值內(nèi)的請求量都處理不了。

如果使用簡單的weigth權(quán)重控制，并不能解決這種困境。如果請求峰值超過了系統(tǒng)所能承載的并發(fā)，仍然會造成雪崩效應(yīng)。

為了解決以上的情形，開發(fā)了此補丁，當系統(tǒng)瓶頸主要在backend server時，該補丁能很好地抑制backend server陷入雪崩效應(yīng)。

可以根據(jù)壓測結(jié)果，配置每一臺backend server的并發(fā)數(shù)concurrent。當backend server正在處理的請求超過concurrent值后，upstream就不再會選給該backend server轉(zhuǎn)發(fā)新的請求。