QPS、TPS、并發(fā)用戶數(shù)、吞吐量關(guān)系

QPS

「QPS」?Queries Per Second??是每秒查詢率 ,是「一臺(tái)服務(wù)器」每秒能夠相應(yīng)的查詢次數(shù)，是對(duì)一個(gè)特定的查詢服務(wù)器「在規(guī)定時(shí)間內(nèi)」所處理流量多少的衡量標(biāo)準(zhǔn), 即每秒的響應(yīng)請(qǐng)求數(shù)，也即是最大吞吐能力。

TPS

「TPS」?Transactions Per Second?也就是事務(wù)數(shù)/秒。一個(gè)事務(wù)是指一個(gè)客戶機(jī)向服務(wù)器發(fā)送請(qǐng)求然后服務(wù)器做出反應(yīng)的過程?？蛻魴C(jī)在發(fā)送請(qǐng)求時(shí)開始計(jì)時(shí)，收到服務(wù)器響應(yīng)后結(jié)束計(jì)時(shí)，以此來計(jì)算使用的時(shí)間和完成的事務(wù)個(gè)數(shù)，

「QPS和TPS區(qū)別」

個(gè)人理解如下：

• TPS即每秒處理事務(wù)數(shù)，包括
1. 用戶請(qǐng)求服務(wù)器
2. 服務(wù)器自己的內(nèi)部處理
3. 服務(wù)器返回給用戶

這三個(gè)過程，每秒能夠完成N個(gè)這三個(gè)過程，TPS也就是N；

• QPS基本類似于TPS，但是不同的是，對(duì)于一個(gè)頁面的一次訪問，形成一個(gè)TPS；但一次頁面請(qǐng)求，可能產(chǎn)生多次對(duì)服務(wù)器的請(qǐng)求，服務(wù)器對(duì)這些請(qǐng)求，就可計(jì)入“QPS”之中。

「例子」

例如：訪問一個(gè)頁面會(huì)請(qǐng)求服務(wù)器3次，一次訪問，產(chǎn)生一個(gè)“T”，產(chǎn)生3個(gè)“Q”

例如：一個(gè)大胃王一秒能吃10個(gè)包子，一個(gè)女孩子0.1秒能吃1個(gè)包子，那么他們是不是一樣的呢？答案是否定的，因?yàn)檫@個(gè)女孩子不可能在一秒鐘吃下10個(gè)包子，她可能要吃很久。這個(gè)時(shí)候這個(gè)大胃王就相當(dāng)于TPS，而這個(gè)女孩子則是QPS。雖然很相似，但其實(shí)是不同的。

并發(fā)數(shù)

并發(fā)數(shù)（并發(fā)度）：指系統(tǒng)同時(shí)能處理的請(qǐng)求數(shù)量，同樣反應(yīng)了系統(tǒng)的負(fù)載能力。這個(gè)數(shù)值可以分析機(jī)器1s內(nèi)的訪問日志數(shù)量來得到。

吐吞量

「吐吞量」：吞吐量是指系統(tǒng)在單位時(shí)間內(nèi)處理請(qǐng)求的數(shù)量，TPS、QPS都是吞吐量的常用量化指標(biāo)

系統(tǒng)吞吐量要素

一個(gè)系統(tǒng)的吞吐量（承壓能力）與request（請(qǐng)求）對(duì)cpu的消耗，外部接口，IO等等緊密關(guān)聯(lián)。

單個(gè)request 對(duì)cpu消耗越高，外部系統(tǒng)接口，IO影響速度越慢，系統(tǒng)吞吐能力越低，反之越高。

重要參數(shù)

QPS(TPS),并發(fā)數(shù)，響應(yīng)時(shí)間

1. QPS(TPS)：每秒鐘request/事務(wù) 數(shù)量
2. 并發(fā)數(shù)：系統(tǒng)同時(shí)處理的request/事務(wù)數(shù)
3. 響應(yīng)時(shí)間：一般取平均響應(yīng)時(shí)間

關(guān)系

QPS(TPS)=并發(fā)數(shù)/平均響應(yīng)時(shí)間

一個(gè)系統(tǒng)吞吐量通常由?QPS(TPS)，并發(fā)數(shù)?兩個(gè)因素決定，每套系統(tǒng)這個(gè)兩個(gè)值都有一個(gè)相對(duì)極限值，在應(yīng)用場(chǎng)景訪問壓力下，只要某一項(xiàng)達(dá)到系統(tǒng)最高值，系統(tǒng)吞吐量就上不去了，如果壓力繼續(xù)增大，系統(tǒng)的吞吐量反而會(huì)下降，原因是系統(tǒng)超負(fù)荷工作，上下文切換，內(nèi)存等等其他消耗導(dǎo)致系統(tǒng)性能下降。

PV

「PV」（Page View）：頁面訪問量，即頁面瀏覽量或點(diǎn)擊量，用戶每次刷新即被計(jì)算一次?？梢越y(tǒng)計(jì)服務(wù)一天的訪問日志得到。

UV

「UV」（Unique Visitor）：獨(dú)立訪客，統(tǒng)計(jì)1天內(nèi)訪問某站點(diǎn)的用戶數(shù)?？梢越y(tǒng)計(jì)服務(wù)一天的訪問日志并根據(jù)用戶的唯一標(biāo)識(shí)去重得到。

響應(yīng)時(shí)間（RT）：響應(yīng)時(shí)間是指系統(tǒng)對(duì)請(qǐng)求作出響應(yīng)的時(shí)間，一般取平均響應(yīng)時(shí)間。可以通過Nginx、Apache之類的Web Server得到。

DAU

「DAU」(Daily Active User)，日活躍用戶數(shù)量。常用于反映網(wǎng)站、互聯(lián)網(wǎng)應(yīng)用或網(wǎng)絡(luò)游戲的運(yùn)營(yíng)情況。DAU通常統(tǒng)計(jì)一日（統(tǒng)計(jì)日）之內(nèi)，登錄或使用了某個(gè)產(chǎn)品的用戶數(shù)（去除重復(fù)登錄的用戶），與UV概念相似

MAU

「MAU」(Month Active User)：月活躍用戶數(shù)量，指網(wǎng)站、app等去重后的月活躍用戶數(shù)量

系統(tǒng)吞吐量評(píng)估

我們?cè)谧鱿到y(tǒng)設(shè)計(jì)的時(shí)候就需要考慮CPU運(yùn)算，IO，外部系統(tǒng)響應(yīng)因素造成的影響以及對(duì)系統(tǒng)性能的初步預(yù)估。

而通常情況下，我們面對(duì)需求，我們?cè)u(píng)估出來的出來QPS，并發(fā)數(shù)之外，還有另外一個(gè)維度：日pv。

通過觀察系統(tǒng)的訪問日志發(fā)現(xiàn)，在用戶量很大的情況下，各個(gè)時(shí)間周期內(nèi)的同一時(shí)間段的訪問流量幾乎一樣。比如工作日的每天早上。只要能拿到日流量圖和QPS我們就可以推算日流量。

通常的技術(shù)方法：

1. 找出系統(tǒng)的最高TPS和日PV，這兩個(gè)要素有相對(duì)比較穩(wěn)定的關(guān)系（除了放假、季節(jié)性因素影響之外）
2. 通過壓力測(cè)試或者經(jīng)驗(yàn)預(yù)估，得出最高TPS，然后跟進(jìn)1的關(guān)系，計(jì)算出系統(tǒng)最高的日吞吐量。B2B中文和淘寶面對(duì)的客戶群不一樣，這兩個(gè)客戶群的網(wǎng)絡(luò)行為不應(yīng)用，他們之間的TPS和PV關(guān)系比例也不一樣。

軟件性能測(cè)試的基本概念和計(jì)算公式

軟件性能的關(guān)注點(diǎn)

軟件做性能測(cè)試時(shí)需要關(guān)注哪些性能呢

首先，開發(fā)軟件的目的是為了讓用戶使用，我們先站在用戶的角度分析一下，用戶需要關(guān)注哪些性能。

對(duì)于用戶來說，當(dāng)點(diǎn)擊一個(gè)按鈕、鏈接或發(fā)出一條指令開始，到系統(tǒng)把結(jié)果已用戶感知的形式展現(xiàn)出來為止，這個(gè)過程所消耗的時(shí)間是用戶對(duì)這個(gè)軟件性能的直觀印 象。也就是我們所說的響應(yīng)時(shí)間，當(dāng)相應(yīng)時(shí)間較小時(shí)，用戶體驗(yàn)是很好的，當(dāng)然用戶體驗(yàn)的響應(yīng)時(shí)間包括個(gè)人主觀因素和客觀響應(yīng)時(shí)間，在設(shè)計(jì)軟件時(shí)，我們就需要 考慮到如何更好地結(jié)合這兩部分達(dá)到用戶最佳的體驗(yàn)。如：用戶在大數(shù)據(jù)量查詢時(shí)，我們可以將先提取出來的數(shù)據(jù)展示給用戶，在用戶看的過程中繼續(xù)進(jìn)行數(shù)據(jù)檢 索，這時(shí)用戶并不知道我們后臺(tái)在做什么。

用戶關(guān)注的是用戶操作的相應(yīng)時(shí)間。

「其次，我們站在管理員的角度考慮需要關(guān)注的性能點(diǎn)。」

1. 響應(yīng)時(shí)間
2. 服務(wù)器資源使用情況是否合理
3. 應(yīng)用服務(wù)器和數(shù)據(jù)庫(kù)資源使用是否合理
4. 系統(tǒng)能否實(shí)現(xiàn)擴(kuò)展
5. 系統(tǒng)最多支持多少用戶訪問、系統(tǒng)最大業(yè)務(wù)處理量是多少
6. 系統(tǒng)性能可能存在的瓶頸在哪里
7. 更換那些設(shè)備可以提高性能
8. 系統(tǒng)能否支持7×24小時(shí)的業(yè)務(wù)訪問

「再次，站在開發(fā)（設(shè)計(jì)）人員角度去考慮?！?/strong>

1. 架構(gòu)設(shè)計(jì)是否合理
2. 數(shù)據(jù)庫(kù)設(shè)計(jì)是否合理
3. 代碼是否存在性能方面的問題
4. 系統(tǒng)中是否有不合理的內(nèi)存使用方式
5. 系統(tǒng)中是否存在不合理的線程同步方式
6. 系統(tǒng)中是否存在不合理的資源競(jìng)爭(zhēng)