QPS/TPS/并发量/系统吞吐量概念和公式
1、概念
我們在日常工作中經(jīng)常會聽到QPS/TPS這些名詞,也會經(jīng)常被別人問起說你的系統(tǒng)吞吐量有多大。一個系統(tǒng)的吞度量(承壓能力)與request對CPU的消耗、外部接口、IO等等緊密關聯(lián),單個reqeust 對CPU消耗越高,外部系統(tǒng)接口、IO影響速度越慢,系統(tǒng)吞吐
能力越低,反之越高。這個問題從業(yè)務上來講,可以理解為應用系統(tǒng)每秒鐘最大能接受的用戶訪問量或者每秒鐘最大能處理的請求數(shù)。系統(tǒng)吞吐量的幾個重要參數(shù):QPS(TPS)、并發(fā)數(shù)、響應時間。
? QPS: 每秒鐘處理完請求的次數(shù);注意這里是處理完。具體是指發(fā)出請求到服務器處理完成功返回結果??梢岳斫庠趕erver中有個counter,每處理一個請求加1,1秒后counter=QPS。
? TPS:每秒鐘處理完的事務次數(shù),一般TPS是對整個系統(tǒng)來講的。一個應用系統(tǒng)1s能完成多少事務處理,一個事務在分布式處理中,可能會對應多個請求,對于衡量單個接口服務的處理能力,用QPS比較多。
? 并發(fā)量:系統(tǒng)能同時處理的請求/事務數(shù)。
? RT:響應時間,處理一次請求所需要的平均處理時間
2、計算關系
? QPS = 并發(fā)量 / 平均響應時間
? 并發(fā)量 = QPS * 平均響應時間
3、補充
系統(tǒng)吞吐量:通常由QPS(TPS)、并發(fā)數(shù)兩個因素決定,每套系統(tǒng)這兩個值都有一個相對極限值,在應用場景訪問壓力下,只要某一項達到系統(tǒng)最高值,系統(tǒng)的吞吐量就上不去了,如果壓力繼續(xù)增大,系統(tǒng)的吞吐量反而會下降,原因是系統(tǒng)超負荷工作,上下
文切換、內存等等其它消耗導致系統(tǒng)性能下降。
系統(tǒng)響應時間:我們做項目要排計劃,可以多人同時并發(fā)做多項任務,也可以一個人或者多個人串行工作,始終會有一條關鍵路徑,這條路徑就是項目的工期。 而系統(tǒng)一次調用的響應時間跟項目計劃一樣,也有一條關鍵路徑,這個關鍵路徑是就是系統(tǒng)影響時
間; 關鍵路徑是有CPU運算、IO、外部系統(tǒng)響應等因素組成。
轉載于:https://www.cnblogs.com/zhangwuji/p/9361302.html
總結
以上是生活随笔為你收集整理的QPS/TPS/并发量/系统吞吐量概念和公式的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 业务分析之--权限管理
- 下一篇: 分布式系统的面试题7