首页 > 技术文章 > 关于TP90 TP99 等常用于评估软件系统的处理性能的指标概念

ilovebath 2021-06-19 18:28 原文

  工作中还是蛮少直接接触到评估系统性能的,但是不妨碍有兴趣了解。认为这是常识,只是个人才疏学浅不了解其定义。

  TP=Top Percentile,Top百分数,是一个统计学里的术语,与平均数、中位数都是一类,为等水位线(waterline)。

  TP50、TP90和TP99等指标常用于系统性能监控场景,指高于50%、90%、99%等百分线的情况。

  上面都是学术上的定义,具体到软件系统评估的实践中怎么理解呢?以TP90为例(借用网络上搜到的资源):

    The tp90 is a minimum time under which 90% of requests have been served.

    tp90 = top percentile 90

    Imagine you have response times:10s,1000s,100s,2s

    Calculating TP is very simple:

      1. Sort all times in ascending order: [2s, 10s, 100s, 1000s]

      2. find latest item in portion you need to calculate.
        2.1 For TP50 it will be ceil(4*0.5) = 2 requests. You need 2nd request.
        2.2 For TP90 it will be ceil(4*0.9) = 4. You need 4th request.

      3. We get time for the item found above. TP50=10s. TP90=1000s

     可以认为 TP90的意思是保证90%请求都能被响应的最小耗时。例如上例中TP90=4s,就是如果要保证90%的用户得到有效的时间是4s;同理保证50%的用户得到有效相应的时间是2s。

   如果现有需求:每隔5s打印一次最近1分钟内A、B、C三个方法的TP90、TP99的耗时情况。如何实现呢?

  分析:

    1、如果要计算 TP90、TP95 或者 TP99 等水位线的值,其前提就是需要我们将所有的待计算值保存起来。此需求中打印时刻最近1分钟内调用个方法的耗时时间。

    2、用什么数据结构来存储这一系列的值呢?数组?或者列表?实际上,无论选择哪一种数据结构都不能假设其长度无限大,因为内存空间是有限的,而且数据结构也有理论上的最大值,但是要存储的值的个数却可能是无限的。因此,就需要利用有限长度的数据结构存储更多的数值。此例中,选择的数据结构是TreeSet。

    3、最后一步就是由低到高顺序排序后计算等水位线的值了。

   实现:

    1、利用dubbo filter统计各方法调用耗时时间,使用数据结构TreeSet(Java)。

      首先看下为什么选用TreeSet,看下TreeSet的结构:

        

      SortedSet通过implements Comparable进行自定义排序:

       

    此案例中耗时时间由小到大排序:

      

       

    2、计算等WaterLine的值:这个算法就比较简单了,不介绍了直接上图

      

  此文中仅介绍与WaterLine相关的内容,其具体实现再何处体现,后续Dubbo扩展点之一Filter中详述。

 

 

  

推荐阅读