范文健康探索娱乐情感热点
投稿投诉
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文

QPSTPSRT并发数吞吐量理解和性能优化深入思考

  吞吐量
  在了解qps、tps、rt、并发数之前,首先我们应该明确一个系统的吞吐量到底代表什么含义,一般来说,系统吞吐量指的是系统的抗压、负载能力,代表一个系统每秒钟能承受的最大用户访问量。
  一个系统的吞吐量通常由qps(tps)、并发数来决定,每个系统对这两个值都有一个相对极限值,只要某一项达到最大值,系统的吞吐量就上不去了。
  QPS
  Queries Per Second,每秒查询数,即是每秒能够响应的查询次数,注意这里的查询是指用户发出请求到服务器做出响应成功的次数,简单理解可以认为查询=请求request。
  qps=每秒钟request数量
  TPS
  Transactions Per Second 的缩写,每秒处理的事务数。一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此来计算使用的时间和完成的事务个数。
  针对单接口而言,TPS可以认为是等价于QPS的,比如访问一个页面/index.html,是一个TPS,而访问/index.html页面可能请求了3次服务器比如css、js、index接口,产生了3个QPS。
  tps=每秒钟事务数量
  RT
  Response Time缩写,简单理解为系统从输入到输出的时间间隔,宽泛的来说,他代表从客户端发起请求到服务端接受到请求并响应所有数据的时间差。一般取平均响应时间。
  并发数
  简而言之,系统能同时处理的请求/事务数量。
  计算方式
  QPS=并发数/RT 或者 并发数=QPS*RT
  举个栗子:
  假设公司每天早上9点到10点1个小时内都有员工要上厕所,公司有3600个员工,平均每个员工上厕所时间为10分钟,我们来计算一下。
  QPS = 3600/60*60 1
  RT = 10*60 600秒
  并发数 = 1 * 600 600
  这样就意味着如果想达到最好的蹲坑体验,公司需要600个坑位来满足员工需求,否则的话上厕所就要排队等待了。
  性能思考
  按照QPS=并发数/RT公式,假设我们现在是单线程的场景,那么QPS公式应该是这样:QPS=1/RT,实际上RT应该=CPU time + CPU wait time,如果将线程数提高到2,那么QPS=2/(CPU time + CPU wait time),那么是否意味着我们只要单纯提高线程数就能提高QPS呢?
  最佳线程数计算
  假设CPU time是49ms,CPU wait time是200ms,那么QPS=1000ms/249ms=4.01,这里200ms的wait时间我们可以认为CPU一直处于等待状态啥也没干,理论上来说200ms还可以接受200/49≈4个请求,不考虑上下文切换和其他开销的话,可以认为总线程数=(200+49)/49=5,如果再考虑上CPU多核和利用率的问题,我们大致可以认为:最佳线程数=RT/CPU Time * CPU核心数 * CPU利用率
  那么最大QPS公式推导为:
  最大QPS=最佳线程数*单线程QPS=(RT/CPU Time * CPU核心数 * CPU利用率)*(1/RT) = CPU核心数*CPU利用率/CPU time
  那么这样是否意味着我们只要不停增加CPU核心数就能无限提高QPS呢
  阿姆达尔定律Amdahl
  G.M.Amdahl在1967年提出了Amdahl’s law,针对并行处理的scalability给出了一个模型,指出使用并行处理的提速由问题的可并行的部分所决定。我们可以简单理解为程序通过额外的计算资源,理论上能获得的加速值。
  par为并行计算所占的比例,p为并行处理节点个数
  假设你想从望京去顺义,坐一辆车需要3小时,虽然现在有3辆车,你也不能1小时就到。这里无法并行,所有Par=0%,p=3,加速比还是等于1,并没有提高速度。
  古斯塔夫森定律Gustafson
  斯塔夫森定律又被称为扩展的加速比(scaled speedup),他说明处理器个数、串行比例和加速比之间的关系,只是和阿姆达尔定律侧重角度有所不同。
  按照阿姆达尔定律和QPS计算公式,在CPUtime 和 CPU利用率不变的情况下,增加CPU核心数就能增加最大QPS,在par不为0即并行的时候,增加并行数量p就能提升效率,但是实际上随着请求数量的增加,带来大量的上下文的切换、gc和锁变化。qps更高,产生对象越多,gc越频繁,cpu time和利用率都受到影响,尤其在串行的时候,锁自旋、自适应、偏向等等也成为影响par的因素。
  总结,为了提升达到最好的性能,我们需要不断的进行性能测试,调整小城池大小,找到最合适的参数来达到提高性能的目的。
  关注转发私信作者666获取超硬核面试学习资料
  参考:
  http://javahao123.com/?p=772
  https://cloud.tencent.com/developer/article/1106559
  https://www.cnblogs.com/caishunzhe/p/13056105.html
  https://www.jianshu.com/p/8532ac88ce72
  https://zhuanlan.zhihu.com/p/66929848
  https://www.cnblogs.com/lupeng2010/p/12705795.html

90后婚介所大谈AA制,夫妻之间能够分得这么清楚吗?最近90后婚介所第四期节目引起了热议,一位女嘉宾向男嘉宾提问,是否能够将自己的全部财产交给女方管理。其实在大部分的婚姻中,男方在外工作赚钱养家,女方管理家里财产以及照顾家庭。这样的登春晚24年,从苗寨姑娘到民歌一姐,宋祖英如今还好吗?一中秋晚会上群星璀璨,不经让人想起了曾前碾转在各大晚会的宋祖英。宋祖英曾上过24次春晚,还曾放歌维也纳。然而事业如日中天的她却在巅峰时隐退了,很多人不禁疑惑民歌一姐宋祖英到底去哪了冯提莫的毁灭史从直播一姐到花钱买粉,她是如何走向凉凉的?天王盖地虎,冯提莫一米五这句神总结是网友对冯提莫的形容。曾经的某鱼一姐,某鱼第一歌姬。她翻红的学猫叫更是引发了全民的学唱热潮。然而,如今入驻B站的她却落得了一身鸡毛,从万人追捧到跌魔仙小蓝廖景萱靠魔仙走红,巅峰隐退,吃老本敛财遭反感一场寻找紫菱的对决,让冠亚军却走上了截然不同的人生道路,如果当初小蓝姐姐在那场对决中战胜了张嘉倪,那么今天坐在豪门太太位置上的会不会是她?一2006年,琼瑶为了重拍一帘幽梦,联合某亲爱的热爱的如此火爆,对我的时代是件好事还是坏事?2019年夏天,一部亲爱的热爱的大火,佟言夫妇收获了大批CP粉,李现被网友亲切成为现男友,几天时间粉丝暴涨几十万。昨天,亲爱的热爱的姐妹篇你的时代我的时代开播,这部剧的主线是DT吴又一版暗恋橘生淮南来袭,张雪迎演洛枳,四个洛枳哪个最佳?说起青春校园小说,就不得不提八月长安的振华三部曲,即最好的我们你好旧时光和暗恋橘生淮南,近年来这三部作品被拍成多个影视作品。2016年,谭松韵刘昊然主演的最好的我们播出,24小时内我的时代你的时代王浩输给吴白,告诉我们取对名字有多重要我的时代你的时代和亲爱的热爱的是姐妹篇,开播之后频频撒糖,吴白和艾情的姐弟恋非常甜。吴白是机器人格斗天才,冷酷执着,性格内敛,他因为艾情进入机器人格斗行业,想要为国争光,把一个个冠风起霓裳嫁名将生宰相封华阳夫人,琉璃不愧是女皇看重的!古力娜扎许魏洲主演的风起霓裳正在热播,一开场古力娜扎饰演的库狄琉璃被嘲是傻白甜,那是因为女主还没开始强势起来。五集之后剧情开始步入正轨,不论是剧里还是历史,库狄琉璃可都不是傻白甜!如懿传富察皇后这个天下女子典范,被什么束缚了一生?如懿传中的富察琅嬅,出身高贵,才貌双全,雍正年间被熹贵妃和皇上相中赐婚四阿哥弘历,成为宝亲王的嫡福晋。富察琅嬅一生,最骄傲的就是成为弘历的正妻,可也是这个身份给她带来了无尽的压力。知否海家为何把女儿下嫁?海朝云虽然优秀,但只有盛长柏敢娶嫁人,是古代女子最重要的事情之一。嫁一个什么样的人,组一个什么样的家庭,关乎女子一生的幸福,而且在那个年代是没有回头路可以走的。很多人选择高嫁,比如墨兰,嫁入高门是她最大的梦想,为阿箬卖主求荣后的得与失人要有自知之明,自以为是只会害人害己如懿传中阿箬是一个十足的利己主义者,也是一个没有自知之明的人。她很看重权势和富贵,是个不安分的主儿,所以在金玉妍稍微帮了她一下的时候,立马就背叛了如懿,卖主求荣。阿箬从什么时候开始
郑伊健ampampquot消亡史ampampquot曾红过刘德华,如今却销声匿迹,他遭遇了什么?再见郑伊健。2021年夏,久违的陈浩南郑伊健现身太太蒙嘉慧的直播。但只闻其声,未见其人。直到直播结束,镜头也只带到郑伊健的背影,一副路人模样。90年代的香港娱乐圈,郑伊健堪称绝对顶赵薇出事的那天,刘德华也被曝光了赵薇上热搜的那天,刘德华也跟着上热搜了。但关于他的热搜新闻,却让很多人都绷不住泪。华仔上热搜,跟微博大V知书少年果麦麦讲的一个故事有关。话说2008年,中国喜迎奥运。那时候,两岸三一辈子只演一个角色,至今无人超越,怕是只有这7位演员了在影视圈,有一群人奉行一招鲜吃遍天。他们不求演哪个角色像哪个角色,只求把一个角色演到极致。他们刻画的角色,只有被模仿,从未被超越。经典之所以被称为经典,付出的是一辈子的时间。一辈子肖战舒淇将合作姐弟恋新戏,16岁年龄差距能有cp感吗?现在姐弟恋是大家很喜欢看的电视剧题材,小奶狗和姐姐的爱情谁不喜欢?最近有人爆料称肖战也要出演姐弟恋了,肖战和杨紫搭档的余生请多指教那边刚刚定档,这边就又传出肖战即将进组新丽新开的都凭两只蝴蝶爆红,失言得罪刘德华,消失的庞龙去哪了除了刀郎,2000年前后还有一个大热的网络歌手庞龙。建筑工人出身的庞龙,凭借两只蝴蝶,为唱片公司吸金2。4亿,却因为一句话,得罪刘德华,遭到雪藏,如今查无此人,这是真的吗?2011理想之城演成了宫斗戏,许峰被算计,汪明宇无奈,苏筱掌大局随着剧情的发展,苏筱坐到了更高的位置上,但其中的利益牵扯却将苏筱推到了更为艰难的位置上,所面临的考验也不单单是做好自己的工作那么简单。曾经在子公司里,她需要面对像陈思民这样的人,但4000万佑家军一夜间被解散,天佑为什么被封杀?随着互联网的兴起,一夜之间涌现出了很多网络红人,他们八仙过海,各显神通,在网上展现自己独特的个人魅力,并因而得到了不少粉丝,现在的大网红收入堪比明星,粉丝数量和明星比较,也是不逞多乡村爱情16即将开拍,谢大脚无人能替,处理结果深得网友的心导语一部好的影视作品,不仅可以用来打发无聊的时间,甚至还能让人感受到节目传递的初心是什么。就拿乡村爱情系列的电视剧来说,它除了家长里短的事情之外,更多的是快乐生活,邻里之间要互帮互范冰冰如今体重80多斤,腰细大长腿,网友彻底摆脱微胖标签一说到娱乐圈,大家都知道里面有很多明星。很多明星因为人品或者是道德犯了错,虽然得到很多网友的辱骂,但是在曝光以后就会发声明道歉,有的明星也会隔一段时间复出,比如说大家熟悉的范冰冰。李小璐身上完全看不到岁月的痕迹,但是再漂亮也是复出无望了岁月会在每个人身上留下痕迹,但是似乎它有时候也有不小心的时候,现在都还想要复出的李小璐总是隔一段时间就发一些自己的近照或者视频,岁月好像真的遗忘了,就像现在的我们一样,虽然说现在的葬礼不让拍头七不举办,5亿身家的于月仙,后事是否过于低调?这并不奇怪,于月仙葬礼之所以低调,原因不外乎一下几点01疫情期间,不扎堆,不聚集,红白喜事一切从简,这是政府要求,也是每个公民都应该遵守的,明星也不例外。02于月仙才五十岁,走的太