03 | 系统设计目标(一):如何提升系统性能?
唐扬
该思维导图由 AI 生成,仅供参考
提到互联网系统设计,你可能听到最多的词儿就是“三高”,也就是“高并发”“高性能”“高可用”,它们是互联网系统架构设计永恒的主题。在前两节课中,我带你了解了高并发系统设计的含义,意义以及分层设计原则,接下来,我想带你整体了解一下高并发系统设计的目标,然后在此基础上,进入我们今天的话题:如何提升系统的性能?
高并发系统设计的三大目标:高性能、高可用、可扩展
高并发,是指运用设计手段让系统能够处理更多的用户并发请求,也就是承担更大的流量。它是一切架构设计的背景和前提,脱离了它去谈性能和可用性是没有意义的。很显然嘛,你在每秒一次请求和每秒一万次请求,两种不同的场景下,分别做到毫秒级响应时间和五个九(99.999%)的可用性,无论是设计难度还是方案的复杂度,都不是一个级别的。
而性能和可用性,是我们实现高并发系统设计必须考虑的因素。
性能反映了系统的使用体验,想象一下,同样承担每秒一万次请求的两个系统,一个响应时间是毫秒级,一个响应时间在秒级别,它们带给用户的体验肯定是不同的。
可用性则表示系统可以正常服务用户的时间。我们再类比一下,还是两个承担每秒一万次的系统,一个可以做到全年不停机、无故障,一个隔三差五宕机维护,如果你是用户,你会选择使用哪一个系统呢?答案不言而喻。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
本文介绍了在设计高并发系统时需要考虑的目标和性能优化原则。在高并发系统设计中,需要关注高性能、高可用和可扩展性,并遵循性能优化原则。性能优化需要问题导向、抓住主要矛盾、有数据支撑,并且是一个持续的过程。文章提到了提高系统的处理核心数和减少单次任务的响应时间是优化性能的两种思路。同时,介绍了阿姆达尔定律和性能测试中的拐点模型。另外,针对CPU密集型和IO密集型系统,提出了不同的性能优化方式。最后,强调了在日常工作中需要掌握性能优化工具和方法,以及计算机基础知识的重要性。整体而言,本文为读者提供了在高并发系统设计和性能优化方面的基本思路和原则。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《高并发系统设计 40 问》,新⼈⾸单¥59
《高并发系统设计 40 问》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
全部留言(63)
- 最新
- 精选
- 肖大保健讲的太宽泛了,请具体实例化,这种文章在网上到处能找到,建议多点干货
编辑回复: 基础篇会偏理论知识多一些,主要是想给大家一些高并发知识的概要介绍,这部分案例偏少,我们在做课程设计的时候考虑到了,从我的角度,这部分内容是必讲的,并且我敢说这种讲法你在外面是找不到的,都是我的经验总结。 案例我们会从演进篇开始加入,思路是从一个简易系统到一个复杂系统的高并发演进之路。我很想把这个内容做好,所以类似的反馈还请大家都提给我,我和极客时间团队讨论后会根据情况做优化。 之所以把这个留言放出来也是这样,希望能得到大家的监督,我们一起学好高并发知识。分享就是学习,从和大家的交流离我也在成长。
2019-09-2310186 - Jxin1.业务价值->承载高并发->性能优化。一切的前提是业务价值需要。如果没有足够的价值,那么可读性才是第一,性能在需要的地方是no.1,但不需要的地方可能就是倒数第一稞。当下技术框架出来的软件差不到哪去,没有这种及时响应诉求的地方,削峰下慢慢跑就是了。(工作需要,常在缺少价值的地方着手性能优化,让我对这种就为个数字的操作很反感。要知道,异步,并发编程,逻辑缓存,算法真的会加剧系统的复杂度,得不偿失。如果没那个价值,简单才是王道) 2.提高并发度。要么加硬件,要么降低服务响应时间。做为开发,我们的目光更聚焦在降低响应时间这块。 1.采用非阻塞的rpc调用(高效的远端请求模式,采用容器的覆盖网络我认为也算) 2.将计算密集和io密集的的逻辑分割开,单独线程池,调整线程比例压榨单机性能(或者说找拐点)。 3.做缓存,io耗时的缓存和计算耗时的缓存(多级缓存,数据压缩降低带宽)。 4.采用享元模式,用好对象池和本地线程空间,尽量减少对象创建与销毁的开销,提高复用。 5.业务拆分,像状态变化后的外部系统通知,业务监控,es或solr等副本数据同步等操作,无需在主流程中做的事都拆掉。走canal监听表数据变化,推mq保最终一致的方式从业务项目完全解偶出来。 6.fork_join,分而治之的处理大任务。并发编程,采用多线程并行的方式处理业务。(规避伪共享,减小锁力度,采用合适的锁)。 7.数据库配置优化,查询优化。(存储优化比较头疼,毕竟不按业务拆单点跑不掉,单点性能就要命。基本只能内存库先行,后台同步数据做持久。然后内存库多副本,自修复,保留一系列自修复失败的修复手段)
作者回复: 给你点赞👍
2019-09-2410125 - 平步青云既然老师愿意把这门课做好,作为学员提几点建议: 1.每一章都会有一个中心,几个侧重点,建议关键部分文字加粗或者字号加大一点,让重心更醒目。一遍看下来,几乎啥都没记住。 2.条理清晰,有时候你会发现,用1.2.3这种编号作用非常明显。这点得到做的挺好的,我都购买的有课程。 3.技术文章,理论讲太多,都觉得是鸡汤,看了就忘,或者说作用不大,理论大家能查阅资料,也算是理解一星半点。大家的问题都在于没把理论作用于实践中,如果每一章讲完理论后能够以实际应用辅助讲一下,可以说事半功倍。 4.我说话很直接,真正的高手也不会购买课程,购买课程的也是大家在这块有短板,希望通过这门课解决一些项目中的问题。按照2/8原则,百分之八十的人项目中都没有大并发,这种系统设计和运用,大家缺乏经验。讲解时候,浅显易懂,案例分享很关键,百分之八十人看懂了,能应用了,那这门课非常成功了。 5.希望高手之间多讨论或者辩论,其实在你们的讨论中,可以学到很多,开拓视野,举一反三。希望评论中只要不是骂人,违反国家政策,涉及到问题本身讨论的,尽量显示出来。
作者回复: 好的 后面演进篇中会有案例
2019-09-2445 - 无形之前做广告检索遇到的问题,倒排索引存在Redis,每次都要请求Redis,但是并发时,Redis连接数太大,甚至打开文件数过大,后采用Redis连接池,Redis连接数得到控制,而且响应更快,后来随着并发数的增大,连接池资源耗尽,而且Redis也有并发限制,数据传输导致大量占用带宽,响应时间更久,因此,又使用了本地缓存,每次请求先请求本地缓存,找不到再请求Redis,缓存到本地,缓存更新时通过消息队列来通知程序更新本地缓存,这样节省了大量的和Redis之间的请求耗时和带宽占用,性能有了数倍的提升。后面还有很多优化,性能优化不是一蹴而就的,每个阶段面对的场景是不一样的,需要找到每个瓶颈点针对性的优化
作者回复: 赞,经验丰富老司机:)
2019-10-311436 - Cola_高并发:高性能(响应时间)、高可用(down机、故障、维护)、可扩展(应急扩容) 响应时间(平均值、最大值、分位值),响应为1s,吞吐量为每秒1次,响应缩短到10ms,吞吐量上升到每秒100次,从用户体验来说:200ms分界点,1s为另一个分界点,健康系统的99分位值的响应时间控制在200ms以内,不超过1s的请求占比要超过99.99% 高并发下的性能优化手段: 1.提高系统的处理核心数(吞吐量=核心数(并发进程数)/响应时间(s)) 但并非无限增加核心数就可以增加吞吐量,随着进程数增加,并行的任务对于资源的争夺也增加,在某 个临界点,进程增加导致系统的性能下降,这就是性能测试中的拐点模型,所以在评估系统性能时,需要做压力测试,找到拐点 2.减少单次任务响应时间 cpu密集型:优化算法 io密集型:1.采用工具,linux的工具集 2.通过监控,对任务的每一个步骤做分时统计,从而找到任务中哪一步小号消耗了更多的时间
作者回复: 👍👍
2019-09-23226 - 钱哈哈,看评论“真正的高手也不会购买课程”,扎心啦!😄,不过事实也应该是如此的。 我猜测一下,真正的高手在干嘛! 第一技术负责人,负责一些核心项目 第二技术专家,写书出专栏 第三开源项目贡献者,参与和贡献过知名的开源项目 第四技术社区或知名项目的领导者 第五知名公司CTO,在用技术改变世界 第六技术大神一门语言或一个框架的开创者 不过根据2/8原则,猜测80%的人都不在这个范围内,这就是极客时间存在的意义。 我想表达啥呢?极客时间对我帮助还是非常大的,我也从业多年,不过比较遗憾没到高手的行列。技术是我养家糊口的工具,跟一些作者年龄相近实力却相差甚远,花几十元和他们聊聊,基本收获都是大于付出的钱的。相信极客时间的过滤功能,希望自己能够早日不用再购买课程。😅
作者回复: 加油~
2020-04-06319 - 星星老师你好,高并发 有什么好的模拟工具?
作者回复: 一般使用线上流量引流的工具,tcpcopy, goreplay
2019-09-25213 - 长期规划从全局看,高性能需要全链路检查,常用方法是拆分,精简,换硬件等。拆分如读写分离,分片等,精简如进程→线程→协程,HTTP→RPC,换硬件如内存替换硬盘等。从编程角度,还可以使用合适的数据结构和算法
作者回复: 👍
2019-12-247 - sun日常工作中,项目优化的不够好,那就对部门进行优化⁽⁽ଘ😇ଓ⁾⁾
作者回复: 这。。
2019-09-2637 - 吃饭饭老师能普及一下常见的术语吗?比如 QPS 和 TPS。日常优化不从服务器谈,只说 Review 的一些常识,避免循环调用,热点数据提前预热,可以加入利用内存缓存一些配置数据等等,不知道理解的对不对:)
作者回复: QPS指的是每秒查询请求数;TPS指的是每秒执行事务数,偏向于写请求。 这些常识虽然有些零散,不过是正确的:)
2019-09-237
收起评论