01 | 高并发系统:它的通用设计方法是什么?
该思维导图由 AI 生成,仅供参考
- 深入了解
- 翻译
- 解释
- 总结
高并发系统设计方法总结 本文介绍了高并发系统设计的三种通用方法:Scale-out(横向扩展)、缓存和异步处理。Scale-out通过分布式部署将流量分流开,缓存利用内存存储提升系统性能,而异步处理则允许请求先返回,待数据准备好后再通知请求方,从而提高单位时间内的请求处理量。文章重点讨论了Scale-up和Scale-out的区别,指出在系统设计初期通常会考虑使用Scale-up,但当系统并发超过了单机的极限时,就需要使用Scale-out。另一方面,文章强调了缓存在系统设计中的重要性,指出利用内存作为存储介质的缓存可以大幅度提升系统性能。总的来说,高并发系统设计需要综合考虑多种方法,根据系统的实际情况选择合适的设计方案,同时需要注意各种设计方法可能引入的复杂问题,如节点故障、状态同步和节点的动态增删等。文章还强调了高并发系统的演进应该是循序渐进,以解决系统中存在的问题为目的和驱动力的。
《高并发系统设计 40 问》,新⼈⾸单¥59
全部留言(107)
- 最新
- 精选
- 老男孩martin fowler好像曾经说过,能使用单体解决的问题,就不要采用分布式。不能为了技术而技术,采用分布式固然可以分流用户请求,提高系统的响应能力,但同样也带来了复杂性。软件开发最终的目的是商业利益。非常赞成老师的观点,罗马城不是一天就建立起来的。架构的工作应该是阶段性,解决阶段性系统的复杂性。如果单体跑的很好,或者通过scale up方式在成本可控的情况能解决就不要想着诗和远方,因为系统内部的进程间调用,肯定比不同物理机的进程之间调用要快。
作者回复: 说的真好!
2019-09-185164 - Luciano李鑫代部落伙伴问个问题:关于秒杀这种场景我想的是用redis的list不就完全可以实现吗。活动开始前,先把要抢的N个商品push到list中。活动开始后,每来一个请求就从list中pop一个商品出去,当list为空后直接返回“已抢光”的响应,由于可秒杀的商品数量并不多,能通过的请求也可以采用同步的方式进行,这样不是既简单又快速。可是我搜了一下网上的方案,都特别的复杂,请问这种方式有什么问题吗?
作者回复: 这个商品应该是放在单一的redis节点里面的吧,放在多个节点里面不好维护一致性。那么如果在流量或者带宽方面超过单个节点的限制咋办?是否要考虑动态和静态数据的隔离?是否要考虑降低redis的写流量峰值?所以流量大了,自然方案就复杂了~
2019-09-192143 - 榕1.技术在不断演进,演进的目的和内驱动力是解决当前系统存在的问题,过早过度设计大多只会延误系统的发展。一切都以实际情况和需要出发,一步步优化,一步步演进,个人能力提升也是同样的道理。 2.高并发系统设计通用方法:水平拓展,缓存,异步。这只是指导思想,如何更巧妙的运用才是最具魅力的。
作者回复: 说的真好!
2019-09-1818 - 三年过后老师讲得很好!不过,还是觉得偏理论较多。例如,讲到踩过很多坑,这些坑没有一些案例说明和后来的解决问题方案。比如,之前负责的支付系统项目,在流量不是很大的情况下,就引入了zk集群(3台)zk集群所在的线上服务,存在一台宕机,整个线上支付都不可用。后面解决:只好切回单体服务
作者回复: 后面课程会有一些关键知识点的案例介绍的
2019-09-18912 - 马留老师,你把“缓存”比喻成“拓宽河道”,个人觉得是不妥当的,应是建水库更好些。拓宽河道比较类似Scale-out
作者回复: scale-out可以理解为引流和分流;缓存的作用是提速,拓宽河道的作用也是提速,所以有一些的关联
2019-09-18511 - yuan老师,消息队列用到缓存,之前没有听说过这个,请问哪种消息队列用到缓存?
作者回复: 内部实现会用到缓存的思想,Kafka会用到pagecache
2019-09-2428 - 鞠小军总结:高并发设计三种思路 1、横向扩展 2、缓存 3、异步 首先,不能为了设计而设计,不要过度设计。单机满足业务需求就不要分布式,架构不能盲目,架构一定是逐步演进的,而且是随着业务的需求逐步进行的。 三种思路理解要宽泛。比如横向扩展可以是集群,可以是主从分离,也可以是分库分表等等。 缓存呢其实无处不在,比如CPU的一级缓存、二级缓存、三级缓存,操作系统缓存(如windows的page.sys文件),mybatis的一级缓存,二级缓存等等。 异步就是解藕操作,比如将订单成交的消息我需要保证准确性而不是实时性,因此就先放入消息队列中,消息被消费的时候在进行业务的处理,这样就可以提高并发请数量
作者回复: 👍
2019-11-0726 - MYG讲得真好!小建议,对于一些关键的术语可不可以像我们讲scale-out一样,同时使用中文和英文呢?比如cache,async,这样可以方便将来同时查阅中英文文献。
作者回复: 好嘞,以后我会注意的:)
2019-09-196 - 标老师,多级缓存中,redis层的好处理,但是Nginx缓存,tomcat本地缓存,都是多台机器分布式部署,该如何及时主动更新
作者回复: 比如说如果要更新缓存就向一个消息队列里发一个消息,tomcat消费消息后清除本地缓存。不过更多的是等待缓存自己过期,或者定期更新缓存
2019-09-275 - 由莫把缓存比喻成拓宽河道不合理。从另外的角度来看,拓宽河道就是增加流量的带宽。这跟缓存放在一起说感觉让人对缓存有误解。
作者回复: 当时考虑的是拓宽河道是让水流更快,和缓存思想比较接近
2019-09-1844