开篇词｜高并发系统，技术实力的试金石

徐长龙



讲述：徐长龙大小：10.08M时长：11:02



该思维导图由 AI 生成，仅供参考

你好，我是徐长龙，欢迎加入我的高并发实战课。
我目前在极客时间担任架构师一职，在此之前从事架构已有十几年，曾就职于穷游网、微博、好未来，主要做老系统的高并发迁移与改造，对 RPC 建设、服务化、框架、分布式链路跟踪监控以及 Kubernetes 管理平台拥有丰富的经验。
我个人对计算机技术有浓厚的兴趣，始终在主动学习各种技术，早年曾活跃在 Swoole 社区、PHP 开发者大会。
作为一名一线技术老兵，回顾我这么多年职业生涯的发展关键节点，总是和“高并发系统改造”密切相关。
为什么大厂这么重视高并发？说起高并发系统，你可能既熟悉又陌生。
熟悉是因为我们生活中常用的服务都属于高并发系统，比如淘宝、微博、美团、饿了么、12306、滴滴等等。
说它陌生，则是因为现实中只有少部分研发同学才能真正接触到这类系统，更多同学的刚需可能会局限于大厂面试。比如你是否也刷过这些问题：
1. 为什么百万并发系统不能直接使用 MySQL 服务？
2. 为什么 Redis 内存相比磁盘，需要用更多的空间？
3. 怎么保证条件查询缓存的数据一致性？
4. 为什么高级语言不能直接做业务缓存服务？
那么大厂究竟关注的是什么呢？我们又该怎么看待高并发？
无论问题多么花哨，归根结底其实就一句话：大厂看重的是你解决问题的思路和方法，而支撑你去完美回应这些的是更深层次的系统设计方向和原理。
比如说，上面我们提到的为什么百万并发不能直接使用 MySQL 服务，没有足够积累的话，你回答的大概是因为太高的并发查询会导致 MySQL 缓慢，然后简单地讲讲如何用缓存抵挡流量。
但是如果你面的是更高级别的岗位，面试官想要的其实是让你讲讲 MySQL 数据库为什么不能提供这么大的并发服务，同时你需要深入一起讨论下分布式数据库索引、存储、数据分片、存算分离等相关知识。
我们知道，互联网服务的核心价值就是流量，流量越大，平台的可能性和空间就越大，所以这也是为什么大厂倾向于有高并发经验的研发。2014 年后，互联网迈入高并发时代，大厂与创业公司之间的技术壁垒一直在不断加码，高并发相关人才从早几年的趋势已然成为如今的大厂标配。
近几年云服务厂商的基础建设越来越成熟，他们直接提供了无感的分布式服务支撑，这进一步减少了我们亲自动手实践的机会，这会导致很多架构师的工作只剩下选厂商、选服务、如何快速接入和如何节省成本。
所以我们需正视，高并发在大厂与小厂之间确实建起了一道墙，想跨越它，系统学习底层知识、实践高并发场景就是必经之路。
进阶高并发，最重要的是项目级实战那具体怎么跨越？可以参考我的经历。
2007 年我刚毕业那会儿，国内的技术环境还谈不上什么高并发，我的工作局限在小流量场景，最多就是想想代码的可复用性和业务逻辑的完整性，而市场上最不缺的就是我这个阶段的研发。被套牢在业务逻辑实现里的日子，我开始关注各种技术，但对开源和系统底层的认识还很浅薄，也不知道该怎么去加深这些知识。
直到我加入穷游网，实际主持老系统高并发改造工作，在 RPC 建设时，因为 RPC 性能瓶颈我碰了一鼻子灰，才真正发现了差距。
之前的一些技巧，不见得适用于更高要求的系统。小流量场景里无伤大雅的问题，系统规模变大后都可能被无限放大，这会给脆弱的系统造成“致命打击”。在高并发场景中，你会发现很多网上开源的自我介绍，跟实践验证的结果大相径庭。
这段经历，让我看问题的思路和视角有了一个很大的转变。为了弥补自己的不足，我阅读了大量计算机系统著作，恶补底层知识。在相关技术社区与同好激烈地讨论，在项目中我动手实测过大量的开源，也对他们提了很多改进 issue 建议。
总之，学习、实践、交流多管齐下，还是非常有成效的，很快我加入了微博广告部，从事基础架构方面的相关工作。
微博是我的一个黄金成长期，在这里体验了不少“有趣但变态的需求”，这里常常就给两台服务器。就要你去开发服务微博全网的业务，还要求你不能崩。期间我还参与建设了很多实用有趣的服务，这让我从三百多人的广告部脱颖而出，得到了珍贵的晋升机会。也是这段经历，让我真正转向基础服务研发，在数据服务和高并发服务方面积累了更多经验。
后来，我陆陆续续收到很多公司或朋友的邀请，为各种系统提供服务改造优化方面的指导。有的系统迁移改造好比蚂蚁搬家，断断续续花了两年多的时间；有的系统崩溃，公司损失达到千万元，叫我去救火；有的系统谁都拆不动，没有人说得清到底该怎么优化……
所以你清楚进阶路径了吗？学习、实践、交流会是最实用的方法，最终帮助你建立系统化的思维。
你可以先从手边的项目开始，比如对你所在企业的现有系统进行高并发改造，注意不要只阅读理论，而是要一边分析实践，一边用压测去验证。风险可控的话，推荐你可以先找一些无关紧要的小系统实践。
如何实践高并发？那么具体如何改造呢？后面这四步最关键：识别系统类型、完善监控系统、梳理改造要点、小步改造验证。
以第一步为例，我们可以按照数据特征给系统归类，分别为读多写少、强一致性、写多读少、读多写多这四种类型。确定了系统的类型，就等同于确定了具体的优化方向。
而这个专栏就会针对这四个优化方向，带你梳理关键改造点。无论你需要构建高并发系统，还是面临业务流量增长或是系统改造升级，都能在这里找到参考。
这里我梳理了课程的知识结构图，下面结合图解说明一下课程的设计思路：
高并发系统实战知识地图
读多写少的系统我会以占比最高的“读多写少”系统带你入门，梳理和改造用户中心项目。这类系统的优化工作会聚焦于如何通过缓存分担数据库查询压力，所以我们的学习重点就是做好缓存，包括但不限于数据梳理、做数据缓存、加缓存后保证数据一致性等等工作。
另外，为了帮你从单纯的业务实现思想中“跳出来”，我们还会一起拓展下主从同步延迟和多机房同步的相关知识，为后续学习分布式和强一致打好基础。
强一致性的电商系统这一章我们会以最典型的电商系统为例，学习要求更高的强一致性系统。
这类系统的主要挑战是承接高并发流量的同时，还要做好系统隔离性、事务一致性以及库存高并发争抢不超卖。我会和你详细讨论拆分实践的要点，让你加深对系统隔离、同步降级和库存锁等相关内容的认识，弄明白分布式事务组件的运作规律。了解这些，你会更容易看透一些基础架构组件的设计初衷。
写多读少的系统如何做链路跟踪接下来是高并发写系统，它涉及大量数据如何落盘、如何传输、存储、压缩，还有冷热数据的切换备份、索引查询等多方面问题，我会一一为你展开分析。我还会给你分享一个全量日志分布式链路跟踪系统的完整案例，帮你熟悉并发写场景落地的方方面面。
另外，行业内写高并发的服务通常需要借助一些开源才能实现，我还会介绍一些相关开源实现原理和应用方向，完善你的“兵器库”。
读多写多的直播系统读多写多系统是最复杂的系统类型，就像最火热的游戏、直播服务都属于这个类型。其中很多技术都属于行业天花板级别，毕竟线上稍有点问题，都极其影响用户体验。
这类系统数据基本都是在内存中直接对外服务，同时服务都要拆成很小的单元，数据是周期落到磁盘或数据库，而不是实时更新到数据库。因此我们的学习重点是如何用内存数据做业务服务、系统无需重启热更新、脚本引擎集成、脚本与服务互动交换数据、直播场景高并发优化、一些关于网络优化 CDN 和 DNS、知识以及业务流量调度、客户端本地缓存等相关知识。
第五章 内网建设案例讲解最后一章，我精选了一些案例，也是我特别添加的，这里既有让人眼前一亮的项目方案，也有很多有趣实用的设计，主要目的是帮助你开拓视野，未来能自行实现一些基础服务设计。
对于流量刚成长起来的业务，这一章很有参考价值，能让你的系统在后续业务流量增长时，扛住需求冲击并能快速解决问题。同时，相信你对头部开源解决方案也会有更深的理解。
一起到达目的地之后，我希望你已经有了更加宏观的视野，通过多项目实践系统了解了高并发。在面临各类相关问题时，能针对不同类型的系统，实现更匹配业务需求和技术条件的改造优化。
高并发不会是区别大厂、小厂工程师的标准，却是检验技术实力的一道关。课程搭建的学习场景是个良好起点，为你创造机会提高能力，期待看到你未来的成长突破！
留言区和我聊聊你学习高并发的痛点吧，或许你遇到的困难已经在课程中有了答案，我也可以做针对性的加餐，我们一起交流学习。

公开

同步至部落

取消

完成

0/2000

荧光笔

直线

曲线

笔记

复制

AI

深入了解
翻译
英语
中文简体
中文繁体
法语
德语
日语
韩语
俄语
西班牙语
阿拉伯语
解释
总结

本文是一篇由架构师徐长龙分享的关于高并发系统改造经验的文章。作者首先强调了高并发系统对于技术人员的重要性，并分享了自己的职业发展经历，强调了学习、实践和交流的重要性。在文章的后半部分，作者详细介绍了如何实践高并发系统，包括识别系统类型、完善监控系统、梳理改造要点和小步改造验证。文章还涉及了高并发写系统和读多写多的直播系统的相关知识。通过作者的经历和经验，为读者提供了深入了解高并发系统的途径和方法，对于想要深入了解高并发系统的技术人员具有很高的参考价值。文章内容丰富，涵盖了高并发系统改造的多个方面，对于技术人员来说具有很高的实用性和指导意义。

2022-10-2447人觉得很赞给文章提建议

仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《高并发系统实战课》，新⼈⾸单¥59

立即购买

登录后留言

全部留言(29)

最新
精选

Gojustforfun
置顶
看到“实战”二字就进，来看看有多“实战”。说个大部分人可能会有痛点: 身在小厂高并发系统设计与实践经验不足，学习高并发知识用不上（因为CURD业务做不完）。面试时一被追问几下就露怯了，就被猜到是看了面经并没有实战经验。进大厂才能有高并发经验，面试时得有高并发经验才能进大厂，怎么办？个人想学编程有个一般的电脑就可以照着书或文档开始动手实践，想提高高并发系统设计与实践能力，个人该如何做？如果愿意付费，租云主机倒是可以解决模拟环境的软硬件问题，但怎么搞还是缺乏经验/指导的，多半只能凭感觉“瞎折腾”。老师您能给一些可行的高并发系统个人实践方面的指导方法和建议吗？好不容易碰到极客时间自家的架构师，多要（几）个加餐: 1.能介绍一下极客时间的技术栈吗？ 2.今年寒冬有点冷，您那暖和不？要什么样的人？要求是什么？ 3.学完专栏后，如何过技术面试（面试攻略），最好是能过极客时间的那种的。祝大家节日快乐！^_^
作者回复: 你好，感谢Gojustforfun你的留言，由于你的问题有点多，我挑主要的问题回答，对于高并发实践这里建议是这样，你可以在工作中对于自己维护的系统进行尝试改造，当然你要注意风险不要改坏了，我碰到过有同学跟老板说：老板你辛苦下，我测试下高并发，笑。我们平时用的系统大多数都属于读多写少的服务，所以可以考虑前期先从加缓存入手，注意数据的一致性，在有一定心得体验后，在本地搭建压测环境，进一步论证，多投放在测试环境中使用，待一段多次经过测试验证后，再投入使用，当然这个只是对于缓存，其他方面的服务，我的建议是真实在项目中用起来
2022-10-24归属地：北京

22
每天晒白牙
老师，用啥语言讲解
作者回复: 每天你好，目前是使用的伪代码，偏GO，也有C++代码，重点是讲思路和设计
2022-10-24归属地：北京

12
奕
老师方不方便给我们讲讲极客时间的高并发架构吗？
作者回复: 你好，一步，很高兴收到你的需求，后续的内容中我会讲一些，但是不会特别提及是那个厂的架构～
2022-10-28归属地：北京

5
骷髅骨头
能提供一些可以提前预备知识的书和资料吗
作者回复: 你好，骷髅骨头，很高兴收到你的留言，由于高并发是整个互联网都在研究的方向，所以这个范围有些大，个人建议找一些典型的项目先进行了解，特别是缓存、队列、分布式服务，其中典型的是Redis、Kafka、ElasticSearch，建议对他们进行深挖！
2022-10-25归属地：北京

4
拾掇拾掇
期待老师的课，让我这个小厂菜鸡，有架构设计的能力
作者回复: 期望我的课能够给你更多视角去思考，在学习过程中，如果碰到问题随时留言～
2022-10-24归属地：北京

4
风轻扬
老师，在开源项目的参与上，能不能帮指点一二。比如：对新手来说，如何选择开源项目进行参与？后面如何持续跟进参与
作者回复: 你好，行则将至，我的建议是找一个比较活跃的社区，加入他们的群，同时阅读开源的源码，清楚他的思想，但是这个过程是一个长期的过程，所以你找的开源要找用的人多并且一直活跃的，剩下就是在自己的工作中对其进行使用，有自己见解后，尝试提出自己的见解以及提交PR、报issue bug，如果你做的方向不错，社区会很快接纳你
2022-10-26归属地：北京

3
梅子黄时雨
既有实战又有系统化的思维。
作者回复: 你好，梅子黄时雨，感谢支持，有任何疑问随时留言交流！
2022-12-13归属地：内蒙古

2
hurrier
老师好，我想请教下如何参与开源。很多有意思的开源但是在工作中并不会用到，这时候怎么才能参与到开源里面去
作者回复: 你好，hurrier，如果在工作中用不到，会碰到很大的认知障碍，核心在于我们的视角和用户的视角会不一致，造成和社区伙伴的隔膜。所以总的来说，开源社区如果想开心的玩在一起，还是需要投入精力一起开心的。所以推荐找一些能结合进来的项目一起做，毕竟看看不亲自参与的吃瓜，是没什么真正成长的。
2022-11-03归属地：北京

2
宁缺毋滥
https://mp.weixin.qq.com/s/220XLSsMw8N4CJIsRZU3DQ
作者回复: 谢谢捧场！
2023-02-23归属地：上海

1
李蕾
从个人工作经验浅谈： 1）当业务很小的时候，不需要什么高并发，直接堆机器就可以，很多业务生命周期就是一个月，可能更多的就是稳定性； 2）业务开始增长时，这时候很多就是缝缝补补，开始研究数据结构、代码优化、JVM优化... 3)即使是最简单的业务当并发开始过万，每天的数据条数过亿，瞬时消息峰值几千万，每天的数据几百G甚至过T了，高并发走起，分布式数据库搞起.....
作者回复: 你好，李蕾，写的很好，补充点其他的，第一条几乎覆盖了大半的互联网公司，但是这种业务不可避免的偶尔用户流量大导致服务崩，第二阶段开始需要运维、底层研发人员、第三阶段需要集团公司去做了，普通公司成本扛不住～
2022-11-26归属地：北京
2
1