左耳听风
陈皓
网名“左耳朵耗子”,资深技术专家
180928 人已学习
新⼈⾸单¥98
登录后,你可以任选6讲全文学习
课程目录
已完结/共 119 讲
左耳听风
15
15
1.0x
00:00/00:00
登录|注册

22 | 从亚马逊的实践,谈分布式系统的难点

缺乏统一的视图和管理
防火胜于救火
故障影响面过大
故障恢复时间过长
数据库的隔离
木桶短板效应
非关键业务被关键业务所依赖
开发和运维的过程和方法不标准
数据格式不标准
通讯协议不标准
软件和应用不标准
分布式系统的技术栈
多层架构的运维复杂度更大
故障发生的概率更大
系统架构中的服务依赖性问题
异构系统的不标准问题
内部服务和外部服务一致
运维优先和自动化
开发人员的多职能角色
分布式服务查错
分布式团队架构
亚马逊的架构规定
下一步的主题
需要注意的问题
亚马逊的实践
分布式系统架构的难点

该思维导图由 AI 生成,仅供参考

你好,我是陈皓,网名左耳朵耗子。
从目前已经公开的资料来看,分布式服务化架构思想实践最早的公司应该是亚马逊。因为早在 2002 年的时候,亚马逊 CEO 杰夫·贝索斯(Jeff Bezos)就向全公司颁布了下面的这几条架构规定(来自《Steve Yegge 对 Google 平台吐槽》一文)。
所有团队的程序模块都要通过 Service Interface 方式将其数据与功能开放出来。
团队间程序模块的信息通信,都要通过这些接口。
除此之外没有其它的通信方式。其他形式一概不允许:不能直接链结别的程序(把其他团队的程序当作动态链接库来链接),不能直接读取其他团队的数据库,不能使用共享内存模式,不能使用别人模块的后门,等等。唯一允许的通信方式是调用 Service Interface。
任何技术都可以使用。比如:HTTP、CORBA、Pub/Sub、自定义的网络协议等。
所有的 Service Interface,毫无例外,都必须从骨子里到表面上设计成能对外界开放的。也就是说,团队必须做好规划与设计,以便未来把接口开放给全世界的程序员,没有任何例外。
不这样做的人会被炒鱿鱼。
这应该就是 AWS(Amazon Web Service)出现的基因吧。当然,前面说过,采用分布式系统架构后会出现很多的问题。比如:
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结

亚马逊的分布式服务架构实践经验总结了解决分布式系统架构中的难点。文章强调了分布式团队架构的重要性,强调了良性的分工策略和团队的自我维护能力。此外,文章还提到了分布式系统中需要注意的问题,如服务依赖性、故障发生概率增加、多层架构的运维复杂度等,并给出了相应的解决方案。文章内容丰富,涵盖了分布式系统架构的多个方面,对于读者快速了解分布式系统架构的难点和解决方法具有很高的参考价值。总的来说,本文通过亚马逊的实践经验和策略,突出了分布式系统架构的复杂性和挑战,为读者提供了宝贵的技术经验和启示。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《左耳听风》
新⼈⾸单¥98
立即购买
登录 后留言

全部留言(71)

  • 最新
  • 精选
  • 枫晴 andy
    非常喜欢分布式系统这个专题,后面能不能再写一些。

    作者回复: 有的

    2018-04-06
    3
  • 蚂蚁内推+v
    说下为什么API都返回200,在Body里写错误信息:因为有的运营商会拦截非200请求,然后返回广告😂
    2018-12-10
    19
    177
  • Michael
    耗子哥能不能讲一下作为新手如何去了解分布式 如何实践分布式 特别是对于我们这种公司规模小 可能短时间用不上分布式 但是又想学习的同学 给我们一些建议?
    2017-12-12
    65
  • AI
    国内按技能分工还是主流,采用分布式服务所产生的问题的确很多。特别是对于电商,业务链条非常长,环环依赖,业务上的沟通协调、排查问题方面要花大把时间。毕竟是各管各的,基本上没谁能对整个业务和技术链条都了解清楚。即便有,那也解决不了全公司的问题。公司大了,在开发语言、通信协议、数据规范都会尽量统一,运维逐步自动化,可视化监控并定义关键指标,同时还需要全链路的监控,这一切看起来非常好。但对于一家从3、5个人发展到几百、上千甚至上万人的时候,谁又曾想公司能壮大如此。即便想到了,在那时候技术也不是重点不会换入那么多资源,那时也不一定能找到愿意加入的技术牛人。因此,在公司高速成长的过程中,技术往往是受不到足够重视的,老板也没那么懂。所以技术上肯定会是比较杂乱的,各种语言,各种协议,各种部署方式,种种的异构在后期想统一的时候肯定是非常困难的,这个标准化的过程对于大多数公司来说将会是持久战。
    2017-12-14
    2
    62
  • neohope
    一说微服务架构,就一把鼻涕一把泪的。从单体结构到分布式,从来就不是一个单纯的技术问题,而是整个团队的思路都要转变,能力都要提升才行。我们从两年前起,开始从单体结构相分布式架构迁移,那一路过来的酸爽,现在闻起来还像泡在醋缸里一样。 最大的体会就是,程序员写服务爽了,实施或运维部署的时候难度一下加大了好多。以前排查问题找一个地方就行,现在各种中间件,各种服务,各种网络问题都要去看 。有一次,我们因为一个配置有问题,导致在特殊语句处理时数据库处理性能严重下降,dubbo全线卡死,最后导致服务全线雪崩,前方工程师没有经验,单纯的重启了服务,于是继续雪崩,就像被ddos攻击了一样。现在客户还各种质疑,“你们说了新架构很牛啊,怎么恢复用了这么久,排错用了这么久”。 每次遇到问题,就添加一类监控,磕磕碰碰的总算活了下来。回想下来,总是大家做了过多好的假设,但大家都知道,该发生的总会发生的。感觉我们现在仍把研发和实施分开,其实问题挺大的。
    2018-06-15
    1
    48
  • sitin
    我记得200在body处理是考虑运营商劫持问题
    2017-12-26
    1
    20
  • 测试
    记得之前一个领导说过,分布式系统不要相信上游系统不出问题,不能因为对方系统问题,把我们给系统影响到,几次线上重大事故都是因此而起
    2018-06-02
    3
    17
  • 刘超
    非常不赞同接口直接返回非200错误码?应将服务异常与业务异常区分对待,服务异常使用HTTP错误码,业务异常用返回值中自定义的错误码,并返回相应错误提示。 不知道课主当时遇到的是什么场景,但被课主否定的那种做法在绝大多数情况下是可取的。
    2020-06-26
    2
    14
  • 丁春秋
    耗子哥,本留言可能不完全切合文章内容哈。看了这么久您的文章,结合我自己的工作,忽然意识到了是我自己由于思维上的懒惰或别的原因把工作搞成了“苦力”,想到啥说啥,权当留言了😊。比如:1、假如我负责的模块经历了三次大的迭代,每次包含至少三次小迭代,我几乎从来没有想过做一个自动化的测试程序,做到自动化冒烟(模块对外提供restful接口,像是七牛或阿里云的创建bucket或其他对象存储的接口)。比较极端的例子,针对一个前端抓拍机离线,我的一个模块启用了针对图片上传的socket的keeplive机制,为了做测试,每次我都把那么重的球机搬到工位上,配置完网络,还要对着一段道路监控的录像模拟抓拍,搞得表面上看起来很忙碌,而且搞了很多次,居然没有想过用一个软件的方式去模拟,想来真是惭愧,本来让机器干的活,我自己干了。你说的对,应该尽可能让人控制代码,代码去控制设备。应该想尽一切办法去自动化,提高效率。回到刚才说的迭代,假如有九次迭代,我发版本前都是用别的组写的图形化的demo手动一个功能一个功能挨个手动点击操作,中间浪费了多少时间啊,还不算上代码稍微变动,就要回归冒烟(干久了都有些强迫症倾向了,老怕冒烟过不了被打回)。2、我还发现有些地方做的很不够,侯捷好像说过学从难处学,用从易处用,我自己的理解,比如学习c++,守着stl和boost的宝库,就要多看源码,当然还有其他好的开源软件,这类学习上的大的策略好像没听耗子哥讲过,希望指导以下。还有分布式程序的单元测试,自动化测试什么的,我一直感觉有很多值得挖掘的工程实践上的知识点或者套路。
    2017-12-14
    11
  • 小羊
    亚马逊经验: 1.分布式服务的架构需要分布式服务的团队 2.查错不易 3.运维优先,崇尚自动化和简化 4.无专职运维和测试,开发做所有事情 5.内部服务和外部服务一致 分布式系统问题: 1.异构系统不标准 2.故障率大 3.服务间依赖性问题 4.多层架构导致运维难度加大
    2018-10-24
    10
收起评论
显示
设置
留言
71
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部