大规模数据处理实战
蔡元楠
硅谷资深工程师
41608 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
课程目录
已完结/共 46 讲
大规模数据处理实战
15
15
1.0x
00:00/00:00
登录|注册

40 | 大规模数据处理未来之路

对Apache Beam的疑问
Flink对Dataflow Model的支持
推动大规模数据处理领域的最新技术发展
中间的抽象转换层
胜任批流统一的任务
Apache Beam
Flink
Spark
Hadoop
大规模数据处理在未来的应用与展望
现实世界中常见的大规模数据处理架构
基础概念与设计模式
思考题
Beam Runner功能的迭代速度
Apache Beam能带来什么?
技术迭代带来的烦恼
大规模数据处理实战专栏
跟随Beam,踏上大规模数据处理未来之路

该思维导图由 AI 生成,仅供参考

你好,我是蔡元楠。
今天我要分享的内容是“大规模数据处理实战”专栏的最后一讲。
我相信通过整个专栏的系统学习,你已经掌握了大规模数据处理的基础概念与设计模式。同时,我也相信,专栏中对现实世界中常见的大规模数据处理架构的深入探讨,可以在解决现实难题时为你提供一些思路。
但我更希望的是,通过模块六中对大规模数据处理在未来的应用与展望讲解,让你吃下一颗定心丸,那就是,大规模数据处理技术是在放眼未来的几十年中都依然会是炙手可热的一项技术,不会被淘汰。
你不难发现,我在专栏的后半部分,花了不少的篇幅来专门介绍 Apache Beam 的各种概念、底层思想以及实际应用的。我个人是十分认同 Google 所推崇的 Dataflow Model 的计算模型,也相信未来 Apache Beam 的发展前景是很好的。
所以在专栏的最后一讲,我想和你讲讲我对数据处理框架和对 Beam 的一些看法和展望。

技术迭代带来的烦恼

在专栏的后半部分,我们不断深入探讨了 Apache Beam。有同学曾经在留言中提过一个问题:“我已经掌握好 Spark 了,也觉得 Spark 的语法更简练,为什么还需要学习 Beam 呢?”
对于这个问题,我相信在你刚刚接触 Beam 的时候,多多少少都会有相同的疑问。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结

本文总结了大规模数据处理实战专栏的最后一讲,重点介绍了Apache Beam的应用与展望。作者首先讨论了技术迭代带来的烦恼,指出工程师在面临新技术框架出现时常常陷入选择困难,需要权衡是否放弃现有技术框架进行迁移。然后,作者详细介绍了Apache Beam的优势,包括其能够胜任批流统一任务、减少新技术学习时间成本、推动大规模数据处理领域的最新技术发展等。此外,作者还强调了Beam Runner功能的迭代速度,以Flink支持整个Dataflow的功能为例,展示了Beam Runner功能的快速迭代。最后,作者鼓励读者提出对Apache Beam的疑问,并欢迎读者分享自己的学习体会。 本文通过对Apache Beam的优势和发展前景进行详细阐述,为读者提供了对大规模数据处理未来发展方向的重要性的深刻认识。同时,通过实例展示了Beam Runner功能的迭代速度,为读者提供了对Apache Beam的技术特点的全面了解。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《大规模数据处理实战》
新⼈⾸单¥59
立即购买
登录 后留言

全部留言(8)

  • 最新
  • 精选
  • 李孟聊AI
    请教个问题,不知道老师对数据中台有什么见解?
    2019-07-26
    1
    8
  • Fiery
    其实在实际中有一个更大的问题就是,大数据工程师倒是想用beam,但是他们只是写pipeline的,真正布署和维护集群的是Infra和DevOps,能决定是否迁移到新runner的是底层系统工程团队而不是专注业务逻辑的工程师,这种情况下,基本还是绑定在之前已经成熟的系统中,除非之前的系统已经完全不能适应新用例了。所以这么看的话,Spark也是很聪明的在很早就统一了API并且非常快速的在跟进批流处理的潮流,感觉反而是用同样的原理在依靠Spark API的知名度和流行度反过来压制Flink或者Beam的推广。
    2020-03-16
    2
  • 李孟聊AI
    我现在就用beam做些需求,谢谢老师专栏,学到很多!
    2019-07-26
    2
  • piboye
    老师,sql+udf+webassebly 有没有可能取代api的模式?
    2022-01-20
    1
  • 美美
    使用新runner之前不可能不学习的,开发和迁移成本倒是降了不少
    2020-01-15
    1
  • ironhide1024
    老师,请问beam有没有推荐的学习书籍或相关资源?
    2019-12-03
    1
  • 正向成长
    之前专注于单机上位机开发,在工作中意识到数据有很庞大的价值,萌生并摸索开始挖掘数据的价值,通过老师的课程很坚定想要做数据处理流方向,转行不易,感恩,也希望自己可以探索出一条适合自己的路,深挖
    2020-11-09
  • 之渊
    如果早知道有apache beam 就不用花那么多时间精力去管spark ,flink 了
    2020-08-24
收起评论
显示
设置
留言
8
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部