极客视点
极客时间编辑部
极客时间编辑部
113240 人已学习
免费领取
课程目录
已完结/共 3766 讲
2020年09月 (90讲)
时长 05:33
2020年08月 (93讲)
2020年07月 (93讲)
时长 05:51
2020年06月 (90讲)
2020年05月 (93讲)
2020年04月 (90讲)
2020年03月 (92讲)
时长 04:14
2020年02月 (87讲)
2020年01月 (91讲)
时长 00:00
2019年12月 (93讲)
2019年11月 (89讲)
2019年10月 (92讲)
2019年09月 (90讲)
时长 00:00
2019年08月 (91讲)
2019年07月 (92讲)
时长 03:45
2019年06月 (90讲)
2019年05月 (99讲)
2019年04月 (114讲)
2019年03月 (122讲)
2019年02月 (102讲)
2019年01月 (104讲)
2018年12月 (98讲)
2018年11月 (105讲)
时长 01:23
2018年10月 (123讲)
时长 02:06
2018年09月 (119讲)
2018年08月 (123讲)
2018年07月 (124讲)
2018年06月 (119讲)
时长 02:11
2018年05月 (124讲)
时长 03:16
2018年04月 (120讲)
2018年03月 (124讲)
2018年02月 (112讲)
2018年01月 (124讲)
时长 02:30
时长 02:34
2017年12月 (124讲)
时长 03:09
2017年11月 (120讲)
2017年10月 (86讲)
时长 03:18
时长 03:31
时长 04:25
极客视点
15
15
1.0x
00:00/02:50
登录|注册

LinkedIn重磅发布Samza 1.0

讲述:丁婵大小:2.60M时长:02:50
近日,LinkedIn 正式发布了开源流式计算框架 Samza 的 1.0 版本。现如今,实时摄取和处理大量数据的能力,对于越来越多的企业来说是一件非常有趣的事情。这是一个快速增长的领域,因为这些应用场景可以直接转化为商业利益。
Apache Samza 于 2013 年在 LinkedIn 诞生,并于 2014 年成为 Apache 的顶级项目。现在,LinkedIn 有 3000 多个应用程序在使用它,用它来进行异常检测、欺诈检测、监控性能、通知、实时分析等。
LinkedIn Samza 团队负责人萨马斯·谢蒂(Samarth Shetty)表示,当他们开始接触流式处理时,已有的流式处理框架很少能够帮助他们应对 LinkedIn 的规模或技术问题。因此,他们认为最好的办法是开发自己的框架。
与 Kafka 和 Confluent 不同的是,Samza 并没有发展成为拥有独立供应商的产品。据悉,LinkedIn 有一群工程师致力于从事流式处理开发工作,而 Samza 是这些工作不可或缺的一部分。
Samza 提供了一组新的 API,与 Apache Beam 兼容。Apache Beam 是一个开源项目,提供了一组统一的 API,用于跨执行引擎移植处理管道,包括 Samza、Spark 和 Flink。Beam 还支持使用其他编程语言进行数据处理,包括数据科学领域的宠儿——Python。
也就是说,现在可以使用 Java、Scala 或 Python 在 Beam 上开发流式应用程序,并且可以将它们移植到支持它们的框架中,甚至可以在 Google Cloud Dataflow 上运行它们。
此外,Samza 1.0 的另一个改进方面是集群管理器的独立性。在 Samza 1.0 之前,Samza 需要借助 YARN 进行资源管理和应用程序的分布式执行。虽然使用 YARN 没什么问题,但用户希望能够灵活地在任意环境中运行流式处理,而 Samza 1.0 就可以通过提供独立运行模式来解决这个问题。
这种模式允许将 Samza 作为库嵌入到应用程序中,并在任意资源管理器中运行。但是还存在几个问题,包括独立模式还不支持像窗口和连接这样的有状态流式处理,并且对 Kubernetes 的支持还不够。目前,Samza 团队正在努力解决这些问题。
此外,Samza 1.0 还支持表和流的连接,并改进了 Samza 应用程序的可测试性。如果你想要了解更多信息,可以点击文末链接,查看官方发布的详细公告
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
免费领取
登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论
显示
设置
留言
收藏
26
沉浸
阅读
分享
手机端
快捷键
回顶部