Airflow成为Apache软件基金会的顶级项目
极客时间编辑部
讲述:丁婵大小:2.35M时长:02:34
近日,Apache 软件基金会宣布 Airflow 为顶级项目。Airflow 是一个灵活可扩展的工作流自动化调度系统,用于创建和管理数百 PB 级的大数据处理管道。从 Apache 孵化器毕业意味着 Airflow 社区和产品在 ASF 的管理流程和原则下得到了很好的治理。
Airflow 副总裁布鲁金(Bolke de Bruin)表示,一开始,Airflow 就迅速地成为工作流编排的事实标准。Airflow 已经在开发人员和数据科学家中获得了广泛应用,这要归功于它的配置即代码。这让基金会在 ASF 孵化过程中赢得了社区的支持,社区不仅使用 Airflow,也为其做出了贡献。由于 Airflow 易于使用、可扩展并拥有多样化的社区力量,受到了企业和初创公司的欢迎,现在可以升级为顶级项目。
据悉,Airflow 用于编排复杂计算工作流。通过智能调度、数据库和依赖管理、错误处理和日志记录,它实现了从单个服务器到大型集群资源管理的自动化。
该项目用 Python 编写,具有高度可扩展性,并能够运行用其它语言编写的任务,可以与常用架构和项目集成,例如 AWS、S3、Docker、Kubernetes、MySQL 等。2014 年,Airflow 诞生于 Airbnb,并于 2016 年进入 Apache 孵化器。
Adobe Experience Platform 首席架构师表示,Adobe Experience Platform 构建于云基础设施之上,利用多种开源技术,包括 Apache Spark、Kafka、Hadoop、Storm 等。Airflow 是大数据处理管道编排引擎生态系统非常好的新成员,Adobe Experience Cloud 的众多场景已经使用了 Airflow,并可以在很短的时间内看到实验成果。
现如今,工作流编排在大数据时代扮演着至关重要的角色。该领域发展非常快,并且新的数据思维刚开始产生影响。Airflow 是数据时代的产物,因而定位非常好,并且因为年轻,还有很多发展余地。它可以利用科学计算、企业、初创公司的聪明才智得到更进一步的改进。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论