阿里开源超大规模矩阵计算框架Mars
极客时间编辑部
讲述:杜力大小:1.89M时长:02:03
近日,阿里宣布开源 Mars,这是由阿里云高级软件工程师秦续业等人开发的一个基于张量的大规模数据计算的统一框架,目前,它已经在 GitHub 上开源。该工具能够用于多个工作站,而且即使在单块 CPU 的情况下,它的矩阵运算速度也比 NumPy(MKL)快。
据了解,Mars 为张量的分布式执行提供了一个库。分布式应用程序使用 mars.actors 提供的 actor 模型构建,主要由三部分组成:调度器、工作站和 Web 服务。
用户使用张量构建的图形提交任务。Web 服务接收张量图并将它们发送到调度器,其中,图形被编译成操作数(operand)图,在提交给工作站之前进行分析和分区。然后,调度器创建并分散操作数 actor,这些操作数 actor 在给定一致哈希的情况下,控制其他调度器上的工作站任务执行,然后激活操作数并以拓扑的顺序执行。当执行与终止张量相关的所有操作数时,图形将被标记为已完成,客户端可以从调度器代理的工作站中提取结果。
另外,当正在执行操作数图时,正确地选择执行顺或许能够减少存储在集群中的数据总量,从而降低块被溢出到磁盘中的可能性。正确选择工作站还可以减少执行中转移所需的数据量。
据悉,Mars 既可以向内扩展到单机,也可以向外扩展到有数千台计算机的集群。本地和分布式版本都共享相同的代码,因此随着数据增加,从单机迁移到集群是很简单的。
同时,用户可以用它在单机上运行包括基于线程的调度,以及捆绑整个分布式组件的本地集群调度。Mars 也很容易通过启动集群中不同机器上的 Mars 分布式运行时的不同组件来扩展到一个集群。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论