解读华为MindSpore三大技术创新点
极客时间编辑部
讲述:丁婵大小:5.71M时长:04:10
随着世界向智能化、数字化转型,AI+ 云将成为构建未来智联世界的核心,在 AIoT 领域出现了更多应用场景的落地。在应用开发方面,开发者在对跨场景一致开发和调试上,往往需要经过多次应用开发和部署,才能确保应用在端、边、云上的全场景适配,进一步增加了 AI 开发门槛。同时,这些应用也带来了低时延和巨量数据的计算要求,对芯片性能和算力部署提出了新的挑战。
为了帮助开发者降低开发难度和运营成本,同时承载端、边、云全场景 AI 计算需求,华为发布了全栈全场景 AI 解决方案,其中包括基于昇腾 AI 处理器的 Atlas 人工智能计算平台、Mind Studio 一站式集成开发环境与 MindSpore 全场景 AI 计算框架。日前,在华为昇腾 AI 技术沙龙苏州站,华为昇腾 AI 工程师田晓亮解读了 MindSpore 全场景 AI 计算框架的三个创新点。在此分享给你,希望能给你带来参考价值。
MindSpore 是华为推出的统一训练和推理框架,可以在全场景保持一致的开发体验。目前市面上的计算框架存在着开发门槛高、运行成本高、部署难度大等亟待解决的问题。对于这些问题,MindSpore 的工程师进行了三项技术创新:新编程范式、执行模式及协作方式。
新编程范式,是编程范式的决定性因素之一,是 AI 框架采用的自动微分技术。MindSpore 采用源码转换的机制生成抽象语法树,基于 IR 编译优化,在易用性和性能上都具有很强的先进性。首先在接口层支持原生的 Python 编程和控制流的表达,增强可编程性。在中间编译层复用编译器优化能力进行代码优化,实现更高性能。在算子层利用高效能优化器、多面体优化器以及软硬协同优化,就可以自动化生成高性能算子。
新执行模式上,MindSpore 基于 AI 运行态的挑战,提出 on-device 的执行模式。它使用了四项关键技术。第一项是通过深度图优化技术,最大化“数据 - 计算 - 通信”的并行度。第二项是通过梯度数据驱动的自适应图切分优化,实现去中心化的自主 All Reduce。第三项是自动整图切分,按算子输入输出数据维度切分整图,融合数据并行与模型并行。第四项是集群拓扑感知调度,感知集群拓扑,自动调度子图执行,实现通信开销最小。
协作方式的创新在于,端、边、云三类应用场景具有不同的需求与目标,通过统一的框架来实现按需协同。
基于开发态友好、运行态高效、部署态灵活的三个设计理念,MindSpore 核心架构分为四层:端 - 边 - 云按需协作分布式架构(部署、调度、通讯等)在同一层,再往下是执行高效层。另外是并行的 Pipeline 执行层和深度图的优化、算子的融合,再上层有 MindSpore IR 计算图表达。MindSpore 支持了自动微分、自动并行、自动调优的特性,为全场景统一 API 提供支撑:开发算法即代码、运行高效、部署态灵活形成一体化。
以上就是 MindSpore 全场景 AI 计算框架的实践案例,希望对你有所帮助。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论