英特尔重磅开源深度学习系统编译器nGraph
极客时间编辑部
讲述:丁婵大小:1.18M时长:02:35
近日,英特尔正式宣布开源 nGraph,这是一款能够兼容所有框架的深度神经网络(DNN)模型编译器,可用于多种硬件设备。利用 nGraph,数据科学家们将可以专注于数据科学工作,而不需要再分神于如何调整 DNN 模型,以便在不同设备上高效地实现训练与运行。
目前,nGraph 可以直接支持 TensorFlow、MXNet 以及 neon,并可以间接地通过 ONNX 支持 CNTK、PyTorch、Caffe2。用户可以将这些框架运行在多种设备之上,具体包括英特尔架构、GPU、英特尔 Nervana 神经网络处理器(简称 NNP)等。
当深度学习框架作为模型训练和推断的工具首次出现时,其在设计层面仍然专门针对特定设备的内核作出优化。因此,把深度学习模型部署到其它更先进的设备时,会在模型定义上暴露出许多细节问题,从而限制了其适应性和可移植性。
在传统方案当中,算法开发人员需要经历枯燥的过程才能够将模型引入其它设备当中。此外,模型在不同框架上的运行也会带来众多难题,这是因为开发人员必须将模型本身与设备特性进行拆分,并将其转换为新框架中的类似运算,最终对首选旋转设备进行必要的调整,以立足新框架进行配置。
正因为如此,英特尔设计了 nGraph,希望能大大减少相关工程任务的复杂性。虽然通过该项目以及英特尔 MKL-DNN 这样的库,能够实现深度学习基元的内核优化,但英特尔认为提供更多编译器选项将能够进一步优化方案的性能表现。
在具体的实践运作中,安装 nGraph 库并利用该库编写或编译框架,就可以运行模型的训练与推理任务。开发人员还可以将 nGraph 指定为框架后端,在任意支持的系统上用命令行运行该库。
在框架优化方面,英特尔拥有大量的开发经验。他们借用了以前工作带来的附加效益,使得通过 nGraph 开发的优化方法可以为所有框架带来效益。
英特尔表示,nGraph 将继续增加对更多设备的支持能力和更强大的图形优化能力,包括面向特定设备的 op 融合、更理想的工作调度器以及更快的自定义 op 内核等。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》,如需阅读全部文章,
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论