贾扬清：AI框架应关注重复造轮子之外的挑战
极客时间编辑部
讲述：子阳大小：1.72M时长：03:45
在早前阿里一次内部演讲中，阿里巴巴集团副总裁、阿里云智能计算平台事业部总裁贾扬清表达了这样一个观点，他认为“AI 框架的同质化说明技术的挑战在其他更广泛的方向”。对于做出如此判断的理由，贾扬清在近日的采访中向 InfoQ 记者做了更详细的说明。
贾扬清将当前 AI 框架的用途归结为最重要的两点，一是支持在框架之上简单灵活地建模，也可以叫做开发的灵活性；另一点是实现更高效的计算，因为一旦把 AI 算法应用到工程上，基础架构的效率会变得非常重要。
比如推荐系统可能要跑在几万台甚至几十万台机器上，性能优化就必须做好。当前大多数框架都在朝这两个方向努力，包括 TensorFlow 2.0 加入了 Eager Mode 和 PyTorch 1.0 将旧版本的 PyTorch 和 Caffe 合并，都是在逐渐解决前面提到的这两个问题，补齐自己的短板。
其实目前已有的框架都在互相学习和借鉴，业界要解决的问题已经开始逐渐变得清晰和明朗化，解决方案的设计也在朝着同一个方向走。这个时候，从一定程度上来说，重新造一个轮子到底有多大的意义呢？这是 AI 工程师需要深入考虑的问题。
更深地说，几年前，开发者说到 AI 时有点将 AI 等同于 AI 框架这样的情况，但到了今天，整个 AI 工程的解决方案做出来，其实框架是里面很薄的一部分。贾扬清认为 AI 框架就好像计算机编程语言，比如 C++ 是一个比较好用的语言，但光有它是不够的，框架真正能体现价值的原因，在于它有非常好的生态，而且有非常多的科学计算和外部服务等。所以从框架开始，往上跟往下都有非常多新的战场或者说更多的领域需要我们关注。
往下可能包括系统上的创新，比如怎么做高性能计算、怎么做软硬件协同设计等；往上做的话，框架本身可能没有做太多大规模训练、模型迭代等工作的完整工具链。因此阿里现在关注的第一个是拥抱框架，第二是把 AI 整个链路做出来，比如前段时间阿里开源了一个 MNN 引擎，它可以让我们更好地在手机端、嵌入式端运行模型。
另外，阿里还有一个开源项目叫 XDL，XDL 的一个想法是怎么构建大规模稀疏化的推荐系统，稀疏化建模是很多通用框架上非常缺的一层：在基本的框架上面，需要有一个高层的抽象，或者是更加跟业务相关的工具平台来解决这个问题。
为什么大规模稀疏的系统有用呢？因为所有的推荐系统都是跟它有关系的，比如说阿里巴巴怎么样来做推荐，用户在不同的新闻网站上面感兴趣的新闻是什么，都涉及到稀疏数据，所以这一块光有通用计算框架解决不了，AI 端到端的工程需要在整个栈上发力。
在贾扬清看来，AI 编译器是接下来比较有趣并且非常重要的一个研究方向。首先，深度学习框架之前往往需要手写各种算子的实现，如果有一个新硬件版本出来，这些函数往往需要重新优化；其次，做优化的时候，这些手写函数到底是不是最优的，即使是专家，是否能穷尽所有可能的办法找到性能最优解，都是不一定的。而像 XLA、TVM 这样的 AI 编译器就是在解决这些问题。
以上就是今天的内容，希望对你有所帮助。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》，如需阅读全部文章，
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
全部留言(1)
- 最新
- 精选
GEEK_jahen总结XLA、TVM这样的AI编译器，其实是在解决算子适配新硬件的自动优化，能够节约比较多的人力投入。
收起评论