何亮亮,小米 深度学习框架负责人
随着深度学习领域的快速发展,以及移动端芯片计算能力的逐步提升,设备端上的深度学习推理正在变成一个趋势,一个好用的深度学习框架成为深度学习应用落地的关键。MACE 是开源的专门为移动端芯片优化的深度学习框架。本次分享主要介绍 MACE 在开发和使用中的一些经验总结。
设备端深度学习的趋势
设备端深度学习框架的优化方法
(1)性能优化
(2)内存优化
(3)框架精简
(4)模型加载
(5)模型安全