端侧AI：从探索尝试到逐步展开
极客时间编辑部
讲述：丁婵大小：6.61M时长：04:48
人工智能发展已进入“落地为王”阶段，端侧 AI 相比云侧 AI，具有低延时、保护数据隐私、节省云端计算资源等优势，现已成为端侧技术新热点，并且紧贴用户在 AR 特效、搜索推荐等方面有诸多创新应用。近日，InfoQ 记者冉叶兰邀请阿里巴巴资深无线开发专家吕承飞（吕行）分享了端侧 AI 的现状及其未来。以下为重点内容。
端侧 AI 介绍和发展回顾
吕承飞表示，端侧 AI 正从尝试应⽤变成驱动业务创新的核⼼推动⼒之⼀。
AI 在智能⼿机和智能设备中应⽤越来越广泛，⽐如短视频 App 中的 AR 特效、⼈脸⻔禁等。随着端上算⼒不断增强和算法的快速发展，特别是模型压缩技术和⼩模型算法设计的不断成熟，在端侧运⾏算法模型成为了可能。
简单来说，端侧 AI 就是在终端设备做机器学习算法应⽤，这⾥的“终端设备”主要是指⼿机，当然也包括不断出现的各种智能设备和 IoT 设备。⽬前，端侧 AI 主要是推理运⾏。相较于云侧 AI，端侧 AI 具有低延时、兼顾数据隐私、节省云端计算资源以及不依赖⽹络提供稳定服务等显著优势。
自 2017 年以来，端侧 AI 在底层技术和业务应⽤等⽅⾯都取得了快速发展，逐渐从尝试性应⽤变成驱动业务创新的核⼼推动⼒之⼀。基于端侧 AI 的⼈脸检测、⼈体姿态、⼿势等算法补⻬了 AR 特效中的交互能⼒，基于端侧 AI 的实时⽤户感知和理解能⼒，对于搜索推荐、安全⻛控、系统优化等业务都有帮助。在智能硬件 IoT 领域、⼈脸考勤机、 智能⻔禁锁，以及⻋载 ADAS 等应⽤也都与端侧 AI 相关。
从技术发展来看，端侧推理引擎逐步成熟，基本解决了算法模型在端侧能不能跑的问题，⽽且国内框架相⽐国外具有普遍的优势。国内开源的 NCNN、MNN、MACE 以及 Paddle-Lite 等经过不断打磨、优化，已经取得了不错效果。国外 TFLite 和 PyTorch 也开始重视端侧推理，重点投⼊，性能提升明显。
总的来说，虽然端侧 AI ⽬前仍处于发展初期，但是相关应⽤已经展示出其巨⼤潜⼒。
阿⾥端侧 AI 发展状况
据吕承飞介绍，阿里巴巴最早从 2016 年就有业务尝试端侧 AI 能⼒，并在 2017 年开始有计划地建设和探索端侧 AI ⽅向。经过这⼏年的发展，端侧 AI 已经成为移动 App 的基础能⼒，助⼒业务发展和创新突破，并且也取得了不错的业务成果。比如⼿淘信息流推荐、⽀付宝扫福、⼿淘拍⽴淘、智能 Push 以及闲⻥智能发布等场景都是端侧 AI 的典型应⽤。
端侧 AI 未来展望
吕承飞认为，端侧 AI 的应⽤会向更⼤范围、更多领域铺开并切实给业务带来价值。从⼤公司尝鲜到普通公司逐步推开，它会真正成为⼀项基础能⼒。在视觉算法、⼤数据、⾃然语⾔处理、语⾳等算法领域将有更多应用。例如：⾕歌发布的 ALBERT 在移动端部署应⽤已经成为可能；TinyML 技术从智能硬件到 IoT 设备也在不断成熟，正在成为新的蓝海。
目前，端侧 AI 相⽐云侧 AI ⼀站式机器学习平台，整体技术体系还不够完善，针对⾮专业算法同学如何能够⾃主解决数据和算法问题产出模型、针对⼤前端和算法同学如何提⾼协同效率等问题的解决，势必会进⼀步推动整个端侧 AI 的发展。同时，5G 技术的发展也会推动端侧 AI 的发展。
总的来说，端侧 AI 经过⼏年发展，虽然在技术建设和业务应⽤方面都取得了⼀些进展，但仍处于⼤规模应⽤爆发前夜。随着算⼒和算法不断进步，应⽤⻔槛的不断降低，结合 AR、视频、5G 以及 IoT 等技术，端侧 AI 必将迎来更⼤的发展。
以上就是今天的内容，你如何看待端侧 AI 的发展呢？
原文链接：端侧 AI：从探索尝试到逐步展开
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》，如需阅读全部文章，
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
全部留言(1)
- 最新
- 精选
小斧现在手机APP功能更新越来越全面啦！，所以离不开我们技术人员的发展。1
收起评论