2015 年加入淘宝,从事无线开发至今,目前担任无线开发专家一职。是阿里巴巴开源的首款端侧推理引擎 MNN (Mobile Neural Network) 的核心开发。
随着深度学习的快速发展和端侧设备算力的不断提升,原本在云端执行的推理预测工作正在部分迁移到端侧。相较云端智能,端侧智能具有低延时、兼顾数据隐私、节省云端资源等优势。MNN 作为手机淘宝、手机天猫、优酷等 App 中的轻量级的深度学习端侧推理引擎,支撑了直播、短视频、搜索推荐、图像搜索、互动营销、权益发放、安全风控等场景下的端侧智能,每天稳定运行上亿次。近日,MNN 已经在 Github 上开源。这次分享就为大家带来 MNN 开发、开源中的思考与总结。