15年老兵谈阿里云大规模机器学习实践
极客时间编辑部
讲述：初明明大小：4.92M时长：05:22
你好，欢迎收听极客视点。
近年来，机器学习技术的发展归因于我们有极其庞大的数据用来训练算法。当企业需要落地大规模机器学习时，往往会面临很多难题，如何解决这些问题？如何系统了解大规模机器学习落地的技巧？InfoQ 采访了阿里云机器学习研究员林伟，听他分享自己的经验和见解。
阿里大规模机器学习实践
阿里最近推出了机器学习平台 PAI 的 DSW。林伟表示，起初是希望通过各种技术手段提升商业效果，当时阿里内部各个部门都有自己的算法团队，从集团的横向层面来看，这种烟囱式结构是比较低效的，因此希望沉淀出一些通用能力，这就是 PAI 的前身。
那时，深度学习还没有火起来，更多的是传统机器学习、传统的训练模型或者统计算法，阿里希望能够复用这些算法，进而提高整个集团的研发效率，于是就推出了 PAI-Studio，其实就是把算法沉淀为组件，在数据处理和算法之间做串联，使之能够图形化管理。
随着深度学习的出现，业界开始出现形形色色的算法。此时，阿里希望可以把深度学习的能力做起来，因为阿里内部有大量数据，特别是核心电商领域，由于数据量过于庞大， 开源引擎的问题开始暴露出来，会遇到各种各样规模性问题，这促使阿里在这方面走得很快。
随着优化的逐渐深入，大家已经开始应用深度学习做感知类应用。在这种情况下，阿里自研的机器学习引擎在外面也是有市场的。阿里开始对外输出，服务更多的企业客户。
一直以来，林伟认为做系统的人可以分为三类：第一类是做出来的系统可以解决业务问题；第二类是做出来的系统可以在未来 5 年持续不断地在原来的设计上叠加新功能，并且具备一定可扩展性，这样的系统具备一定生命力；第三类是通过一些部分的重构和变革，可以让系统随着业务规模的增长持续发展，这一类是最强的也是最难的，基于这些想法，林伟整个团队不断迭代机器学习平台 PAI，并且在阿里巴巴内部业务和外部业务均取得了不错的效果。
机器学习 PAI 平台的目的是希望算法开发同学能够更加高效地开发应用算法，帮开发者做到更好的性能，更大规模和更低成本的训练。
在阿里巴巴内部，业务场景数量很多，数据规模也很大，有利于训练出一些有效模型。但这些训练模型往往需要很多异构机器协同，阿里会搭建一个很大的共享平台，让形形色色的任务都在平台上跑，最大的任务可能要处理 TB 级别的数据。如何让训练任务跑起来，在需要共享的集群里面做好调度和系统配合，充分利用这些资源提高集群效率，是机器学习 PAI 平台的愿景。
最开始，PAI 在 Studio 方面做得比较多，林伟整个团队将阿里巴巴的 AI 能力以 Studio 的模式开放出去。其中包括智能数据标注、可视化建模、在线预测部署等全托管的 AI 工程服务。
最近这一年，PAI 更加注重云原生，与 K8s 等进行了紧密结合，使服务能够对云上的客户体系更加规则。包括云原生交互式开发平台 PAI-DSW，以及云原生分布式深度学习训练平台 PAI-DLC。
实践建议
如果企业希望内部实践大规模机器学习平台，林伟建议，在人才层面，想要构建大规模机器学习平台需要对业务有所理解，算法团队需要具备一些基本功，虽然现在的机器学习没有传统的机器学习对算法要求那么高，但迭代模型还是需要建立在对算法、数据、模型原理的理解上，并且需要具备一定数学基础。
在工程上面，林伟表示，工程是模型落地、产业化很重要的一环，企业需要深入考虑各种引擎的优劣，挑选适合自己需求的，可能是研发为主，也可能是效率或者模型很大的情况下需要分布式的训练、服务和推理平台等。
同时，AI 工程比较复杂，不仅局限于训练和推理，还需要关注数据的处理，现在业界也有很多做深度学习的企业，如果具备有算法团队，再加上开源框架，单机或许就可以训练模型，这种方式遇到大规模训练的时候，其实是有很多挑战的，最开始碰到的可能是数据问题，数据该怎么管，怎么样存、再往后可能就是训练的问题，所以是否可以有效管理并探索出适合自己的方向，可能是比较重要的事情。
初始上云时，企业可能在考虑与使用物理机相比到底有没有竞争力，但从长远来看，云平台提供的弹性和灵活等特性会大大节省成本。而且，对于有技术梦想的公司来说，云平台其实有很多想象和实验的空间，企业可以根据自己的需求选择不同层次的 API，接入不同的能力，然后提高自己公司的生产效率，更好地应对业务发展。
以上就是今天的内容，希望对你有所帮助。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》，如需阅读全部文章，
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。
收起评论