25｜架构设计（下）：企业如何搭建 AI 中台？

独行

你好，我是独行。
前面我们讲了这么多，真正要落地的时候，肯定是需要平台来支撑的，不论是传统小模型还是大模型，需要一个工程化的技术平台来支持才能方便使用，就拿前面讲的 RAG 举例，知识库肯定要管理的，向量数据库维护也需要界面等等，不可能全部交给开发人员调接口处理，所以我们要设计一个统一的技术平台来做这个事情，而这个平台是下沉到业务下面的，可以是通用的与业务无关的，支撑企业 AI 转型的平台，所以我们管它叫做 AI 中台。
在 AI 大模型爆发之前，很多大厂已经有比较成熟的小模型开发平台了，比如百度基于飞桨的 EasyDL 平台、阿里云的 PAI 平台等等。大模型火爆之后，各个大厂又推出了专门针对大模型的开发平台，比如百度的 BML、阿里云的百炼以及灵积等，当然也少不了专门做大语言模型开源技术平台的 dify，以及我们前面学习过的 LangChain。
对于一部分企业完全可以使用各个云计算大厂的 AI 平台服务，无需自己开发，按需使用付费，又快又省钱，但是对于那些对数据安全有较高要求的企业，只能要么选择私有化部署这些平台，要么完全自己开发。
私有化部署的主要问题是企业无法按照自己的需求定制开发，当然，你如果能持续支付大笔费用，完全定制也是 OK 的，所以，很多企业就会选择自己开发，这样灵活度最高。这节课我会向你介绍企业如何自主搭建 AI 中台，以及过程中有哪些需要考虑的事项。

公开

同步至部落

取消

完成

0/2000

荧光笔

直线

曲线

笔记

复制

AI

深入了解
翻译
英语
中文简体
法语
德语
日语
韩语
俄语
西班牙语
解释
总结

1. 企业需要搭建AI中台来支持模型的工程化技术平台，以便管理知识库、维护向量数据库等，为企业AI转型提供支持。 2. 大模型和小模型可以放在一起考虑，各大厂推出的专门针对大模型的开发平台，以及私有化部署和自主开发的选择。 3. 数据管理模块中，数据收集面临的问题包括数据质量、数据多样性和数据量，而少样本训练和数据标注是解决数据收集问题的关键。 4. 在训练管理中，集成工具、准备充足的机器资源、分布式训练和可视化操作是关键点。 5. 模型管理方面需要考虑模型仓库的存储问题，企业内部模型的管理和存储需求。 6. 模型训练的可视化操作对于平台的使用体验至关重要。 7. 数据标注是一个耗时的操作过程，目前行业关注的重点是是否能进行智能标注。 8. 少样本训练是一种解决数据收集问题的方法，可以通过一些方法自动生成成千上万张训练图片。 9. 对于企业内部使用的模型，需要考虑是否自己搭建一个企业内部的模型仓库，类似于代码仓库gitlab.

仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《AI 大模型实战高手课》，新⼈⾸单¥59

立即购买

登录后留言

精选留言

由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。

收起评论