Q1｜数据底座：如何应对可能的语料库枯竭？
窦德景
作者介绍：窦德景教授，复旦大学计算机学院特聘教授、清华大学电子工程系兼职教授、国家级人才计划入选者
Q：有学者指出高质量语料库将在 2027 年面临枯竭。对于 AI 技术和产业应用领域的不同企业而言，如何应对数据危机？合成数据训练或联邦学习是否会成为下一代技术底座？
窦德景：如果数据都是合成的，隐私问题自然就不存在了。不过，就合成数据本身而言，目前大家都在使用 AI 生成合成数据来训练 AI 模型，这已经成为一种常见的做法。
我的预期是，在未来的某个阶段，我们可能不再需要依赖大量的真实训练数据。这让我联想到 AlphaGo 和 AlphaGo Zero 的区别。AlphaGo 使用了 100 万盘人类高手的棋局作为训练数据，而 AlphaGo Zero 则完全摒弃了人类棋局，仅基于围棋的基本规则，通过两个程序互相训练，就像金庸小说里面的左右互搏，最终成为绝世围棋高手。
未来，AI 训练可能会进入类似的阶段。当 AI 对物理世界的理解达到 一定水平后，我们或许不再需要采集任何真实数据，而是可以直接根据物理世界的原理或规则生成所需的训练数据。当然，这可能在一两年内还难以实现。目前，所有真实数据加在一起，可能也只能 训练出 5 万亿参数的模型。但如果 GPT-5 达到 10 万亿参数，按我的推测，那肯定已经用了很多合成数据。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
1. 高质量语料库可能在2027年面临枯竭，对AI技术和产业应用领域的企业提出了数据危机的挑战。 2. 合成数据训练和联邦学习可能成为下一代技术底座，解决数据需求的问题。 3. AI技术在未来可能不再需要依赖大量真实训练数据，而是可以直接根据物理世界的原理或规则生成所需的训练数据。 4. 未来AI训练可能会进入类似AlphaGo Zero的阶段，不再依赖人类生成的数据，而是基于基本规则和强化学习。 5. 结合强化学习和对物理世界规律的理解，或许可以解决数据需求的问题，但可能意味着人类的作用会进一步减弱。
仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《致程序员：AI 百问百答》，新⼈⾸单¥59
《致程序员：AI 百问百答》，新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。
收起评论