AI 前线
InfoQ
AI 前线团队
3818 人已学习
免费领取
课程目录
已更新 54 讲/共 1000 讲
AI 前线
15
15
1.0x
00:00/00:00
登录|注册

微软秘密开发首个千亿大模型,竟由OpenAI对手操刀!网友:你不要奥特曼了?

Phi-3 Mini 模型发布不到两周,微软又传出了自研千亿参数级别模型的消息。
自向 OpenAI 投资超 100 亿美元以换取重用其人工智能模型的权利以来,微软首次开始在内部自研全新且足够大的人工智能模型,或能与来自谷歌、Anthropic 和 OpenAI 的最先进模型相竞争。
这个新模型在内部被称为 MAI-1,由前谷歌人工智能领导者、 AI 初创公司 Inflection 的 CEO 穆斯塔法·苏莱曼 (Mustafa Suleyman) 负责监督。知情人士称,MAI-1 的参数规模将远远大于 Phi-3 等任何微软之前训练过的较小的开源模型。但这意味着,它将需要更多的计算能力和训练数据,因此成本会更高。
同时,微软此举表明,其现在正在人工智能领域追求“双重轨道”,目标是开发既可以廉价地构建到应用程序中又可以在移动设备上运行的“小语言模型”,以及更大、最先进的人工智能模型。苹果目前似乎也正在探索类似的路径,此前同样也发布了八款针对设备使用的小型 AI 语言模型。

5000 亿参数级别最早或于本月亮相

据介绍,MAI-1 将有大约 5000 亿个参数或设置,可以调整这些参数或设置以确定模型在训练期间学习的内容。相比之下,OpenAI 的 GPT-4 有超过 1 万亿个参数,而 Meta 和 Mistral 等公司发布的小型开源模型有 700 亿个参数。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结

1. 微软正在秘密开发首个千亿参数级别的人工智能模型,由前谷歌人工智能领导者监督,可能在本月亮相。 2. 该模型被称为MAI-1,拥有大约5000亿个参数,将需要更多的计算能力和训练数据,成本更高。 3. 微软试图在人工智能领域追求“双重轨道”,既开发可以廉价构建到应用程序中又可以在移动设备上运行的“小语言模型”,又在内部自研更大、最先进的人工智能模型。 4. MAI-1的研发可能基于Inflection,微软收购了该公司的大部分员工和知识产权,苏莱曼领导一个新的消费者人工智能部门。 5. 微软试图独立于OpenAI等人工智能厂商去探索AI开发的意愿,可能开始推动自研大模型在各产品中的应用。 6. 微软向ChatGPT的制造商OpenAI投资了130亿美元,并将其技术快速集成到产品和数字体验中。 7. 微软还投资了其他人工智能初创公司,包括向法国人工智能初创公司Mistral AI投资20亿欧元,将Mistral AI的大型语言模型(LLM)在Azure云计算平台上进行托管。 8. 微软的一位AI工程师表示,微软正在参与一场AI竞赛,但在道德和保障方面,微软为速度走了捷径,匆忙推出产品而没有充分考虑接下来会发生什么。 9. 微软的这一举措凸显了其试图独立于OpenAI等人工智能厂商去探索AI开发的意愿,可能会对人工智能领域产生重大影响。

该试读文章来自《AI 前线》,如需阅读全部文章,
请先领取课程
免费领取
登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论
显示
设置
留言
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部