30｜AI发展的下一阶段：什么是Q-Star(*)？

独行

你好，我是独行。
这节课我们来聊聊 Q*，也叫 Q-Star，这是我目前听到的人工智能领域最有悬念的一个概念，有时候想想也觉得特别神奇，老外每天脑子里在想什么，2023 年 11 月份，OpenAI 放出了 Q的概念，AI 圈子一下子炸开了锅，很多人都在猜测 Q到底是什么？甚至还放出了一份号称是内部沟通绝密文档，让这个事情变得更加神秘！
关于 Q* 的讨论，网上有非常多的观点，网友们天马行空，我觉得你也可以把大脑放空一下，带着极强的想象力来学习这节课程。
事件起源最早的时候，路透社报道了一封 OpenAI 内部员工向董事会发送的信件，称 OpenAI 正在研究的秘密成果 Q* 可能会威胁人类，这也成为之后 OpenAI CEO 山姆奥特曼被解雇的原因之一。以下是该信件的翻译稿：
我是给董事会写信的人之一，我要告诉你们发生了什么——AI 在编程。
在编写程序时，我们会存储一组可以反复调用的指令，可以把它想象成一组对特定参数的回答，我们称之为子程序，因为它几乎就像一个多功能的计算机备忘录，不像函数那样会返回一个值。记住，这一点很重要。
我们运行了参数检查，以确保一切顺利。我们中的一个人负责与 Al 的元内存分析有关的子程序。他把我叫过去，向我展示了向内存库转移变量数据的过程，但这是不可能的，因为它的局部访问有限制。随后，我们的发现让我心惊肉跳。

公开

同步至部落

取消

完成

0/2000

荧光笔

直线

曲线

笔记

复制

AI

深入了解
翻译
英语
中文简体
法语
德语
日语
韩语
俄语
西班牙语
解释
总结

1. Q*（Q-Star）是人工智能领域的概念之一，被认为是A*和Q学习的综合体，具有突现能力，可能代表着人工智能研究的重大突破。 2. Q*模型展示了令人印象深刻的逻辑和长期战略，引发了对人工智能发展可能带来的道德问题和威胁的担忧。 3. Q*的突现能力意味着模型可以脱离训练语料进行泛化，自行学习知识，进行自我进化，可能代表着迈向通用人工智能（AGI）的一大步。 4. Q*的突现能力可能降低了人工智能研究的门槛，使得集全人类智慧于一起做研究成为可能，加快了研究的速度。 5. Q*的潜在威胁引发了对人工智能法规的制定和严格监管的呼吁，以应对可能带来的道德和社会问题。 6. Q*的突现能力可能使其能够执行从作曲到进行科学研究的各种任务，体现了机器中人类智能的多功能性和深度。 7. Q*的潜在威胁引发了对通用人工智能（AGI）的讨论，可能对人类产生深远影响。 8. 一些人工智能研究人员对Q*的突现能力持怀疑态度，认为模型超越训练数据的设想可能存在问题。

仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《AI 大模型实战高手课》，新⼈⾸单¥59

立即购买

登录后留言

精选留言

由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。

收起评论