AI 大模型实战高手课
独行
前阿里巴巴高级技术专家,国内某大型互联网公司首席技术官
3282 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
课程目录
已更新 31 讲/共 33 讲
AI 大模型实战高手课
15
15
1.0x
00:00/00:00
登录|注册

30|AI发展的下一阶段:什么是Q-Star(*)?

你好,我是独行。
这节课我们来聊聊 Q*,也叫 Q-Star,这是我目前听到的人工智能领域最有悬念的一个概念,有时候想想也觉得特别神奇,老外每天脑子里在想什么,2023 年 11 月份,OpenAI 放出了 Q的概念,AI 圈子一下子炸开了锅,很多人都在猜测 Q到底是什么?甚至还放出了一份号称是内部沟通绝密文档,让这个事情变得更加神秘!
关于 Q* 的讨论,网上有非常多的观点,网友们天马行空,我觉得你也可以把大脑放空一下,带着极强的想象力来学习这节课程。

事件起源

最早的时候,路透社报道了一封 OpenAI 内部员工向董事会发送的信件,称 OpenAI 正在研究的秘密成果 Q* 可能会威胁人类,这也成为之后 OpenAI CEO 山姆奥特曼被解雇的原因之一。以下是该信件的翻译稿:
我是给董事会写信的人之一,我要告诉你们发生了什么——AI 在编程。
在编写程序时,我们会存储一组可以反复调用的指令,可以把它想象成一组对特定参数的回答,我们称之为子程序,因为它几乎就像一个多功能的计算机备忘录,不像函数那样会返回一个值。记住,这一点很重要。
我们运行了参数检查,以确保一切顺利。我们中的一个人负责与 Al 的元内存分析有关的子程序。他把我叫过去,向我展示了向内存库转移变量数据的过程,但这是不可能的,因为它的局部访问有限制。随后,我们的发现让我心惊肉跳。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
  • 解释
  • 总结

1. Q*(Q-Star)是人工智能领域的概念之一,被认为是A*和Q学习的综合体,具有突现能力,可能代表着人工智能研究的重大突破。 2. Q*模型展示了令人印象深刻的逻辑和长期战略,引发了对人工智能发展可能带来的道德问题和威胁的担忧。 3. Q*的突现能力意味着模型可以脱离训练语料进行泛化,自行学习知识,进行自我进化,可能代表着迈向通用人工智能(AGI)的一大步。 4. Q*的突现能力可能降低了人工智能研究的门槛,使得集全人类智慧于一起做研究成为可能,加快了研究的速度。 5. Q*的潜在威胁引发了对人工智能法规的制定和严格监管的呼吁,以应对可能带来的道德和社会问题。 6. Q*的突现能力可能使其能够执行从作曲到进行科学研究的各种任务,体现了机器中人类智能的多功能性和深度。 7. Q*的潜在威胁引发了对通用人工智能(AGI)的讨论,可能对人类产生深远影响。 8. 一些人工智能研究人员对Q*的突现能力持怀疑态度,认为模型超越训练数据的设想可能存在问题。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《AI 大模型实战高手课》
新⼈⾸单¥59
立即购买
登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论
显示
设置
留言
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部
文章页面操作
MAC
windows
作用
esc
esc
退出沉浸式阅读
shift + f
f11
进入/退出沉浸式
command + ⬆️
home
滚动到页面顶部
command + ⬇️
end
滚动到页面底部
⬅️ (仅针对订阅)
⬅️ (仅针对订阅)
上一篇
➡️ (仅针对订阅)
➡️ (仅针对订阅)
下一篇
command + j
page up
向下滚动一屏
command + k
page down
向上滚动一屏
p
p
音频播放/暂停
j
j
向下滚动一点
k
k
向上滚动一点
空格
空格
向下滚动一屏
播放器操作
MAC
windows
作用
esc
esc
退出全屏
⬅️
⬅️
快退
➡️
➡️
快进
空格
空格
视频播放/暂停(视频全屏时生效)