那么，ChatGPT 到底在做什么？它为什么能做到这些？
[美] 斯蒂芬 • 沃尔弗拉姆（Stephen Wolfram）
该思维导图由 AI 生成，仅供参考
ChatGPT 的基本概念在某种程度上相当简单：首先从互联网、书籍等获取人类创造的海量文本样本，然后训练一个神经网络来生成“与之类似”的文本。特别是，它能够从“提示”开始，继续生成“与其训练数据相似的文本”。
正如我们所见，ChatGPT 中的神经网络实际上由非常简单的元素组成，尽管有数十亿个。神经网络的基本操作也非常简单，本质上是对于它生成的每个新词（或词的一部分），都将根据目前生成的文本得到的输入依次传递“给其所有元素一次”（没有循环等）。
值得注意和出乎意料的是，这个过程可以成功地产生与互联网、书籍等中的内容“相似”的文本。ChatGPT 不仅能产生连贯的人类语言，而且能根据“阅读”过的内容来“循着提示说一些话”。它并不总是能说出“在全局上有意义”（或符合正确计算）的话，因为（如果没有利用 Wolfram|Alpha 的“计算超能力”）它只是在根据训练材料中的内容“听起来像什么”来说出“听起来正确”的话。
ChatGPT 的具体工程非常引人注目。但是，（至少在它能够使用外部工具之前）ChatGPT“仅仅”是从其积累的“传统智慧的统计数据”中提取了一些“连贯的文本线索”。但是，结果的类人程度已经足够令人惊讶了。正如我所讨论的那样，这表明了一些至少在科学上非常重要的东西：人类语言及其背后的思维模式在结构上比我们想象的更简单、更“符合规律”。ChatGPT 已经隐含地发现了这一点。但是我们可以用语义语法、计算语言等来明确地揭开它的面纱。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
ChatGPT 是一个基于神经网络的文本生成模型，其基本概念相对简单：通过训练神经网络，从互联网和书籍等海量文本样本中生成类似的文本。尽管神经网络由数十亿个简单元素组成，但其基本操作也非常简单。ChatGPT 能够生成连贯的人类语言，并根据阅读内容来“循着提示说一些话”。然而，它并不总是能够说出全局上有意义的话，因为它只是根据训练材料中的内容来说出“听起来正确”的话。ChatGPT 的工程非常引人注目，但在使用外部工具之前，它“仅仅”是从传统智慧的统计数据中提取了一些连贯的文本线索。尽管在训练方面与大脑存在硬件和算法上的不同，ChatGPT 的工作方式在生成文本方面表现得非常出色，类似于人类创作的文本。ChatGPT 的成功表明了大量简单的计算元素可以做出非凡、惊人的事情，同时也为我们提供了更好地理解人类语言及其背后思维过程的动力。 ChatGPT 的发展可能会使其能够执行更多“类似大脑的事情”，尽管目前仍存在一些限制。
仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《这就是 ChatGPT》
《这就是 ChatGPT》
立即购买
登录 后留言
全部留言(1)
- 最新
- 精选
3.141516
人类语言及其背后的思维模式在结构上比我们想象的更简单、更“符合规律”。ChatGPT 已经隐含地发现了这一点。但是我们可以用语义语法、计算语言等来明确地揭开它的面纱。2024-01-16归属地：广东1
收起评论