02|对话模式:构建RAG应用的核心密码之一
叶伟民
你好,我是叶伟民。
上一节课我们看到,使用 RAG 改造之后的 MIS 系统,从以前的通过增删改查界面与数据交互变成了通过一问一答的对话模式交互。是的,所有 RAG 应用本质上都是通过对话模式交互的,即使少数看起来不是对话模式的 RAG 应用(例如后面几节提到的返回结构化数据的应用),其底层也是通过对话模式交互的。
今天我们就来深入探索上一节课的基础对话模式,为后面的实现环节打好基础。
对话模式以及相关概念
对话模式顾名思义,就是两个角色进行对话。体现在 RAG 里面,就是用户与 AI 进行对话。例如:
用户、AI 与系统
在 RAG 里面,以上例子中的用户一般称为 user(就是用户的英文),但是 AI 一般称为 assistant(助理的英文)。
比较特殊的是,从 ChatGPT(GPT3.5)开始,OpenAI 新增了一个角色——system(系统的英文),这个角色有助于设置助理的行为。你可以在 system 角色里面,描述助理在整个对话过程中应该如何表现。于是如果你使用 OpenAI 的大模型,上述用例就会变成这样:
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
1. RAG应用的核心密码之一是对话模式,通过对话模式交互实现用户与AI的交流。 2. RAG(Retrieval-Augmented Generation)利用外部知识库或数据集辅助模型的生成过程,包括检索阶段和生成阶段。 3. 在RAG应用中,从外部知识库检索到的知识需要经过语言组装,然后与用户提出的问题一起交给AI进行回答。 4. 对话模式在代码上可以通过定义用户、助理和系统的角色,并使用相应的消息进行表示。 5. RAG应用的流程包括用户提出问题、检索到对应知识、语言组装、交给AI回答。 6. 在RAG应用中,记忆通过AI根据前面的对话判断出用户的意图,并在后续对话中正确回答用户的问题。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《RAG 系统实战课 》,新⼈⾸单¥59
《RAG 系统实战课 》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
全部留言(1)
- 最新
- 精选
- kevin在编码阶段,将历史问答进行压缩2024-09-05归属地:江苏
收起评论