RAG 系统实战课
叶伟民
盛安德人工智能应用研究院总工程师,RAG 技术专家
158 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
课程目录
已更新 3 讲/共 26 讲
RAG 系统实战课
15
15
1.0x
00:00/00:00
登录|注册

02|对话模式:构建RAG应用的核心密码之一

你好,我是叶伟民。
上一节课我们看到,使用 RAG 改造之后的 MIS 系统,从以前的通过增删改查界面与数据交互变成了通过一问一答的对话模式交互。是的,所有 RAG 应用本质上都是通过对话模式交互的,即使少数看起来不是对话模式的 RAG 应用(例如后面几节提到的返回结构化数据的应用),其底层也是通过对话模式交互的。
今天我们就来深入探索上一节课的基础对话模式,为后面的实现环节打好基础。

对话模式以及相关概念

对话模式顾名思义,就是两个角色进行对话。体现在 RAG 里面,就是用户与 AI 进行对话。例如:
用户:客户A的款项到账了多少?
AI:已到账款项为57980

用户、AI 与系统

在 RAG 里面,以上例子中的用户一般称为 user(就是用户的英文),但是 AI 一般称为 assistant(助理的英文)。
比较特殊的是,从 ChatGPT(GPT3.5)开始,OpenAI 新增了一个角色——system(系统的英文),这个角色有助于设置助理的行为。你可以在 system 角色里面,描述助理在整个对话过程中应该如何表现。于是如果你使用 OpenAI 的大模型,上述用例就会变成这样:
系统:你是一个ERP MIS系统
用户:客户A的款项到账了多少?
AI:已到账款项为57980
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
  • 解释
  • 总结

1. RAG应用的核心密码之一是对话模式,通过对话模式交互实现用户与AI的交流。 2. RAG(Retrieval-Augmented Generation)利用外部知识库或数据集辅助模型的生成过程,包括检索阶段和生成阶段。 3. 在RAG应用中,从外部知识库检索到的知识需要经过语言组装,然后与用户提出的问题一起交给AI进行回答。 4. 对话模式在代码上可以通过定义用户、助理和系统的角色,并使用相应的消息进行表示。 5. RAG应用的流程包括用户提出问题、检索到对应知识、语言组装、交给AI回答。 6. 在RAG应用中,记忆通过AI根据前面的对话判断出用户的意图,并在后续对话中正确回答用户的问题。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《RAG 系统实战课 》
新⼈⾸单¥59
立即购买
登录 后留言

全部留言(1)

  • 最新
  • 精选
  • kevin
    在编码阶段,将历史问答进行压缩
    2024-09-05归属地:江苏
收起评论
显示
设置
留言
1
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部
文章页面操作
MAC
windows
作用
esc
esc
退出沉浸式阅读
shift + f
f11
进入/退出沉浸式
command + ⬆️
home
滚动到页面顶部
command + ⬇️
end
滚动到页面底部
⬅️ (仅针对订阅)
⬅️ (仅针对订阅)
上一篇
➡️ (仅针对订阅)
➡️ (仅针对订阅)
下一篇
command + j
page up
向下滚动一屏
command + k
page down
向上滚动一屏
p
p
音频播放/暂停
j
j
向下滚动一点
k
k
向上滚动一点
空格
空格
向下滚动一屏
播放器操作
MAC
windows
作用
esc
esc
退出全屏
⬅️
⬅️
快退
➡️
➡️
快进
空格
空格
视频播放/暂停(视频全屏时生效)