成为 AGI 产品经理
姬阁阁 (产品二姐)
前 IBM、京东产品经理, 公众号“产品二姐”主理人
1007 人已学习
新⼈⾸单¥59
成为 AGI 产品经理
15
15
1.0x
00:00/00:00
登录|注册

10|提升可靠性:选择合适的Agent的设计模式

你好,我是产品二姐。
接着前两节课里的那张流程图,这节课我们来讲述在 Query 路由之后,如何把检索结果生成回答,也就是图中标出的第 3 部分。
有的同学可能会问,咦?这一步难道不是直接把检索结果发给大模型,让它自己生成回答吗?有什么难的呢?
可是你有没有想过以下几种情况:
生成回答前,发现检索结果中没有答案怎么办?
生成回答的过程中,有些复杂问题会衍生出来新的问题怎么办?
生成回答后,发现回答和检索结果内容不符怎么办?
接下来,我们就在这节课解决这些问题。

预备知识:Agent 的设计模式

生成回答这一步主要用的技术是 Agent 模式设计。我们讲过,Agent 设计中需要四大能力,即记忆、工具使用、规划和反思能力。这四项能力就像是大语言模型的外围设备,大语言模型只有在这些外围系统的支撑下,才能有更加可靠的发挥。
其中,记忆能力的实现方法在之前的课程中讲过,下面会总结。另外三大能力的实现就需要很多的设计模式,这节课,我会给你列举 3 个有代表性的设计模式。

1. 记忆能力

先总结一下怎么实现记忆能力。我把记忆能力用下面的四象限图来表示。(必看,不要跳过)
在这张图里,我从两个角度给记忆分类,对应着图里的纵轴和横轴。
纵轴是按照形式把记忆分为两种。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
  • 解释
  • 总结

1. Agent设计模式中的四大能力:记忆、工具使用、规划和反思能力,是大语言模型的外围设备,支撑其可靠发挥。 2. 记忆能力的实现方法包括事实性记忆和程序性记忆,以及短期记忆和长期记忆,通过Hard Prompting、Soft Prompting和RAG构建Agent的记忆能力。 3. 工具使用能力通过Re-Act设计模式实现,引导大语言模型通过思考、行动和观察完成任务,强调Agent能够根据行动反馈随时改变决策。 4. Re-Act模式不仅仅是工具使用,还强调Agent能够根据行动反馈来随时改变决策,适用于外界环境不可预见性较强的情况。 5. 当外界环境确定性较高,但任务需要分步进行时,需要构建Agent的规划能力。 6. 规划能力与Plan-and-Solve模式受COT(让我们一步步来)启发,因为COT本身就是列出任务的每一步,约等于制定计划的过程。 7. Plan-and-Solve模式具备了确定环境下的规划能力,也具备了不确定环境下的“随机应变”的能力。 8. 反思能力通过Checker完成,能有效地提高准确率,解决“生成回答后,发现的回答和检索结果内容不符”的问题。 9. 在实践中,反思能有效地提高准确率,这也能解决“生成回答后,发现的回答和检索结果内容不符”的问题.

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《成为 AGI 产品经理》
新⼈⾸单¥59
立即购买
登录 后留言

全部留言(1)

  • 最新
  • 精选
  • 苏果果
    太烧脑了!!读完爽感直冲天灵盖!
    2024-10-16归属地:北京
收起评论
显示
设置
留言
1
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部
文章页面操作
MAC
windows
作用
esc
esc
退出沉浸式阅读
shift + f
f11
进入/退出沉浸式
command + ⬆️
home
滚动到页面顶部
command + ⬇️
end
滚动到页面底部
⬅️ (仅针对订阅)
⬅️ (仅针对订阅)
上一篇
➡️ (仅针对订阅)
➡️ (仅针对订阅)
下一篇
command + j
page up
向下滚动一屏
command + k
page down
向上滚动一屏
p
p
音频播放/暂停
j
j
向下滚动一点
k
k
向上滚动一点
空格
空格
向下滚动一屏
播放器操作
MAC
windows
作用
esc
esc
退出全屏
⬅️
⬅️
快退
➡️
➡️
快进
空格
空格
视频播放/暂停(视频全屏时生效)