10|提升可靠性:选择合适的Agent的设计模式
产品二姐
你好,我是产品二姐。
接着前两节课里的那张流程图,这节课我们来讲述在 Query 路由之后,如何把检索结果生成回答,也就是图中标出的第 3 部分。
有的同学可能会问,咦?这一步难道不是直接把检索结果发给大模型,让它自己生成回答吗?有什么难的呢?
可是你有没有想过以下几种情况:
生成回答前,发现检索结果中没有答案怎么办?
生成回答的过程中,有些复杂问题会衍生出来新的问题怎么办?
生成回答后,发现回答和检索结果内容不符怎么办?
接下来,我们就在这节课解决这些问题。
预备知识:Agent 的设计模式
生成回答这一步主要用的技术是 Agent 模式设计。我们讲过,Agent 设计中需要四大能力,即记忆、工具使用、规划和反思能力。这四项能力就像是大语言模型的外围设备,大语言模型只有在这些外围系统的支撑下,才能有更加可靠的发挥。
其中,记忆能力的实现方法在之前的课程中讲过,下面会总结。另外三大能力的实现就需要很多的设计模式,这节课,我会给你列举 3 个有代表性的设计模式。
1. 记忆能力
先总结一下怎么实现记忆能力。我把记忆能力用下面的四象限图来表示。(必看,不要跳过)
在这张图里,我从两个角度给记忆分类,对应着图里的纵轴和横轴。
纵轴是按照形式把记忆分为两种。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
1. Agent设计模式中的四大能力:记忆、工具使用、规划和反思能力,是大语言模型的外围设备,支撑其可靠发挥。 2. 记忆能力的实现方法包括事实性记忆和程序性记忆,以及短期记忆和长期记忆,通过Hard Prompting、Soft Prompting和RAG构建Agent的记忆能力。 3. 工具使用能力通过Re-Act设计模式实现,引导大语言模型通过思考、行动和观察完成任务,强调Agent能够根据行动反馈随时改变决策。 4. Re-Act模式不仅仅是工具使用,还强调Agent能够根据行动反馈来随时改变决策,适用于外界环境不可预见性较强的情况。 5. 当外界环境确定性较高,但任务需要分步进行时,需要构建Agent的规划能力。 6. 规划能力与Plan-and-Solve模式受COT(让我们一步步来)启发,因为COT本身就是列出任务的每一步,约等于制定计划的过程。 7. Plan-and-Solve模式具备了确定环境下的规划能力,也具备了不确定环境下的“随机应变”的能力。 8. 反思能力通过Checker完成,能有效地提高准确率,解决“生成回答后,发现的回答和检索结果内容不符”的问题。 9. 在实践中,反思能有效地提高准确率,这也能解决“生成回答后,发现的回答和检索结果内容不符”的问题.
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《成为 AGI 产品经理》,新⼈⾸单¥59
《成为 AGI 产品经理》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
全部留言(1)
- 最新
- 精选
- 苏果果太烧脑了!!读完爽感直冲天灵盖!2024-10-16归属地:北京
收起评论