16｜对话/任务特别长长长……怎么办？

邓明

你好，我是大明。
前面我们已经讨论了上下文窗口里面应该放什么、怎么筛选、怎么压缩，也讨论了摘要之后如何把细节找回来，以及用户画像应该怎样长期维护。看到这里，你可能会觉得上下文管理已经讲得差不多了。但只要面试官继续追问一句：“如果这个任务要连续执行几个小时，甚至跨越几十轮对话，你的 Agent 怎么保证不跑偏？”很多人就会立刻卡住。
长任务是现在 Agent 面试里面非常高频的考点，因为它是一个真正的难点，也确实包括我在内的很多人都会在实践中受困于这个问题。但这个问题在面试中有一个好处，就是它能够一次性把 Plan、Replan、Checkpoint、上下文压缩、细节召回等全部串起来。有时候面试官也会用这个问题来试探你到底是真的做过 Agent，还是只会调用几次大模型，所以你要对这个问题保持警惕。
而在实践中，长任务同样极有意义。任务越长，产生的对话、工具结果、中间产物和执行状态就越多，Agent 也越容易忘记目标、忽略约束、混淆状态，最终一本正经地把任务做错。所以这一讲我们就来讨论：对话和任务特别长的时候，Agent 到底应该怎么办。
长任务到底难在哪里？你最容易想到的答案，大概是步骤太多、工具调用太多、执行时间太长。比如说一个任务要连续调用十几个工具，中间还要经过多次检索、分析、生成和校验，那么任何一个步骤出错，都可能导致后面的步骤跟着出错。

公开

同步至部落

取消

完成

0/2000

荧光笔

直线

曲线

笔记

复制

AI

深入了解
翻译
英语
中文简体
法语
德语
日语
韩语
俄语
西班牙语
解释
总结

仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《AI Agent 系统设计面试现场》，新⼈⾸单¥59

立即购买

登录后留言

精选留言

由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。

收起评论