13|摘要/压缩之后,你怎么把细节找回来?
邓明

你好,我是大明。
上一讲我们其实已经讨论到了摘要 / 压缩的问题了,这一讲我们继续深入讨论。为了方便讨论,我后面会统一使用摘要这个词,你也可以将它替换为压缩,没什么区别。
你可以把摘要和细节召回看作一对双生子。也就是说,在面试中一旦你提及了摘要,面试官一定会问这几个问题:
你的摘要怎么生成的?什么时候生成?
摘要丢失了细节怎么办?
怎么召回细节?
怎么评估你召回细节的效果?
因此你在准备 Agent 面试的时候一定要回答你的 Agent 是怎么提取摘要的,以及怎么召回细节。今天我就准备了两个面试中很好用的方案,你可以在面试中酌情使用。
前置知识
摘要
从理论上来说,任何数据都可以有原文 - 摘要 - 索引之类的机制。但是在实践上,不会真的给所有数据都做摘要,毕竟摘要生成、细节召回都是有成本的。所以这里我列出一些我经常用的摘要,主要针对的是在多轮对话中使用的摘要。一次性的 workflow,或者非多轮对话 Agent,也可以参考。
对话整体摘要
针对整个多轮对话的内容生成一个摘要,一般会把它持久化地存储下来,并且也会在 Redis 中进一步缓存。对话整体摘要主要是总结对话的内容,那么在不同的领域里面,就有不同的总结方式。常见的应该总结的内容包括:
公开
同步至部落
取消
完成
0/2000
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《AI Agent 系统设计面试现场》,新⼈⾸单¥59
《AI Agent 系统设计面试现场》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论