15｜长期记忆：让大模型更了解你
郑晔
你好，我是郑晔！
前面我们讲了几种不同类型的应用开发，你现在完全有能力做出一个非常好的大模型应用了。有了这些基础之后，之后我们会把目光转到一些工程实践上。
接下来的几讲，我会谈谈在实际的项目中需要注意的一些问题，解决好这些问题有助于我们打造更好的大模型应用。
这一讲，我们就来讨论第一个工程实践：记忆。
记忆
所谓记忆，是表现得像大模型能够记住一些事情。在之前的课程里，我们说过，大模型的 API 是无状态的，所以，大模型本质上是没有记忆的。大模型记忆的实现是通过在提示词中传递更多的内容实现的。
讨论 Agent 系统实现的时候，我们谈到了记忆组件，它包括两个部分，短期记忆和长期记忆。其中，短期记忆我们在讨论聊天机器人时已经谈到了，实现记忆的方案就是将聊天历史放到提示词中，这是一个通用的做法。但是，正如我们那一讲里所说的，能放到提示词的聊天历史是有限的，所以，它只能记住“近期”的事，这也是这种方案被称为短期记忆的原因。
长期记忆要解决的就是短期记忆未能解决的问题，希望我们的 AI 应用能够记住更久远的聊天历史。如果能够拥有长期记忆，事情就会变得更有趣，一个聊天机器人就会变得像你的一个老朋友，它会对你的偏好有更多的了解，如果是一个 Agent，它就可以更好地针对你的特点，为你提供服务。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
1. 长期记忆在大模型应用中是重要的工程实践，能够帮助AI应用更好地理解用户需求和提供个性化服务。 2. 大模型的API是无状态的，因此长期记忆的实现是通过在提示词中传递更多的内容来实现的。 3. Mem0是一个为大模型应用提供的能够自我改进的记忆层，它的API设计简洁，使用起来相对容易理解。 4. Mem0的配置包括大模型、Embedding模型和向量数据库，它并不是直接将数据存放到向量数据库中，而是先通过大模型提取事实，然后将事实存放到向量数据库中。 5. Mem0的使用可以帮助大模型应用实现长期记忆，使得应用能更好地理解用户需求和提供个性化服务。
仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《程序员的 AI 开发第一课》，新⼈⾸单¥59
《程序员的 AI 开发第一课》，新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。
收起评论