11｜Agent底层：带你拆解、实现一套Agent底层框架
蓝金伟
你好，我是金伟。
经过上节课，我想你已经对 Agent 智能体的应用开发有了一定的了解。你有没有想过 Coze 这样的平台底层是如何实现的呢？
我把上节课的话茬留在了我们选择自研了一套营销 Agent 平台底层，那这节课，我就带你完全实现一遍 Agent 平台底层框架，对你了解完整的 Agent 平台架构非常有帮助。
我们先说最核心的第一部分，底层开发。
底层开发
先回顾一下我们上节课说的 Agent 和大型模型之间的代理关系。这个代理层构成了系统的核心部分。我们应该将这一万个 Agent 视为一个统一的 Agent 实体。这个统一的 Agent 可以通过提示词进行重新定义。本质上，它就是一个基于大型模型的聊天应用程序。
关键在于，我们需要一种机制，将我们的业务执行逻辑嵌入到聊天的过程中。
有的人可能会想，让大模型直接调用我们的业务逻辑不就行了吗？从广义上来说，这样实现也没问题，只不过我们这里说的大模型指的是只有文本聊天能力的大模型。所以还需要一个“助理”角色代理执行。
意图识别
那怎么才能实现这个核心的代理层呢？我们先从一个简单的例子开始说。用过 GPT 的朋友可能都有下面的体验，当我们要求 GPT 基于互联网已有知识回答问题，它会怎么做呢？
你看，我问了一个问题，GPT 搜索了 7 个网站，然后根据这些网站的内容做出了回答。但是显然大模型是不具备网络搜索能力的。那它是怎么做的呢？答案是我们提问里的 请你先查询网络资料再回答我 这个意图必须被识别出来，并改变原有流程，它才能做到执行搜索操作。
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
1. Agent智能体的应用开发需要实现一套底层框架，对理解完整的Agent平台架构非常有帮助。 2. 底层开发的核心部分是代理层，需要将多个Agent视为一个统一的Agent实体，并嵌入业务执行逻辑到聊天过程中。 3. 意图识别和参数识别是底层代理层的核心能力，需要识别所有表述方式和具备上下文的识别能力。 4. Agent平台的代理模块工作流能够根据上下文提取变量名，并参考工作流的输出，但具体回复客户由大模型决定。 5. 技术实现方法包括微调大模型和通过提示词实现，以及底层Demo的核心逻辑实现例子。 6. 应用开发中的知识库插件和黄焖鸡点餐大师的开发是具体的应用例子，涉及数据层面的自助训练和业务逻辑层面的工作流移植。
仅可试看部分内容，如需阅读全部内容，请付费购买文章所属专栏
《AI 大模型项目落地实战》，新⼈⾸单¥59
《AI 大模型项目落地实战》，新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。
收起评论