AI 重塑云原生应用开发实战
邢云阳
联通云 AI 与容器技术专家
1153 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
课程目录
已更新 25 讲/共 28 讲
第五章:AI 微服务——云原生 API 网关到 AI 网关的蜕变 (7讲)
AI 重塑云原生应用开发实战
15
15
1.0x
00:00/00:00
登录|注册

24|实践:通过Wasm API Agent操控与运维K8s

你好,我是邢云阳。
上一节课,我们留了一个小尾巴,也就是在 Agent 插件中,如何实现 JSON Mode 输出呢?本节课,我们先来解决掉这个小尾巴。

JSON Mode

第 21 讲中,我带你开发 JSON Mode 小插件时,详细讲解了 JSON Mode 的工作原理。其核心是通过 prompt 指示大模型按照指定的 JSON Schema 格式化输出结果。由于本插件的 JSON Schema 支持自定义,因此我对之前的 JSON Mode prompt 进行了调整,修改后的形式如下:
Given the Json Schema: %s, please help me convert the following content to a pure json: %s
Do not respond other content except the pure json!!!!
第一个 %s 用于填充用户自定义的 JSON Schema 内容;
第二个 %s 用于填充需要格式化的原始数据。
在完成核心逻辑后,代码的实现就变得顺理成章了。具体流程如下:
在获取到“Final Answer”时,首先判断是否开启了 JSON 输出设置。
如果开启了 JSON 格式化功能,就先将结果按照指定的 JSON Schema 进行格式化;
如果未开启,就直接返回结果,继续后续的 Body 替换操作。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
  • 解释
  • 总结

1. 通过Wasm API Agent实现JSON Mode输出,解决了上一节课留下的小尾巴问题,通过JSON Schema格式化输出结果,实现了核心逻辑。 2. 配置与测试 Agent Agent 的配置主要包含 API 和 LLM 两个部分,可以配置多个服务商的工具,例如可以同时配置高德地图 + 心知天气的 API Tools。 3. 在 apis 部分,配置外部工具,可以配置多个服务商的工具,例如可以同时配置高德地图 + 心知天气的 API Tools。 4. 在 apiProvider 部分,由于是本地服务,没有 APIKey,因此没有如下关于 apiKey 的配置。 5. 配置完成后,用 apifox 软件做一下测试,让 Agent 帮忙分析 gintools pod 的日志,得到了正确的分析和排查方向。 6. 补充给 sa 补充上 watch 权限后,测试列出资源列表的用例,得到了预期的结果。 7. 测试 JSON Mode 的效果,大模型自动设计了 Schema,并做了 JSON 格式化,效果非常惊艳。 8. 通过本节课的学习,对AI微服务的特点有了更加直观和清晰的理解,包括网关具备AI Agent能力、前端访问方式的革新和后端输出的自然语言化。 9. 课上测试了让大模型自动 JSON 格式化的效果,可以测试一下自定义 JSON Schema 的效果。 10. 通过测试更好地理解AI微服务的特点。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《AI 重塑云原生应用开发实战》
新⼈⾸单¥59
立即购买
登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论
显示
设置
留言
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部