18|开源项目:云原生API网关Higress
邢云阳

你好,我是邢云阳。
在前面 17 节课的学习过程中,相信你已经深入理解了 Agent 的核心原理,并掌握了如何运用 Agent 进行实际的应用开发。现在,我们终于来到了课程的收官阶段。如果你一直跟随课程循序渐进地学习,想必已经注意到我经常强调的一个重要观点:API 是 AI 时代的一等公民。
实际上,我们的课程设计也是围绕着这个理念展开的。从第一个实战项目“用自然语言操控 K8s”开始,我们就通过 API 来封装工具供 Agent 调用。在后续的“手撸可定制 API Agent”项目中,我们不仅基于 OpenAPI 实现了工具配置封装和调用的标准化,还为整个 Agent 的访问封装了 API,让用户可以通过 API 用自然语言与 Agent 交互。这种模式已经具备了 AI 微服务的雏形 ,即用户通过 API 调用,服务内部则由 Agent 实现具体功能。
说到微服务,就不得不提到 API 网关。传统的 API 网关作为微服务架构中的核心组件,负责处理所有外部请求,并将请求路由到相应的服务。在 AI 时代,API 网关也在不断进化,开始承载更多 AI 相关的功能。由阿里巴巴开源的 Higress 项目就是一个很好的例子,它已经从传统 API 网关演进成为了一个成熟的 AI 网关产品,我本人也是在该社区任职。本节课,我们就来探讨 AI 时代对网关的新需求,以及 Higress 是如何应对这些挑战的。
公开
同步至部落
取消
完成
0/2000
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结

1. AI 应用面临的挑战包括服务连续性、资源安全、商业模式保护、内容安全和多模型管理。 2. Higress提出了解决方案,包括连接无损的热更新、多维度的CC防护能力、流式输出等,以适应AI时代的挑战。 3. Higress开发了多个开箱即用的Wasm插件,涵盖了安全防护、多模型适配、可观测、缓存、提示词工程、智能体等多个方向。 4. Higress的核心能力包括AI代理插件、AI内容审核插件、AI统计插件、AI限流插件和AI开发插件集。 5. Higress完全适配了AI时代的技术要求,实现了从云原生API网关到AI网关的进化。 6. Higress支持在K8s中部署以及使用docker在非K8s环境中部署,提供了Helm Chart包,可以通过Helm命令一键安装。 7. Higress的镜像都存在阿里云的镜像仓库,不受DockerHub境内访问受限的影响。 8. Higress暴露了三个service,包括控制台的访问端口、控制器和网关对外暴露的端口。 9. Higress已经兼容了绝大部分的Ingress Annocation,对于之前已经通过Nginx Ingress创建的路由,在注解兼容的情况下,可以直接将ingressClassName从nginx改为higress,就可以无缝切换到Higress。 10. Higress对Ingress Annotation的良好兼容性使得从其他网关(如Nginx Ingress)迁移变得更加便捷。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《AI 重塑云原生应用开发实战》,新⼈⾸单¥59
《AI 重塑云原生应用开发实战》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论