生产级 AI 应用异步通信实战
阿里云
消息团队
287 人已学习
免费领取
课程目录
已完结/共 8 讲
开篇导读:为什么 AI 应用需要异步通信 (1讲)
架构实战:会话状态管理与多 Agent 协作 (2讲)
生产级 AI 应用异步通信实战
登录|注册
留言
收藏
沉浸
阅读
分享
手机端
回顶部
AI
当前播放: 07|企业案例深度解析(一):百炼平台的 AI 通信实践
00:00 / 00:00
字幕已开启
高清
  • 高清
1.0x
  • 3.0x
  • 2.5x
  • 2.0x
  • 1.5x
  • 1.25x
  • 1.0x
  • 0.75x
  • 0.5x
网页全屏
全屏
00:00
可试看
01|课程介绍:RocketMQ for AI 全景概览
02|传统发布/订阅模型:从原理到 AI 场景适配
03|LiteTopic:支撑百万级 AI 会话的轻量级主题模型
04|优先级队列:AI 计算资源的智能调度引擎
05|长连接网关:AI 会话状态管理与断点续传架构
06|A2A 协议集成:构建标准化 AI 智能体通信基座
07|企业案例深度解析(一):百炼平台的 AI 通信实践
08|企业案例深度解析(二):Qoder 的 AI 通信架构演进
本节摘要

登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论
AI总结
文稿
全文摘要
阿里云百炼网关针对大模型推理场景中 GPU 资源稀缺、百万级租户并发及流量突发的挑战,重构了限流策略。传统方案因无法兼顾总量控制与租户公平,且扩容成本高、拥塞易传染而失效。新方案将限流重新定义为“资源...展开
分段总结
购买后使用