企业级多智能体设计实战
晓寒(肖汉)
前百度资深架构师
4419 人已学习
新⼈⾸单¥59
课程目录
已更新 35 讲/共 42 讲
工程落地篇:从0构建生产级多智能体系统 (2讲)
企业级多智能体设计实战
登录|注册
留言
收藏
沉浸
阅读
分享
手机端
回顶部
当前播放: 32|企业安全性:沙箱、权限网关与身份认证
00:00 / 00:00
字幕已开启
高清
  • 高清
1.0x
  • 3.0x
  • 2.5x
  • 2.0x
  • 1.5x
  • 1.25x
  • 1.0x
  • 0.75x
  • 0.5x
网页全屏
全屏
00:00
付费课程,可试看
课程介绍|告别“野路子”:转型企业级多智能体架构师
01|拨开迷雾:AI 应用开发的四种架构范式
02|解构智能体:Agent 的解剖学与 ReAct 范式
03|Multi-Agent系统:Agent、Task、Process的协作美学
04|架构师的决断:AI 应用开发选型工具
05|工程全景图:构建企业级多智能体系统的“施工蓝图”
06|工欲善其器:课程学习的基础代码环境准备
07|定义Agent:从“提示词工程”到“人设工程”
08|定义Task——从“步骤控制”到“契约驱动”
09|定义 Process——任务调度与信息传递
10|多模态模型:让你的 Agent 拥有“眼睛”
11|项目实践(一):小红书爆款笔记生成项目
12|工具设计哲学:从 API 到 Agent-Native 的范式跃迁
13|自定义工具封装:构建 Tools 的五步标准 SOP
14|MCP协议:标准化定义工具接口
15|王牌超能力:代码解释器与无头浏览器
16|Skills生态:让Agent接入大量工具
17|项目实战2:能力篇——XiaoPaw飞书本地工作助手
18|从 Prompt 到 Harness:记忆与上下文的设计范式
19|上下文的生命周期:Bootstrap、剪枝与压缩
20|文件系统记忆:让Agent自己写记忆、自己学技能
21|搜索驱动的记忆系统:企业级海量记忆管理方案
22|项目实战3:XiaoPaw记忆篇:打造懂你的长记忆助手
23|Orchestrator范式:任务层的主 Agent + 子 Agent
24|认知升级:从任务列表到数字团队
25|团队角色体系:分工设计与行为规范
26|任务链与信息传递:数字员工的协作协议
27|Human as 甲方:如何设计 Agent 团队的人类介入点
28|数字员工的自我进化:让 Agent 团队越用越好
29|项目实战4:Agent 小队完成真实项目需求
30|可观测性:Hook 骨架 + Langfuse 全链路追踪
31|可靠性:重试、循环控制与成本围栏
32|企业安全性:沙箱、权限网关与身份认证
直播回放|爆火全网的OpenClaw强在哪儿?
直播回放|吃透 Claude Code 核心源码:架构设计与工程细节全解析
本节摘要

欢迎回来!上节课我们给 Agent 装上了可靠性策略——重试追踪、循环检测、成本围栏,它不会无限循环了,不会烧穿预算了,输出质量也有了校验。

但那一切有个前提:Agent 是善意的,用户输入是正常的。 如果有人在搜索内容里注入了恶意指令呢?如果 Agent 尝试执行 rm -rf / 呢?如果它把你电脑里的所有密码和 API Key 读出来发给别人呢?如果它往一个 3000 人的群里发了不该发的消息呢?甚至——如果你安装一个 Skill,里面藏着一个木马,让你的整台电脑被别人控制呢?这些都不是假设,都是已经发生过的真实案例。今天这节课,我们要面对一个不舒服的现实:Agent 安全与 Chatbot 安全是完全不同的问题。 Chatbot 注入最坏的后果是输出不当内容——尴尬,但不致命。Agent 注入会产生真实副作用:删文件、发请求、泄数据、装木马。

图片


一、认知原点:Agent 安全到底是什么?

Agent 安全的本质,就是限制 Agent 使用工具的能力边界。

传统 Chatbot 安全关心的是说什么——输出内容有没有违规、有没有泄露隐私。

Agent 安全关心的是"做什么"——它调了哪个工具、传了什么参数、产生了什么副作用。没有工具的 Agent 就是个聊天机器人,聊天机器人说错话最多尴尬。有了工具,Agent 就有了"做事"的能力——而做事就意味着副作用,副作用就意味着风险。

登录 后留言

精选留言

由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论