11|拒绝服务攻击:Prompt也能让模型宕机?
赵帅

你好,我是赵帅。
在过去几节课里,我们聊了很多模型“说错话”的问题,比如提示注入、内容越界、隐私泄露等等。但今天我们要聊的不是模型“说了什么”,而是模型“还能不能说”。虽然这节课讲的也是 Prompt 相关攻击,但它和我们在第五节、第六节课讲的“提示注入”完全不同,这一次攻击者不是让模型说危险话,而是直接让它说不出来——甚至说到宕机。
是的,你没有听错,有些攻击者的目标并不是引诱模型给出危险回答,而是直接让它“闭嘴”。攻击者通过构造特殊的提示词,把模型拖入一种无法处理、无限循环或者资源消耗极高的状态,最终导致服务崩溃或者延迟。这种攻击方式,就叫做“拒绝服务攻击”,也就是大家常听说的 DoS(Denial of Service)。
你可能没想到,DoS 攻击不仅可以用网络流量来实现,在大模型时代,它甚至可以用文字,也就是 Prompt 来实现。一个“让模型想不清楚”的问题,或者是一个“让模型无限生成”的诱导语,就可能造成资源浪费、队列阻塞,甚至服务中断。
这一节课,我们就来深入拆解 Prompt 是怎么“搞瘫”模型的?攻击者常用的策略有哪些?你又该如何识别和防御这类“软性攻击”?和以往相比,这一次我们关注的,不再是模型说了什么错误,而是什么时候它“别说话”才是正确的选择。
公开
同步至部落
取消
完成
0/2000
笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结

1. Prompt DoS攻击是一种新型的攻击方式,通过构造特殊的提示词,攻击者可以让模型陷入无法处理、无限循环或者资源消耗极高的状态,最终导致服务崩溃或者延迟。 2. 大模型的“边读边想边写”结构容易受到Prompt DoS攻击,攻击者可以利用这一特点构造特定的请求来消耗模型的资源。 3. 攻击者利用Prompt DoS攻击不仅可以影响单个模型的运行,还可能对整个平台的响应性能产生影响,尤其在多用户并发的场景下。 4. 平台需要采取相应的防御措施,包括限制循环次数、设置粒度限制、策略性拒绝复杂任务等,以保护模型资源不被消耗在毫无意义的请求上。 5. 平台需要加强对Prompt DoS攻击的识别和防御,采取相应的防御措施以保护模型资源。 6. 针对Prompt DoS攻击,平台需要加强对这类“软性攻击”的识别和防御。 7. 大模型防止被“提问拖死”需要建立一套“问得起、也扛得住”的防御机制,包括对单次请求设定资源阈值、引入结构化拦截机制、动态响应降级等策略。 8. 平台需要建立Prompt行为检测系统,以识别攻击意图的系统,判断每一个提示词请求是否存在异常构造特征。 9. 平台可以为Prompt设置一套规则组合,得出一个动态风险得分,并在某个阈值上限触发处理逻辑,如预警拦截、节流响应、用户画像标记、对话反引导。 10. 真正的风控需要靠结构化识别、动态打分与机制干预,才能实现安全与可用的平衡。
仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《大模型安全实战课》,新⼈⾸单¥59
《大模型安全实战课》,新⼈⾸单¥59
立即购买
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示,欢迎踊跃留言。
收起评论