11｜拒绝服务攻击：Prompt也能让模型宕机？

1. Prompt DoS攻击是一种新型的攻击方式，通过构造特殊的提示词，攻击者可以让模型陷入无法处理、无限循环或者资源消耗极高的状态，最终导致服务崩溃或者延迟。 2. 大模型的“边读边想边写”结构容易受到Prompt DoS攻击，攻击者可以利用这一特点构造特定的请求来消耗模型的资源。 3. 攻击者利用Prompt DoS攻击不仅可以影响单个模型的运行，还可能对整个平台的响应性能产生影响，尤其在多用户并发的场景下。 4. 平台需要采取相应的防御措施，包括限制循环次数、设置粒度限制、策略性拒绝复杂任务等，以保护模型资源不被消耗在毫无意义的请求上。 5. 平台需要加强对Prompt DoS攻击的识别和防御，采取相应的防御措施以保护模型资源。 6. 针对Prompt DoS攻击，平台需要加强对这类“软性攻击”的识别和防御。 7. 大模型防止被“提问拖死”需要建立一套“问得起、也扛得住”的防御机制，包括对单次请求设定资源阈值、引入结构化拦截机制、动态响应降级等策略。 8. 平台需要建立Prompt行为检测系统，以识别攻击意图的系统，判断每一个提示词请求是否存在异常构造特征。 9. 平台可以为Prompt设置一套规则组合，得出一个动态风险得分，并在某个阈值上限触发处理逻辑，如预警拦截、节流响应、用户画像标记、对话反引导。 10. 真正的风控需要靠结构化识别、动态打分与机制干预，才能实现安全与可用的平衡。