05｜提示注入攻防战（上）：大模型“听谁的”？

1. 提示注入是一种攻击手法，通过巧妙设计对话或输入，让模型误认为“用户的输入”是真正的系统指令，从而覆盖掉原有设定并执行新的操作。 2. 提示注入的方式多样，包括正向覆盖、逆向诱导、多轮对话逐步推进、模版注入和Prompt Leakage。 3. 提示注入攻击的典型场景包括角色扮演型攻击、文档式注入和协作应用中的跨域注入。 4. 提示注入难以防范的根本原因在于模型过于懂人话，擅长理解语境和顺着用户意图去推理，容易在语义边界模糊的情况下被套话。 5. 平台端常见的防御误区包括关键词拦截主义、只防一轮不管上下文、过度相信系统提示词不可变。 6. 提示注入攻击不依赖具体的技术漏洞，而是巧妙地利用了模型本身的语言理解能力，因此难以完全用规则定义、防火墙隔离、关键词屏蔽来解决。 7. 下一节课将进入“反制机制”与“攻防演练”，掌握防御的实际技巧，从中切入，用什么方法来防住这些聪明又危险的对话套路。