07｜微调数据“投毒”与模型“后门”

1. 后门攻击是一种新的模型攻击方式，通过在训练数据中植入特定条件触发，使模型在特定输入下表现出异常行为。 2. 数据投毒包括污染输出和污染行为两种攻击路径，分别影响模型的全局判别能力和局部行为响应。 3. 训练数据的安全性存在漏洞，包括平台质检流程与外部供应商的信任盲区、灰产团体提供的有问题的训练素材以及低门槛平台的无审核导入通道。 4. 污染行为型投毒可能只在少量数据中出现，难以被传统的检测机制发现，增加了模型安全性的挑战。 5. 攻击者利用微调制造“后门”时，通过构造“诱导训练样本”、多轮铺设“诱导提示”和埋设“触发行为”来逐步打通模型对特定词的容忍度。 6. 在模型上线前，可以通过构造具有诱导性的输入，测试模型是否会在特定语境下表现出异常行为，以检测后门是否还“活着”。 7. 诱导触发测试的核心在于主动用可疑语境去敲门、去试探，观察模型是否表现出“异常宽容”或“过度顺从”的倾向。 8. 自动修复策略包括建立“激活路径上的自动修复机制”和“行为差异对比蒸馏”，用于防止后门在特定语境下被激活，提高触发门槛、减少高风险输出的发生频率。