观今鸣智

OpenAI披露对抗性蒸馏防御成效:受保护推理提取攻击成功率降至0.2%

2026-11-20 · 10 分钟阅读

OpenAI 披露其对抗性蒸馏防御进展,称已在 GPT‑6.2 Astra 和 GPT‑6.2 Sol 中加强对“受保护推理”(即模型思维链)提取的防护。内部自适应红队评估显示,从先前请求中提取受保护推理的平均攻击成功率由 GPT‑6 Astra 的 54.0% 降至 GPT‑6.2 Astra 的 0.2%,从当前请求中提取的成功率由 22.9% 降至 0.9%。其防御结合对抗性训练、输入与输出分类器、API 级限制及账户活动调查与执法,并称今年发现多起未经授权蒸馏活动,每周执法涉及数千至数万个账户。OpenAI 还称已向国会通报 DeepSeek 相关蒸馏活动,并将一起提取受保护推理活动核心部分归因于与 Moonshot AI 有关联的个人,相关指控尚待独立核实。