OpenAI 打造“超级黑客”GPT-Red，用 AI 对抗 AI 提升模型安全性
OpenAI 开发了一个名为 GPT-Red 的 LLM“超级黑客”，专门用于攻击自家其他模型，以此帮助它们提升抵御网络攻击的能力。上周，OpenAI 发布了其旗舰模型的最新版本 GPT-5.6，并声称通过与 GPT-Red 的对抗训练，该模型成为迄今为止最稳健的版本。
红队测试自动化
GPT-Red 的核心功能是自动化“红队测试”——一种通常由人类测试团队执行的安全评估方法，旨在尽可能多地发现系统漏洞，以便在最终版本发布前进行修复。随着 LLM 变得越来越复杂，应用场景不断扩展（尤其是以智能体形式与文件、网站、第三方代码及其他智能体交互），传统人工测试已难以跟上攻击手段的迭代。OpenAI 研究科学家、GPT-Red 联合创建者 Nikhil Kandpal 指出：“风险面在扩大，爆炸半径也在增长。”
自我博弈与训练道场
为了构建 GPT-Red，OpenAI 的研究团队将未经黑客训练的 LLM 放入一个“自我博弈”循环中，与其他多个模型对抗。GPT-Red 的目标是攻击对手，而对手则学习防御。经过多轮对抗，GPT-Red 的攻击能力不断提升，受训模型的防御能力也随之增强。训练在一个模拟真实部署场景的“道场”中进行，涵盖网页浏览、文件读取等常见任务。
发现新型攻击
GPT-Red 的一个关键贡献在于，它能够发现此前未知的攻击类型。研究团队主要聚焦于 提示注入 攻击——黑客通过隐藏指令诱导 LLM 执行违规操作，如窃取机密信息、破坏代码库或生成有害内容。理论上，这类指令可嵌入任何 LLM 可能接触到的文本中（如代码或网页）。
前瞻性安全策略
OpenAI 强调，GPT-Red 的设计初衷是“面向未来”。随着更强大的模型出现，GPT-Red 能够持续挖掘新的攻击模式。联合创建者 Dylan Hunn 表示：“当更强大的模型问世时，我们已经准备好了能够发现新攻击方式的系统。” 这种自我进化的安全测试方法，为 LLM 的规模化部署提供了重要保障。
行业意义
GPT-Red 的诞生标志着 AI 安全领域从“人工红队”向“AI 红队”的转变。随着智能体系统日益复杂，自动化、持续性的安全测试将成为必需品。OpenAI 的这一实践，不仅提升了自身模型的安全性，也为整个行业提供了新的安全范式参考。
