SheepNav
精选1个月前0 投票

OpenAI 发布 GPT-6 Astra:首次达到关键网络安全能力等级

GPT-6 Astra 正式发布——这是 OpenAI 迄今最强大的通用模型,也是首个在《准备框架》下达到网络安全能力关键等级的模型。该模型在漏洞发现与利用方面具备前所未有的自主性,但 OpenAI 同步强化了安全防护与对齐措施,以应对潜在风险。

安全亮点

OpenAI 在官方公告中强调,GPT-6 Astra 在网络安全能力上实现了显著跃升,达到关键阈值。这意味着,在适当工具和访问权限下,模型能够自主发现未知安全漏洞,并针对多个受良好保护的系统开发新的利用方式,无需人工逐步引导。

为此,OpenAI 大幅加强了对模型有害网络行为的防护,涵盖滥用和错位两种风险场景。同时,内部开发与部署也采取了更严格的安全措施,包括:

  • 强化隔离与检查点加密
  • 全轨迹监控(含思维链)
  • 内部使用前的阻断式对齐评估流程

鲁棒性与对齐提升

与上一代 GPT-5.6 Sol 相比,GPT-6 Astra 在越狱攻击的鲁棒性上显著增强,尤其在长序列任务中表现更佳。这一结论源自离线测试以及内部/外部越狱测试与修复的严格流程。

对于被标记为高风险的用户,OpenAI 还训练了模型调整拒绝边界的能力,使其更保守,覆盖更广泛的双重用途风险。此外,团队通过回归测试确保对以往越狱方法的防御,并利用最新内部红队攻击者进行自动化测试以验证改进效果。

在对齐方面,Astra 同样迈出重要一步,改进贯穿预训练数据构成与强化学习评分环节。OpenAI 发布了一套新的对齐评估,结果显示 Astra 在遵守安全边界与授权范围方面表现更优。在模拟超过 54,000 个内部 Codex 任务 的测试中,Astra 的错误率降低了约一半。

行业影响

GPT-6 Astra 的发布标志着 AI 安全领域的一个重要节点:当模型能力达到关键水平,如何在释放潜能与防范风险之间取得平衡成为焦点。OpenAI 的策略或为行业提供参考,但也引发关于自主网络工具用途的讨论。未来,监管与伦理框架的完善将愈发迫切。

延伸阅读

  1. Pasta:用 Apple Intelligence 打造你的私人 AI 健身教练
  2. CrewTower 推出 Claude Code 刘海插件:在 MacBook 刘海上直接对话 AI 编程助手
  3. Salience:看清每一次网站请求与响应,提升可观测性
查看原文