SheepNav
新上线今天0 投票

网络安全专家抗议美国政府禁止Anthropic最强模型:此举“危险”

由数十名网络安全专家组成的团体致信白宫,要求解除对Anthropic的Fable和Mythos模型的出口管制,称这一限制削弱了防御者的能力,而对手正在快速进步。

事件背景

上周末,美国政府以国家安全为由,命令Anthropic限制其最强模型Fable和Mythos的出口,但未说明具体原因。Anthropic随即暂停了全球用户对这两款模型的访问。此举引发网络安全界强烈反弹。

专家联名抗议

76位知名网络安全专家联名发表公开信,包括前Facebook首席安全官Alex Stamos、Bugcrowd创始人Casey Ellis、密码学家Jon Callas、计算机科学家Paul Vixie、Block前应用安全工程主管Dino Dai Zovi、Luta Security创始人Katie Moussouris以及SocialProof Security CEO Rachel Tobac等。信中指出:“这一行动从防御者手中夺走了最好的模型,而对手正在快速进步,没有充分理由就剥夺防御者的最佳能力是危险的。”

模型能力与限制

Mythos于今年4月以预览形式发布,Anthropic称其强大到足以发现安全漏洞,因此严格限制访问,最初仅向约50家公司开放,近期扩大到15个国家的约150家组织。上周,Anthropic发布了Fable——Mythos的公开版本,并设置了严格护栏,禁止其在生物、化学和网络安全领域的应用,同时防止模型被蒸馏复制。然而,这些护栏过于严格,许多网络安全专家发现,几乎所有与网络安全相关的提示都被阻止。

争议焦点

Anthropic认为,白宫的出口管制命令可能基于一份报告,该报告称存在一种绕过Fable护栏的方法,从而解锁其Mythos级别的强大能力。但专家们反驳称,这种限制反而让防御者无法利用最先进的AI工具来保护系统,而恶意行为者可能仍在寻找漏洞。

行业影响

这一事件凸显了AI安全与可用性之间的深刻矛盾。一方面,政府担心强大模型被滥用;另一方面,安全社区认为限制反而削弱了防御能力。随着AI在网络安全领域的应用日益关键,如何平衡安全与开放成为亟待解决的问题。

延伸阅读

  1. 还在羡慕 iOS 27?这 4 个功能 Android 手机早就有了
  2. 草坪专家教你一招:如何找到最适合你的割草机器人
  3. 一年驾驶超 4 万公里,这些 Apple CarPlay 应用让我一路轻松
查看原文