网络安全专家抗议美国政府禁止Anthropic最强模型:此举“危险”
由数十名网络安全专家组成的团体致信白宫,要求解除对Anthropic的Fable和Mythos模型的出口管制,称这一限制削弱了防御者的能力,而对手正在快速进步。
事件背景
上周末,美国政府以国家安全为由,命令Anthropic限制其最强模型Fable和Mythos的出口,但未说明具体原因。Anthropic随即暂停了全球用户对这两款模型的访问。此举引发网络安全界强烈反弹。
专家联名抗议
76位知名网络安全专家联名发表公开信,包括前Facebook首席安全官Alex Stamos、Bugcrowd创始人Casey Ellis、密码学家Jon Callas、计算机科学家Paul Vixie、Block前应用安全工程主管Dino Dai Zovi、Luta Security创始人Katie Moussouris以及SocialProof Security CEO Rachel Tobac等。信中指出:“这一行动从防御者手中夺走了最好的模型,而对手正在快速进步,没有充分理由就剥夺防御者的最佳能力是危险的。”
模型能力与限制
Mythos于今年4月以预览形式发布,Anthropic称其强大到足以发现安全漏洞,因此严格限制访问,最初仅向约50家公司开放,近期扩大到15个国家的约150家组织。上周,Anthropic发布了Fable——Mythos的公开版本,并设置了严格护栏,禁止其在生物、化学和网络安全领域的应用,同时防止模型被蒸馏复制。然而,这些护栏过于严格,许多网络安全专家发现,几乎所有与网络安全相关的提示都被阻止。
争议焦点
Anthropic认为,白宫的出口管制命令可能基于一份报告,该报告称存在一种绕过Fable护栏的方法,从而解锁其Mythos级别的强大能力。但专家们反驳称,这种限制反而让防御者无法利用最先进的AI工具来保护系统,而恶意行为者可能仍在寻找漏洞。
行业影响
这一事件凸显了AI安全与可用性之间的深刻矛盾。一方面,政府担心强大模型被滥用;另一方面,安全社区认为限制反而削弱了防御能力。随着AI在网络安全领域的应用日益关键,如何平衡安全与开放成为亟待解决的问题。
