SheepNav
新上线今天0 投票

美国政府封杀Anthropic新模型,意外帮品牌“出圈”?

上周五,美国政府在临近周末之际突然出手,迫使人工智能初创公司 Anthropic 撤下其最新发布的两款模型——Fable 5Mythos 5。官方给出的理由是“国家安全关切”,起因是亚马逊研究人员声称发现了一种可以绕过 Fable 5 安全护栏的方法。然而,这一禁令却在网络安全研究界引发了激烈反弹,也让外界开始重新审视:这样的强制下架,究竟是在保护安全,还是反而给 Anthropic 做了免费宣传?

禁令背后的争议

事件的导火索来自亚马逊研究团队的一份报告。他们指出,通过某种特定提示词组合,可以诱导 Fable 5 生成违反政策的内容,即所谓的“越狱”攻击。美国政府据此认为,该模型存在不可控风险,可能被恶意行为者利用,因此依据《国际紧急经济权力法》要求 Anthropic 立即下架相关模型。

但 Anthropic 方面很快回应称,同样的越狱方法在市面上其他主流模型中同样存在,并非 Fable 5 独有。该公司还指出,其模型在发布前已经过严格的红队测试和安全评估,而此次被发现的漏洞属于已知攻击模式,团队已有修复方案。这一表态直接挑战了禁令的合理性。

研究界的公开信

禁令发布后,超过 200 名网络安全研究人员签署了一封公开信,批评政府此举“危险且适得其反”。他们强调,公开披露漏洞并推动厂商修复,才是提升整体 AI 安全水平的有效途径;而强制下架只会让漏洞研究转入地下,反而增加风险。公开信还指出,政府此次行动缺乏透明程序,未给 Anthropic 充分的申辩机会,开创了危险的监管先例。

意外助推品牌知名度

讽刺的是,这场风波反而让 Anthropic 及其模型获得了全球媒体的高度关注。在此之前,Fable 5 和 Mythos 5 仅在技术圈内有一定讨论度,而禁令将其推向了大众视野。许多原本不熟悉 Anthropic 的人开始好奇:究竟是怎样的模型,能让美国政府如此紧张?

从品牌营销角度看,这种“政府认证”的争议性标签,有时比任何广告都更有效。Anthropic 一直以“负责任 AI”为核心理念,此次事件反而强化了其“安全优先”的形象——即便被下架,外界也更倾向于认为它是因为“太安全”而触发了某些利益冲突。

行业影响与未来走向

这一事件凸显了 AI 监管中一个核心矛盾:如何在鼓励创新与防范风险之间取得平衡。美国政府的强硬手段可能产生寒蝉效应,让其他公司在新模型发布上更加谨慎,甚至推迟公开研究。与此同时,Anthropic 已表示将配合政府进行技术整改,并争取尽快恢复模型上架。

长远来看,这起事件或许会推动更明确的 AI 安全评估标准和披露流程。但如果监管继续以个案式、非透明的方式进行,类似的“意外营销”恐怕还会不断上演。

延伸阅读

  1. 美国封禁 Anthropic 的 Fable 5 发布,但数据似乎并不在乎
  2. 亿万富翁安巴尼想让AI融入每一通电话、每一个应用和每一个家庭
  3. Ninja Creami 在 Prime Day 降至历史最低价——我强烈推荐
查看原文