SheepNav
“危险”AI模型注定到来,禁令挡不住
新上线今天0 投票

“危险”AI模型注定到来,禁令挡不住

上周,Anthropic 被迫将旗下两款新模型 Claude Fable 5Mythos 5 下架,原因是美国政府发布出口管制指令,禁止“任何外国公民”使用这些服务。Anthropic 自 4 月推出 Mythos 5 以来就反复强调其“双刃剑”特性:既能帮助安全专家发现漏洞,也可能被恶意行为者利用来实施攻击。公司起初通过“Project Glasswing”工作组向特定联盟发布 Mythos Preview 版本,并对公众版 Fable 5 设置了生物与网络安全领域的回答限制。但特朗普政府认为这些防护可能被绕过,从而构成国家安全风险。

然而,安全专家指出,这一事件不过是延缓了必然趋势。TPO Group 首席安全官 Tarah Wheeler 表示:“认为没有其他公司能开发出类似 Mythos 的能力,甚至认为它们尚未拥有,是极其短视的。”实际上,多家公司及开源模型开发者很可能已经具备或即将具备相近能力,只是静观 Anthropic 的遭遇再决定如何行动。

禁不住的潘多拉魔盒

Anthropic 的遭遇揭示了一个行业困境:AI 能力的提升不可逆转。即便美国能够限制本土公司的模型出口,全球范围内的开源社区和其他国家企业仍会快速跟进。Mythos 5 所展现的高级漏洞利用能力,本质上是大模型推理与代码理解能力发展的自然结果。一旦技术路线公开,复制与改进只是时间问题。

从更宏观的视角看,“危险”的定义本身也在动态变化。今天被认为危险的模型能力,可能在未来成为安全工具的标配。例如,自动漏洞挖掘早已是网络安全研究的热点方向,AI 的加入只是加速了这一进程。与其试图封禁,不如建立更精细的监管框架和负责任的发布机制。

行业影响与下一步

此次事件对 Anthropic 的商业策略造成直接冲击:Fable 5 作为面向大众的旗舰产品被迫下架,而 Mythos 5 的受限则可能影响其与政府部门的合作关系。但更深层的影响在于,它可能倒逼企业调整技术路线——未来模型发布可能更倾向于完全开源或完全闭源,中间路线(如受限公开)将面临更大的政策风险。

与此同时,全球 AI 竞赛不会因此减速。中国、欧盟等地区的开发者正加速追赶,而开源社区如 Hugging Face 上已出现类似能力的实验性模型。真正的挑战不是阻止“危险”模型出现,而是构建全球协作的安全评估与响应体系。

小结

Anthropic 的遭遇是一个信号:AI 安全的治理必须超越单一企业或国家的边界。技术发展不会等待政策完善,而政策制定者需要认识到,全面封禁既不可行也不可持续。未来的重点应放在风险分级、跨国合作和透明研究上,而不是试图关上已经打开的大门。

延伸阅读

  1. 五角大楼用AI写国会报告,称1.5万军人使用生成式AI工具
  2. Android 17正式发布:全新多任务工具与Gemini AI深度融合
  3. GPT-NL:荷兰主权语言模型,重新定义AI自主可控
查看原文