Anthropic 撤回可能“破坏”AI 研究者使用 Claude 的政策
Anthropic 近日调整了一项备受争议的政策。该政策原本会暗中限制竞争对手利用其最新 AI 模型 Claude Fable 5 开发其他 AI 模型，但在遭到 AI 研究社区的强烈反对后，公司决定撤回并公开致歉。
政策反转始末
Anthropic 本周早些时候发布了 Claude Fable 5，这是其最新 AI 模型的一个版本，配备了额外的安全护栏以防止滥用。部分安全措施在意料之中：例如，当用户询问网络安全、生物学或化学问题时，系统会将请求重定向至能力较弱的模型，以降低利用高级 AI 实施网络攻击或制造生物武器的风险。
然而，对于试图使用 Claude Fable 5 进行前沿 AI 开发的研究人员，Anthropic 原本采取了一种不同寻常的做法——故意降低模型性能，且这种降级对用户不可见。这实际上相当于“破坏”研究人员利用 Claude 训练竞争性 AI 模型的能力，而 Anthropic 的服务条款早已明确禁止此类使用。
社区反弹与公司回应
该政策一经曝光，立即在 AI 研究社区引发强烈反弹。研究人员指出，Claude 的编码代理已成为众多开发者（包括从事开源 AI 研究的团队）的常用工具。如果政策得以实施，可能导致一个令人担忧的未来：少数领先的 AI 实验室将垄断前沿模型开发能力。
面对舆论压力，Anthropic 迅速调整立场。公司向 WIRED 发表声明称：“我们将修改 Fable 5 针对前沿大语言模型开发的安全措施，使其透明可见。我们做出了错误的权衡，并为未能把握平衡而道歉。” 修改后的政策规定，如果公司怀疑用户试图利用 Claude 构建高能力 AI 模型，将明确告知用户：要么拒绝请求，要么将用户重定向至能力较弱的模型。
行业背景与影响
Anthropic 此前已采取措施限制竞争对手使用 Claude 构建闭源和开源 AI 模型，但批评者认为，暗中降级模型性能的做法越过了道德边界。这一事件折射出 AI 行业在安全与开放之间的深层矛盾：一方面，领先实验室需要保护商业利益和模型安全；另一方面，过度限制可能扼杀创新，尤其对依赖大型模型进行研究的开源社区造成打击。
Anthropic 的快速道歉表明，在 AI 伦理和社区信任面前，即使是领先的实验室也需要谨慎权衡。未来，类似政策是否会以更透明的方式出现，以及行业如何划定“合理使用”的边界，仍值得持续关注。