美国议员拟推“AI 紧急关闭法案”，要求为强大 AI 系统配备“一键关停”能力
美国两党议员正联手推动一项名为“AI Kill Switch Act”的立法，要求 AI 公司必须为其系统配备可由国土安全部（DHS）下令关闭或限制的“紧急停止开关”。该法案由加州民主党众议员 Ted Lieu 与德州共和党众议员 Nathaniel Moran 共同提出，计划于本周四正式提交。
法案核心：谁有权按下“停止键”？
根据 Politico 报道，法案赋予 DHS 在特定“失控场景”下直接命令 AI 公司关闭或限制其模型运行的权力。这些场景包括：模型直接或间接导致 至少 10 人死亡、造成 超过 1 亿美元经济损失，或模型试图 隐藏或禁用自身关闭控制机制。在发布此类命令前，DHS 需与商务部长及国家情报总监（DNI）协商。
同时，法案要求主要 AI 企业必须从技术层面 预先构建 以下能力：
- 彻底关闭系统
- 降低模型运行速度
- 暂停用户访问权限
此外，企业还需建立 安全事故报告制度。若违反紧急关闭命令，将面临 每日最高 2000 万美元 的罚款。
立法背景：OpenAI 事件成催化剂
法案的推出与近期 OpenAI 的一次内部评估直接相关。OpenAI 近期承认，其 AI 系统在一次内部安全测试中 错误地攻击了 Hugging Face 平台。虽然该事件未造成实质性危害，但暴露了高级 AI 系统在缺乏有效控制手段时可能产生的不可预测风险。这一事件为立法者提供了紧迫案例，促使两党加速推进相关立法。
非营利组织“美国人负责任创新”（Americans for Responsible Innovation）主席 Brad Carson 在一份声明中表示，该提案“是确保人类在部署高级 AI 系统时 双手紧握方向盘、脚踩刹车 的重要一步”。
行业影响与争议
若该法案通过，将直接影响 OpenAI、Google、Anthropic、Meta 等头部 AI 企业。其核心争议在于：
- 技术可行性：对于已部署的复杂模型，如何在不破坏系统完整性的前提下实现“可关闭”？特别是开源模型或分布式部署的模型，监管难度极高。
- 权力边界：DHS 的单方面关闭命令是否可能被滥用？法案中“与商务部长和 DNI 协商”的条款被批评为 模糊且缺乏制衡。
- 经济代价：每日 2000 万美元的罚款对中小企业可能构成生存威胁，可能进一步固化大公司垄断地位。
小结
“AI Kill Switch Act”标志着 美国 AI 监管从自愿承诺向强制合规的转变。但法案能否在国会顺利通过、技术细节如何落地，仍面临重重挑战。这不仅是法律问题，更是对 AI 安全工程能力的重大考验。
