与中国顶尖AI专家会面：他们同样感到焦虑
不久前，我参加了在北京中关村举行的一场大型人工智能会议。这个繁华的高科技区聚集了众多精彩议题，从递归自我改进（模型自行修改代码并无限进化）到人形机器人，不一而足。会议还邀请了多位计算领域传奇人物，包括公钥密码学联合发明人 Whitfield Diffie，以及因强化学习先驱工作与 Rich Sutton 共同获得图灵奖的 Andrew Barto。但最重要的收获只有一个：美国和中国应搁置激烈的人工智能竞争。前沿AI的网络安全和系统性风险已严重到不容忽视，日益强大的智能体模型若不加以合作，可能很快引发混乱。
“AI 是一项全球性技术，带来全球性收益、全球性危害，且新能力终将扩散的趋势始终存在。”通过视频发言的 MIT 计算机科学家 Stephen Casper 会后告诉我。
迄今为止，美国主要将中国AI进步视为经济和国家安全威胁。华盛顿已对芯片及制造设备实施严格限制，以阻碍中国开发强大AI。最近，美国政府以国家安全为由，命令 Anthropic 阻止外国公民访问其最强大的模型 Mythos 和 Fable 5。Anthropic 随后撤销了所有人的访问权限。WIRED 此前披露，一家被特别关注的涉华企业是韩国电信巨头。
但由北京智源人工智能研究院组织的这场会议强化了一个观点：如果AI开发过快且鲁莽，美中双方都将受损。随着AI变得更强大、更具智能体特性并与日常生活交织，其被用于网络攻击或以灾难性方式失败的风险只会增加。由于全球两大AI强国负责最先进的模型，它们之间的合作至关重要。Casper 指出，研究表明在AI危险方面开展国际合作的收益，超过合作带来的任何国家安全风险。他将当前局势比作美苏在冷战期间的合作——尽管存在深刻分歧，双方仍就核安全与军备控制进行合作。
“在AI领域，我们可能面临类似‘切尔诺贝利时刻’的灾难性事件，”Casper 警告道，“如果事故发生，其后果将不分国界。”