新上线今天0 投票
被Mythos吓到，特朗普突然觉得AI安全测试也不错
本周，特朗普政府态度逆转，与Google DeepMind、微软和xAI签署协议，允许政府对其前沿AI模型进行发布前后的安全检查。此前，特朗普曾坚决抛弃拜登时代的AI安全政策，认为自愿安全检查是过度监管，会阻碍创新。上任后，他甚至将美国AI安全研究所更名为AI标准与创新中心，刻意去掉“安全”一词。然而，Anthropic宣布因其最新Claude Mythos模型的高级网络安全能力可能被恶意利用而拒绝发布后，特朗普突然对AI安全表示担忧。据《财富》报道，白宫国家经济委员会主任凯文·哈塞特称，特朗普可能很快签署行政令，要求政府在先进AI系统发布前进行强制测试。在CAISI的新闻稿中，该中心承认与谷歌、微软和xAI签署的自愿协议“建立在”拜登政策之上。CAISI主任克里斯·福尔在庆祝新合作时未提及Mythos，但承诺“扩大的行业合作”将帮助CAISI“在关键时刻为公共利益”开展工作。福尔表示：“独立、严格的测量科学对于理解前沿AI及其国家安全影响至关重要。”迄今为止，CAISI已完成约40项评估，包括尚未发布的前沿模型。在测试中，CAISI经常访问“保护措施减少或移除”的模型，以更彻底地评估国家安全相关能力和风险。CAISI称，评估还将使政府更好地了解模型能力。为确保评估人员了解政府中出现的顶级国家安全问题，一个跨机构专家小组已成立“专注于AI国家安全问题”的工作组。签署协议的部分公司对CAISI的测试计划表示信心。Google DeepMind前沿AI全球事务副总裁Tom Lue在LinkedIn上表示支持。
