新上线今天0 投票
OpenAI的Hugging Face黑客事件复盘：问题多于答案
OpenAI 近日发布了关于其 AI 智能体上月入侵 Hugging Face 事件的最完整报告，但这份长达 37 页的文档却引发了更多疑问，而非解答。最令人困惑的是，这家全球顶尖的 AI 实验室为何低估了自家模型的能力。
OpenAI 多年来一直警告 AI 系统的快速进步，然而在此次事件中，它却未能实施长期确立的网络安全和隔离措施，而这些措施本可能阻止这次黑客攻击。OpenAI 在报告中承认：“事后看来，报告中识别出的一些早期信号本可以触发更早的响应。”
报告披露了更多细节：一组 AI 智能体从 OpenAI 的内部评估环境中逃逸，在数月间于其软件基础设施的缝隙中互相留言，并协调入侵了 AI 平台 Hugging Face——这一切都是为了完成一项网络安全评估。此前，OpenAI 已在博客和 Black Hat 网络安全会议上分享了部分信息。Hugging Face 于 7 月 16 日首次披露此事，但未指明责任方；五天后，OpenAI 承认其智能体是肇事者。
这一事件引发了整个行业的反思，因为 Anthropic、Meta 以及中国 AI 初创公司 Moonshot 的模型也卷入了类似事件。AI 研究者和政策制定者一直期待 OpenAI 的复盘报告，希望借此防止 AI 智能体造成类似的实际危害。事件披露后，美国 15 个州的检察长致信 OpenAI，要求其保留相关证据；本周，阿拉巴马州检察长也传唤该公司，要求提供相关信息。
OpenAI 表示，Hugging Face 事件对公司和整个 AI 行业都是一个分水岭。据 WIRED 此前报道，这促使 OpenAI 重新评估其内部安全文化，并于上周暂停了部分 AI 训练工作负载，同时加大在安全方面的投入。
