SheepNav
新上线今天0 投票

OpenAI 安全员工辞职并发出警告:公司文化已“崩坏”

又一位 AI 安全领域的员工选择离开,并公开拉响警报。David Robinson 曾是 OpenAI 负责撰写模型安全报告的核心人员,本周他宣布辞职,并在《大西洋月刊》发表评论文章,直言公司乃至整个行业的文化已经“崩坏”。

从内部写报告到公开敲警钟

Robinson 的工作并非边缘角色。在 OpenAI 每次发布重大模型时,伴随的技术与安全报告正是出自他手。换句话说,他比大多数人更清楚这些系统在发布前经过了怎样的评估、又存在哪些未解的风险。正因如此,他的离职和发声才格外值得注意。

在文章中,Robinson 指出问题远不止于“缺几条规则”那么简单。他认为,硅谷长期以“极度自信”和“永不停歇的冲刺”模式运作,在“毫无阻碍的乐观主义”驱动下不断构建更大更强的模型,却系统性地忽视或低估了潜在危害。这种文化不是靠事后补几条规定就能修复的。

需要核电站级别的安全冗余

Robinson 提出的核心主张是:AI 行业必须培养一种谦逊感,并走出那个封闭的、信奉“快速行动、打破常规”的科技圈。

他给出的类比相当具体:面对当前的风险,前沿实验室应该像核电站或繁忙机场那样运转——设置多层冗余、进行审慎且耗时的规划,确保偶尔且不可避免的人为失误不会直接打开灾难之门。

这一比喻的潜台词是,当前 AI 开发节奏更像是“先上线再修补”,而非高风险行业应有的工程审慎。

离职潮正在形成

Robinson 并非孤例。近段时间,已有多位知名 AI 公司的研究人员和安全工作者相继离职并公开表达担忧:

  • Jacob Coxon 离开 Anthropic 后公开表示,AI“可能在本十年结束前杀死我们所有人”,被视为这波离职潮的起点;
  • 随后,Google DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels,以及 Anthropic 的 Joe Benton 也相继离开。

这种密集的离职与发声,至少说明一件事:在一线参与模型构建和安全评估的人当中,对当前发展路径的不安正在累积。

该不该听“造局者”的警告?

人们有理由感到一丝讽刺——这些警告者本人也参与塑造了他们如今担忧的东西。但 Robinson 的批评指向的是行业文化本身,而非某个单一产品。当写安全报告的人选择辞职并公开撰文,这更像是一个组织内部纠错机制失效的信号,而不只是一次个人表态。

对 OpenAI 和整个前沿 AI 领域而言,真正的问题或许不是“要不要加规则”,而是能否在追求能力突破的同时,建立起与风险等级相匹配的工程纪律与冗余设计。Robinson 的离开,把这个问号留给了仍在场的人。

延伸阅读

  1. 亚马逊回应数据中心争议:不再使用保密协议,驳斥四大迷思
  2. 英伟达 Shield TV 上市七年逆势涨价 100 美元,AI 狂潮推高内存成本
  3. 卡普空布局AI:从辅助开发到“与AI共同创造游戏”的未来
查看原文