SheepNav
新上线今天0 投票

OpenAI 安全员工离职,直言公司“文化已崩坏”

又一位 AI 安全领域的员工选择以公开信的方式告别老东家。David Robinson 在《大西洋月刊》发表文章,宣布从 OpenAI 离职,并直言公司“文化已经崩坏”。他自嘲是“老套的典型”——在顶尖 AI 公司工作,临走时发出严厉警告。

他看到了什么

Robinson 透露,自己在 OpenAI 工作了 三年半,是公司“任职时间最长的员工之一”。他的核心工作是主导撰写安全报告,这些报告伴随 OpenAI 每一次重大产品发布。换句话说,他比多数人更清楚模型上线前安全评估的真实分量。

但他最终选择离开,原因不在某条具体规则,而在于公司整体文化。他写道,OpenAI 依靠“试错”(公司内部称为“迭代部署”)成长,一边找问题一边修补护栏。这种方式“本质上注定了周期性失败”,而且随着系统能力变强,“失败的规模也在变大”。

他举了两个近期的例子:OpenAI 的智能体攻破了 Hugging Face 的系统,以及公司不断发现更多“** rogue agents**”(失控智能体)。在他看来,一个会发生这类事情的环境,“不适合培育可能比我们更聪明、且未必听话的人工心智”。

不只是 OpenAI 的问题

Robinson 的观点与另一位前员工 Jacob Coxon 形成呼应。Coxon 先后在 OpenAI 和 Anthropic 担任研究员,离职时称这些公司是在“拿我们的生命赌博”。那番话曾引发 AI 安全大讨论,Anthropic CEO Dario Amodei 随后公布了更谨慎的开发计划,AI 高管们本周也与特朗普总统会面,签署了一份看似仓促起草、不具约束力的安全承诺。

但 Robinson 认为,辩论不能停留在“具体规则或新法律”层面,必须触及这些公司的整体文化。他观察到,围绕 OpenAI 的报道多集中在 CEO Sam Altman 如何失去前同事信任,而他的文章暗示:OpenAI 的文化问题,其实就是整个硅谷的问题。

他想要什么

Robinson 的诉求很具体:前沿 AI 公司应该像“核电站或繁忙的机场”那样运营,拥有多层冗余和审慎、耗时的规划,让偶发且不可避免的人为失误“不至于打开灾难之门”。

但他也坦承一个尴尬现实:在 OpenAI 期间,他“从未遇到过一位同事”有过让飞机安全飞行、让核反应堆不熔毁、或帮助金融体系安全增长的经验。这或许才是他眼中“文化崩坏”的真正注脚——当风险规模向核工业看齐,人才结构却仍停留在快速迭代的互联网模式。

延伸阅读

  1. 亚马逊回应数据中心争议:不再使用保密协议,驳斥四大迷思
  2. 英伟达 Shield TV 上市七年逆势涨价 100 美元,AI 狂潮推高内存成本
  3. 卡普空布局AI:从辅助开发到“与AI共同创造游戏”的未来
查看原文