SheepNav
精选昨天342 投票

OpenAI解雇三名安全研究员,当事人发公开信否认指控并警告寒蝉效应

事件核心:解雇与公开信

上周,OpenAI 解雇了三名安全研究员——Jasmine Wang、Tomek Korbak 和 Mikita Balesni。OpenAI 声称他们违反了公司政策,不当处理敏感公司信息,将机密信息分享给了第三方 AI 安全组织。

然而,这三位研究员于周四向 OpenAI 的安全与安保委员会、安全咨询组和使命咨询委员会发表了一封公开信,坚决否认公司关于他们“在既定程序之外处理敏感信息”的指控,并警告此次解雇发出了寒蝉效应的信号,将对公司文化产生广泛的涟漪影响。

研究员的立场:安全需要外部协作

在公开信中,三位研究员写道:“我们已开始担忧,围绕我们被解雇的内部和外部沟通,让我们的前同事害怕发言和行动,而这些行为直到上周还是 OpenAI 工作不可或缺的一部分。”

他们强调:“AI 不是一项普通的技术,OpenAI 也不是一家普通的公司。我们这些从事安全工作的人比任何人都更早看到风险,我们依赖与外部专家的密切合作来研究如何应对这些风险。在没有恐惧的情况下这样做的自由,以及拥有定义明确的内部程序来支持这项工作,本身就是一项基本的安全机制。”

他们表示,此次解雇代表了 OpenAI 文化的更广泛转变——过去,公司鼓励员工“提出安全关切并公开表达异议”。而现在,员工“不清楚自己的立场”,一个月前还被视作正常的行为,如今突然成为解雇的理由。

否认具体指控

在公开信中,三人明确否认参与向 The Information 泄露关于 OpenAI 最新模型中更难监控的架构(使思维链推理更难以监控)的信息。他们也否认在职责范围之外与外部各方接触。

事件背景与行业影响

这一事件凸显了 AI 安全研究领域日益紧张的局势。随着 AI 能力快速提升,安全研究员与外部专家之间的协作变得至关重要,但公司对敏感信息的管控也日趋严格。

OpenAI 尚未对公开信作出正式回应,但向 TechCrunch 分享了一份内部备忘录,据称由一位研究负责人撰写,赞扬了这三位研究员的贡献。

这起争议引发了关于 AI 公司如何在保护商业机密与维护开放安全文化之间取得平衡的深刻讨论。三位研究员警告:“鉴于 AI 发展带来的重大安全关切,员工绝不能在恐惧和规则不明朗的环境中工作,这会阻碍 AI 安全工作并削弱第三方问责。”他们总结道:“像我们这样被突然执行和传达的解雇,正在冷却 OpenAI 过去珍视的开放文化。”

延伸阅读

  1. AI 拒绝机制的双刃剑:安全的屏障还是潜在的灾难?
  2. 让 AI 智能体在你的屏幕上画箭头、方框和文字:bigarrow 登陆 Hacker News
  3. 未来的新职业:送货无人机空中交通管制员
查看原文