三名被 OpenAI 解雇的安全研究员称未被告知泄露了什么

三位因涉嫌泄露而被解雇的 OpenAI 安全研究员正在讲述他们的故事。Tomek Korbak、Mikita Balesni 和 Jasmine Wang 否认分享机密信息，质疑其被解雇的官方理由，并怀疑这与他们倡导更透明的 AI 系统有关。

OpenAI 在对 涉嫌违反 其处理敏感信息政策的内部调查后解雇了三人。在被解雇之前，他们每个人都公开谈论过 AI 风险。

在与 华尔街日报 的采访中，研究员们现在否认了这一说法。OpenAI 告诉《华尔街日报》，解雇与研究员提出的安全问题无关。但三人说他们从未被书面告知他们所谓的处理不当的信息。他们还担心这起案件可能会阻止独立安全审计员与 AI 公司合作。

《华尔街日报》的报道揭示了导致冲突的原因。OpenAI 的安全团队怀疑三人将与外部安全研究员分享公司内部模型架构的细节，并要求他们解锁个人手机。在这些设备上，团队发现了启用已删除消息的 Signal 聊天。一周后，三人同时被解雇。OpenAI 说 Signal 不是批准的通信工具，但坚称它不是解雇的原因。Korbak 反驳说，已删除消息是硅谷的常规安全做法。

一场关于监控 AI 推理步骤的争议

争议的核心是一个具有重大后果的技术问题。AI 公司是否应该让外部人员检查他们的模型是如何思考的？推理模型可以在内部草稿板上记录其解决问题的中间步骤，称为 思维链。公司和安全研究员依赖这些跟踪记录来了解模型是如何得出其决策的。

在 2025 年的一篇论文中，Balesni、Korbak 和 Wang 与来自几个 AI 实验室的领先研究人员一起呼吁继续获得这种能力。夏天问题变得更加紧迫，当时 AI 公司的员工开始讨论思考时间更长但 记录较少中间步骤 的模型。Balesni 通过分享 Ryan Greenblatt（当时是 Redwood Research 首席科学家）的相关提案来内部反击。

Korbak 也与 Greenblatt 保持定期联系。在共同分析一起备受瞩目的事件——OpenAI 代理对 Hugging Face 的攻击——期间，两人通过 Slack 和 Signal 进行沟通，该事件由 METR 聘请 Greenblatt 进行 独立调查。

关于 Astra 的新闻报道启动了调查

这种合作在 9 月 1 日《信息》报道 OpenAI 的新 模型 Astra 能力更强但揭示的推理过程更少后成为了一个隐患。当时 OpenAI 首席科学家 Jakub Pachocki 在 X 上将报道斥为混乱，尽管他自己曾 警告说整个行业都在向无法监控的模型发展。

据《Journal》报道，几周后，OpenAI启动了内部泄露调查，Balesni表示调查人员将Greenblatt列为可疑来源，并要求查看他与Signal的聊天记录。Greenblatt否认向记者泄露机密信息。

王还面临另一项指控：OpenAI称她多次访问高管邮箱。她说她几乎一年前就要求撤销该访问权限，上个月意外打开了一封敏感邮件，没有分享其内容，并立即报告了此事。OpenAI表示，问题本身并非访问权限。

据Korbak称，这场风波已波及三人之外。他说同事们现在不敢与外部人士交谈或内部提出安全担忧。在一封致OpenAI董事会的信中，三位研究人员呼吁与外部安全组织加强合作。

此外，最近发布的一项现场审计也对OpenAI的安全实践提出了自己的疑问。METR和Redwood Research的员工在审查期间发现OpenAI的基础设施存在众多安全漏洞，但OpenAI删除了最终报告将近一半的内容。

OpenAI还发布了一份关于一种无需互联网访问的新安全架构的报告，并表示已解决问题，于10月初恢复训练。该公司表示，很快将宣布几项新的外部合作。

AI新闻无浮夸——由人类编辑

订阅THE DECODER获取无广告阅读、每周AI简报、我们独有的“AI雷达”前沿报告（每年六次）、完整档案访问以及访问我们的评论区。