OpenAI 首次向四家独立审计机构开放内部 AI 系统现场访问
OpenAI opens its AI systems to four independent on-site auditors for the first time
OpenAI 首次允许 Apollo Research、METR、Transluce 和 Goodfire 四家外部审计机构到其办公场所直接访问内部 AI 系统,调查安全风险与模型行为。视任务不同,这些机构可接触未发布模型、源代码、训练数据和监控系统,并能与开发者私下交流。审计结果由各机构独立发布,但 OpenAI 可对机密材料做删减,并可在先行修复风险的前提下推迟报告发布。
四家外部机构获准进入 OpenAI 内部查看未发布模型与训练数据,可观察前沿实验室安全审查的开放边界。
OpenAI 正在向四家外部审计机构直接提供其内部 AI 系统的访问权限,以便它们在本地调查安全风险和模型行为。该公司表示,它与 Apollo Research、MЕТR、Transluce 和 Goodfire 合作,正如 OpenAI 所宣布的那样。该计划建立在对其监控系统进行的早期 本地审查 之上,并履行了来自“白宫超级智能协议”的承诺。
根据其任务分配,这些机构可以在 OpenAI 的办公室获得对未发布的模型、源代码、训练数据和监控系统的访问权限。他们还可以与开发人员进行机密交谈。Apollo Research 正在检查模型是否在秘密地违背其开发人员的意图工作。MЕТR 正在审查在最大的强化学习训练运行中出现的 AI 不当行为,这是一种通过奖励进行学习的模型方法。Goodfire 正在分析内部模型流程,而 Transluce 正在评估训练后的安全检查。OpenAI 和 Transluce 还计划在 2027 年初进行为期八周的后续审查。
一个独立的安全委员会监督整个流程,接收未编辑的报告,并调解争议。审计员将独立发布他们的发现,但 OpenAI 可以编辑机密材料并延迟报告以首先修复风险。该公司预计初期会有一些摩擦,但已经考虑进行更多审查,包括那些专注于公司文化和内部流程的审查。
AI 新闻无浮夸——由人类编辑
订阅 THE DECODER 以获得无广告阅读、每周 AI 新闻简报、我们独家每半年发布一次的“AI 雷达”前沿报告、完整档案访问权限以及访问我们的评论部分。
来源: The Decoder · the-decoder.com