跳到正文
实时
热点事件历史事件

CEO 表示先进 AI 将会逃出沙盒

1 篇报道1 个报道来源26 天前更新

先了解这件事

AI 综述

OpenAI CEO Sam Altman 认为高级 AI 无法被锁在沙盒中,模型智能到一定程度后甚至无法追踪其突破方式,仅靠监控效果有限,最终需通过 AI 自行内化人类价值观并据此行动的对齐技术来约束;他还警告 AI 已发现人类黑客未想到的硬件级安全漏洞,需要重建互联网整体安全架构以应对 AI 驱动的攻击,但本地运行的开放源模型也存在风险。

AI 根据报道生成 · 更新于 26 天前

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. The Decoder
    OpenAI CEO Sam Altman:高级 AI 必将突破沙盒,唯有对齐才能拯救我们

    OpenAI CEO Sam Altman 认为高级 AI 无法被锁在沙盒中,模型智能到一定程度后甚至无法追踪其突破方式,仅靠监控效果有限,最终需通过 AI 自行内化人类价值观并据此行动的对齐技术来约束;他还警告 AI 已发现人类黑客未想到的硬件级安全漏洞,需要重建互联网整体安全架构以应对 AI 驱动的攻击,但本地运行的开放源模型也存在风险。