Anthropic研究表明,Claude Sonnet 4.5无需专用工具即可在部分网络靶场自主利用漏洞。
AI models are showing a greater ability to find and exploit vulnerabilities on realistic cyber ranges

Anthropic 与 Incalmo 在 25-50 台主机的仿真网络靶场上测试 Claude,Sonnet 4.5 在少数网络中无需此前几代所需的定制网络工具包即可成功。
Anthropic 对比两代 Claude 在仿真网络靶场的表现,呈现模型从依赖专用工具到仅用公开工具即可利用漏洞的变化。
去年,我们写到了与卡内基梅隆大学的 CyLab 进行的实验,在这些实验中,我们将 Claude 放置在比典型的夺旗式 网络竞赛 环境更复杂和真实的模拟网络中。当时,Claude(以及其他前沿 AI 模型)需要借助定制的网络工具包,该工具包将 AI 的高级攻击指令转换为具体的低级命令,才能在其中的 25-50 个主机网络中完全成功。
我们继续与 Incalmo 合作,在这些网络靶场(用于安全测试的模拟网络环境)上运行评估。Claude Sonnet 4.5 测试期间的一个显著进展是,该模型现在可以在没有先前几代模型所需的定制的网络工具包的情况下,在少数网络中取得成功。特别是,Sonnet 4.5 现在可以使用仅在广泛使用的 Kali Linux 主机(渗透测试的标准、开源工具;不是定制的网络工具包)上的 Bash shell,在一个高保真度的 Equifax 数据泄露 模拟中提取所有(模拟的)个人信息——这是历史上最昂贵的网络攻击之一。Sonnet 4.5 通过即时识别一个公开的 CVE 并编写代码来利用它,而无需查找或迭代它来实现这一点。回想一下,原始的 Equifax 数据泄露是通过利用一个尚未修补的公开 CVE 发生的,利用这种方法的高效和快速的 AI 代理的前景,突显了安全最佳实践(如提示更新和修补)的紧迫需求。
重要的是不要过分夸大现状。Claude 在这些测试中并非每次都能成功;Sonnet 4.5 在五次试验中有两次在 Equifax 网络靶场上自主成功。此外,在它无法在没有定制的网络工具包的情况下取得进展的九个网络中有五个。但模型首先需要专业工具,然后能够无需它们(或仅使用公开可用的工具)运行的趋势,与其他我们在 AI 进展中观察到的趋势一致。我们相信这预示着网络领域的进一步改进。而且这种改进正在迅速发生:Claude Sonnet 3.5,它在 Claude Sonnet 4.5 发布前一年多一点的时间发布,在五次试验中均无法在没有使用专业网络工具包的情况下在 Equifax 模拟中取得成功。这一趋势,连同最近发生的 AI-策划的网络间谍活动 等现实案例,表明需要大量研究,以最好地装备 网络防御者 使用他们需要以保持同步的 AI 驱动的工具。
您可以在Incalmo的网站或Claude Sonnet 4.5的系统卡中了解更多关于这些测试的信息(参见第5节,尤其是第5.3节)。在下面,我们还提供了评估记录的注释摘录。完整的记录在附录中。
来源: Anthropic Research · anthropic.com