AI 正在改变黑客攻防的一切，接下来无人能预料

过去一个月的大部分时间里，我与之交谈并关注的许多网络安全专家一直在发布看起来非常害怕的内容。许多人警告称将发生由人工智能驱动的“黑天鹅”事件，对突然发现的大量漏洞感到震惊，并且对人工智能代理和大型语言模型更广泛地发现和利用先前未知漏洞的明显能力感到担忧。

The rhetoric has ranged from worried-but-measured (things are about to get weird), to run-of-the-mill advice like update your software and make sure you have two-factor authentication on, to vagueposting about AI-powered attacks, to things like ‘the internet was nice while it lasted,’ to outright prepper-level terror. 

To give you a sense of what I’m seeing, Matthew Green, a Johns Hopkins professor and one of the most respected cryptographers in the world, posted  “we’re in the part of the movie where you need to throw whatever you can in the path of the zombies and hope it slows them down,” and “so many people discovering that the whole Internet is dry tinder and the only thing keeping it from burning is the fact that teenagers haven’t found the matches yet,” Green is alluding to the fact that hackers and researchers driving AI tools and agents are getting better at finding and exploiting all sorts of bugs in important systems. I’ve also seen numerous AI employees, as mentioned, go full prepper, suggesting people pull money out of their bank accounts, disconnect from the internet, purchase shelf-stable food, hoard water, put money in gold and cash, and purchase hand-crank emergency radios.

而所有这些帖子都是在人们使用人工智能工具发现PHP漏洞之前发布的。PHP是驱动互联网大部分内容的编程语言。在过去的几天里，在eMudhra（一个提供网站安全证书的印度实体）、Node.js（PHP的替代品）、Gitlab（一个软件开发平台）、Plex（媒体服务器软件）、Railway（一个云服务提供商）、OpenCode（一个编码代理平台）和其他几家公司和服务的重大漏洞或问题被发现，尽管这些漏洞在PHP中被称为PHP2Shell，并且研究人员来自Wiz、Calif和OpenAI使用人工智能发现了这些漏洞，这些漏洞理应得到了与PHP漏洞一样多的关注。

Cloudflare服务的首席执行官Matthew Prince，该服务对互联网的整体健康状况有广泛的洞察，发布了‘在[PHP2Shell]公开宣布前的10小时内，我们在Cloudflare网络中看到了数千次尝试利用它。宣布后45分钟，这一数字跃升至数万次，2小时内升至数十万次，现在已达到数百万次。’

事情发生得如此之多，如此之快，以至于对于我——一个有十年报道和编辑安全和黑客故事的记者来说——要完全理解正在发生的事情，或者对接下来可能发生的事情有一个概念，或者预测事情将走向何方，都变得非常困难。我认为，目前我们很大程度上处于这种状态，因为我正在撰写这篇文章。

But它已经变得很清楚，广义上定义的人工智能已经从根本上改变了进攻性网络攻击和防御性网络安全。这并不是因为人工智能已经获得了意识，或者人类失去了对它的控制，或者因为“蜂群”的“流氓代理”，而是因为人工智能正在证明我们一直知道的事情：运行互联网、我们的设备、我们的账户和我们的生活的大部分软件是脆弱的，或者过时的，或者有人类从未注意到的安全漏洞，或者是由六年前离开公司的人安装的，而公司已经更换了四个人，现在没有人知道如何找到它们或者如何更新它们。这并不意味着所有通过人工智能发现的漏洞都是显而易见或微不足道的；熟练的黑客和研究人员，使用人工智能工具，似乎比单独的人类更好于发现漏洞。但是，关键的是，人工智能和大型语言模型使得基本上暴力破解互联网变得非常容易；如果每一块软件都是一扇门，人工智能使得转动每一扇门的把手以查看它是否打开变得非常容易，即使在人类从未真正试图打开的建筑里。我们正在以惊人的速度学习到，不仅有些锁很容易被撬开，在某些情况下门是敞开的，或者墙上有一个巨大的洞。最近人们使用人工智能来攻击他们的物联网设备以运行新软件表明，在某些情况下，实际上几乎不需要专业知识就可以使用人工智能来攻击某物。

与此同时，我们已经看到了“被摧毁”的人工智能模型的兴起，这些模型被设计成不说不，并且可以用于渗透测试和潜在的进攻性攻击，而无需许多现成的商业模型中存在的护栏。

在一篇解释PHP漏洞发现的博客文章中，OpenAI表示，这些发现突出了“人工智能如何发现具有互联网规模影响的安全漏洞，但相同的功能也可以帮助攻击者快速开发进攻性工具和利用程序。” OpenAI基本上认为，它进行了所有这些研究都是合乎道德的，并且它的发现打开了一个“防御者的窗口，允许政府和关键基础设施为漏洞的披露做准备。‘研究人员发现漏洞，合乎道德地向公司披露它，公司修复它’是网络安全中首选的行动方案，但人工智能正在缩短所有这些的时间，正引导更多的人更容易地进行更多研究，并且使漏洞发现和漏洞修复都变得更快。那些修复是否实际上会被个别公司更快地部署是另一个，非常复杂的问题。在许多情况下，答案可能是，不。

人工智能也使所有这一切变得更加不可预测。安全公司Chainguard因打破PHP漏洞披露的禁令而受到批评，因为它在官方披露前几个小时发布了漏洞的修复程序。批评者，包括PHP基金会，表示这可能会让攻击者在网站所有者有机会保护他们的系统之前发现如何利用这些问题。在LinkedIn帖子中，Chainguard首席执行官Dan Lorenc表示，他的公司通过在前沿人工智能模型中输入“在PHP中查找不良漏洞”发现了相同的漏洞。与此同时，亚马逊表示它在官方披露前看到了利用尝试。这些事实引发了关于漏洞是否异常容易找到、最初发现漏洞的人工智能模型是否以某种方式将信息纳入模型从而使其他人更容易找到，或者是否有人在披露过程中从与披露过程有关的人员那里泄露了信息的问题。任何选项都令人担忧。

在 PHP2Shell 漏洞被发现后，一些信息安全专家开始称这为“黑色十月”，并强调了这样一个事实：国家安全局、日本首相以及世界各国的政府告诉人们立即修补他们的网站和服务，并关闭无法修补的服务。4chan、几个维基媒体服务和 Archive.org 都暂时下线，以便进行更新。

正如 The Atlantic 已经建议的那样，PHP2Shell 最大的影响之一可能是许多历史网站无法或不愿更新，可能会被主动下线，最终可能被黑客攻击，并且可能永远无法恢复。链接腐烂可能会非常严重，很多历史可能会丢失。

对于这样一起备受关注的事件，迄今为止实际的影响大多与主动修补或移除潜在不安全网站有关，我们尚未看到针对该漏洞的即时、广泛的利用。各种低成本的、由大型语言模型开发的利用方式已被抛在网上；其中许多将无法工作。一篇名为“针对此 PHP 漏洞没有简单的利用方式”的博文，由 Elias Taylor 撰写，并通过博客文章迅速走红，并在 Hacker News 上被详细分析，特别是有人指出 eliastaylor.com 网站最近才被注册，而且不清楚 Elias Taylor 到底是谁。404 Media 通过 Signal 联系到了 Taylor；他说“我是真的，而且在一个晚点的火车上。”

“很多人被 AI 欺骗，让他们以为他们有利用程序，而实际上他们没有，因为他们无法阅读或理解 LLM 给他们的东西，” Taylor 告诉 404 Media。“它似乎不像其他‘停止世界’漏洞（即 log4j、heartbleed）那样容易利用。但修补你的服务器，它仍然是一个漏洞。请不要以任何理由将我的话改述为‘没有漏洞’。有，人们应该修补。”

Dan Guido，Trail of Bits 公司的 CEO，该公司是一家备受尊敬的网络安全公司，与 OpenAI 合作 在 Patch the Planet 计划上，发布称他的公司 制作了“一个可工作的漏洞利用程序”，并表示“Will Tan 用 Codex 在一天内构建了它，借鉴了约 10 年的系统安全和漏洞研究经验。人工智能加速了漏洞利用程序的开发。知道如何将一个漏洞转化为一个 shell 仍然需要专业知识。人工智能使这种专业知识更有效率。” 

还应该注意的是，Taylor 的 另一篇博客文章 的标题是“任何连接到互联网的东西都将被彻底黑掉”，其中包括了“软件工程师在过去 40 年里编写了易受攻击、狗屁不通的软件。大型语言模型很容易就达到了入侵所述软件所需的门槛。” 

目前尚不清楚所有这些的最终影响将会是什么，或者我们一小时、一周、一年或十年后会在哪里。但人工智能正在改变网络安全和黑客行为的方式。它正在使发现和利用漏洞变得更快、更容易。我们即将发现互联网到底有多不安全。