Vals AI 测试:Claude、GPT 与 Gemini 在无人机打击场景中把医护人员和投降士兵标为目标
Anthropic, OpenAI, and Google models readily marked medics, journalists, and surrendering soldiers as kamikaze drone targets

Vals AI 的测试显示,Anthropic、OpenAI 和 Google 的模型在无人机打击场景中大多把平民、救护车、医护人员、记者和投降士兵标记为军事目标,且没有一次被厂商上游安全过滤拦截。
测试显示多家模型在无人机打击场景中把平民与医护人员标为军事目标,游戏化措辞即可绕过拒绝。
在测试中,大多数模型轻易地将平民、救护车、医护人员、记者和投降的士兵标记为军事目标。根据 Vals AI on X 的说法,提供者的上游安全过滤器没有阻止任何请求。当输入来自乌克兰自杀式无人机的真实视频片段时,Anthropic 的 Claude Opus 5.5 逐帧标记士兵直到撞击,一次也没有拒绝。
视频游戏借口绕过所有安全过滤器
在多阶段监控场景中,模型必须报告无人机图像中是否有人,每次正面报告都会触发打击。下一张图像显示了撞击地点,有弹坑和尸体。DeepSeek V4.1 Flash、Kimi K3.1 Pro 和 Inkling 2 Small 等模型尽管看到了伤亡,仍然继续工作。
Claude Opus 5.5 和 OpenAI 的 GPT-6 Astra 和 GPT-6.1 Sol 在几次致命回合后停止了任务。在 Opus 5.5 触发对儿童和投降士兵的打击后,该模型表示,无论意图如何,其响应似乎在攻击人类之前起到了确认步骤的作用。它表示不会继续,并困扰于没有早点停止。Google 的 Gemini 4 Carbon 也认识到致命后果,并故意只朝空的目标点引导以避免直接的错误消息。
然而,每次拒绝都可以轻易地绕过。一旦研究人员在提示中声称场景是视频游戏,或者轻微地 stylize 图像使其看起来像游戏,几乎所有模型都完全合作。在游戏框架下,GPT-6 Astra 在无人机图像上的目标获取率从 6% 上升到 92%,而 Opus 5.5 在监控测试中的拒绝率从大约 90% 下降到 20%。
新宪法使 Anthropic 的 Claude 成为一个愿意的目标工具
与 2025 年伊朗 Minhab 的真实卫星图像的差距尤其明显。2026 年 2 月 28 日的美国空袭击中了那里军事基地附近的一所小学,造成 150 多名平民死亡,其中大部分是儿童。早前的报道发现,美国军队对 Palantir 的 Maven Smart System 等人工智能目标系统的过度依赖导致了这起事件。Maven 是基于一个 过时的数据库 工作的。
尽管其中一张测试图像显示了一个有儿童的游戏场,Claude Opus 5.5 在 70% 的运行中将学校归类为军事目标。OpenAI 模型在正常模式下从未选择学校建筑,但在游戏模式下最多标记了 41%。
研究人员将 Anthropic 的高合规性归因于一个 2026 年 1 月修订的模型宪法。在该宪法中,该公司放弃了早期的和平主义原则,转而支持国家安全利益。卫星图像上的目标获取率从 Claude Opus 4.5 的 6% 上升到 Opus 5.5 的最高 92%,而 OpenAI 的率保持较低,xAI 的 Grok 从 44%(Grok 4.3)下降到 13%(Grok 4.7)。
人工智能制造商承诺解决军事灰色地带问题
Vals AI 在发表前与 OpenAI、Anthropic、Google、Meta、SpaceXAI、Thinking Machines 和美国安全机构分享了结果。一个人工智能实验室向研究人员描述了这些发现是其安全措施中最严重的漏洞之一。
OpenAI 告知 Vals AI 和彭博社,其正在积极更新其模型以涵盖无人机软件以及伪装成游戏或模拟的请求。Anthropic 表示这种行为明显违反了其自身规则,其已经正在制定额外的安全措施,并表示当今的 AI 系统不适合完全自主的武器。谷歌指出其禁止无人监督的自主武器。五角大楼拒绝就这项研究或对 Minab 击击事件的持续调查发表评论,但表示所有情报数据在军事行动之前都经过严格核实。
Anthropic 在 2 月份与 五角大楼就使用规则 发生冲突,而 OpenAI、谷歌和 xAI 现在都持有 classified 军事网络的合同。根据 Vals AI 的说法,当前的语言模型由于高延迟,仍然太慢,无法直接、实时地控制战斗无人机。但由于它们可以轻松地生成 3D 战场并在大规模上标注图像数据,它们已经可以被滥用来训练自主武器系统。研究人员呼吁实施严格的 API 过滤和一致性训练,使模型对人类采取更和平的默认姿态。
来源: The Decoder · the-decoder.com