Google 测试 Agent Anomaly Detection

1 篇报道1 个报道来源3 天前更新

先了解这件事

AI 综述

谷歌在其Gemini企业代理平台上发布了代理异常检测，声称它标记了代理超出其预期边界的会话。在对五个非谷歌公共代理安全基准测试（重点关注代理目标劫持）的测试中，该功能检测了代理执行的87%的有害指令，其中四个测试涉及隐藏在工具返回数据中的有害指令。它在普通办公工作中引发了一些误报，在目标劫持和工具滥用方面表现最强，但在中毒内存方面表现最弱。测试表明，该功能异步读取代理的跟踪和日志，而不会增加延迟。该模型拒绝了四分之三的直接有害请求，并识别了大约30%的工具输出中的隐藏指令以供执行后审查，尽管其长期内存中毒指令检测率仅为22%。

AI 根据报道生成 · 更新于 2 天前

最新进展11月12日 08:00

Agent Anomaly Detection 在非 Google 编写的安全基准测试中的表现

报道时间线

沿着报道，了解事件的不同侧面。

11月12日

08:00
Google Developers Blog
Agent Anomaly Detection 在非 Google 编写的安全基准测试中的表现
Agent Anomaly Detection 在五个非 Google 编写的公共代理安全基准测试中，对代理执行的有害指令检测率为 87%，其中四项测试中，有害指令隐藏在工具返回的数据中，一项测试中用户直接请求有害操作。该模型拒绝四分之三的直接有害请求，对隐藏在工具输出中的指令成功识别 30% 左右，执行后标记 87% 进行事后审查，但长期记忆中毒指令检测率仅为 22%。

本事件热度走势

可比范围当前: 3
可比范围峰值: 611月13日 04:00
近 24 小时变化: -49%

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。