跳到正文
实时

安全对齐 · 页 5

8月9日周六81–83
6月27日周五
6月13日周五
  1. Anthropic Research72

    Anthropic与CMU研究:配备Incalmo工具包的LLM可在企业级网络实施多阶段攻击

    Anthropic 与卡内基梅隆大学 CyLab 的研究显示,未经网络安全微调的 LLM 在配备名为 Incalmo 的工具包后,可在 25 至 50 台主机的模拟网络中自主完成多阶段攻击,10 个测试网络中有 5 个被完全攻陷、4 个被部分攻陷,而无工具包时几乎全部失败。

    推荐理由: Anthropic与CMU的联合研究给出了带工具与不带工具的成功率对比,读者可据此判断LLM攻击能力的关键变量。