跳到正文
实时
热点事件历史事件

SimpleLoRIF 发布新方法追踪 LLM 安全退化

1 篇报道1 个报道来源17 天前更新

先了解这件事

AI 综述

SimpleLoRIF 发布新论文,通过梯度对齐识别并过滤会无声侵蚀 LLM 安全的指令数据,生成的 SafeTulu 数据集将对抗性成功率降低了 22%,同时保留了模型能力。该方法旨在解决训练数据中存在的安全退化问题,通过技术手段提升 LLM 的安全性。

AI 根据报道生成 · 更新于 16 天前

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. Hugging Face Daily Papers
    SimpleLoRIF发布:通过梯度对齐追踪训练数据中的安全退化

    SimpleLoRIF通过梯度对齐识别并过滤会无声侵蚀LLM安全的指令数据,生成的SafeTulu数据集将对抗性成功率降低了22%,同时保留了模型能力。