实时
SimpleLoRIF 发布新方法追踪 LLM 安全退化
热点事件历史事件
SimpleLoRIF 发布新方法追踪 LLM 安全退化
1 篇报道1 个报道来源17 天前更新
先了解这件事
AI 综述
SimpleLoRIF 发布新论文,通过梯度对齐识别并过滤会无声侵蚀 LLM 安全的指令数据,生成的 SafeTulu 数据集将对抗性成功率降低了 22%,同时保留了模型能力。该方法旨在解决训练数据中存在的安全退化问题,通过技术手段提升 LLM 的安全性。
AI 根据报道生成 · 更新于 16 天前
最新进展11月2日 08:00
SimpleLoRIF发布:通过梯度对齐追踪训练数据中的安全退化报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- Hugging Face Daily PapersSimpleLoRIF发布:通过梯度对齐追踪训练数据中的安全退化
SimpleLoRIF通过梯度对齐识别并过滤会无声侵蚀LLM安全的指令数据,生成的SafeTulu数据集将对抗性成功率降低了22%,同时保留了模型能力。