实时
redistribution sensitivity score 识别特征重新分配模式
热点事件历史事件
redistribution sensitivity score 识别特征重新分配模式
1 篇报道1 个报道来源23 天前更新
先了解这件事
AI 综述
Hugging Face 发布了关于 Representation Redistribution in Sparse Autoencoders 的论文,提出 Redistribution sensitivity score (RSS) 可识别预训练 SAE 模型中可重复的特征重新分配模式,并量化其对下游任务的影响。该研究覆盖 8 个语言模型的 27 个预训练 SAE 模型,发现特征变化与失败不完全等同。 代码已开源至 https://github.com/OpenSAE/Redistribution-Sensitivity-Score。
AI 根据报道生成 · 更新于 22 天前
报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- Hugging Face Daily PapersHugging Face Daily Papers: Representation Redistribution in Sparse Autoencoders
Redistribution sensitivity score (RSS) 识别在 27 个预训练 SAE 模型(覆盖 8 个语言模型)上产生可重复特征重新分配模式的特征响应,结合 clean margin 可量化其对下游读出的贡献。