跳到正文
实时
热点事件历史事件

redistribution sensitivity score 识别特征重新分配模式

1 篇报道1 个报道来源23 天前更新

先了解这件事

AI 综述

Hugging Face 发布了关于 Representation Redistribution in Sparse Autoencoders 的论文,提出 Redistribution sensitivity score (RSS) 可识别预训练 SAE 模型中可重复的特征重新分配模式,并量化其对下游任务的影响。该研究覆盖 8 个语言模型的 27 个预训练 SAE 模型,发现特征变化与失败不完全等同。 代码已开源至 https://github.com/OpenSAE/Redistribution-Sensitivity-Score。

AI 根据报道生成 · 更新于 22 天前

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. Hugging Face Daily Papers
    Hugging Face Daily Papers: Representation Redistribution in Sparse Autoencoders

    Redistribution sensitivity score (RSS) 识别在 27 个预训练 SAE 模型(覆盖 8 个语言模型)上产生可重复特征重新分配模式的特征响应,结合 clean margin 可量化其对下游读出的贡献。