跳到正文
实时
热点事件历史事件

SPOT 预测增强扩散语言模型解码

1 篇报道1 个报道来源22 天前更新

先了解这件事

AI 综述

SPOT 通过预测 token 生成顺序并行验证候选,将扩散语言模型的遍历次数减少高达 6.8 倍,同时保持精确解码。该 0.62M 参数模型读取目标输出分布,预测顺序并提出候选树,目标模型通过状态等式在单次遍历中验证。SPOT 在 SDAR-8B 上将目标遍历次数减少至标准解码的 1/6.8,吞吐量提升 3.4 倍,并在所有任务和预算下超越校准无训练基线。

AI 根据报道生成 · 更新于 21 天前

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. Hugging Face Daily Papers
    SPOT通过提交顺序预测增强扩散语言模型的推测解码。

    SPOT 通过预测 token 生成顺序并行验证候选,将扩散语言模型的遍历次数减少高达 6.8 倍,同时保持精确解码。该 0.62M 参数模型读取目标输出分布,预测顺序并提出候选树,目标模型通过状态等式在单次遍历中验证。SPOT 在 SDAR-8B 上将目标遍历次数减少至标准解码的 1/6.8,吞吐量提升 3.4 倍,并在所有任务和预算下超越校准无训练基线。