跳到正文
实时
热点事件历史事件

VocabX 降低推理成本

1 篇报道1 个报道来源28 天前更新

先了解这件事

AI 综述

Qwen3-4B的专精词汇表VocabX通过聚焦每个token的成本而非频率,在不改变基础模型的情况下将推理成本降低77%。该方法针对葡萄牙语作文评分器,将输出层词汇表从约152,000行缩减至约65,000行,显著减少token分割和未使用词汇项的计算开销。Hugging Face将于2026年10月22日发布相关论文。

AI 根据报道生成 · 更新于 27 天前

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. Hugging Face Blog
    如何通过专精SLM词汇表在真实应用中将推理成本降低77%。

    Qwen3-4B的专精词汇表VocabX通过聚焦每个token的成本而非频率,在不改变基础模型的情况下将推理成本降低77%。该方法针对葡萄牙语作文评分器,将输出层词汇表从约152,000行缩减至约65,000行,显著减少token分割和未使用词汇项的计算开销。