跳到正文
实时
热点事件历史事件

LLM 量化测试:fp8 和 fp4 对质量与价格的影响

1 篇报道1 个报道来源8 天前更新

先了解这件事

AI 综述

OpenRouter 在 240 个评分任务中测试发现,fp8、fp4 与 fp16 未显示精度差异,所有六种端点得分在 98.3% 至 99.2% 之间。低精度量化通常更便宜,但有 7 个模型中 fp8 比 fp16 贵,4-bit 比 8-bit 贵的情况有 7 个模型。fp4 在 40 个无工作流乘法任务中表现最差,但差距可能由偶然性导致。

AI 根据报道生成 · 更新于 8 天前

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. OpenRouter Blog
    LLM 量化:fp8 和 fp4 对质量与价格的影响

    在 OpenRouter 上测试,fp8、fp4 与 fp16 在 240 个评分任务中未发现精度差异,所有六种端点得分在 98.3% 至 99.2% 之间。低精度通常更便宜,但 fp8 比 fp16 更贵的情况有 7 模型,4-bit 比 8-bit 更贵的情况有 7 模型。fp4 端点在 40 个无工作流乘法任务中表现最差,但差距可能由偶然性导致。

本事件热度走势

可比范围当前
3
可比范围峰值
511月12日 06:00
近 24 小时变化
-49%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。