跳到正文
实时
机器之心·收录于· 14 小时前65

英伟达SEED让Qwen3.8-Flash-Next每GPU吞吐最高提升42%

写入记忆,何必读完整个网络?英伟达SEED每GPU吞吐最高提升42%

要点速览

英伟达SEED技术使Qwen3.8-Flash-Next在处理输入时仅运行前31层,再由轻量组件为后续17层生成KV Cache和循环状态,生成阶段则运行完整48层,每GPU吞吐最高提升42%。该技术利用了输入输出阶段对Transformer层不同需求的区别。

来源: 机器之心 · jiqizhixin.com