机器之心·收录于2026-11-09 16:34· 5 天前65SGLang 并行推测解码性能达 SOTA,吞吐最高提升 4 倍已开源并行推测解码SOTA!因果依赖刻进草稿网络深度,SGLang吞吐最高达4倍,已开源要点速览SGLang 通过并行推测解码实现草稿网络深度因果依赖,吞吐量最高达 4 倍,已开源。来源: 机器之心 · jiqizhixin.com推理能力开源生态论文研究#论文研究#推理能力#开源生态