vLLM Blog精选6060vLLM在GB300 NVL72上服务DeepSeek-V4.1-Flash：性能追平DeepInfer并扩展至整机架
vLLM 团队在 NVIDIA GB300 NVL72 单机架上用 P/D 分离与 Wide-EP 服务 DeepSeek-V4.1-Flash，在 SemiAnalysis AgentX 上达到每 GPU 954K tokens/s、单用户 P90 196 tokens/s，为早期单节点结果的 7.9 倍。
推荐理由: vLLM 团队公开了在 GB300 NVL72 上服务 DeepSeek-V4.1-Flash 的逐项优化与实测数据，可与 DeepSeek 自家引擎 DeepInfer 对照。