Liquid AI 发布端侧视觉语言模型 LFM2.5-VL-3B

今天，我们发布了 LFM2.5-VL-3B，我们最强大的视觉语言模型。它在性能上与两倍大小的模型相比具有竞争力，并且在多种 CPU 和 GPU 部署中运行速度更快，即使与参数更少的模型相比也是如此。

LFM2.5-VL-3B 基于我们之前的 LFM2-VL-3B，在屏幕理解、基础、函数调用和多图像输入方面有显著改进。LFM2.5-VL-3B 是一个非推理模型，它直接回答问题，从而保持低延迟，适用于实时和设备端应用。

该模型今天可以在 Hugging Face 和 我们的 Playground 上获得。查看我们的 文档，了解如何在本地运行和微调它。

新增内容

LFM2.5-VL-3B 通过四个主要改进扩展了我们之前发布的视觉语言能力：

屏幕/UI 理解。LFM2.5-VL-3B 对移动、网络和桌面上的数字屏幕有很强的理解能力。它在 ScreenSpot-v2 上的平均得分为 80.7，远高于更大的 Gemma-4-E4B (51.2) 和 Qwen 3.5 4B (78.5)，并且接近更大的 InternVL-3.5-4B (84.1) 

函数调用。在我们的 VL 系列中，新的 LFM2.5-VL-3B 在工具使用和函数调用方面有显著增强，适用于纯文本和视觉文本输入。ToolSandbox 从 26.4 增加到 59.5，BFCL v4 从 20.5 增加到 32.5，使其与 Gemma-4-E2B 相当，并且领先于 Qwen3.5-2B。

基础。LFM2.5-VL-3B 通过扩展合成基础数据显著提高了基础性能。它将 RefCOCO precision@1 从 57.1 提高到 87.9，比我们之前的版本提高了 30 个百分点。

多图像输入。在多图像推理方面的改进，将 BLINK 从 50.2 提高到 61.5，并将 MUIRBench 从 34.9 提高到 58.3。

训练

LFM2.5-VL-3B 遵循我们之前 VLMs 的架构，LFM2.5-VL-1.6B 和 LFM2.5-VL-450M。它基于我们刚刚发布的 LFM2.5-2.6B 文本模型的相同预训练基础，并集成了 SigLIP2 400M NaFlex 编码器。

与之前的 LFM2-VL-3B 发布相比，它在约 34T token 上进行预训练。为了更好地支持 LFM2.5 中的非拉丁脚本，我们将词汇量增加到 128K，通过 扩展现有的 tokenizer 实现。 

此外，我们将我们的视觉预训练的 token 数量扩展了 4 倍，同时通过大量精选和合成图像-文本、OCR、基础和指令跟随数据提高了其数据质量。

训练后流程包括监督微调 (SFT)，包括从更大的教师模型中提取知识，以及 Antidoom 训练，然后是多奖励强化学习 (RL)。

视觉基准

我们在 28 个基准上评估了 LFM2.5-VL-3B，涵盖了多语言视觉理解、指令跟随、视觉数学和科学推理、文档理解、对象检测、多图像理解和屏幕理解。

LFM2.5-VL-3B 在理解物理世界和数字世界方面特别强。它在 RealWorldQA、POPE 和 RefCOCO 等真实世界图像任务上领先于同尺寸模型，同时在数字内容上表现良好，从文档和图表到屏幕上的 UI 元素。在这些基准测试的平均表现中，LFM2.5-VL-3B 显著优于更大的 Gemma 模型，并且与更大的 4.7B Qwen 3.5 模型的差距在 0.7% 以内¹

文本基准

我们还使用仅文本基准测试 LFM2.5-VL-3B 在指令遵循和工具使用方面的表现，与同一组模型进行了比较。指令遵循在各个方面都有所提升，工具使用显著改善，ToolSandbox 从 26.4 提高到 59.5，翻了一番多。在工具使用方面，LFM2.5-VL-3B 与 Gemma-4-E2B 和 Qwen3.5-2B 的表现相当²

这些结果使 LFM2.5-VL-3B 成为一个强大、全面的视觉语言模型。它在图像描述、视觉问答和文档理解等日常任务中表现良好，尤其擅长执行操作、边界框检测以及读取数字屏幕和文档。

快速推理无处不在

LFM2.5-VL-3B 在推理生态系统中提供了一天的支持：

• llama.cpp — GGUF 检查点用于高效的边缘推理
• MLX — 优化 Apple Silicon 的推理
• vLLM — GPU 加速的生产吞吐量服务
• SGLang — GPU 加速的生产吞吐量服务
• ONNX — 跨平台在多种加速器上的推理

On-device inference. LFM2.5-VL-3B 在 Apple M5 Max 上解码 228 tokens/s，在 AMD Ryzen AI Max+ 395 上解码 116 tokens/s，同时保持在约 3 GB 的内存中。它紧凑的视觉编码器也使其快速获得第一个 token，而具有更重编码器的模型（如 InternVL）在同一图像上会停滞。它甚至可以在手机上运行，在 Galaxy S26 Ultra 上解码 20 tokens/s，因此一个强大的视觉模型可以在您自己的设备上私密运行。

GPU inference. LFM2.5-VL-3B 是为在 GPU 上快速、响应式推理而构建的。因为它直接回答而不是推理，所以它快速返回第一个 token，即使在图像密集型输入上也是如此。我们在单个 NVIDIA H100 SXM5 GPU 上，一次一个请求，跨三种输入类型测量首次返回 token 的时间：一个 512x512 图像，一个带有 1,024 个输入 token 的 512x512 图像，和 5 个 256x256 5 帧视频剪辑。LFM2.5-VL-3B 保持延迟始终很低，并在多帧输入上远远领先，在 5 帧视频剪辑上返回第一个 token 大约需要 34 ms，而 Gemma 模型需要大约 200 ms。

我们还使用持续负载设置在单个 NVIDIA H100 SXM5 GPU 上测量输出吞吐量（总输出 token / 墙上时间）：在每个并发级别上，我们持续保持目标数量的正在处理的请求，立即替换每个完成的请求。

我们使用 vLLM 0.26 对每个模型进行基准测试，使用 512×512 图像加上 1,024 个输入 token 和最多 256 个输出 token，在 BF16 中，并报告每个并发级别的 5 次运行的中值。LFM2.5-VL-3B 达到我们测试的任何模型中最高的输出吞吐量，在高并发下约为每秒 11K 个 token。这大约是更大的 4B 类模型的 2 倍，甚至领先于较小的 2B 类模型，这加起来在单个 H100 上每天几乎有 1B 个输出 token。

See LFM2.5-VL-3B in Action

您可以直接在浏览器中使用我们的 WebGPU demo 尝试 LFM2.5-VL-3B。该模型完全在设备上运行，无需设置。您可以上传图像或从您的网络摄像头捕获静态图像以查看模型的效果。

Document understanding. 给定一个文档页面，模型在单次遍历中分析整个页面，识别区域并分配布局标签。

Screen/UI understanding. 给定一个查找特定文档页面的高级目标，模型导航网站以满足目标。模型视觉分析每个屏幕以识别点击的位置，并重复此过程直到到达目标页面。

Function calling. 给定一个菜肴的图像和一个请求其食谱的要求，模型识别菜肴并确定应该调用搜索工具来查找食谱。

Grounding. 给定一个自然语言请求，模型在图像中定位指定的对象，并为每个对象返回一个边界框。

Get Started

今天就使用 LFM2.5-VL-3B 开始构建，它在 Hugging Face 上提供。

With LFM2.5，我们正在实现我们的愿景，即在任何地方运行 AI。这些模型是：

• Open-weight — 无限制地下载、微调和部署
• Fast from day one — 在 Apple、AMD、Qualcomm 和 Nvidia 硬件上原生支持 llama.cpp、MLX 和 vLLM
• 完整的家庭 — 从可定制的基座模型到专业的音频和视觉变体，一种架构涵盖了多种用例

我们迫不及待想看到你能构建出什么。

在 Hugging Face 上下载阅读我们的文档在 Playground 上试用

引用

请引用本文：

¹ 评估使用 vLLM 0.26.0 和每个模型推荐的生成参数（如果可用）。到处都使用非推理模式，并提示模型直接回答而不进行推理。

表格中的所有值都归一化到 0–100。原始基准使用 0-2800 用于 MME，0-1000 用于 OCRBench，以及 0–1 用于 DocVQA 和 InfographicVQA。

RefCOCO-avg 是这 8 个分割 P@1 的平均值 RefCOCO: val, testA, testB, RefCOCO+: val, testA, testB, RefCOCOg: val, test

POPE 是对抗、流行和随机子集中所有示例的 F1

MMMU-Pro 使用 10 选择多项选择题变体

² InternVL 3.5 模型不支持函数调用。