Liquid AI Releases LFM3: 6 Open-Weight 2B-Class Multimodal Models

Liquid AI 发布了 LFM3，这是其新一代的 Liquid 基础模型。Liquid AI LFM3 是一个由 6 个开放权重、2B 级别的模型组成的系列，它们基于一个共享的骨干构建。该系列涵盖文本、视觉、音频、全模态和决策任务。每个模型都可以在单个 GPU 上进行微调。开发人员随后可以在手机、笔记本电脑、私有服务器或云上部署。

简而言之

大小： LFM3-1.7B 有 1.73B 个参数和 256K 的上下文窗口。LFM3-VL-2B 有 1.92B 和 128K。LFM3-Omni-2B 有 2.2B。
运行在： 大约 1 GB 的内存，4 位，因此适用于手机和笔记本电脑。提供 GGUF、MLX、ONNX、FP8 和 NVFP4 检查点。
性能： LFM3-1.7B 在 29 个基准测试中平均得分为 49.37，高于 Qwen3.5-9B 的 47.24（Liquid 自己的评估）。
最佳： IFEval 96.66，以及 AutomationBench 41.29，而 Qwen3.5-9B 为 15.10。
最差： Humanity’s Last Exam（无工具）7.17，以及 RULER 128K 65.56，而 Qwen3.5-9B 为 87.11。

什么是 Liquid AI LFM3？

LFM3 是来自 Liquid AI 的一个多模态模型系列，从 1 个基础模型分支出 6 个模型。它们都从 LFM3-1.7B-Base 开始。

发布内容包括：

LFM3-1.7B： 用于本地代理的文本模型，经过微调以适应 Hermes Agent、Pi 和 OpenClaw 等模型。
LFM3-VL-2B： 第一个具有视频输入的 LFM 视觉模型，以 2 fps 采样。
LFM3-Audio-2B： 跨 18 种语言的语音输入和输出，具有工具调用功能。
LFM3-Omni-2B： 一个模型包含视觉、音频和语言输入，以文本或语音回答。
d1-2B 和 d1-Omni-2B： 决策模型，可以在一次前向传递中回答许多问题。

三混合架构是如何工作的？

骨干混合了 24 层中的 3 个操作符。有 13 个门控短卷积，5 个滑动窗口注意力层和 6 个全局注意力层。SWA 窗口是 256 个标记。卷积核从 3 增长到 7。

Liquid AI 团队通过其硬件在环架构搜索发现了这种混合方式。LFM2 在 1 部手机和 1 台笔记本电脑上进行微调。LFM3 在 14 种设备和后端组合上进行微调。这些包括 Raspberry Pi 5 和 Qualcomm Hexagon NPU。

其他变化包括注意力上的头向 Sigmoid 门控，全局层上的部分 RoPE 和三明治规范。基础模型看到了 22T 个标记。最后 3.5T 个标记在训练中期是代理密集型的，这也将上下文扩展到 256K。

微调分为 4 个阶段。首先是在 1.75T 个标记上的 SFT，然后是混合 RL。接下来，6 个专业教师被蒸馏成一个模型，然后是代理式 RL。

LFM3-1.7B 在基准测试中的表现如何？

Liquid AI 报告称 LFM3-1.7B 比有 35% 更少参数的 LFM2.5-2.6B 更好。更大的故事是代理结果。在 WebArena-Verified 上它得分为 38.42，而 Qwen3.5-9B 为 28.94。在 BFCL V4 上它得分为 71.39，而 Qwen3.5-9B 为 62.83。

在知识和代理编码方面，大小仍然占优。GPQA Diamond 为 63.37，而 Qwen3.5-9B 为 80.40。SWE-bench Verified 为 43.40，而 Qwen3.5-9B 为 51.20。搜索缩小了差距：使用工具后，Humanity’s Last Exam 从 7.17 上升到 13.90。

LFM3-1.7B 及其竞争对手如何比较？

特性	LFM3-1.7B	MiniCPM5-2B	Qwen3.5-4B	Gemma 4 E4B
参数	1.73B	2.52B	4B LM (5B 在 Hub 上具有视觉)	4.5B 有效 (8B 带嵌入)
架构	卷积 + SWA + 全局注意力	标准 Llama transformer	门控 DeltaNet + 门控注意力	滑动窗口 + 全局注意力
上下文	256K	131,072	262,144	128K
输入模态	文本	文本	文本、图像、视频	文本、图像、音频
许可	LFM 开源许可 v1.0（收入门槛 $10M）	Apache 2.0	Apache 2.0	Apache 2.0
BFCL V4（Liquid 评估）	71.39	62.65	55.12	48.25
WebArena-Verified（Liquid 评估）	38.42	9.11	21.92	17.06
SWE-bench Verified（Liquid 评估）	43.40	34.80	41.20	0.50
GPQA Diamond（Liquid 评估）	63.37	65.15	75.76	57.88
GPQA Diamond（供应商报告）	63.37	70.2	76.2	58.6
RULER 128K（Liquid 评估）	65.56	37.96	84.63	18.82
Liquid 29-benchmark 平均值	49.37	39.19	39.27	31.74

来源：Liquid LFM3 模型卡, MiniCPM5-2B 卡, Qwen3.5-4B 卡, Gemma 4 E4B 卡, LFM 许可证.

视觉、音频、全模态和决策模型呢？

LFM3-VL-2B 在 62 个视觉基准测试中平均得分为 71.4。Gemma 4 12B 在同一套测试中得分为 71.7。它在视觉定位（77.3）和 GUI 理解（83.1）方面领先该比较。视频（61.2）和代理任务（42.5）仍落后于更大的 API 模型。

LFM3-Audio-2B 达到 6.2 的英语 WER 和 3.8 的 UTMOSv2 TTS 分数。LFM3-Omni-2B 在 Daily-Omni 上的得分为 70.1，而 Qwen2.5-Omni-7B 为 61.3。

d1-2B 用三分之一更少的参数替换了 d1-3B。它将决策基准从 83.6 提高到 85.2。

开发者如何部署 LFM3？

权重在 Hugging Face、Liquid AI 乐园和Liquid API上，文档列出了文本和视觉模型的GGUF、MLX和ONNX格式。运行时包括 llama.cpp、MLX、vLLM、SGLang、Ollama和Transformers。

在设备上，Liquid AI 测量 llama.cpp 在 Q4_0 上的 32K 上下文。完整的 128K 上下文需要 1.6 GB 的 KV 缓存。Qwen3.5-4B 需要 4.3 GB。在 1 个 NVIDIA B300 上使用 SGLang，LFM3-1.7B 在 1,024 个并发请求下每天产生 3.6B 个 token。

Liquid AI 还展示了专业化。在 1 个 A100 上进行几小时的 SFT 和 GRPO，风力涡轮机缺陷分类率提高到 67%。

关键要点

6 个开源权重 2B 级别的模型共享一个三杂交骨干。
LFM3-1.7B 在 4 位精度和 256K 上下文下大约占 1 GB。
它在 BFCL V4、WebArena-Verified 和 AutomationBench 上击败了 Qwen3.5-9B。
知识和代理编码仍然是明显的弱点。
年收入不超过 $10M 的免费商业使用。

查看 技术细节、模型权重 和文档。此外，欢迎关注我们在 Twitter 上的动态，别忘了加入我们的 15k+ML SubReddit 并订阅我们的 Newsletter。等等！你用 Telegram 吗？现在你也可以加入我们的 Telegram。

需要与我们合作推广您的 GitHub 仓库 OR Hugging Face 页面 OR 产品发布 OR 网络研讨会等？联系我们

文章 Liquid AI 发布 LFM3：6 个开源权重 2B 级别多模态模型首次出现在 MarkTechPost。