实时
Liquid AI 发布 RIPL 引擎
热点事件历史事件
Liquid AI 发布 RIPL 引擎
2 篇报道2 个报道来源27 天前更新
先了解这件事
AI 综述
Liquid AI 发布了毫秒级实时智能引擎 RIPL,该引擎能在不到 50 毫秒内返回完整生成响应,并支持 NVIDIA GPU 上的实时请求。据称,Liquid RIPL 使 LFM2.5-1.2B 在 RIPL 上的表现比 Qwen3.5-0.8B 在 vLLM 上的 p95 滞后降低 14.4–28.4 倍。目前,Liquid RIPL 已在生产中部署于 Shopify 用于搜索增强,并适用于企业级部署在 NVIDIA GPU(如 H100、H200、B200 或 RTX PRO 6000)上的 LFMs。Liquid AI 称,RIPL 是一个低延迟推理引擎,旨在将 Liquid Foundation Models (LFMs) 直接置于实时请求路径中,并能持续在峰值负载下处理流量。
AI 根据报道生成 · 更新于 27 天前
最新进展10月23日 01:33
Liquid AI 发布 RIPL,一款用于亚 50 毫秒 LFMs 的实时推理引擎报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- MarkTechPostLiquid AI 发布 RIPL,一款用于亚 50 毫秒 LFMs 的实时推理引擎
Liquid AI 发布 RIPL 实时推理引擎,将 Liquid 基础模型(LFM)在请求路径中服务,端到端生成响应时间少于 50 毫秒,并在持续峰值流量下保持低延迟。
10月22日
- Liquid AI BlogLiquid RIPL:毫秒级实时智能引擎发布
Liquid RIPL 在不到 50 毫秒内返回完整生成响应,支持 NVIDIA GPU 上的实时请求。LFM2.5-1.2B 在 RIPL 上比 Qwen3.5-0.8B 在 vLLM 上 p95 滞后降低 14.4–28.4 倍,Shopify 已在生产中部署用于搜索增强。