跳到正文
实时
产品
10月21日周三
  4. OpenHands Blog63

    Recursive Flint 在 OpenHands 上发布：开源模型助力本地高效编码工作流

    Recursive Flint 发布，一款 40 亿参数的混合专家模型，专为本地高效推理设计，每 token 仅激活约 2.5 亿参数，在 M4 Pro MacBook Pro 上实现 125+ tokens/秒，NVIDIA RTX Spark 上达 150+ tokens/秒。OpenHands 作为其首发合作伙伴，支持该模型在本地硬件上运行，为开发者提供开源编码模型选项。

    同一件事 · 2 家
  5. vLLM Blog60

    vLLM 首日支持 Recursive 的 Flint 模型

    vLLM 宣布在 Flint 发布当天提供支持，NVFP4 与 BF16 两个 checkpoint 均可在单张 GPU 上运行，单请求在单张 GB200 上、10 万 token 上下文下解码约 500 tokens/s。

    同一件事 · 2 家

    推荐理由: 原文给出了 Flint 在 vLLM 上的 day-0 支持、单卡吞吐数据和逐项内核优化过程，读者可据此判断小批量推理的工程取舍。

  6. Claude 应用发布说明50

    Claude Duet 研究预览版面向 Pro 和 Max 计划开放

    Claude Duet 研究预览版面向 Pro 和 Max 计划用户开放，Claude 在新应用中作为主动智能体工作。

    同一件事 · 3 家

    各家口径不同：The Verge 提到 Claude Duet 面向专业人士和小企业主，而 Claude 说它面向 Pro 和 Max 计划用户。

  7. vLLM Blog

    蚂蚁集团与 vLLM 社区开源 Humming：通用量化推理高性能内核库

    蚂蚁集团和 vLLM 社区开源 Humming，这是一款通用的高性能量化推理内核库。Humming 支持英伟达从图灵架构开始的 GPU 以及 T-Head Zhenwu 810E 等 CUDA 兼容设备，提供广泛的量化支持，涵盖多种整数和浮点类型、位宽和缩放方案，在多个代表性工作负载上显著优于 vLLM Marlin、FlashInfer 和 DeepGEMM 等现有实现。

  8. Google Developers Blog

    Agents CLI 扩展系统：支持跨框架的智能体开发生命周期

    Agents CLI 1.5.0 版本引入扩展系统，允许开发者无需修改工具即可覆盖或添加命令，支持跨框架使用；官方发布的 LangChain 扩展替换了与框架绑定的命令，保留其余生命周期功能；开发者可创建自定义扩展，如添加软件物料清单（SBOM）扫描的部署命令，企业平台团队可借此强制执行治理策略。

  9. Browser Use38

    Browser Use Cloud MCP 服务器介绍

    Browser Use Cloud MCP 服务器支持代理以纯文字形式提交完整网页任务，由其云端浏览器代理处理，每小时成本为0.02美元，可同时运行10个项目。该服务使用API V3，提供11种模型选择，浏览器为强化版Chromium，默认开启隐身模式及Cloudflare代理支持。

  10. Gemini CLI releases15

    Gemini CLI v0.65.0发布

    Gemini CLI v0.65.0发布，修复了23个问题，包括强制非受信文件夹的只读工作区设置、避免会话恢复时的重复工具响应、防止快速退出时删除恢复的会话历史记录等，并新增支持遥测配置中的自定义OTLP标头。

  12. Claude Code releases40

    Claude Code v2.1.305 发布

    Claude Code v2.1.305 发布，新增 sandbox.allowNestedUserNamespaces 支持 Linux 下用户命名空间创建，修复了 Vertex、Bedrock 等平台因工具搜索被拒绝导致请求失败的问题，以及 /effort 和 /autocompact 设置未生效等 Bug。

  14. Databricks Blog

    Databricks 推出 Agent Memory 增强智能体能力

    Databricks 推出 Agent Memory，通过存储关键事实、偏好和流程提升智能体质量、降低成本和延迟，支持在 Lakebase 上运行，目前处于 Beta 版本。Agent Memory 基于 Databricks 最新内存研究，采用 MemCurrent 架构，在内部基准测试中使智能体任务通过率提升三倍，同时减少 31% 的 token 使用量。

  15. Sierra Blog65

    Sierra 与 Stripe 合作实现从对话到支付的无缝体验

    Sierra 与 Stripe 合作，使客户能在同一通话中完成对话、支付和获取收据，解决了以往客户在购买时被转至另一系统或收到支付链接的问题。Cedar 公司展示了该集成如何运作，其 71.3% 的付款通话成功完成。Sierra 现已列入 Stripe 应用市场，任何企业无需一次性集成即可将其代理连接到 Stripe 账户。

10月20日周二
  1. Mistral AI

    Mistral AI 推出 Voxtral 3 语音代理 SDK 和尖端语音模型

    Mistral AI 推出 Voxtral 3，包含 50+ 语言实时多步对话的尖端语音模型和语音代理 SDK，其语音转文本模型 Voxtral Small Transcribe 3 在 FLEURS 45 基准中 Forced WER 0.9%。

    同一件事 · 2 家

    各家口径不同：The Decoder 提到文本转语音模型（Voxtral Mini TTS 3），而第一份报告没有详细说明。

  2. IBM Research Blog

    llm-d 1.0 发布：强化开源 AI 推理生产环境

    llm-d 项目宣布发布 1.0 版本，这是一个 Kubernetes 原生的分布式推理服务网络，支持在任何加速器上、任何云中部署任何模型的推理栈。该版本增强了多租户服务质量、零停机操作和智能体感知服务，以在常见生产操作中实现持续性能。通过前缀缓存感知路由和 KV 缓存卸载等技术，llm-d 1.0 可捕获 97% 的可用缓存重用，降低大规模 AI 服务的成本。

  3. Lovable Blog75

    Lovable 企业版 10 月功能更新：支持本地云部署、自带密钥加密及欧盟推理

    Lovable 企业版新增支持在用户自建 AWS 或 Azure 云帐户中部署应用及数据，通过“自带密钥”功能加密聊天和项目历史，并推出欧盟推理选项将 AI 请求处理限定在欧盟境内。企业版还引入“组织”功能，由中央 IT 团队统一管理身份认证、SSO/SCIM 配置及跨工作区审计，同时支持工作区策略审批机制控制应用发布流程。

  9. Modal Blog58

    Modal 推出 Sticky Sessions 功能实现服务器less强亲和路由

    Modal 推出 Sticky Sessions 功能，通过 @modal.sessioned() 装饰器实现会话级别的强亲和路由，确保同一会话的所有请求始终到达同一容器，适用于语音转文字、语音代理和多人游戏等需要状态连续性的工作负载。该功能基于 Modal Server 架构，通过返回签名会话令牌进行授权，采用容器并发量探测实现负载均衡，并按活跃会话数量进行会话级自动扩展。

  12. Mastra Blog

    Mastra 发布 Mastra Launch 服务

    Mastra 发布 Mastra Launch 服务，为已使用 Mastra 框架但尚未将智能体投入生产的团队提供企业级访问权限和 90 天内完成部署的专属支持。该服务包括 Mastra 企业平台的全功能使用权限，以及 Mastra 工程师每周的现场协作支持，旨在帮助团队在 90 天内完成生产部署，否则仅需支付实施费用。

  18. Meta Engineering

    Meta 推出 GenRecs Tokenization 以稳定模型词汇表重塑广告推荐

    GenRecs Tokenization 通过将广告、产品等项用稳定语义词汇表表示，结合 Meta 生成式广告模型（GEM）和自适应排序模型，为广告主带来 0.35% 的转化率提升。该技术利用预训练大模型的世界知识，使推荐系统能理解新项目或无历史交互的用户偏好，并通过共享概念加速学习、实现跨活动迁移、随大模型规模提升性能，形成性能改进的反馈循环。

10月19日周一