IBM Granite Speech 5.0 更新:Granite Speech 5.0-2B、Turbo CTC 与 4.1 2B Plus
IBM 发布了 Granite Speech 5.0 系列的三款模型,granite-speech-5.0-2b 在 390,000 小时数据上训练,支持 6 种语言互译及 2。
IBM 发布了 Granite Speech 5.0 系列的三款模型,granite-speech-5.0-2b 在 390,000 小时数据上训练,支持 6 种语言互译及 2。
IBM 发布 vLLM-Hook MIA 插件,在 vLLM 推理引擎中实现运行时监控与控制,速度比前身 vLLM-Hook 快 20 倍、比模型内插入代码的类似方法快 14 倍,延迟仅增加 2%-6%。该插件允许开发者实时观察和调整模型状态,如拒绝恶意提示、标记幻觉事实或编辑响应语气与准确性,同时几乎不降低性能。
Nebius 和 Nscale 等全球科技合作伙伴计划使用 NVIDIA Vera CPU 构建下一代基础设施,以应对智能体计算的快速发展需求。Vera CPU 通过加速智能体信息检索、软件工具运行、代码执行和结果评估等任务,提升响应速度并优化数据中心计算能力,支持数千任务并行运行时仍保持高效。
NVIDIA 扩展开源 Agent Toolkit,新增 Agent Knowledge Foundation、OpenShell 安全运行时和 NemoClaw 蓝图等组件,让企业用自有数据定制并管控智能体。
推荐理由: 原文列出 Agent Toolkit 新增组件与多家企业落地细节,可看清企业智能体如何接入自有数据并受运行时约束。
Mistral 与 NVIDIA 合作将 AI 模型与 NVIDIA 加速计算和物理建模工具整合,加速工程模拟并实现闭环 AI 驱动设计。合作将推出公共基准和开放数据集,标准化物理和智能体 AI 在计算机辅助工程中的评估,并利用 NVIDIA Omniverse 进行 3D 模拟和资源创建。
NVIDIA 在 Hugging Face 上线 SimReady Central Library,汇集 2000 多个可直接用于仿真的 OpenUSD 资产,覆盖机械臂、夹爪、仓储设备、机架和冷却设施,免费且无需申请即可使用。
NVIDIA Confidential Computing 通过硬件根隔离和加密认证保护模型和数据执行,新增 Confidential Bare Metal 部署选项,使前沿模型构建者能在第三方基础设施上运行敏感工作负载并保留模型数据控制权。
NVIDIA cuDSS 正式 GA,作为 CUDA-X 库把大型稀疏方程组求解迁移到 GPU,缩短仿真出结果时间并提升吞吐。Applied Materials 在 Ginestra 中实现最高 10x 加速,Dassault Systèmes 的 Abaqus 报告 8-10x 提升,ZEISS SMT 用 COMSOL 完成 EUV 光刻等离子体仿真基准提速 4x。
欧洲工业领袖正利用 NVIDIA CUDA-X 和 Omniverse 库、Cosmos 和 Nemotron 开源模型,贯穿工程与制造全周期以提升生产力、加速创新。
NVIDIA 欧洲合作伙伴正扩展区域计算能力,支持模型训练与推理,帮助开发者构建 agentic 和物理 AI 应用。Nscale 使用 NVIDIA DSX 平台实现 37% 更多 GPU 和 50% 更高推理吞吐量,Crusoe 开发液冷 AI 工厂支持低延迟推理,Nebius 采用 NVIDIA Groq 3 LPX 加速敏感应用。
NVIDIA 在 GTC Berlin 上展示了其本地 AI 硬件全阵容,RTX Spark 已上线支持 Windows PC 上的个人智能体,DGX Spark 支持开发者构建和扩展 Linux 应用,DGX Station 则为 Linux 企业团队运行前沿工作负载,Windows 版将于 12 月推出。
Databricks 发布 AI Runtime (AIR),将托管 GPU 基础设施直接引入其平台,让客户能在企业数据所在地训练高需求模型。AIR 提供 GPU 基础设施、开发者工具和数据治理功能,支持大规模训练、快速迭代和负载安全,客户无需管理独立的 GPU 堆栈。
Amazon SageMaker JumpStart 上线以来已集成 100 多个来自 30 家提供商的新模型,涵盖 Qwen 3.8-27B、Cosmos3 系列等。
新 AWS 体验让新 SageMaker AI 客户在注册后只需几步即可进入完全配置的 SageMaker Studio 环境,无需设置高级 AWS 账户或手动配置环境,新客户还可获得 100 美元的 AWS Free Tier 信用额度。
Amazon Bedrock 现在支持所有 Anthropic Claude 模型的结构化输出,包括 bedrock-runtime 和 bedrock-mantle 端点。
Eon 使用 Amazon Bedrock AgentCore Gateway 替代了本地 Model Context Protocol (MCP) 服务器,将跨 AWS、GCP 和 Azure 的操作工具访问整合为单一认证网关,使新工程师调查工具配置时间从 2 天缩短至 2 分钟。
AWS Agent Registry 通过运行时发现机制解决智能体演示中隐藏的问题,其 orchestrator 代理向 AWS Agent Registry 数据平面发送自然语言查询。
加拿大组织可通过 Amazon Bedrock 在加拿大 (Central) 和加拿大西 (Calgary) 区域使用 OpenAI GPT-5.6、GPT-6 和 GPT-6.1 模型,实现跨区域推理。
Octave Reliance 团队为解决监管行业质量管理的知识孤岛问题,在 Amazon Bedrock 上构建了基于 Cohere Embed v4 的三层安全多人租户 AI 基础设施,将部署时间缩短 50%。
Amazon Quick 结合 Amazon Bedrock AgentCore 为供应链团队提供跨系统实时数据访问,用户可通过对话式提问在 seconds 内获取跨系统答案,如识别受港口关闭影响的高收入 SKU 及成本。Quick 作为界面层,AgentCore 作为智能层,通过 MCP 协议连接 ERP、监控、采购等后端系统,实现从问题发现到生成应急采购请求的完整流程,所有操作需人工确认。
Smartsheet 推出通用版 Model Context Protocol (MCP) Server,使 AI 助手能通过标准化协议读写管理 Smartsheet 数据,支持 40 多种工具操作表格、行、列和自动化
LangChain Deep Agents 0.1.87 发布,支持非交互模式下恢复线程、在提示缓存过期前压缩大型空闲会话、显示提示缓存过期时间、自定义 Slack OAuth 应用身份,并加载来自线程切换器的旧线程;修复本地服务器在所有者死亡时停止、`@` 提及中非 ASCII 文件名支持、`/reload` 变更摘要误导等问题。
LangChain Deep Agents 0.7.29 发布,修复了 `CompositeBackend` 处理无尾斜杠路由、拒绝二进制文件文本编辑、内存中 `grep` 跳过二进制文件等 Bug。
欧洲广播联盟(EBU)与 NVIDIA 合作扩展主权框架,引入云服务商、开源模型开发者及系统集成商,帮助欧洲广播机构在部署智能体时保留数据、基础设施、模型和安全的控制权。
Databricks 将 RFD4-Proteina 模型集成到 Genesis Workbench,支持在 AI 运行时环境中执行,并与研究数据和工作流程连接。开发者可通过 Genie Code 和 NVIDIA BioNeMo Agent Toolkit 技能构建和调整管道,利用 serverless NVIDIA GPU 计算进行蛋白质设计。
Claude Code v2.1.306 发布,修复了在云会话中启动时报告"未登录"的问题,以及修复了具有许多 MCP 工具的会话中 API 错误被替换为"提示词过长"和不需要的压缩问题。
Gemini CLI 发布 v0.67.0-nightly 版本,通过迁移 gsutil 使用到 gcloud storage、保留用户级 ~/.gitconfig、防止 isAuthenticationError 假阳性匹配、支持 MCP OAuth 流的私有网络端点等修复和改进。
vLLM 宣布在 Flint 发布当天提供支持,NVFP4 与 BF16 两个 checkpoint 均可在单张 GPU 上运行,单请求在单张 GB200 上、10 万 token 上下文下解码约 500 tokens/s。
推荐理由: 原文给出了 Flint 在 vLLM 上的 day-0 支持、单卡吞吐数据和逐项内核优化过程,读者可据此判断小批量推理的工程取舍。
Claude Duet 研究预览版面向 Pro 和 Max 计划用户开放,Claude 在新应用中作为主动智能体工作。
各家口径不同:The Verge 提到 Claude Duet 面向专业人士和小企业主,而 Claude 说它面向 Pro 和 Max 计划用户。
蚂蚁集团和 vLLM 社区开源 Humming,这是一款通用的高性能量化推理内核库。Humming 支持英伟达从图灵架构开始的 GPU 以及 T-Head Zhenwu 810E 等 CUDA 兼容设备,提供广泛的量化支持,涵盖多种整数和浮点类型、位宽和缩放方案,在多个代表性工作负载上显著优于 vLLM Marlin、FlashInfer 和 DeepGEMM 等现有实现。
Agents CLI 1.5.0 版本引入扩展系统,允许开发者无需修改工具即可覆盖或添加命令,支持跨框架使用;官方发布的 LangChain 扩展替换了与框架绑定的命令,保留其余生命周期功能;开发者可创建自定义扩展,如添加软件物料清单(SBOM)扫描的部署命令,企业平台团队可借此强制执行治理策略。
Gemini CLI v0.65.0发布,修复了23个问题,包括强制非受信文件夹的只读工作区设置、避免会话恢复时的重复工具响应、防止快速退出时删除恢复的会话历史记录等,并新增支持遥测配置中的自定义OTLP标头。
Gemini CLI v0.66.0-preview.0 发布,更新了 ROADMAP.md 以不再引用过时的 2025 年路线图,修复了 UI 输出同步、调试控制台高度计算、工具容器滚动边框溢出等问题,并新增了关于其非为 Gemini 4 优化的横幅提示。
Claude Code v2.1.305 发布,新增 sandbox.allowNestedUserNamespaces 支持 Linux 下用户命名空间创建,修复了 Vertex、Bedrock 等平台因工具搜索被拒绝导致请求失败的问题,以及 /effort 和 /autocompact 设置未生效等 Bug。
Smartsheet 推出通用模型上下文协议 (MCP) 服务器,使 AI 助手能通过标准化协议读写管理 Smartsheet 数据;支持 Amazon Quick 和 Kiro 连接,Quick 供知识工作者和运营团队自然语言查询更新 Smartsheet,Kiro 让开发者能参考项目规格和更新任务状态,无需离开编码环境。
Databricks 推出 Agent Memory,通过存储关键事实、偏好和流程提升智能体质量、降低成本和延迟,支持在 Lakebase 上运行,目前处于 Beta 版本。Agent Memory 基于 Databricks 最新内存研究,采用 MemCurrent 架构,在内部基准测试中使智能体任务通过率提升三倍,同时减少 31% 的 token 使用量。
Anthropic 工程师 Doug 分享在站会与发布评审中使用 Claude Docs 的方法;Claude 在文档中协同工作,自动提取数据、验证论断并响应评论问题;该工具专为团队协作设计,支持多人实时编辑与智能分析。
Mistral AI 推出 Voxtral 3,包含 50+ 语言实时多步对话的尖端语音模型和语音代理 SDK,其语音转文本模型 Voxtral Small Transcribe 3 在 FLEURS 45 基准中 Forced WER 0.9%。
llm-d 项目宣布发布 1.0 版本,这是一个 Kubernetes 原生的分布式推理服务网络,支持在任何加速器上、任何云中部署任何模型的推理栈。该版本增强了多租户服务质量、零停机操作和智能体感知服务,以在常见生产操作中实现持续性能。通过前缀缓存感知路由和 KV 缓存卸载等技术,llm-d 1.0 可捕获 97% 的可用缓存重用,降低大规模 AI 服务的成本。
Gemini CLI v0.66.0-nightly.20261020.g76e4d7c04 发布,修复了视口刷新时保留终端滚动回溯的 UI 问题,以及解码流式 Node HTTP 活动块的 CLI 问题。