跳到正文
实时
#部署/工程
10月21日周三
  4. OpenAI News62

    OpenAI 模型将上线 Google Cloud

    OpenAI与Google Cloud合作，将OpenAI前沿模型和Codex工作流接入Gemini的模型花园，并通过Google Cloud Marketplace提供

    同一件事 · 2 家

    各家口径不同：OpenAI News 提及与 Gemini 的 Model Garden 和 Google Cloud Marketplace 的集成；The Decoder 具体说明了提供的 GPT-6 Astra、GPT-6.1 Sol 和 GPT-6 Luna 模型及其定价细节。

    推荐理由: OpenAI 前沿模型与 Codex 工作流进入 Google Cloud 的 Model Garden，读者可据此了解跨云分发的新入口。

  7. IBM Research Blog

    IBM vLLM-Hook MIA 插件实现快速运行时监控与控制

    IBM 发布 vLLM-Hook MIA 插件，在 vLLM 推理引擎中实现运行时监控与控制，速度比前身 vLLM-Hook 快 20 倍、比模型内插入代码的类似方法快 14 倍，延迟仅增加 2%-6%。该插件允许开发者实时观察和调整模型状态，如拒绝恶意提示、标记幻觉事实或编辑响应语气与准确性，同时几乎不降低性能。

  9. NVIDIA Blog38

    NVIDIA cuDSS 正式开放可用，加速工程与科学仿真

    NVIDIA cuDSS 正式 GA，作为 CUDA-X 库把大型稀疏方程组求解迁移到 GPU，缩短仿真出结果时间并提升吞吐。Applied Materials 在 Ginestra 中实现最高 10x 加速，Dassault Systèmes 的 Abaqus 报告 8-10x 提升，ZEISS SMT 用 COMSOL 完成 EUV 光刻等离子体仿真基准提速 4x。

    同一件事 · 2 家

    各家口径不同：NVIDIA博客称ZEISS SMT使用COMSOL进行EUV光刻等离子体仿真提速4倍；NVIDIA新闻室提到使用cuDSS对COMSOL进行10倍加速。

  13. Databricks Blog

    Databricks AI Runtime 正式发布

    Databricks 发布 AI Runtime (AIR)，将托管 GPU 基础设施直接引入其平台，让客户能在企业数据所在地训练高需求模型。AIR 提供 GPU 基础设施、开发者工具和数据治理功能，支持大规模训练、快速迭代和负载安全，客户无需管理独立的 GPU 堆栈。

  14. NVIDIA Technical Blog65

    NVIDIA OpenShell Reference Architecture 如何在规模化中保障 AI 智能体工作负载的安全与治理

    NVIDIA OpenShell Reference Architecture 通过定义安全边界和治理策略，在规模化中保障 AI 智能体工作负载的安全。该架构支持智能体在执行复杂任务时访问文件、工具和互联网，并能动态协作。架构通过强化访问控制、审计日志和权限管理，降低智能体长时间运行带来的风险。

  15. NVIDIA Blog67

    NVIDIA GTC Berlin 2026：黄仁勋发布 DSX POD、OpenShell 与 Nemotron 等多项更新

    NVIDIA CEO 黄仁勋在 GTC Berlin 2026 主旨演讲中宣布多项更新，包括以模块化集装箱交付的 Vera Rubin AI 工厂参考设计 DSX POD，现场部署时间可从六个月缩短到 14 天。

    推荐理由: 黄仁勋在 GTC Berlin 的主旨演讲集中披露了 AI 工厂、智能体安全运行时与开源模型三条产品线的最新进展，读者可据此了解 NVIDIA 在欧洲的布局重点。

  17. Tessl Blog75

    Jellyfish 分析：AI 编码代理的审查瓶颈制约开发效率

    中位数公司 22% 的 PR 由 AI 编码代理完成，90% 百分位达 53%，但仅 0.6% 的 PR 经 AI 审查合并，10% 百分位为 9%。代理生成代码的放弃率（40%）是人工（20%）的两倍，且合并后审查量增加。领导层面临 ROI 问题，上游代码生成加速（2x PR 增长）远超下游产出（40-50% 特性增长），审查瓶颈成为制约因素。

  18. Latent Space

    DeepSeek DeepInfer 开源 SOTA 推理引擎：每日处理 155T tokens/集群，日创利 220 万美元，80% 利润率，81 天投资回报

    DeepSeek 发布开源推理引擎 DeepInfer，支持分布式推理、推测解码等，单集群每日处理 155T tokens，96% 输入缓存命中率，单卡时程收入 38 美元/小时，80% 利润率，81 天投资回报。引擎基于 vLLM 并添加缓存优化，但 KV 缓存管理和负载均衡组件未完全开源。vLLM 团队报告在 GB200 上解码吞吐量与 DeepInfer 相近。

  19. AWS Machine Learning Blog58

    vLLM 通过双向 KV 传输提升多轮智能体工作负载的 TTFT 性能

    vLLM 的双向 KV 传输机制通过让解码节点在后续对话回合中返回先前计算的 KV 缓存给预填充节点，减少了重复计算，在 AWS EC2 P5en 实例上的多轮基准测试中将 Qwen3-32B 的 TTFT 提升了 1.6 倍，zai-org/GLM-5-FP8 提升了 3.3 倍。该功能通过扩展 NIXL KV 连接器实现，并利用 KV 缓存感知路由器协调跨对话回合的 KV 重用。

  25. AWS Machine Learning Blog38

    Amazon Quick 和 Amazon Bedrock AgentCore 如何实现供应链的对话式智能决策

    Amazon Quick 结合 Amazon Bedrock AgentCore 为供应链团队提供跨系统实时数据访问，用户可通过对话式提问在 seconds 内获取跨系统答案，如识别受港口关闭影响的高收入 SKU 及成本。Quick 作为界面层，AgentCore 作为智能层，通过 MCP 协议连接 ERP、监控、采购等后端系统，实现从问题发现到生成应急采购请求的完整流程，所有操作需人工确认。

  27. GitHub Blog · AI & ML33

    GitHub Copilot 如何在 VS Code 中继续会话

    GitHub Copilot 用户可直接在 VS Code 中打开 GitHub Copilot app 会话，继续其对话、代码变更和上下文。用户可逐行审查 Copilot 的修改，直接在 VS Code 中进行手动编辑，并在本地运行和验证项目。会话和代码工作区保持连接，支持与 Copilot 交互式迭代优化，最后将更新提交到关联的拉取请求。

  32. TechCrunch · AI55

    Yelp 推出 Check for Me 功能，可代用户致电餐厅查询等候时间

    Yelp 新增 Check for Me 功能，用户可在应用内输入人数和电话，由AI代理致电餐厅查询等候时间并短信告知结果；同时更新AI助手整合 OpenTable 支持预订，并增强个性化与历史记录功能；推出付费产品 Smart Lead Reply 帮助商家自动回复客户并筛选潜在客户，每月收费30美元。

  33. TechCrunch · AI

    Google 发布开源 PyTorch 版本 TorchTPU 攻击 Nvidia AI 开发者生态

    Google 宣布其备受期待的 PyTorch 版本 TorchTPU 已作为开源项目发布，让 AI 应用开发者可将其应用运行在 Google 的 Tensor Processing Units (TPUs) 芯片上。

    同一件事 · 2 家

    各家口径不同：MarkTechPost 表示 TorchTPU 是为云 TPU 设计的原生 PyTorch 后端，旨在取代 PyTorch/XLA 并支持 eager-first 执行；TechCrunch 提到它是对 Nvidia AI 开发者生态系统的攻击。

  39. 腾讯混元 · Hugging Face 新模型78

    腾讯混元开源 Hy-Nomas 交互式世界生成模型

    腾讯混元在 Hugging Face 发布视频世界生成模型 Hy-Nomas，支持通过文本指令和相机控制进行自由形式的多轮交互，逐段生成视频并延续同一世界。模型采用分段自回归 DiT 架构，结合 Qwen2.5-VL-7B 文本编码器、相机条件模块和 PixelUMM 解码器，蒸馏推理配置为 8 步去噪、720×1280 分辨率、24 FPS。

    推荐理由: 腾讯混元开源可多轮交互的世界生成模型，给出架构细节与单卡 4090 部署配置，便于评估落地成本。

  40. vLLM Blog60

    vLLM 首日支持 Recursive 的 Flint 模型

    vLLM 宣布在 Flint 发布当天提供支持，NVFP4 与 BF16 两个 checkpoint 均可在单张 GPU 上运行，单请求在单张 GB200 上、10 万 token 上下文下解码约 500 tokens/s。

    推荐理由: 原文给出了 Flint 在 vLLM 上的 day-0 支持、单卡吞吐数据和逐项内核优化过程，读者可据此判断小批量推理的工程取舍。