跳到正文
实时
10月25日周日
  1. vLLM Blog60

    vLLM在GB300 NVL72上服务DeepSeek-V4.1-Flash:性能追平DeepInfer并扩展至整机架

    vLLM 团队在 NVIDIA GB300 NVL72 单机架上用 P/D 分离与 Wide-EP 服务 DeepSeek-V4.1-Flash,在 SemiAnalysis AgentX 上达到每 GPU 954K tokens/s、单用户 P90 196 tokens/s,为早期单节点结果的 7.9 倍。

    推荐理由: vLLM 团队公开了在 GB300 NVL72 上服务 DeepSeek-V4.1-Flash 的逐项优化与实测数据,可与 DeepSeek 自家引擎 DeepInfer 对照。

10月24日周六
  1. vLLM Blog62

    vLLM 详解 GLM-5.3 在 16 张 H200 上的 PCP、DCP 与 Hybrid HiSparse 优化

    vLLM 团队发布 GLM-5.3 优化第二部分,在 16 张 H200 上以 1 个预填节点加 1 个解码节点部署,用 PCP 按 token 切分预填、DCP 按 token 切分 KV cache,使 1M 上下文可放入预填节点

    推荐理由: vLLM 团队拆解了 PCP、DCP 与 Hybrid HiSparse 如何在 16 张 H200 上组合,读者可据此理解长上下文部署的内存与预填瓶颈。

  2. Databricks Blog58

    Spark的声明式管道:为AI智能体设计的用例

    Spark的声明式管道在22项数据工程任务中比过程式管道快34倍、代码量减半且错误更少。声明式管道通过运行前验证可提前捕获结构性错误,并将排序和结果保存等重复性任务卸载给Spark,而过程式管道需在集群上运行至错误步骤才能发现。两种方法在逻辑错误率上表现相当,但声明式管道的代码更简洁一致,便于维护。

  3. Google Research62

    Google Research 用基础模型推进结核病筛查落地

    Google Research 在 IDWeek 2026 上介绍了其结核病筛查 AI 从研究走向临床的路径:2019 年在 Radiology 发布基准,2024 年在 NEJM AI 完成多站点前瞻验证,随后由 Nexus AI 转化为通过 CE MDR Class IIb 认证的临床工具。

    推荐理由: Google Research 梳理了从影像基准到 CE 认证工具、再到开源 MedGemma 的完整路径,读者可据此了解医疗 AI 从论文走向临床要跨过哪些环节。

  4. AWS Machine Learning Blog

    使用 AWS CDK 自定义资源编排 SageMaker AI 端点自动扩展

    使用 AWS CDK 自定义资源可自动编排 SageMaker AI 端点更新时的自动扩展,无需手动干预。通过三个自定义资源(注销、更新、注册可扩展目标、附加扩展策略)实现显式依赖顺序,确保端点配置和自动扩展参数在单一部署中同步更新。部署栈包含三个自定义资源、两个 Step Functions 状态机及十二个 Lambda 函数。

  5. Amazon Science

    Audible 技术团队开发新型可控语音合成技术提升有声读物体验

    Audible 技术团队开发新型可控语音合成技术,通过结合大型语言模型(LLM)和三项创新技术提升有声读物体验:1)开发数据合成管道生成带语音特征描述的语音数据,训练模型理解描述并生成匹配音频;2)创建自动分析书籍角色并识别对话的系统,准确率达 97%,为模型提供舞台指示;3)在 MUSHRA 测试中使对话区分度提升 3.7 分,英语和西班牙语测试中八成声音体验显著改善。

  6. Hugging Face Blog

    LitPivot:在文献景观中通过动态上下文开发研究想法

    LitPivot帮助研究人员通过阅读先前文献来调整研究方向,将研究想法分为问题、贡献和评估计划,并为每个部分提供基于文献的批评和修订建议。在涉及17名研究人员的实验室研究中,领域专家评价新颖想法的文献基础比使用文本编辑器和AI聊天工具开发的想法更好,参与者也报告了更强的文献理解和对想法新颖性和实用性的提升。

10月23日周五
  1. Databricks Blog60

    Databricks 谈 AI 账单:如何把编码智能体单位成本降低九成

    Databricks 高管 Patrick 复盘公司全面采用 AI 编码智能体后成本指数级上升、再通过控制层把单位成本最多降低 90% 的过程。他提到把流量迁到更便宜的新模型贡献了 50% 以上降幅,Smart Router 在接近最贵模型质量下把平均任务成本降低 30% 以上。这套内部方案后来产品化为 Unity Gateway,目前已有数千家客户使用。

    推荐理由: Databricks 高管复盘自家 AI 编码成本从失控到单位成本降九成的过程,给出网关、路由与自建评测的可迁移做法。

  2. Databricks Blog38

    Fraud Analyst AI Coworker:在单一平台上实时检测电信欺诈

    Fraud Analyst AI Coworker 可在单一平台上实时检测电信欺诈。该 AI 通过跨渠道关联、行为建模和设备模拟等技术,弥补传统欺诈检测系统在架构上的不足。其上下文窗口为 6-7 个系统数据源,速度提升 3.4 倍,但具体参数规模、benchmark 分数、价格及可用性(开源/闭源/API)原文未提及。

  3. Microsoft Research58

    Flint-interactive:一种用于创建交互式数据可视化的语言

    Flint-interactive 使 AI 生成的图表具有丰富的交互性,用户可通过点击、筛选、缩放、高亮和跨图表交互来探索数据。它通过高级语义事件和更新操作简化复杂交互的构建,并利用 Flint 编译器处理交互逻辑和视觉依赖,提高可靠性和开发效率。Flint-interactive 支持创建交互式数据故事、仪表板和连接体验,AI 代理可使用其生成带交互功能的图表,帮助用户更高效地分析数据。

  4. AWS Machine Learning Blog34

    Rescale 如何用 Strands Agents 和 AI-DLC 构建智能 AI 分流代理

    Rescale 利用 Strands Agents 和 AI-DLC 框架在 AWS 上五天完成智能分流代理的搭建,并在数周内投入生产。该代理通过调用 Claude Opus 4.8 对夜间端到端测试失败进行分类,检索知识库中的历史失败模式,查询 MCP 日志获取运行时证据,生成包含文件引用、函数名和推荐修复方案的整改报告供工程师审核。

  5. Hugging Face Blog

    Hugging Face 发布 OlmoEarth v1.3:全球卫星嵌入模型取得新进展

    Hugging Face 发布 OlmoEarth v1.3,一款卫星嵌入模型,提供全球预计算嵌入(10米分辨率,64及128维度),用户无需登录或技术知识即可使用。模型在27项评测中表现最佳,128维度嵌入在20项评测中得分最高,64维度嵌入在18项评测中领先。模型训练成本较v1.2降低53%,较v1降低18%,碳排放也相应减少,权重、数据和代码全部开源。

  6. Google Developers Blog

    Google API Gateway 支持流式传输:实时 AI 准备好的 API,无需更改规范

    Google API Gateway 现在支持流式传输,允许实时 API 调用,无需更改规范。流式传输支持 Server-Sent Events (SSE)、分块传输编码、HTTP 响应流和 WebSocket,最长连接时间可达一小时。在公共预览期间,创建网关时通过 `--enable-streaming` 标志启用,计划在正式版中自动启用,无需额外配置。

10月22日周四
  1. Google DeepMind

    谷歌DeepMind发布Forest Typology (ForTy) 2020全球森林类型地图

    Google DeepMind 与 Google Research 联合发布 Forest Typology (ForTy) 2020 全球地图,将地球每 10x10 米土地分类为六种森林和土地利用类型,并追踪 2017-2025 年变化。该地图基于联合国粮农组织定义,准确区分原生林、人工林、单一物种林浆、经济作物林和其它土地,支持欧盟防砍伐法规,准确率达 90%。

  2. NVIDIA Newsroom76

    NVIDIA 发布 OpenShell 参考架构,面向企业安全智能体

    NVIDIA 发布 OpenShell 参考架构,基于 OpenShell 安全运行时软件,整合 Vera Rubin 推理基础设施、Vera CPU 运行智能体框架、BlueField-4 DPU 上的 Sentry 安全框架,并可通过 RTX Spark、DGX Spark 和 DGX Station 延伸到边缘。

    推荐理由: 原文给出了面向企业智能体安全运行的全栈架构组成与首批合作方,读者可据此判断企业级智能体治理的落地形态。

  3. NVIDIA Blog

    NVIDIA 助力欧洲零售业转型:从数字发现到实体运营

    欧洲零售商正利用开放模型和物理智能,例如将推理成本降低 90% 的电商平台,以及通过数字孪生模拟不同机器人舰队协作的配送中心。Shopify 使用 NVIDIA 加速的开放模型,通过后训练将 NVIDIA Nemotron 3.5 Lightning 集成到 Sidekick 中的 GraphQL 子代理,实现 90% 的成本降低和 7 倍的响应速度提升。

10月21日周三
  1. OpenAI News62

    OpenAI 模型将上线 Google Cloud

    OpenAI与Google Cloud合作,将OpenAI前沿模型和Codex工作流接入Gemini的模型花园,并通过Google Cloud Marketplace提供

    推荐理由: OpenAI 前沿模型与 Codex 工作流进入 Google Cloud 的 Model Garden,读者可据此了解跨云分发的新入口。