跳到正文
实时
11月7日周六
  1. Google Developers Blog

    代理分心

    13% 的代理会因 inline TODO(bug/...) 或 FIXME(bug/...) 而被误导,其中 83% 的行动完全未获开发者提示。41% 的代理追踪已关闭的 bug,57% 触发范围蔓延,导致每会话步骤增加 70%、token 增加 77%、等待时间增加 105%。通过交叉比对 TODO 状态和用户提示,可自动分离有效工作与浪费路径。

11月6日周五
  1. vLLM Blog72

    REINFORCE Zero:对齐 kernel 让异步 RL 在 lag 64 下稳定训练

    NVIDIA Research 与 Inferact 的 REINFORCE Zero 提出先对齐 rollout 与训练 kernel,再用不裁剪的 token 级重要性采样修正权重滞后,在 16 张 GPU、12K 次更新下训练步吞吐为同步训练的 2.40 倍。

    推荐理由: 论文把异步 RL 的 rollout 与训练差距拆成权重滞后和 kernel 不一致两项,并给出对齐后免裁剪重要性采样的做法。

  2. Cursor Changelog78

    Cursor 上线 Live Apps,可在编辑器内构建并分享可访问应用

    Cursor 推出 Live Apps 功能,用户描述需求后由云端智能体搭建 Web 应用、按需启动 Postgres 数据库、接入 Cursor SSO 鉴权并完成托管部署,发布后生成可分享链接。

    推荐理由: Cursor 将建站、数据库、鉴权和部署纳入云端智能体,读者可据此判断内部工具的开发门槛会降到什么程度。

  3. Mistral AI75

    Mistral 发布 Mistral Large 4(Le Chonk)并扩展 Mistral Studio 平台

    Mistral 发布 Mistral Large 4(代号 Le Chonk),主打编码、防御性网络安全和复杂文档推理,同时扩展企业平台 Mistral Studio,新增托管智能体、应用、工作流能力以及企业上下文、智能体可观测性和评估功能。

    推荐理由: 原文给出托管智能体、工作流、应用三类能力与部署选项,读者可据此判断企业智能体落地方式。

11月5日周四
  1. AWS Machine Learning Blog60

    生产级 AI 智能体的四层上下文工程:Deep Insight 在可运行代码中的实践

    AWS 团队以开源多智能体数据分析方案 Deep Insight 为参考实现,把生产级 AI 智能体的上下文工程拆成四层:多智能体架构隔离上下文、用提示词限制输出、把重内容外置到文件系统、用验证智能体与兜底机制把关。

    推荐理由: AWS 团队把上下文工程拆成四层,并给出开源参考实现中的具体代码与 token 节省数据,可直接对照改造自家 Agent。

  2. AWS Machine Learning Blog

    AWS Quick 的智能审批:在 AI 智能体工作中保留人类监督

    AWS Quick 的 Smart Approvals 功能通过现有控制评估用户请求的每个操作,自动批准符合条件的操作或将其返回给用户审查,无需额外权限。它使用独立模型 classifier 评估操作,考虑操作内容、数据流向和影响对象,并参考用户知识图谱判断接收者关系。管理员可设置哪些操作必须人工审批,用户也可关闭该功能。

  3. vLLM Blog75

    vLLM 为 Kimi K3.1 Pro 提供 Day-0 支持

    vLLM 宣布在 NVIDIA、AMD、Google TPU 和阿里平头哥真武 PPU 上 Day-0 支持月之暗面开源的 Kimi K3.1 Pro,该模型为 2.8T 参数(104B 激活)多模态 MoE,上下文 1M token。

    推荐理由: vLLM 团队详述为 Kimi K3.1 Pro 做 Day-0 适配的工程取舍,含稀疏注意力、KV 缓存打包与 DCP 的具体数字。

11月4日周三
  1. Together AI Blog75

    Together AI 发布了 Together Compiler,持续编译优化 AI 推理。

    Together AI 发布了 Together Compiler(TKCC),利用高吞吐智能体持续为推理引擎生成优化方案,在 24 小时内于 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 等前沿开源模型上实现 1.3-3x 的 TPS 提升。

    推荐理由: 原文给出了持续编译在多个前沿模型上的吞吐提升和引擎启动耗时对比,可据此判断推理优化流程的变化。

  2. AWS Machine Learning Blog38

    Cartesia 如何在 AWS 上构建超低延迟语音 AI 应用

    Cartesia 利用专为实时语音 AI 设计的状态空间模型(SSM)和 AWS 基础设施,实现亚 100ms 的文本转语音和语音转文本,支持 44 种语言语音克隆,适用于虚拟助手、客服中心等场景。Sonic 模型在约 90ms 内生成首个音频字节,Ink 模型具备原生话轮检测和噪声鲁棒性,API 接口支持实时流式输出。

  3. AWS Machine Learning Blog32

    Amazon Quick 整合结构化与非结构化数据。

    Amazon Quick 通过连接 Amazon S3 和创建知识库整合结构化与非结构化数据,用户可使用单一对话式 AI 代理查询。该解决方案包含数据层(存储在 S3 的非结构化内容和作为语义数据集的结构化数据)、工作空间层(将数据类型整合到单一工作空间)和代理层(自定义聊天代理链接到工作空间并返回组合响应)。

  4. NVIDIA Newsroom38

    AI如何重塑半导体晶圆厂工作方式——工程师因之加速决策

    AI正改变半导体晶圆厂工作方式,工程师因之加速决策。NVIDIA cuDSS库使COMSOL的多物理场仿真加速10倍,Applied Materials的Ginestra平台仿真加速10倍,ACE+平台加速35倍,Siemens的Calibre光刻软件仿真加速17倍。NVIDIA PhysicsNeMo框架让Lam Research能在毫秒级预测等离子体行为,替代耗时数天的全仿真。

    同一件事 · 2 家

    各家口径不同:NVIDIA博客称ZEISS SMT使用COMSOL进行EUV光刻等离子体仿真提速4倍;NVIDIA新闻室提到使用cuDSS对COMSOL进行10倍加速。

11月3日周二
  1. PyTorch Blog34

    Ray 宣布加速器特殊兴趣小组(SIG),旨在联合硬件厂商、Ray 贡献者和应用开发者,制定中立的加速器支持路线图。

    Ray 宣布加速器特殊兴趣小组(SIG),旨在联合硬件厂商、Ray 贡献者和应用开发者,制定中立的加速器支持路线图。初期聚焦开发测试基础设施、硬件感知能力和网络传输,优先支持共享硬件访问、可复现的开发测试环境及更广泛的 CI 覆盖。

11月1日周日
10月31日周六
  1. AWS Machine Learning Blog55

    Amazon Bedrock AgentCore 运行时让编码智能体实时构建和预览网页应用

    Amazon Bedrock AgentCore 运行时支持编码智能体实时构建和预览网页应用,通过 Session 端点提供带认证的 URL 以访问智能体会话中的端口,实现秒级更新预览。会话隔离的微虚拟机环境支持 HTTP/1.1、HTTP/2 和 WebSocket 连接,需配合 SDK 本地端点传递 IAM SigV4 签名或 JWT 令牌。