跳到正文
实时

部署工程 · 页 2

11月7日周六21–40
11月6日周五
  1. vLLM Blog72

    REINFORCE Zero:对齐 kernel 让异步 RL 在 lag 64 下稳定训练

    NVIDIA Research 与 Inferact 的 REINFORCE Zero 提出先对齐 rollout 与训练 kernel,再用不裁剪的 token 级重要性采样修正权重滞后,在 16 张 GPU、12K 次更新下训练步吞吐为同步训练的 2.40 倍。

    推荐理由: 论文把异步 RL 的 rollout 与训练差距拆成权重滞后和 kernel 不一致两项,并给出对齐后免裁剪重要性采样的做法。

  2. Cursor Changelog78

    Cursor 上线 Live Apps,可在编辑器内构建并分享可访问应用

    Cursor 推出 Live Apps 功能,用户描述需求后由云端智能体搭建 Web 应用、按需启动 Postgres 数据库、接入 Cursor SSO 鉴权并完成托管部署,发布后生成可分享链接。

    推荐理由: Cursor 将建站、数据库、鉴权和部署纳入云端智能体,读者可据此判断内部工具的开发门槛会降到什么程度。

  3. Mistral AI75

    Mistral 发布 Mistral Large 4(Le Chonk)并扩展 Mistral Studio 平台

    Mistral 发布 Mistral Large 4(代号 Le Chonk),主打编码、防御性网络安全和复杂文档推理,同时扩展企业平台 Mistral Studio,新增托管智能体、应用、工作流能力以及企业上下文、智能体可观测性和评估功能。

    推荐理由: 原文给出托管智能体、工作流、应用三类能力与部署选项,读者可据此判断企业智能体落地方式。

11月5日周四
  1. AWS Machine Learning Blog60

    生产级 AI 智能体的四层上下文工程:Deep Insight 在可运行代码中的实践

    AWS 团队以开源多智能体数据分析方案 Deep Insight 为参考实现,把生产级 AI 智能体的上下文工程拆成四层:多智能体架构隔离上下文、用提示词限制输出、把重内容外置到文件系统、用验证智能体与兜底机制把关。

    推荐理由: AWS 团队把上下文工程拆成四层,并给出开源参考实现中的具体代码与 token 节省数据,可直接对照改造自家 Agent。

  2. vLLM Blog75

    vLLM 为 Kimi K3.1 Pro 提供 Day-0 支持

    vLLM 宣布在 NVIDIA、AMD、Google TPU 和阿里平头哥真武 PPU 上 Day-0 支持月之暗面开源的 Kimi K3.1 Pro,该模型为 2.8T 参数(104B 激活)多模态 MoE,上下文 1M token。

    推荐理由: vLLM 团队详述为 Kimi K3.1 Pro 做 Day-0 适配的工程取舍,含稀疏注意力、KV 缓存打包与 DCP 的具体数字。

11月4日周三
  1. Together AI Blog75

    Together AI 发布了 Together Compiler,持续编译优化 AI 推理。

    Together AI 发布了 Together Compiler(TKCC),利用高吞吐智能体持续为推理引擎生成优化方案,在 24 小时内于 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 等前沿开源模型上实现 1.3-3x 的 TPS 提升。

    推荐理由: 原文给出了持续编译在多个前沿模型上的吞吐提升和引擎启动耗时对比,可据此判断推理优化流程的变化。

  2. OpenHands Blog71

    OpenHands 与 Snowflake 推出用自有 Agent harness 后训练模型的工作流

    OpenHands与Snowflake AI Research合作,让开发者用现有的OpenHands Agent harness直接进行强化学习后训练,无需在训练框架中重建harness。

    推荐理由: 原文给出了用现有 Agent harness 直接做 RL 后训练的具体配置方式和代码定位实验,读者可据此判断训练与部署能否共用一套 harness。

10月31日周六
  1. MarkTechPost72

    Vercel Labs 开源 agent-desktop,让智能体通过系统无障碍树操作桌面应用

    Vercel Labs 发布开源 CLI 工具 agent-desktop,让 AI 智能体在 macOS、Windows 和 Linux 上通过操作系统无障碍树读取并操作原生应用,而非依赖截图。

    推荐理由: 原文对比了基于无障碍树的 agent-desktop 与截图式 computer use 在 token 消耗和光标占用上的差异,并给出自报数据。

  2. MarkTechPost71

    微软与加州大学伯克利分校发布TokenEconomizer插件,编码智能体成本最高降低30.9%

    Microsoft Research 与 UC Berkeley 的研究团队发布开源成本控制器 TokenEconomizer,可在不改动模型权重和智能体代码的前提下降低编码智能体开销。

    推荐理由: 原文给出插件在 277 个 SWE-Bench 任务上的成本降幅与 Pass@1 变化,可据此判断它对编码智能体工作流的影响。

  3. 量子位78

    面壁智能 ForgeKernel 直播从零生成算子,比 DeepSeek FlashMLA 快 9.8% 并宣布开源

    面壁智能的算子生成系统 ForgeKernel 在英伟达 B200 上从零生成 DeepSeek-V4.1 的 FlashMLA Prefill 算子,最终耗时 472 微秒,比 FlashMLA 的 518 微秒快 9.8%,全程 22.5 小时、42 轮迭代、32 个版本,使用 1 张 B200 和 22 个 GPU 小时。

    推荐理由: 原文给出直播全程的迭代数据与昇腾三榜成绩,可据此判断算子生成从人工调优转向智能体自进化的路径。

10月30日周五
  1. Factory News78

    Factory 发布 Droid 1.0:面向企业开发的智能体 harness

    Factory 发布 Droid 1.0,这是其智能体 harness 的大版本更新,默认启用程序化工具调用(Script 模式),模型可写 JavaScript 在沙箱中一次请求内执行数百次工具调用。

    推荐理由: 原文给出 Droid 1.0 在 Terminal-Bench 4 上对比 Codex、Claude Code 等 harness 的成本与耗时数据,可用于判断 agent harness 的选型。

  2. LangChain Blog67

    LangChain 为 Managed Deep Agents 加入浏览器能力

    LangChain 为 Managed Deep Agents 加入浏览器能力,开发者通过 define_browser 导出浏览器配置,即可让托管智能体读取页面渲染结果并点击操作。

    推荐理由: 原文给出浏览器工具的接入方式、handoff 机制与 WebVoyager 实测数据,可据此判断托管智能体如何覆盖无 API 的网页任务。

  3. LangChain Blog67

    LangChain 发布 Managed Deep Agents v0.10,新增浏览器使用与异步子智能体

    LangChain 发布 Managed Deep Agents v0.10,新增浏览器使用能力,让智能体操作没有 API 的网站,并支持异步子智能体在后台运行长任务。

    推荐理由: 原文给出浏览器接管与异步子智能体两项能力的具体配置方式和交接流程,可据此判断智能体处理无 API 网站与长任务时的分工。

10月29日周四
  1. Hugging Face Blog85

    Mistral Large 4(Le Chonk)在 Hugging Face 发布

    Mistral 发布多模态 MoE 模型 Mistral Large 4(Le Chonk),约 1T 总参数、49B 激活参数,上下文窗口 1M tokens,提供 FP8 与 NVFP4 两个官方版本,另有 Unsloth 和 llama.cpp 团队制作的 GGUF。

    推荐理由: 原文给出 1T 总参数、49B 激活的 MoE 多模态模型在网络安全与编码基准上的具体分数,并附本地与端点部署实测吞吐。