跳到正文
实时

技术方向

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

38篇精选
37本月
11月14日 15:03更新于
本月仍有更新

重大事件

  1. inclusionAI/Ling-3.1-flash-1019 发布:560B 参数大语言模型推理能力提升 2 家来源

    inclusionAI/Ling-3.1-flash-1019 发布,560B 参数量,25B 活跃参数/Token,1M 上下文窗口,推理能力提升,AA-Briefcase 分数 1524 Elo,AutomationBench-AA 68%,Artificial Analysis Intelligence Index v4.3.2 44 分。支持 SGLang 和 vLLM 推理。

最新报道

11月14日周六1–20
  1. IT之家 · AI82

    谷歌扩展 Antigravity 多智能体系统,推出 Teamwork 系统并验证多项数学证明

    谷歌宣布扩展旗下 Antigravity 多智能体系统,用多个 Gemini 驱动的专业智能体组成 Teamwork 系统,可验证复杂数学证明并优化软件系统性能。

    推荐理由: 原文给出多智能体在数学形式化、分子识别和代码重写上的具体产出与开放入口,可据此判断其协作验证机制的实际边界。

11月13日周五
  1. Hacker News · AI 热帖86

    Edge0 开源 145B 与 120B 端侧模型及推理框架。

    Edge0 开源 Edge0-145B 和 Edge0-120B 两个端侧模型,并同时发布统一推理框架与部署工具。官方称 145B 模型可在兼容笔记本上本地运行,峰值内存 29GB、解码速度 80+ tokens/s、预填充 1100+ tokens/s,支持 128K–256K 上下文。

    推荐理由: 原文给出端侧 145B 模型的实测内存、速度与多项基准对比,可据此判断本地运行前沿级模型的现实边界。

  2. vLLM Blog60

    vLLM 在发布首日支持 Thinking Machines 的 Inkling 2 Small

    vLLM 在 Inkling 2 Small 发布首日提供支持。该模型是文本与视觉输入的多模态 MoE,总参数 594B、激活参数 17B,上下文最长 1M tokens,并自带 DSpark 推测解码器。

    推荐理由: 原文给出了 vLLM 对 Inkling 2 Small 的 Day-0 支持细节与多项内核优化,读者可据此了解该模型的部署路径与吞吐表现。

  3. Google AI Blog82

    Google 搜索接入 Gemini 4 Hydrogen 并面向全球用户开放

    Google搜索上线Gemini 4 Hydrogen,这是搜索迄今最大的一次模型升级,已面向全球所有用户开放。官方称新模型能理解多部分问题、拼写错误和高度具体的请求,并借助更强的指令遵循与工具调用能力逐项回应问题。Hydrogen的推理能力还强化了查询分发,可同时检索多个相关子主题并给出更多图片、结构化回答、对比表格和定制工具。

    推荐理由: Google官方说明Gemini 4 Hydrogen在搜索中的意图理解、查询分发与可视化回答变化,可据此判断搜索体验的调整方向。

  4. Google DeepMind87

    Google DeepMind 发布 Gemini 4 Hydrogen 模型

    Google DeepMind 发布 Gemini 4 Hydrogen,面向日常编码与智能体工作流,在默认 high 思考档位下 Artificial Analysis 智能指数为 51,高于 Argon 的 50,xhigh 档位可达 54

    推荐理由: 官方给出Hydrogen与Carbon、Argon的分工定位,以及多模型编排在成本与速度上的实测差异。

11月12日周四
  1. vLLM Blog60

    vLLM-Omni 在 NVIDIA Vera Rubin 上支持 MiniMax H3-Image,4K 生成 0.87 秒

    vLLM-Omni 团队将 MiniMax H3-Image 接入 NVIDIA Vera Rubin,四卡 SP4 配置下原生 4096×4096 文生图短提示词基准中位延迟 0.87 秒,四副本 SP1×DP4 吞吐达 6115 张/小时。

    推荐理由: 原文给出 H3-Image 在 Vera Rubin 上的实测延迟、吞吐与跨硬件部署配置,可据此判断 4K 图像生成的部署成本。

11月11日周三
  1. Google DeepMind87

    Google DeepMind 发布 Gemini 4 Carbon 前沿模型

    Google DeepMind 面向开发者、企业、科学家和消费者开放 Gemini 4 Carbon,称其在网络安全能力和长程智能体工作流上达到前沿水平。

    推荐理由: 官方给出 Carbon 与 Argon 的定位分工、多项基准排名和每任务成本对比,便于判断何时该用更重的模型。

11月10日周二
  1. Claude · YouTube68

    Claude Mythos 5.2 预测出完整 AAV 衣壳结构

    Claude Mythos 5.2 预测出完整的 AAV 衣壳结构,该衣壳由 60 条相同的蛋白链组成。它编写代码让开源折叠模型处理相邻五链的重叠分组,再利用衣壳对称性把 60 条链拼接起来。在 AAV2 上,其预测与实验结构的偏差约为一个原子的宽度。

    推荐理由: 原文给出了模型在真实科研任务中的具体做法与精度,读者可据此判断它在结构预测类工作里的可用边界。

  2. Claude · YouTube75

    Anthropic 发布 Claude Fable 5.2

    Anthropic 发布 Claude Fable 5.2,面向最艰巨的技术挑战,在编码、推理和视觉方面有所提升,适合最具野心的开放式技术工作。官方建议多数编码与知识任务优先使用 Opus 5.5,Fable 5.2 已在 Pro、Max、Team 和 Enterprise 套餐上线。

    推荐理由: 官方说明了 Fable 5.2 的定位与适用场景,并给出与 Opus 5.5 的选择建议,便于判断该用哪个模型。

11月9日周一
  1. 量子位72

    百度文心首次披露 RSI 进展,ERNIE Evolve 已用于文心 5.5 Flash 研发

    百度文心首次披露自动研究系统 ERNIE Evolve,该系统可自主提出研究方向、开展实验并验证结果,已用于文心 5.5 Flash 的推理优化。在昆仑芯 P800 低时延场景优化中,ERNIE Evolve 历时约 168 小时、经过 4 轮方向探索,最优版本生成速度提升至基线的 623.6%;确定性推理吞吐优化用 3 天将吞吐提升至基线的 133.7%。

    推荐理由: 百度公开了自动研究系统 ERNIE Evolve 的架构与生产环境优化数据,可观察 RSI 在推理优化上的实际落点。

  2. Hacker News · 300+ 热帖78

    llama-modchip 使 284B DeepSeek-V4-Flash 在 64GB 内存无 GPU 运行

    llama-modchip 发布了一组 ggml/llama.cpp 内核补丁与量化转码工具,将 284.33B 的 DeepSeek-V4-Flash 压缩到 56.56 GiB(1.71 bpw),可在 64 GB 内存的纯 CPU 机器上运行,256K 上下文下峰值内存 57.61 GiB 且无需 swap。

    推荐理由: 项目给出了在 64 GB 内存上运行 284B MoE 的量化方案与内核补丁,并附各硬件实测数据,可据此判断纯 CPU 部署的可行边界。

11月6日周五
  1. vLLM Blog72

    REINFORCE Zero:对齐 kernel 让异步 RL 在 lag 64 下稳定训练

    NVIDIA Research 与 Inferact 的 REINFORCE Zero 提出先对齐 rollout 与训练 kernel,再用不裁剪的 token 级重要性采样修正权重滞后,在 16 张 GPU、12K 次更新下训练步吞吐为同步训练的 2.40 倍。

    推荐理由: 论文把异步 RL 的 rollout 与训练差距拆成权重滞后和 kernel 不一致两项,并给出对齐后免裁剪重要性采样的做法。

11月5日周四
  1. vLLM Blog75

    vLLM 为 Kimi K3.1 Pro 提供 Day-0 支持

    vLLM 宣布在 NVIDIA、AMD、Google TPU 和阿里平头哥真武 PPU 上 Day-0 支持月之暗面开源的 Kimi K3.1 Pro,该模型为 2.8T 参数(104B 激活)多模态 MoE,上下文 1M token。

    推荐理由: vLLM 团队详述为 Kimi K3.1 Pro 做 Day-0 适配的工程取舍,含稀疏注意力、KV 缓存打包与 DCP 的具体数字。

11月4日周三
  1. Together AI Blog75

    Together AI 发布了 Together Compiler,持续编译优化 AI 推理。

    Together AI 发布了 Together Compiler(TKCC),利用高吞吐智能体持续为推理引擎生成优化方案,在 24 小时内于 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 等前沿开源模型上实现 1.3-3x 的 TPS 提升。

    推荐理由: 原文给出了持续编译在多个前沿模型上的吞吐提升和引擎启动耗时对比,可据此判断推理优化流程的变化。

11月3日周二
  1. Anthropic Research62

    Anthropic 发布可验证推理系统 FlashProve,单张 H100 上约 110 tokens/秒生成证明

    Anthropic 公布可验证推理原型 FlashProve,用 zkSNARK 证明响应确实来自所承诺的模型权重。对 400B 参数的 Llama 4 Maverick(4-bit 量化),单张 H100 生成证明约 110 tokens/秒,每 1,024 token 请求的证明约 19 MB,验证在 24 核 CPU 上约 17 秒。

    推荐理由: Anthropic 公开可验证推理原型 FlashProve 的实测数据与 Lean 形式化证明,可与既有 zkML 方案横向比较。

11月1日周日
  1. 量子位72

    清华姚期智团队提出代数世界模型 AWM,让 AI 从现象中推导规律

    清华大学姚期智、袁洋团队提出代数世界模型(AWM),将交互环境中的对象与规则抽象为代数世界,通过探索、提炼、证明三步生成Lean 4可验证的数学断言。在ARC-AGI-3测试集上,基于Opus 5的AWM通关全部183个关卡,得分99.9%,平均通关动作数为人类基准的43%

    推荐理由: 清华团队提出代数世界模型,把游戏探索转成可机器检验的数学证明,读者可看到智能体从试错走向形式化建模的一条路径。