跳到正文
实时
#推理
11月5日周四
  1. Hugging Face Daily Papers38

    D3D：解耦扩散草稿异步推测解码技术

    D3D 通过独立的扩散草稿器打破对目标模型隐藏状态的依赖，实现异步草稿与验证。在七个基准测试中，D3D 结合块状去噪和辅助自回归监督，使 Qwen3-8B 和 Qwen3-32B 的平均解码速度分别提升 5.00 倍和 5.71 倍，优于 DFlash（4.03 倍和 3.67 倍），并在 GSM8K 上达到 7.48 倍加速。代码、模型检查点和基准测试脚本已开源。

  4. MarkTechPost

    Ricursive AI 发布 Ripple-65B Preview：一款 65B 密集型开源模型在 Terminal-Bench 2.1 上取得 80.5 分

    Ricursive AI 发布 Ripple-65B Preview，一款 65B 密集型开源模型，在 Terminal-Bench 2.1 上取得 80.5 分，成为美国开源模型中得分最高的模型，其参数规模为 65B（活跃参数），预训练使用了 12T tokens，上下文长度最高可达 1M，并在 Apache 2.0 许可下发布。

    同一件事 · 4 家
  5. MarkTechPost

    webAI 发布 TwIL-8B，一款在 MATH-500 上取得 98.2 分的 8.8B 推理模型

    webAI 发布了 TwIL-8B，一款基于 IBM Granite 4.2 8B 微调的 8.79B 密集型推理模型，在 MATH-500 上取得 98.2 分，LiveCodeBench† 得分 81.6，比 Qwen3.5-9B 使用 38% 更少的 token。

    同一件事 · 2 家
  6. Epoch AI65

    Epoch Capabilities Index 更新采用贝叶斯模型方法论

    Epoch Capabilities Index (ECI) 更新采用贝叶斯模型方法论，提供更可靠的模型能力不确定性估计及模型间能力比较概率。新方法基于四参数逻辑斯蒂（4PL）项目反应理论（IRT），使用 Claude 3.5 Sonnet（ECI 130）和 GPT-5（ECI 150）作为锚点模型，通过线性变换固定参数位置和尺度，实现跨时间一致性。

  7. AWS Machine Learning Blog

    使用 Amazon Bedrock AgentCore 评估决策模型

    Amazon Bedrock AgentCore 评估支持使用 15 个内置评估器或自定义评估器（LLM 或代码）对智能体进行评分。决策模型适用于具有固定答案集的问题，如 Jev 和 Strands Decider 2B，它们提供校准概率而非自由文本。代码示例展示了如何将 AgentCore 评估输入转换为决策模型请求，并将模型概率转换回评估结果。

  8. Google Research

    Agile Deliberation：AI 如何协助人类定义主观概念边界

    Agile Deliberation 框架通过迭代对话协助人类定义主观概念边界，将模糊想法转化为精确的 AI 指令蓝图。该框架分为概念界定和概念迭代两阶段，通过直接反馈处理模糊图像，在 18 次 1.5 小时用户实验中显著降低用户疲劳和焦虑，使 AI 模型性能优于标准基线。

    同一件事 · 2 家

    各家口径不同：谷歌研究提到用户实验减少疲劳和焦虑；MarkTechPost 关注 F1 分数提升。

  12. vLLM Blog75

    vLLM 为 Kimi K3.1 Pro 提供 Day-0 支持

    vLLM 宣布在 NVIDIA、AMD、Google TPU 和阿里平头哥真武 PPU 上 Day-0 支持月之暗面开源的 Kimi K3.1 Pro，该模型为 2.8T 参数（104B 激活）多模态 MoE，上下文 1M token。

    同一件事 · 2 家

    推荐理由: vLLM 团队详述为 Kimi K3.1 Pro 做 Day-0 适配的工程取舍，含稀疏注意力、KV 缓存打包与 DCP 的具体数字。

  15. O'Reilly Radar65

    如何测量 AI 对交付速度的影响

    AI 是否让软件开发更快？交付速度不是生产力，而是价值产出与成本的比值。由于软件交付物无标准化，代码行数和 PR 数等指标不可靠，且估算不准确，测量交付速度需比较团队自身前后表现。通过随机对照试验，交替进行使用 AI 和未使用 AI 的任务，可减少其他流程改进的干扰，从而更准确地评估 AI 对交付速度的实际影响。

11月4日周三
  1. Together AI Blog

    Together Compiler：面向 AI 推理的持续编译器

    Together Compiler (TKCC) 通过高通量智能体实现 AI 推理工作负载的持续优化，在 24 小时内将前沿开源模型（Kimi K3、GLM 5.3）的延迟降低。

    同一件事 · 2 家

    各家口径不同：Together AI博客提到了模型Kimi K3和GLM 5.3；MarkTechPost提到了SemiAnalysis InferenceX AgentX。

  4. Together AI Blog50

    Together AI 推出 Polymorphic Inference：自适应开源模型推理技术

    Together AI发布Polymorphic Inference技术，通过AI智能体持续编译优化开源模型推理性能，以应对模型发布加速、架构多样化、工作负载和硬件平台快速变化带来的挑战。该技术使推理系统能够根据动态环境快速适应，例如在80%的OpenRouter流量来自近三个月发布的模型背景下，实现接近硬件极限的性能。

  5. Together AI Blog75

    Together AI 发布了 Together Compiler，持续编译优化 AI 推理。

    Together AI 发布了 Together Compiler（TKCC），利用高吞吐智能体持续为推理引擎生成优化方案，在 24 小时内于 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 等前沿开源模型上实现 1.3-3x 的 TPS 提升。

    同一件事 · 2 家

    各家口径不同：Together AI博客提到了模型Kimi K3和GLM 5.3；MarkTechPost提到了SemiAnalysis InferenceX AgentX。

    推荐理由: 原文给出了持续编译在多个前沿模型上的吞吐提升和引擎启动耗时对比，可据此判断推理优化流程的变化。

  6. Lovable Blog50

    我们如何构建Lovable及其持续重构的原因

    Lovable 团队通过聚焦新应用开发、限制技术栈、匹配智能体自由度与模型能力、使用知识文件替代模型微调，成功构建了支持 7000 万项目的平台。团队在 2023 年初提出计划，通过持续重构解决模型自由度、错误捕捉和计算资源限制等问题，最终实现用户通过聊天创建、部署和改进软件的功能。知识文件作为关键创新，显著提升了智能体可靠性并形成规模效应。

  8. Hugging Face Daily Papers34

    LoCo：一种用于推理压缩的本地偏好学习方法

    LoCo 通过本地偏好学习来教导推理模型何时停止推理，在数学和代码任务中大幅减少输出长度，同时保持或提高准确性。该方法在数学任务上减少完成长度 41.7%--45.4%，在代码任务上减少 23.4%--36.3%，并保持或提高准确性，同时在所有代码基准中实现最佳 AUC。LoCo 的代码和模型将公开发布。

  14. IT之家 · AI62

    小鹏联合北大、港大等发布 GroundingPI 预训练模型，感知模块综合跑分超过 GPT-6 Astra

    小鹏联合北大、港大等发布的 GroundingPI 模型在 34 项感知基准综合评测中得分 73.68，超过 GPT-6 Astra 的 71.54。该模型以约 40 亿参数规模，采用“感知优先”技术路线，在机器人仿真任务中展现更高数据处理效率与更强的场景泛化能力，显著降低示教成本并保持稳定性。

  15. Ai2 Blog

    Ai2 与 Google 合作推出新一代气候模型 NeuralGCM+

    Ai2 获得谷歌组织千万美元三年资助，与谷歌研究合作开发开源气候模型 NeuralGCM+，旨在提升气候预测速度与可靠性；该模型扩展自谷歌研究开发的 NeuralGCM，结合物理方程与 AI 模拟大气和海洋共同作用，模拟周期扩展至数十年，支持区域降雨和水资源变化预测，计划通过开源代码和文档促进科研社区协作。

  16. IT之家 · AI58

    OpenAI 展示员工“副业”硬件成果：GPT-6 Astra 辅助设计一周出图一月出样

    OpenAI 两名员工利用业余时间，借助 GPT-6 Astra 在不到一周内完成一款测试设备设计，模型承担外观、外壳、电路板及固件生成工作，代工厂随后在不到一个月内制成原型机。OpenAI 与马自达合作，将 Astra 用于汽车设计与仿真评估，探索造型、性能与成本优化方案。

  20. MarkTechPost

    腾讯 WeVisOne-VL 统一检测、OCR、分割和 Matting

    腾讯 WeChat Vision 团队发布开源视觉语言模型 WeVisOne-VL，包含 2B 和 4B 参数版本，支持检测、OCR、分割和 Matting，使用 9.6M 参数解码器输出像素结果，在 30+ 基准测试中超越同规模基线，4B 版本在 Dense200 密集检测上达 71.3 F1 分数。

    同一件事 · 2 家

    各家口径不同：Hugging Face Daily Papers 表示使用轻量级像素解码器；MarkTechPost 提到 9.6M 参数解码器。

  21. Hugging Face Daily Papers62

    Axion 1.0：开源智能体基础模型，简化实现

    Axion 1.0 通过三阶段（两轻量级监督微调+强化学习）训练，在完全开源数据和训练流程下实现有竞争力的智能体性能。该模型采用模型感知数据构建和可验证任务生成，无专用中训练、直接偏好优化或策略内蒸馏，在多项智能体基准测试中表现优异，与领先商业模型在部分测试中可比肩，并公开完整开发流程以促进开放智能体研究。

  25. MarkTechPost71

    Anthropic 开源 FlashProve：用 zkSNARK 证明回复来自已承诺权重

    Anthropic 的前沿红队发布了开源研究原型 FlashProve，该原型使用 zkSNARK 证明某条回复由已承诺的模型权重生成，且不泄露权重信息。在 Llama 4 Maverick（400B MoE）上，单张 H100 的证明速度约为 110 tokens/s，证明体积为 18.78 MB，CPU 验证耗时 17 秒。

    同一件事 · 2 家

    各家口径不同：MarkTechPost 称证明体积为 18.78 MB；The Decoder 称证明体积约为 19 MB。