跳到正文
实时
#推理
10月26日周一
  8. 36氪 · AI65

    Vivix发布实时交互模型W1和A1，目标降低互动内容生成成本至YouTube水平

    Vivix发布实时交互模型W1和A1，目标降低互动内容生成成本至YouTube水平。W1模型实时生成成本接近YouTube每小时约0.2美金的CDN带宽成本，与目前最头部的视频生成模型相比，实时互动内容的生成成本可低1-2个数量级，用户操作后模型能在300-600毫秒内生成下一帧画面。Vivix团队规模已达150-160人。

10月25日周日
  1. MarkTechPost52

    斯坦福和伯克利研究者推出 TokenGate：令长上下文预填充速度提升高达 11.3 倍

    斯坦福和伯克利研究者推出 TokenGate 模块，通过学习型 token 剪枝技术，使长上下文预填充速度提升 1.4 至 11.3 倍且不损失精度，峰值预填充内存消耗降低 1.5 至 3.4 倍，在 5 项任务上优于 6 个基线模型，最佳表现时 NIAH 16k 任务速度提升 11.3 倍、内存降低 3.42 倍，代码和检查点已开源。

  3. 36氪 · AI58

    千里科技发布集成10 TOPS算力NPU的AI毫米波雷达

    千里科技发布集成10 TOPS算力NPU的AI毫米波雷达，首次实现雷达内部目标检测与分类，支持边缘侧、卫星与兼容三种工作模式。该雷达通过在感知链路前端引入数据驱动模型，突破传统架构的规则上限，缩短反应时间并提升安全性。千里科技通过收购融感科技打通软硬一体业务闭环，实现自研算法与硬件的联合优化。

  4. 蚂蚁 inclusionAI · Hugging Face 新模型58

    inclusionAI/Ling-3.1-flash-base 发布：560B 参数的稀疏 MoE 架构大模型

    inclusionAI/Ling-3.1-flash-base 发布，560B 总参数、25B 活跃参数的稀疏 MoE 架构大模型，采用混合线性注意力机制（63 KDA + 9 Gated MLA），在 47 个跨八个领域的基准测试中表现优异，支持持续预训练、领域适应和后训练研究，模型使用 FP8 精度训练，BF16 精度发布，遵循 MIT 许可证。

  5. IT之家 · AI75

    开源项目 GPU Unlock 可释放 RTX 30 系列显卡隐藏 AI 算力，实测提升最高约 60%

    GitHub 用户 Zagitta 开发的开源项目 GPU Unlock 可解除安培架构消费级显卡在 FP16/BF16 张量核心运算中的指令发射速率限制，无需修改驱动或刷写 VBIOS。

    推荐理由: 原文给出多张 RTX 30 显卡在 GEMM 与图像生成负载下的实测提升数据，也标明了显存带宽等限制。

  6. vLLM Blog60

    vLLM在GB300 NVL72上服务DeepSeek-V4.1-Flash：性能追平DeepInfer并扩展至整机架

    vLLM 团队在 NVIDIA GB300 NVL72 单机架上用 P/D 分离与 Wide-EP 服务 DeepSeek-V4.1-Flash，在 SemiAnalysis AgentX 上达到每 GPU 954K tokens/s、单用户 P90 196 tokens/s，为早期单节点结果的 7.9 倍。

    推荐理由: vLLM 团队公开了在 GB300 NVL72 上服务 DeepSeek-V4.1-Flash 的逐项优化与实测数据，可与 DeepSeek 自家引擎 DeepInfer 对照。

10月24日周六
  3. The Decoder65

    研究发现：复杂的编码智能体框架并未提升性能，反而增加成本

    研究表明，不同编码智能体框架间的性能差距在统计噪声范围内，而切换框架的效果与重新运行相同设置相当。Claude Code、OpenCode 和 mini-SWE-agent 三种框架每模型消耗的 token 数增加两到三倍，但通过率仍在测量不确定性范围内。OpenCode 在大型任务集中存在统计显著的落后，主要因输出限制和更短的运行时间限制，而其他框架的系统提示词和工具描述是成本差异的主要来源。

  4. IT之家 · AI60

    腾讯 WorkBuddy 接入 Kimi-K3.1-Pro 模型，支持 100 万上下文

    腾讯 WorkBuddy 已接入模型 Kimi-K3.1-Pro，该模型为 3 万亿级参数，支持 100 万上下文，在代码、3D 创作、金融研究等能力上表现突出。

    同一件事 · 3 家

    各家口径不同：Artificial Analysis 提供了 55 分的评分并排名第四；MarkTechPost 提到了 2.8T 的总参数和 104B 激活参数的 MoE 模型。

  10. MarkTechPost83

    Moonshot AI 发布 Kimi K3.1 Pro：2.8T 总参数、104B 激活的 MoE 模型，支持 1M 上下文

    Moonshot AI 发布了 K3.1 系列首个模型 Kimi K3.1 Pro，采用 MoE 架构，总参数 2.8T、激活参数 104B，支持 1M token 上下文，已在 Kimi.ai、Kimi Work、Kimi Code 和 Kimi API 上线，API 定价为每百万 token 输入 2 美元、输出 10 美元，低于 K3 的 3 美元和 15 美元。

    同一件事 · 3 家

    各家口径不同：Artificial Analysis 提供了 55 分的评分并排名第四；MarkTechPost 提到了 2.8T 的总参数和 104B 激活参数的 MoE 模型。

  11. IT之家 · AI87

    月之暗面发布 Kimi K3.1 Pro 模型，3 万亿参数、100 万上下文

    月之暗面正式推出 Kimi K3.1 系列首个模型 K3.1 Pro，为 3 万亿级参数模型，支持 100 万上下文，同步推出输出速度约 2~3 倍的 Highspeed 版。

    同一件事 · 3 家

    各家口径不同：Artificial Analysis 提供了 55 分的评分并排名第四；MarkTechPost 提到了 2.8T 的总参数和 104B 激活参数的 MoE 模型。

  12. Redwood Research62

    Redwood Research 发布模拟控制评估（SCEs）方法

    Redwood Research 发布了模拟控制评估（SCEs）方法，用于测试 AI 监控器能否在接近真实部署的环境下拦截模型故意造成的伤害。该方法通过 LLM 模拟器执行攻击模型工具调用，并让 LLM 判断攻击是否成功，与真实环境测试的差距约等于两次独立真实运行间的差距。SCEs 在可验证场景中表现忠实，能显著提升控制评估对部署的代表性，但长时程多智能体攻击仍是其局限。

  14. Cohere Blog

    Cohere Labs开源科学项目揭示AI对文化理解的局限

    Cohere Labs 开源科学项目通过全球协作收集文化谜题测试 AI 模型，发现模型在跨语言文化理解上存在显著缺陷，常答非所问或产生幻觉。参与者包括 50 多个国家的 100 多人，其中 16 岁的美国学生 Henry Gagnier 和退休教师 Jane Smith 提供了关键见解，指出模型不仅缺乏文化知识，甚至对 Buginese 等常见语言几乎一无所知。

  15. Cohere Blog58

    Cohere Model Vault 如何构建可验证的机密 AI 推理

    Cohere Model Vault 在微软 Azure 上使用 NVIDIA GPU 的公共测试版中引入了机密计算，旨在减少客户必须信任的明文数据基础设施，并提供加密证据供客户在敏感信息释放前验证。该系统通过硬件强制隔离保护计算本身、使用 Oblivious HTTP 加密敏感请求内容、以及远程证明机制来确保处理请求的环境符合预期，从而保护从请求传输到计算执行的整个流程。

  16. SemiAnalysis

    亚马逊 Trainium 攻占训练市场

    亚马逊 Trainium 通过原生 PyTorch 训练体验的重大改进，显著提升其在训练领域的竞争力。Trainium3 支持标准 PyTorch API，无需 XLA 标记即可将大部分 PyTorch 代码迁移至 .to("neuron")，但 BF16 训练体验尚未完善。SemiAnalysis 工程团队测试显示其性能接近 CUDA 生态，但仍有改进空间。

  17. vLLM Blog62

    vLLM 详解 GLM-5.3 在 16 张 H200 上的 PCP、DCP 与 Hybrid HiSparse 优化

    vLLM 团队发布 GLM-5.3 优化第二部分，在 16 张 H200 上以 1 个预填节点加 1 个解码节点部署，用 PCP 按 token 切分预填、DCP 按 token 切分 KV cache，使 1M 上下文可放入预填节点

    推荐理由: vLLM 团队拆解了 PCP、DCP 与 Hybrid HiSparse 如何在 16 张 H200 上组合，读者可据此理解长上下文部署的内存与预填瓶颈。

  18. Databricks Blog58

    Spark的声明式管道：为AI智能体设计的用例

    Spark的声明式管道在22项数据工程任务中比过程式管道快34倍、代码量减半且错误更少。声明式管道通过运行前验证可提前捕获结构性错误，并将排序和结果保存等重复性任务卸载给Spark，而过程式管道需在集群上运行至错误步骤才能发现。两种方法在逻辑错误率上表现相当，但声明式管道的代码更简洁一致，便于维护。

  23. Artificial Analysis Articles87

    Kimi K3.1 Pro 发布，智能指数 55 分位列第四

    月之暗面发布推理模型 Kimi K3.1 Pro，在 Artificial Analysis 智能指数上得分 55，排名第四，比 Kimi K3 的 44 分提升 11 分，仅次于 Claude Opus 5.5（58）、Claude Sonnet 5.5（56）和 Muse Wonder Full（56）。

    同一件事 · 3 家

    各家口径不同：Artificial Analysis 提供了 55 分的评分并排名第四；MarkTechPost 提到了 2.8T 的总参数和 104B 激活参数的 MoE 模型。

    推荐理由: 第三方评测给出 Kimi K3.1 Pro 在智能指数与智能体任务上的具体分数和排名，可与前代及闭源模型直接对照。