跳到正文
实时
11月4日周三
  1. MarkTechPost55

    NVIDIA 展示 3 种方法加速 DGX Spark 上的 MoE 推理,将 Ling-3.0-flash 吞吐量提升 42.5%

    NVIDIA 通过新 MoE 内核后端、FP8 输出层和内置推测解码,将 124B 参数的 Ling-3.0-flash 模型在 DGX Spark 上的推理吞吐量提升 42.5%,速度提升 3.5x,准确率无变化。该优化适用于单用户桌面系统,在 1,319 个 GSM8K 问题测试中,吞吐量从 37.81 tokens/s 提升至 53.89 tokens/s,延迟降低 24.5%。

    同一件事 · 2 家

    各家口径不同:NVIDIA技术博客指出解码是内存瓶颈,由于MoE计算和输出层投影,而MarkTechPost强调了由于新的MoE后端、FP8输出层和推测解码导致的42.5%吞吐量提升和3.5倍速度提升。

  2. OpenAI Agents SDK releases40

    OpenAI Agents SDK v0.24.0-alpha.6 发布

    OpenAI Agents SDK v0.24.0-alpha.6 发布,支持通过 captured Turn 控制提交工作、被动事件处理、手动请求处理、转向和取消,并扩展了本地存储会话状态恢复和工具策略功能。新增了本地存储、原生输出、实验性外部作业恢复和工具选择等特性,同时更新了 API,如使用 Agent.run() 替代 Runner,以及 FunctionTool 统一回调和手动工具。

  3. Hugging Face Blog50

    StateBench: 测试语言模型如何追踪长文档中的状态变化

    StateBench 是一个长上下文状态追踪基准,测试语言模型如何保持追踪长文档中实体信息的变化。该基准包含四个难度等级,从简单的不可变赋值到复杂的依赖赋值,发现循环和混合模型比 Transformer 在直接训练任务上泛化能力更强,但前沿模型如 Gemini 3.8 Flash、Claude Opus 5.5 和 GPT-6 Sol 在长输入的复杂状态追踪中仍会失效。

  4. AWS Machine Learning Blog38

    Cartesia 如何在 AWS 上构建超低延迟语音 AI 应用

    Cartesia 利用专为实时语音 AI 设计的状态空间模型(SSM)和 AWS 基础设施,实现亚 100ms 的文本转语音和语音转文本,支持 44 种语言语音克隆,适用于虚拟助手、客服中心等场景。Sonic 模型在约 90ms 内生成首个音频字节,Ink 模型具备原生话轮检测和噪声鲁棒性,API 接口支持实时流式输出。

  5. AWS Machine Learning Blog32

    Amazon Quick 整合结构化与非结构化数据。

    Amazon Quick 通过连接 Amazon S3 和创建知识库整合结构化与非结构化数据,用户可使用单一对话式 AI 代理查询。该解决方案包含数据层(存储在 S3 的非结构化内容和作为语义数据集的结构化数据)、工作空间层(将数据类型整合到单一工作空间)和代理层(自定义聊天代理链接到工作空间并返回组合响应)。

  6. NVIDIA Newsroom38

    AI如何重塑半导体晶圆厂工作方式——工程师因之加速决策

    AI正改变半导体晶圆厂工作方式,工程师因之加速决策。NVIDIA cuDSS库使COMSOL的多物理场仿真加速10倍,Applied Materials的Ginestra平台仿真加速10倍,ACE+平台加速35倍,Siemens的Calibre光刻软件仿真加速17倍。NVIDIA PhysicsNeMo框架让Lam Research能在毫秒级预测等离子体行为,替代耗时数天的全仿真。

11月3日周二
  1. Hugging Face Daily Papers58

    CoworkOS:用于真实世界自动化的智能体协作框架

    CoworkOS 通过将策略与执行分离,支持人机协作并持续改进模型性能,推动人机协作向真实世界自动化发展。该框架在 12 个基准测试和 6 类实际应用中表现优异,使用 GLM-5.3 作为核心,对 Qwen3.6-35B-A3B 进行 RSI 驱动的自动后训练,使模型在 8 个基准上的平均分数从 33.19 提升至 42.95。

  2. Ai2 Blog

    StateBench: 测试大语言模型追踪长文档状态变化的基准

    StateBench 是一个用于测试大语言模型追踪长文档中实体状态变化的基准,包含 R-trivial、非周期、可解和一般有限四个难度等级。研究发现,循环和混合模型在直接训练这些任务时泛化能力远超 Transformer,而 Gemini 3.8 Flash、Claude Opus 5.5 和 GPT-6 Sol 等前沿模型在输入变长时仍难以处理更复杂的状态追踪问题。

  3. Anthropic Research62

    Anthropic 发布可验证推理系统 FlashProve,单张 H100 上约 110 tokens/秒生成证明

    Anthropic 公布可验证推理原型 FlashProve,用 zkSNARK 证明响应确实来自所承诺的模型权重。对 400B 参数的 Llama 4 Maverick(4-bit 量化),单张 H100 生成证明约 110 tokens/秒,每 1,024 token 请求的证明约 19 MB,验证在 24 核 CPU 上约 17 秒。

    同一件事 · 2 家

    各家口径不同:MarkTechPost 称证明体积为 18.78 MB;The Decoder 称证明体积约为 19 MB。

    推荐理由: Anthropic 公开可验证推理原型 FlashProve 的实测数据与 Lean 形式化证明,可与既有 zkML 方案横向比较。

  4. Hugging Face Daily Papers47

    uni-robot-agent:开源机器人使用智能体统一框架实现零样本操作突破

    uni-robot-agent 框架使开源权重机器人使用智能体在零样本操作上超越专有模型,其搭载的 Qwen3.8-Flash-Next 在 RoboDojo 评测中得分 31.39,超过 GPT-6 Astra-RoboProbe 的 28.97 分及众多 VLA/WAM 基线,并在 19 项真实任务中表现优异。分析表明有效机器人使用需结合四项通用能力,建议未来训练应协同发展这些能力。

  5. 量子位80

    MIT 实验:GPT-6 Astra 直接修改 Qwen3.5 权重,数学能力提升约 6 倍

    MIT的实验让GPT-6 Astra直接读取并编辑Qwen3.5-0.8B的权重,仅改动0.016%的参数、不做训练和梯度下降,MATH-500得分从7.9%升到48.1%,指令执行能力也提高3倍。

    推荐理由: MIT 实验显示前沿模型可直接读写小模型权重,为免梯度训练的性能修复提供了一条可复现路径。

  6. MarkTechPost

    Zyphra AI 推出 Zyphra 层次注意力 (ZHA):通往真正亚二次方注意力的路径

    Zyphra AI 发布了 Zyphra 层次注意力 (ZHA),一种基于树状索引器的稀疏注意力方法,旨在解决稀疏注意力中索引器仍需扫描整个上下文的已知问题。ZHA 可蒸馏到约 4B token 的冻结预训练模型中,在 Qwen3.6-35B-A3B 上,其推理、智能编码和 256K 检索基准测试中接近密集注意力。

  7. IT之家 · AI75

    MIT CSAIL 提出权重空间编程:GPT-6 Astra 修改 Qwen3.5-0.8B 约 0.016% 权重,MATH-500 成绩提升至 6 倍

    MIT CSAIL 研究人员提出「权重空间编程」,让 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的神经网络权重,仅调整约 0.016%(131072 个)参数,就把 MATH-500 成绩从 7.9% 提升至 48.1%,GSM8K 从 13.8% 提升至 67.1%,IFEval 从 21.0% 提升至 62.3%。