跳到正文
实时
10月28日周三
  1. 量子位58

    无问芯穹在NVIDIA GPU算子性能评测榜单SOL-ExecBench上取得88项第一

    无问芯穹在NVIDIA Research推出的GPU算子性能评测榜单SOL-ExecBench上以88项单题第一位居所有参赛团队之首,覆盖L1基础算子、L2融合算子、Quant量化算子与FlashInfer-Bench推理算子四大赛道。其通过容器化隔离架构、模块化Skills与共享记忆机制,结合针对不同计算场景的精细化优化策略,实现了AI自主完成复杂算子优化的能力。

  2. Hugging Face Daily Papers65

    Looped Transformers with Truncated Backpropagation 的扩展研究:是否截断训练循环?

    Looped Transformers 在相同计算量下通过完整回溯时训练优于截断回溯,扩展规律表明当模型大小可调时两个循环为最佳。Looped Transformers 通过复用共享层块增加计算深度而不增加可训练参数量,通常使用回溯时训练(BPTT),但为节省训练计算量常截断至最后几循环,这可能导致梯度偏差削弱循环优势。

  3. 量子位

    蚂蚁百灵开源 Ling-3.1-flash-1019,助力 Personal Agent 走向真实任务

    蚂蚁集团旗下百灵大模型开源 Ling-3.1-flash-1019,在智能指数 AA-Briefcase 中得分 1524 Elo,较上一版本提升 3 分;基础模型 Ling-3.1-flash-base 采用混合线性 MoE 架构。

  4. Hugging Face Daily Papers65

    ThinkWorld模型通过世界想象强化动态推理能力

    ThinkWorld模型通过将动作表示为动态链并利用世界想象从无标注人类视频中学习,提升了机器人泛化能力。该VLA框架将每个动作推理表示为动态推理链(CoD),通过强化学习与世界想象结合强化推理,使无标注视频能提供状态转换的直接监督,实现人类与机器人经验的共同推理空间。实验证明其在仿真和真实机器人上有效实现人机迁移并泛化到未见任务和环境。

  5. Hugging Face Daily Papers

    OvisOCR3 技术报告

    OvisOCR3是一个0.8B视觉语言模型,通过多导师蒸馏和强化学习统一多种OCR任务,在文档解析、通用OCR、关键信息提取、图文描述和跨页表格重建等任务上达到SOTA结果,在OmniDocBench v1.6上获得96.74分,在OCRBench v2英语和中文拆分中排名第一,并在多个基准测试中超越基线模型。

  6. Hugging Face Daily Papers

    ChronoReplay 训练框架提升流式视觉语言模型的时空推理能力

    ChronoReplay训练框架通过将异构时空监督组织成按时间排序的交互片段、保留特定任务答案格式、平衡不同监督信号学习,使单一模型能学习互补时空能力并保持时间一致性,在 OVO-S-Bench、OST-Bench 和 UCS-Bench 基准测试中均取得提升,OST-Bench 提高 13.41 分,同时通过自适应帧选择优化流式推理性能。

  7. Together AI Blog38

    Together AI 推出 GPU 集群自动修复功能:从 GPU 故障到健康节点的完整流程

    Together AI 推出 GPU 集群自动修复功能,通过在虚拟机和宿主机两端持续监控节点健康,在检测到故障时推荐最小化修复动作并提供证据,允许用户选择自动执行或手动批准。该功能目前全面可用,支持被动健康检查、修复建议、自动修复策略(含故障和节点级授权)、空闲等待控制、升级阶梯和安全护栏,并通过 API 和控制台进行修复;预览版提供基于节点标签的修复合约支持第三方检测系统。

  8. 量子位

    印奇把4D雷达也端到端了

    千里科技推出AI 4D毫米波雷达,内置10 TOPS NPU,支持本地AI感知与卫星架构并行输出,实现从天线设计到点云输出的端到端AI处理。该雷达点云密度增强10倍,探测距离提升40%,鬼影消除率达95%,空间角分辨力提升12倍,提供边缘侧、卫星架构及兼容三种工作模式,以适应不同功能等级和平台需求。

  9. The Decoder

    DeepMind Genie 4 发布:现代智能体设计的前沿探索

    DeepMind 发布 Genie 4,这是公司首个能实时生成声音的即时世界模型,用户可通过键盘移动场景、用文本提示引导事件。Genie 4 基于视频模型 Gemini Omni 构建,由 Gemini 大模型族在后台规划模拟进程,支持背景音效、角色对话及实时交互。目前仅限选定测试者体验,未来将向 Google AI Ultra 订阅者开放,并集成 SynthID 水印标记 AI 生成内容。

  10. NVIDIA Technical Blog

    NVIDIA RTX Spark 推出,赋能游戏中的神经渲染与 AI 角色

    NVIDIA RTX Spark 是面向 AI 开发、创作和游戏的新 Windows PC 平台,适用于轻薄笔记本电脑和紧凑型台式机,搭载 NVIDIA Blackwell RTX GPU 和 Grace CPU,提供高达 128 GB 的统一内存,并支持完整的 NVIDIA CUDA 堆栈及 RTX 技术(包括光线追踪和 DLSS 5)。该平台为游戏开发者构建基于 RTX 的应用提供支持。

  11. AWS Machine Learning Blog34

    Property Finder 如何在 Amazon Bedrock 上识别评估偏差并优化模型成本

    Property Finder 在迁移视觉 AI 工作负载至 Amazon Bedrock 时发现其评估数据集 96.8% 的标签来自单一模型的预测而非人工验证,导致新模型客观比较受阻。该公司通过人工专家独立标注 356 张图像构建可信基准数据集,并采用进化式提示优化迭代 27 次后,在保持 86% 准确率的同时将成本降低 86%。

  12. AWS Machine Learning Blog34

    AWS SageMaker AI 推出 SOCI-indexed images 加速推理任务

    AWS SageMaker AI 推出 SOCI-indexed images 功能,将容器镜像下载从关键路径移除,使 SageMaker AI 训练和处理任务启动时间从分钟缩短至秒级。该功能通过预索引 AWS Deep Learning Container (DLC) 或为自有镜像添加索引实现,无需修改工作负载定义,基准测试显示可将 GPU 空闲时间减少 90%,提升效率 8-46 倍。

10月27日周二
  1. NVIDIA Technical Blog65

    NVIDIA DGX Spark 上提升 MoE 推理性能的 3 种方法

    Inclusion AI 在 NVIDIA DGX Spark 上对 Ling-3.0-flash 进行批大小 1 评估时发现解码是内存限制因素,其中 MoE 计算和输出层投影导致执行时间增加。MoE 计算和输出层投影是瓶颈。

    同一件事 · 2 家

    各家口径不同:NVIDIA技术博客指出解码是内存瓶颈,由于MoE计算和输出层投影,而MarkTechPost强调了由于新的MoE后端、FP8输出层和推测解码导致的42.5%吞吐量提升和3.5倍速度提升。

  2. NVIDIA Blog

    C-BRAIN 与 NVIDIA 联合利用 AI 加速痴呆症研究

    C-BRAIN 与 NVIDIA 正利用 AI 改变痴呆症研究进程。他们通过整合此前未公开的阿尔茨海默症研究数据,包括未发表结果和受管制的专有数据,加速新疗法研发。C-BRAIN 运用混合集中式和联邦式架构保护数据隐私,部署 64 块 NVIDIA 数据中心 GPU 及云端节点,并计划引入 NVIDIA Blackwell 系统以支持其扩展目标。