跳到正文
实时
一手#推理
10月29日周四
10月28日周三
  2. Together AI Blog38

    Together AI 推出 GPU 集群自动修复功能：从 GPU 故障到健康节点的完整流程

    Together AI 推出 GPU 集群自动修复功能，通过在虚拟机和宿主机两端持续监控节点健康，在检测到故障时推荐最小化修复动作并提供证据，允许用户选择自动执行或手动批准。该功能目前全面可用，支持被动健康检查、修复建议、自动修复策略（含故障和节点级授权）、空闲等待控制、升级阶梯和安全护栏，并通过 API 和控制台进行修复；预览版提供基于节点标签的修复合约支持第三方检测系统。

  8. AWS Machine Learning Blog34

    Property Finder 如何在 Amazon Bedrock 上识别评估偏差并优化模型成本

    Property Finder 在迁移视觉 AI 工作负载至 Amazon Bedrock 时发现其评估数据集 96.8% 的标签来自单一模型的预测而非人工验证，导致新模型客观比较受阻。该公司通过人工专家独立标注 356 张图像构建可信基准数据集，并采用进化式提示优化迭代 27 次后，在保持 86% 准确率的同时将成本降低 86%。

  9. AWS Machine Learning Blog34

    AWS SageMaker AI 推出 SOCI-indexed images 加速推理任务

    AWS SageMaker AI 推出 SOCI-indexed images 功能，将容器镜像下载从关键路径移除，使 SageMaker AI 训练和处理任务启动时间从分钟缩短至秒级。该功能通过预索引 AWS Deep Learning Container (DLC) 或为自有镜像添加索引实现，无需修改工作负载定义，基准测试显示可将 GPU 空闲时间减少 90%，提升效率 8-46 倍。

10月27日周二
  1. NVIDIA Blog

    C-BRAIN 与 NVIDIA 联合利用 AI 加速痴呆症研究

    C-BRAIN 与 NVIDIA 正利用 AI 改变痴呆症研究进程。他们通过整合此前未公开的阿尔茨海默症研究数据，包括未发表结果和受管制的专有数据，加速新疗法研发。C-BRAIN 运用混合集中式和联邦式架构保护数据隐私，部署 64 块 NVIDIA 数据中心 GPU 及云端节点，并计划引入 NVIDIA Blackwell 系统以支持其扩展目标。

  4. Ai2 Blog

    Ai2 发布 Old Ideas, Novel Problems 研究，评估大语言模型判断科研创新性的可靠性

    Ai2 发布 Old Ideas, Novel Problems 研究，评估六款 LLM（GPT-5.1至5.4、Claude Sonnet 4.5至4.6）判断科研创新性的可靠性，发现微调提示词可致准确率差异超 50%。研究构建包含 154 人类原创及 154 AI 生成科研想法的基准数据集，证实模型判断稳定性不足，需更可靠方法评估 AI 提出的新想法。

  7. 蚂蚁 inclusionAI · Hugging Face 新模型38

    inclusionAI/Ling-3.0-flash-Sante-fp8 发布：FP8量化医疗专用大模型

    inclusionAI/Ling-3.0-flash-Sante-fp8 发布 FP8量化版本，保留124B参数（5.1B/Token）与BF16性能，降低内存并提升部署效率，支持医疗推理、研究及工具辅助工作流，需专业人工审核。在Healthbench、ReDisQA等基准上表现稳定，通过块状FP8量化（128×128块）实现高效推理。

  9. LangChain Deep Agents releases

    LangChain Deep Agents deepagents-code==0.2.2 发布：安全与性能改进

    LangChain Deep Agents 的 deepagents-code==0.2.2 版本发布，包含安全与性能改进。新增 GPT-6.1 Terra 支持、选中文本输入至聊天、插件更新检测等功能；修复项目 .env 文件设置信任值、终端 UI 链接限制、Git 选项限制等 Bug；通过重用父进程上下文、优化服务器启动流程、精简转录渲染等提升性能，推荐尽快升级。

  10. Databricks Blog22

    Databricks Free Edition 如何用于教学

    Databricks Free Edition 允许师生免费在浏览器中运行完整数据或 AI 课程，无需云合同或许可证管理，适用于全球学生和教育工作者。该平台提供协作笔记本、Spark、Delta Lake、Lakeflow、Databricks SQL、Genie 代码助手等功能，支持从入门编程到 AI 项目的各类课程，技能直接应用于行业标准工具，无生产环境与教学沙箱的转换成本。

  11. Apple Machine Learning Research

    GHARP：基于大规模重建先验的实时高斯头动画方法

    GHARP 方法通过少量输入图像和表情信号实时动画化 3D 人头，分为离线的身份阶段（构建几何与外观表示）和运行时的动画阶段（预测表情残差）。该方法在预训练重建模型的语义结构潜在空间中执行动画，使表情变化空间受限，实现高效残差预测，并在 Ava-256 基准上达到 SOTA 质量，A100 GPU 速度提升 13 倍、高斯数量减少 8 倍。

  15. AWS Machine Learning Blog48

    使用 AWS CDK 在 Amazon Bedrock 管理知识库上构建企业级智能检索

    使用 AWS CDK 在 Amazon Bedrock 管理知识库上构建企业级智能检索，通过 AgentCore 提供的推理代理和 AgenticRetrieveStream API 实现多轮规划和工具驱动检索，返回带引用的答案。该方案部署包含 Amazon S3 语料库、知识库和推理代理的 CDK 应用，支持语义路由和多次检索，并内置 Amazon CloudWatch 监控和评估功能。

10月26日周一
10月25日周日
  1. 蚂蚁 inclusionAI · Hugging Face 新模型58

    inclusionAI/Ling-3.1-flash-base 发布：560B 参数的稀疏 MoE 架构大模型

    inclusionAI/Ling-3.1-flash-base 发布，560B 总参数、25B 活跃参数的稀疏 MoE 架构大模型，采用混合线性注意力机制（63 KDA + 9 Gated MLA），在 47 个跨八个领域的基准测试中表现优异，支持持续预训练、领域适应和后训练研究，模型使用 FP8 精度训练，BF16 精度发布，遵循 MIT 许可证。

  2. vLLM Blog60

    vLLM在GB300 NVL72上服务DeepSeek-V4.1-Flash：性能追平DeepInfer并扩展至整机架

    vLLM 团队在 NVIDIA GB300 NVL72 单机架上用 P/D 分离与 Wide-EP 服务 DeepSeek-V4.1-Flash，在 SemiAnalysis AgentX 上达到每 GPU 954K tokens/s、单用户 P90 196 tokens/s，为早期单节点结果的 7.9 倍。

    推荐理由: vLLM 团队公开了在 GB300 NVL72 上服务 DeepSeek-V4.1-Flash 的逐项优化与实测数据，可与 DeepSeek 自家引擎 DeepInfer 对照。

10月24日周六
  1. vLLM Blog62

    vLLM 详解 GLM-5.3 在 16 张 H200 上的 PCP、DCP 与 Hybrid HiSparse 优化

    vLLM 团队发布 GLM-5.3 优化第二部分，在 16 张 H200 上以 1 个预填节点加 1 个解码节点部署，用 PCP 按 token 切分预填、DCP 按 token 切分 KV cache，使 1M 上下文可放入预填节点

    推荐理由: vLLM 团队拆解了 PCP、DCP 与 Hybrid HiSparse 如何在 16 张 H200 上组合，读者可据此理解长上下文部署的内存与预填瓶颈。

  2. Databricks Blog58

    Spark的声明式管道：为AI智能体设计的用例

    Spark的声明式管道在22项数据工程任务中比过程式管道快34倍、代码量减半且错误更少。声明式管道通过运行前验证可提前捕获结构性错误，并将排序和结果保存等重复性任务卸载给Spark，而过程式管道需在集群上运行至错误步骤才能发现。两种方法在逻辑错误率上表现相当，但声明式管道的代码更简洁一致，便于维护。

  6. Hugging Face Blog

    LitPivot：在文献景观中通过动态上下文开发研究想法

    LitPivot帮助研究人员通过阅读先前文献来调整研究方向，将研究想法分为问题、贡献和评估计划，并为每个部分提供基于文献的批评和修订建议。在涉及17名研究人员的实验室研究中，领域专家评价新颖想法的文献基础比使用文本编辑器和AI聊天工具开发的想法更好，参与者也报告了更强的文献理解和对想法新颖性和实用性的提升。

10月23日周五
  2. 腾讯混元 · Hugging Face 新模型

    腾讯混元发布 WeVisOne-VL-2B 模型

    腾讯混元发布 WeVisOne-VL-2B 模型，基于 Qwen3-VL 构建，集成 9.5M 参数像素解码器，支持目标级感知（开放词汇目标检测、指向定位、计数、指向和 OCR）与像素级感知（指向分割和可提示 alpha 摩擦），适用于视觉定位、指向、计数、OCR 定位、指向分割和图像摩擦等研究任务。

  3. 腾讯混元 · Hugging Face 新模型

    腾讯混元发布 WeVisOne-VL-4B 统一视觉语言模型

    腾讯混元发布 WeVisOne-VL-4B 模型，基于 Qwen3-VL 构建，集成 9.6M 参数像素解码器，支持目标级感知（开放词汇目标检测、指向定位、计数、指向和 OCR）与像素级感知（指向分割和可提示 alpha 摩擦），适用于视觉定位、指向、计数、OCR 定位、指向分割和图像摩擦等研究任务。