跳到正文
实时
11月6日周五
  1. Apple Machine Learning Research

    苹果的摊销最大内积搜索加速检索

    苹果在ICML 2026上提出的摊销最大内积搜索通过训练小神经网络学习支持函数,以固定成本理解典型查询匹配方式,实现推理时更快的精确检索。该方法利用ICNN学习支持函数,KeyNet直接输出最佳匹配键向量,均基于实际查询分布构建的监督数据集进行训练,显著提升RAG场景下的检索效率。

11月5日周四
  1. IBM Research Blog38

    HRL 实验室开发的 MEMS 惯性传感器可媲美 GPS

    HRL 实验室开发出采用先进算法的惯性测量单元(IMU),提供不间断的 GPS 替代方案。其 MEMS 惯性传感器尺寸如汤罐,精度接近 GPS,并解决长期困扰的偏差漂移问题,通过 AutoCal 自动校准系统持续修正误差,实现无限导航支持。该 IMU 采用 ASIC 和先进封装技术优化成本与尺寸,适用于无人机等轻型载体。

  2. AWS Machine Learning Blog

    使用 Amazon Bedrock AgentCore 评估决策模型

    Amazon Bedrock AgentCore 评估支持使用 15 个内置评估器或自定义评估器(LLM 或代码)对智能体进行评分。决策模型适用于具有固定答案集的问题,如 Jev 和 Strands Decider 2B,它们提供校准概率而非自由文本。代码示例展示了如何将 AgentCore 评估输入转换为决策模型请求,并将模型概率转换回评估结果。

  3. vLLM Blog75

    vLLM 为 Kimi K3.1 Pro 提供 Day-0 支持

    vLLM 宣布在 NVIDIA、AMD、Google TPU 和阿里平头哥真武 PPU 上 Day-0 支持月之暗面开源的 Kimi K3.1 Pro,该模型为 2.8T 参数(104B 激活)多模态 MoE,上下文 1M token。

    推荐理由: vLLM 团队详述为 Kimi K3.1 Pro 做 Day-0 适配的工程取舍,含稀疏注意力、KV 缓存打包与 DCP 的具体数字。

11月4日周三
  1. Together AI Blog50

    Together AI 推出 Polymorphic Inference:自适应开源模型推理技术

    Together AI发布Polymorphic Inference技术,通过AI智能体持续编译优化开源模型推理性能,以应对模型发布加速、架构多样化、工作负载和硬件平台快速变化带来的挑战。该技术使推理系统能够根据动态环境快速适应,例如在80%的OpenRouter流量来自近三个月发布的模型背景下,实现接近硬件极限的性能。

  2. Together AI Blog75

    Together AI 发布了 Together Compiler,持续编译优化 AI 推理。

    Together AI 发布了 Together Compiler(TKCC),利用高吞吐智能体持续为推理引擎生成优化方案,在 24 小时内于 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 等前沿开源模型上实现 1.3-3x 的 TPS 提升。

    推荐理由: 原文给出了持续编译在多个前沿模型上的吞吐提升和引擎启动耗时对比,可据此判断推理优化流程的变化。

  3. Ai2 Blog

    Ai2 与 Google 合作推出新一代气候模型 NeuralGCM+

    Ai2 获得谷歌组织千万美元三年资助,与谷歌研究合作开发开源气候模型 NeuralGCM+,旨在提升气候预测速度与可靠性;该模型扩展自谷歌研究开发的 NeuralGCM,结合物理方程与 AI 模拟大气和海洋共同作用,模拟周期扩展至数十年,支持区域降雨和水资源变化预测,计划通过开源代码和文档促进科研社区协作。

  4. OpenAI Agents SDK releases40

    OpenAI Agents SDK v0.24.0-alpha.6 发布

    OpenAI Agents SDK v0.24.0-alpha.6 发布,支持通过 captured Turn 控制提交工作、被动事件处理、手动请求处理、转向和取消,并扩展了本地存储会话状态恢复和工具策略功能。新增了本地存储、原生输出、实验性外部作业恢复和工具选择等特性,同时更新了 API,如使用 Agent.run() 替代 Runner,以及 FunctionTool 统一回调和手动工具。

  5. Hugging Face Blog50

    StateBench: 测试语言模型如何追踪长文档中的状态变化

    StateBench 是一个长上下文状态追踪基准,测试语言模型如何保持追踪长文档中实体信息的变化。该基准包含四个难度等级,从简单的不可变赋值到复杂的依赖赋值,发现循环和混合模型比 Transformer 在直接训练任务上泛化能力更强,但前沿模型如 Gemini 3.8 Flash、Claude Opus 5.5 和 GPT-6 Sol 在长输入的复杂状态追踪中仍会失效。

  6. AWS Machine Learning Blog38

    Cartesia 如何在 AWS 上构建超低延迟语音 AI 应用

    Cartesia 利用专为实时语音 AI 设计的状态空间模型(SSM)和 AWS 基础设施,实现亚 100ms 的文本转语音和语音转文本,支持 44 种语言语音克隆,适用于虚拟助手、客服中心等场景。Sonic 模型在约 90ms 内生成首个音频字节,Ink 模型具备原生话轮检测和噪声鲁棒性,API 接口支持实时流式输出。

  7. AWS Machine Learning Blog32

    Amazon Quick 整合结构化与非结构化数据。

    Amazon Quick 通过连接 Amazon S3 和创建知识库整合结构化与非结构化数据,用户可使用单一对话式 AI 代理查询。该解决方案包含数据层(存储在 S3 的非结构化内容和作为语义数据集的结构化数据)、工作空间层(将数据类型整合到单一工作空间)和代理层(自定义聊天代理链接到工作空间并返回组合响应)。