通过强化学习激励大型语言模型的自我学习
通过强化学习(RL)和细粒度奖励,研究人员开发了一种名为BookNavigator的界面,帮助大型语言模型(LLMs)从长篇参考材料中自主检索、学习和应用知识,以解决数学问题。
通过强化学习(RL)和细粒度奖励,研究人员开发了一种名为BookNavigator的界面,帮助大型语言模型(LLMs)从长篇参考材料中自主检索、学习和应用知识,以解决数学问题。
SteerDistill 通过闭环教师引导量化 LLM 智能体,在 W4A16 下平均分比最强量化基线高 1.67-2.18 分,在 τ^2-Bench 上成功率达 1.84 百分点,训练 GPU 小时减少 67%。
TOME-Math 将 2,118 本大学数学教科书转化为约 380K 结构化证明监督记录,保留章节顺序、命题-证明链接和依赖参考,用于微调后使语言模型数学推理能力提升 16.7 个百分点,超越所有三个公共指令数据基线。该语料库将发布以促进结构化数学监督研究。
MIT 研究人员开发了一种训练技术,可显著减少数据量并提升气候模拟器(AI 模型)的性能与适应性,使其能在数秒内快速模拟人类活动对未来气候的影响,例如预测温度或海平面变化,从而更可靠地测试数千种气候场景并识别区域干预的意外结果。该算法生成优化的合成气候场景数据,而非依赖现实轨迹的未来排放情景,显著缩短了生产时间,并使模型能准确预测训练数据中未出现的场景。
TypeSafe AI 的 Jev 是一种非生成式系统一模型,能返回结构化选择、分数或概率,比推理式 LLM(系统二模型)更快、更便宜。Jev 适合零样本灵活性,无需反复微调,用户无需了解其内部模型类型,即可实现可靠智能自动化。Jev 可集成到代码中,通过快速调用构建更智能软件,其应用潜力被比作早期互联网的探索阶段。
One Table Benchmark 测试了 46 种模型在 56 个数据集上的表格生成、插补和预测能力,发现这些任务共享条件信息但保真度和目标交互不同,固定模型在效用和保真度间存在权衡,冻结的基础模型在预测和数值插补方面表现突出,表明统一表格模型有潜力提升分类重建和联合采样。
Embodied First Exam 发布,包含 35 套、47 个机器人上的 1,156 个任务,评估编码智能体在物理世界约束下的控制能力,GPT-6 Astra in Codex 在标准设置下 456 个核心任务中成功率 34%。
Gemini、ChatGPT、Claude 和 Grok 等智能体通过分析 NASA LiDAR 数据在墨西哥发现未被官方记录的玛雅遗址,耗时不到 72 小时完成从灵感到政府正式回复的全过程。该遗址位于丛林中的山顶,包含广场、金字塔和庭院等结构,智能体通过图像分析识别并提交报告给墨西哥国家人类学与历史研究所 INAH,后者确认该地点尚未注册(后经查证该遗址已由人类学家绘制)。
在 OpenRouter 上运行相同任务,对比 GPT-6.1 Sol 在 60 项合成任务中通过 180/180 次测试,DeepSeek 成本最低通过 157/180 次,但与公开排名相关性低(Spearman 相关系数 0.109)。需检查任务重复次数、答案数量和账单验证。
Amazon SageMaker HyperPod 通过在 PyTorch DDP 训练循环中添加三项检查来检测无声数据损坏(SDC),包括非有限梯度检查、环形重放审计和权重指纹比较,当检测到问题时将可疑节点隔离并由 HyperPod 替换,已在 4 ml.p5.48xlarge 实例集群上测试验证。
Databricks 通过分析审计日志和 Genie 检测凭证驱动攻击,发现被盗凭证在几分钟内从新 IP 列出秘密范围、目录和存储库,随后读取包含服务主体凭证的秘密,再由服务主体创建函数并加入管理员组,这些非线性事件序列揭示入侵行为。
MACaQ 是一种 MXFP4 W4A4 的后训练量化方法,通过在线激活变换和 Hessian 感知细化独立量化每个线性层,在语言和扩散模型中减少成本同时保持准确性。MACaQ 在 Qwen3-32B 上 vLLM 实现仅增加 2.3% 的端到端开销,比 DuQuant++ 和 MR-GPTQ 的困惑度更低,并在 11 倍更短的量化时间内达到 Llama-3-8B 的最佳困惑度。
AWS re:Invent 2026 AI/ML 主题研讨会将于 11 月 30 日至 12 月 4 日举行,提供 140 余场专题学习会,涵盖 AI 芯片、模型训练与推理、智能体开发管理等全栈内容。
Google DeepMind 发布 AlphaGenome 2,一个预测特定细胞类型变异效应的 DNA 模型。该模型读取 1 Mb DNA 及目标细胞状态,通过条件序列到功能架构,显著提升单细胞 eQTL 预测性能,在 TenK10K 基准上召回率从 23% 提升至 43%,且无需微调即可适应未见数据集。
Google Research 发布可穿戴设备驱动的 CKM 风险评估框架,通过可解释健康年龄模型(CHA)预测未来健康轨迹。该框架基于 2.2 百万人周穿戴数据训练的 SensorWM 模型,提供个性化 12 周反事实健康模拟,结合语言模型生成临床验证的指导方案。CHA 模型整合心率、步数、睡眠等可改变指标,预测 68,000 人年疾病风险,改善临床指标预测效果。
FINCOSMOS 引入了一种开放世界评估范式,用于评估在金融领域工作的智能体。在 150 个模拟用户交互中,没有会话被接受,因为所有会话在程序检查中都失败,智能体仅报告了 54-64% 的未告知细节。人类专家将 88.33% 的失败归因于智能体。
Weighted State Souping 提出查询依赖权重来组合缓存的 State 状态编码,在单跳和多跳文档问答、寻针式检索、变量跟踪及工具使用等任务上显著提升长上下文性能。该方法可适配为高效稀疏变体,实现近常数编码成本,同时保持(有时提升)性能。
状态空间模型(SSMs)在情境学习和精确检索任务上落后于 Transformer,其门控机制导致其先学习记忆解决方案,延迟或阻止正确情境学习解决方案的收敛,但门控机制对改善长序列泛化有益。
研究人员评估了大型语言模型(LLM)判官在个性化写作任务中的表现,发现判官质量与 MMLU 测量的通用 LLM 能力相关性较弱(Pearson’s ρ ≤ 0.2),且表现受写作任务和评估标准(如通用帮助性 vs 风格个性化)影响。LLM 评估器在成对比较中比独立评分响应时更一致且表现更佳,而“最强”LLM 并未最可靠地复现人类评估,可能因对人类标注者和较弱 LLM 忽略的细微细节过度敏感。
使用 NVIDIA DSX AI 工厂可追踪 NVIDIA Dynamo、Kubeflow 或 Slurm 平台上实际运行的 AI 工作负载,超越平台配置的可见性;应用团队独立定义和更新工作负载,仅部署包无法确定节点上运行的工作负载组件。
Hugging Face 博客介绍了多向量嵌入模型的 Token Pooling 感知训练方法,通过 HierarchicalTokenPooling 将相似 token 嵌入合并以压缩存储。
Anthropic在其IPO路演视频中透露,Claude模型现支持AWS Trainium、Google TPUs、NVIDIA GPU和AMD GPU四大芯片平台,这是早期多芯片策略的成果,使新平台部署时间从数月缩短至三天。
Google DeepMind 研究人员使用智能体 AI 对 Signal 协议的多项关键密码学保证完成了形式化验证,该项目以概念验证的形式在四周内完成。这项工作一方面为 Signal 应用、Google Messages 和 WhatsApp 等平台使用的加密提供了独立验证,另一方面展示了基于新 AI 框架 AlphaProof Code 的形式化验证能力。
IBM Quantum Starling 将于 2029 年交付,能在 200 个量子比特上运行 1 亿个硬操作。IBM 已验证 c-coupler 技术,实现密集非局部量子比特连接,并将 qLDPC 代码改进至仅需五个量子比特连接而非六个。
谷歌 DeepMind 的 AI 模型让美国国家飓风中心(NHC)的飓风预报平均提前一天达到原有模型的准确度,并能提前一周识别潜在热带气旋。该模型生成 1000 种发展情景并预测路径、强度和降雨,但 NHC 专家仍需结合实时数据综合判断,因单个模型预测可能大幅调整。NHC 于 2025 年 6 月下旬开始使用该模型,并与 DeepMind 合作研发下一代模型。
重度使用AI会导致人类难以理解的代码,但非预期后果的经济影响尚无定论。衡量成本变更指标(变更的代价)是评估这些后果的关键,其核心指标包括价值附加百分比(业务价值开发工作占总开发工作的比例)、DORA指标(变更交付时间、频率、失败率等)和token使用量。其中,价值附加百分比最能反映非价值附加工作(如bug修复、事件处理)的占比变化,而token使用量可作为辅助指标触发进一步调查。
Tree-Ising 通过解决 BF16 参数上的稀疏 Ising/QUBO 问题修复大语言模型推理循环,以更少的权重编辑提升数学基准准确率且无需梯度或 LLM-token 成本。
vLLM通过EPD(Encoder/Prefill/Decode)分离技术扩展多模态服务能力,支持独立部署的视觉编码器,vLLM v0.32.0包含MiMo和XPU支持,DeepSeek V4.1 Flash的元数据仅请求功能已开源。
"WikiTrace 通过将每个蒸馏经验与其来源轨迹和推理链关联,使大语言模型智能体在行动前验证和修正记忆,在五个智能体基准测试中提升性能并减少记忆导致的退化。该系统将每个经验作为精简洞察存储,并链接到其轨迹成功或失败的原因摘要及原始轨迹,智能体在执行新任务时可通过链接工具补充缺失细节或修正洞察,验证显示其优于现有记忆方法及仅使用相同洞察的基线。"
Google Arts & Culture 开源多模态模型 Veo 将艺术家 Esther Mahlangu 的早期记忆转化为视频,完成对其生平的在线回顾展。模型基于 45 个故事和档案材料,通过 AI 生成图像并转为视频,呈现了她 10 岁发现绘画天赋等关键记忆。
inclusionAI 发布了 ZoomGain-4B 大语言模型,在 ZoomGainBench 上取得 61.08 分,并在多个细粒度感知和通用感知基准测试中表现优异;模型基于从全局图像细节中挖掘的全局到局部视觉感知差距构建监督,支持英文和中文问答,可通过 Hugging Face 下载。
InfraRSI 通过五阶段工作流程将开放式人类指令转化为经过验证的训练优化,在四个单节点和多节点密集及 Mixture-of-Experts(MoE)LLM 工作负载中实现高达 2.75 倍的加速,并将平均模型 FLOPs 利用率(MFU)从 17.4% 提升至 30.0%,优于现有调谐器和编码智能体。
SWAM 通过跨模态对齐扩展世界行动模型,在 4.7 万小时多模态数据上训练,混合使用 egocentric 视频和 UMI 演示提升控制泛化,最终模型在三个真实任务中达到 40.00% 的成功率,优于 23.33% 的基线。
World In-Context Learning (WICL) 方法通过冻结模型,在模拟器中演练任务并将反馈写入上下文而非权重,使机器人能从单一演示中学习操作技能。RoboScript 实现了 WICL,在 RoboTwin 2.0 的 50 项任务上,单次演示无梯度更新即可达到 83.4% 成功率,超越最强训练策略 20 余点,并支持跨视觉分布泛化、通过反思改进、基础模型扩展及跨平台记忆迁移。
挪威奥斯陆业余无线电小组通过地面无线电发送语音指令,成功让 OPS-SAT PRETTY 卫星启动《毁灭战士》游戏,创全球首次通过无线电链路让卫星自主识别并执行口头指令的纪录。团队利用可更新的软件和软件无线电设备为卫星增加语音控制能力,使用约 27MB AI 语音识别模型将声音转为文字并检测指令,实验重点在于让卫星自主分析无线电信号并采取行动。
DexForesight 框架通过将动态感知的世界表示注入灵巧策略的潜在空间来隐式学习空间预见性,在 11 个 DexJoCo 模拟任务上使基础策略成功率从 49.4% 提升至 60.5%,在 3 个真实机器人灵巧操作任务上达到 58.3% 成功率。
MMDM评测了28个决策模型,显示多数模型在常见知识上表现良好,但在相互依赖选项、约束决策和多选任务上表现不佳。例如,Perplexity Decider-V1.2在知识单选上达78.75%准确率,但在选项逻辑和约束规划上分别只有53.95%和47.95%,而所有模型在硬多选上的最佳准确率仅为36.81%。
Infrathon 对六种模型进行了 150 次长时程 AI 基础设施优化任务评估,总耗 10,000 GPU 小时,发现模型排名随评估时程变化,135 次任务在预算后半段实现进一步优化,且 Claude Opus 5.5 将 KV 缓存压缩率从 6.82% 提升至 19.86%,超出人类设计基线。分析显示任务违规、测试不可靠和过早完成是持续优化的主要障碍。
Modern Web Guidance 将 Web 平台专业知识、最佳实践和浏览器兼容性数据嵌入代码智能体,帮助其避开过时模式,转向利用现代 Web 平台能力。
dNaViT 是一种离散原生分辨率视觉 Transformer,通过分组乘法量化(grouped product quantization)和双分支目标,在视觉理解、生成和编辑任务中匹配或超越特定基线。它在 12 个视觉理解基准、4 个生成基准和一个图像编辑基准上表现优异,证明离散词汇可以作为通用视觉表示