MarkTechPost6262斯坦福研究开源 Memorilla，为冻结 LLM 开发潜在记忆模块
斯坦福研究人员开源了Memorilla，一个为冻结LLM设计的潜在记忆系统，它将整个文档集合转换为16个向量供冻结LLM使用。在FactKG上，冻结的Qwen3-8B配合Memorilla达到84.33%的准确率，比使用所有文档上下文高3.9%，但只需16个记忆token，文档token数量减少108倍。
实时
#编码
- MarkTechPost6262
Hugging Face Daily Papers6565理解长时程智能体中的决策模型：演员、裁判还是教师？
决策模型即使作为行动者表现不佳，通过评判完整行动轨迹也能有效教授强化学习策略，在 ALFWorld 和 WebShop 上提升成功率。
- Hugging Face Daily Papers
SteerDistill：通过闭环教师引导量化 LLM 智能体
SteerDistill 通过闭环教师引导量化 LLM 智能体，在 W4A16 下平均分比最强量化基线高 1.67-2.18 分，在 τ^2-Bench 上成功率达 1.84 百分点，训练 GPU 小时减少 67%。
- Hugging Face Daily Papers
Embodied First Exam 发布：首个面向编码智能体的机器人控制评估框架
Embodied First Exam 发布，包含 35 套、47 个机器人上的 1,156 个任务，评估编码智能体在物理世界约束下的控制能力，GPT-6 Astra in Codex 在标准设置下 456 个核心任务中成功率 34%。
- Hugging Face Daily Papers6565
MACaQ：一种快速、模型无关的校准量化方法
MACaQ 是一种 MXFP4 W4A4 的后训练量化方法，通过在线激活变换和 Hessian 感知细化独立量化每个线性层，在语言和扩散模型中减少成本同时保持准确性。MACaQ 在 Qwen3-32B 上 vLLM 实现仅增加 2.3% 的端到端开销，比 DuQuant++ 和 MR-GPTQ 的困惑度更低，并在 11 倍更短的量化时间内达到 Llama-3-8B 的最佳困惑度。
Hugging Face Blog3838Hugging Face 博客：多向量嵌入模型的 Token Pooling 感知训练
Hugging Face 博客介绍了多向量嵌入模型的 Token Pooling 感知训练方法，通过 HierarchicalTokenPooling 将相似 token 嵌入合并以压缩存储。
- Hugging Face Daily Papers
Tree-Ising：使用位级 Ising 编辑修复大语言模型推理循环
Tree-Ising 通过解决 BF16 参数上的稀疏 Ising/QUBO 问题修复大语言模型推理循环，以更少的权重编辑提升数学基准准确率且无需梯度或 LLM-token 成本。
- Hugging Face Daily Papers
面向自主机器人操作的上下文学习
World In-Context Learning (WICL) 方法通过冻结模型，在模拟器中演练任务并将反馈写入上下文而非权重，使机器人能从单一演示中学习操作技能。RoboScript 实现了 WICL，在 RoboTwin 2.0 的 50 项任务上，单次演示无梯度更新即可达到 83.4% 成功率，超越最强训练策略 20 余点，并支持跨视觉分布泛化、通过反思改进、基础模型扩展及跨平台记忆迁移。
- Hugging Face Daily Papers6565
DexForesight框架通过隐式空间预见性提升灵巧操作性能
DexForesight 框架通过将动态感知的世界表示注入灵巧策略的潜在空间来隐式学习空间预见性，在 11 个 DexJoCo 模拟任务上使基础策略成功率从 49.4% 提升至 60.5%，在 3 个真实机器人灵巧操作任务上达到 58.3% 成功率。
- Hugging Face Daily Papers
删除权重对 LLM 后训练的惊人效果
删除调优方法通过将预训练大语言模型（LLM）中不到 0.05% 的权重置零，无需其他修改，即可在强化学习、监督微调和策略蒸馏三种后训练场景中达到与全量微调（FFT）相当的效果。
Google DeepMindAlphaProof Code：Google DeepMind 开源多 LLM 智能体框架实现复杂软件深层形式化验证
Google DeepMind 开源 AlphaProof Code 框架，用多 LLM 智能体首次实现广泛部署的 Signal 协议代码深层形式化验证，生成超 600 万行 Lean 证明，仅 1% 代码需人工复核，将专家团队数年工作压缩至四周，并成功识别出两处已知漏洞。
- Hugging Face Daily Papers
Frontier3DBench：跨对象、场景和交互开放世界的代码智能体 3D 创作基准测试
Frontier3DBench 统一评估了 145 项任务中代码智能体在对象、场景和交互式 3D 世界创建上的能力，GPT-6.1-sol 在对象和场景层表现最佳，总得分 66.02/100，但所有配置在对象和场景任务中参考重建得分均低于文本驱动生成。生成世界在局部机制上平均 83.08/100，但在运动清除和状态化工作流上仅分别为 20.82 和 30.26，显示协调活动完成仍是核心瓶颈。
- Hugging Face Daily Papers
基于结构感知内核的快速精确相对位置注意力
一种精确的瓦片注意力算法将加性相对位置项集成到类似 FlashAttention 的计算中，减少内存和计算开销，加速长上下文相对位置 Transformer。该方法（1）使用偏移感知瓦片避免冗余索引和内存访问，（2）仅计算必要的键/查询关系产品并在前向和反向传递中重用它们，以及（3）使用基于偏移的梯度分片和聚合，消除原子竞争。
- Hugging Face Daily Papers
OneTrans-GSR：一种生成式排序列表范式，统一重排序和混合排序
OneTrans-GSR 通过单一自回归 Transformer 统一生成推荐排序列表，提升业务指标并减少重排序和混合排序延迟。在工业推荐系统中部署后，GMV/u 提升 2.63%，广告商价值提升 2.06%，回购率提升 2.03%，同时将端到端延迟降低 13%。
Hacker News · 300+ 热帖 e-means：在十分之一的训练轮数内超越 k-means
e-means 在 25 轮训练内达到低于 Lloyd 算法的测试损失，仅需 1.2 至 3 轮。与最先进的 Flash-KMeans 相比，GPU 端端速度提升 10-45 倍，CPU 端端速度提升 8-15 倍。e-means 通过指数移动平均更新、自动超参数调整、改进初始化和死簇复活策略，实现了速度和损失的双重优化。
Hacker News · 300+ 热帖 Claude Fable 5.2 一键生成侄子的梦想游戏
Claude Fable 5.2 可以一键从侄子的一组画作中生成完整游戏，包含 175 张图像和 140 个音频片段。生成的动作游戏包含 18 个角色、12 个关卡及剧情，支持 4 人联机，通过 Claude Code 和 Opus 4.8 实现。
- Hugging Face Daily Papers
A2-MEAS 框架迈向具身智能体时代
A2-MEAS 框架通过学习校正码和具身视觉语言行动模型提升机器人控制与故障恢复，在 50 任务 BEHAVIOR 2026 公开子集上达到 0.5755 Q-score 并实现 45.40% 任务成功率，12 项真实机器人任务平均成功率 57.92%。该框架采用动作预训练和任务专业化，训练吞吐量达 427.1 样本/秒，系统将开源模型、训练脚本及基础设施。
- Hugging Face Daily Papers
PCBRouteAgent：LLM 智能体距离成为 PCB 布线工程师还有多远？
PCBRouteAgent 在 247 块合成和真实 PCB 上实现 100%、94.9%、100% 和 40% 的 D2、D3-A、D3-B、D3-C 清洁通过率，在三个真实世界子集上分别比最佳基线高 13.9、36 和 10 个百分点。
- Hugging Face Daily Papers3434
LowRAM：一种用于可组合 KV 缓存压缩的低秩键和摊销值的测试时方法
LowRAM 通过低秩分解压缩键，并使用小头网络根据键预测值，同时保留最难重建标记的残差校正，实现 4 倍值缓存压缩且性能近乎无损。选择性重建可使 262K 上下文在 4 倍 KV 压缩下峰值解码吞吐量提升 5 倍。结合量化和驱逐，LowRAM 将压缩推至 26.9 倍，同时保留 94.5% 的基线性能。
Import AI4242Physical Superintelligence 证明量子计算猜想；Meta 打造超级智能控制的触觉手套；NASA 论文称建立月球制造业成本低于预期
Physical Superintelligence 开发的内部研究系统运行非公开 Anthropic 模型，在三天内证明了 Scott Aaronson 和 Andris Ambainis 的量子计算猜想。
- Hugging Face Daily Papers3434
P²-MOPD：通过参数先验加速多教师策略蒸馏
P²-MOPD通过将每个学生模块表示为其自身可学习权重与冻结专家任务向量（专家减去基础模型）的加权求和，联合训练权重和混合系数α，使专家成为参数先验，显著加速多教师策略蒸馏。
- Hugging Face Daily Papers3131
深入探讨智能体进化：我们忽视了什么
智能体进化通过递归自我改进（RSI）提升性能而不更新模型权重，但高基准分数并不总带来可靠、高效和可迁移的改进。研究评估了四种方法在通用和编码任务上的表现，发现所有十六个进化智能体都获得了新任务能力但丢失了部分旧能力，其中一种通用任务智能体可靠性提升5.2点但丢失了十个旧任务。EvoAudit通过分析、变异和门控机制实现了最佳性能。
Latent Space6565斯坦福大学如何教授 AI 原生工程 — Mihail Eric 与 Monaco 的实践
斯坦福大学 CS146S 课程的第二次运行将开源维护者引入教学，要求学生学习陌生代码库、提出变更并解释补丁。Mihail Eric 教授分享了课程大纲，展示了哪些课程内容经受住了他自身工程团队的考验。Monaco 公司构建了其智能体工作空间，采购了代码审查工具，并为值班智能体授予了 Datadog 和 GitHub 的访问权限。
The Decoder精选同一件事 · 2 家7171阿里等团队发布 Co-Design Bench：编码智能体仅完全解决 26.4% 的真实任务
阿里巴巴与多所亚洲高校的研究者用真实用户变更请求构建了编码智能体基准 Co-Design Bench，十个受测模型中表现最好的 GPT-6 Astra 平均满足约 70% 的任务要求，但完全正确的任务仅占 26.4%。
推荐理由: 由真实用户请求构成的基准显示，最强模型仅完全解决约四分之一任务，且同一模型换环境分数相差近 20 个百分点。
Hacker News · 300+ 热帖精选7171 MaxxBench 发布：改写 DeepSWE 任务后模型分数大幅分化
MaxxBench 团队对 89 个 DeepSWE 任务做小幅改动（参考补丁中位数仅增 17 行、3.5%），重新评测 15 个模型配置，发现最高与最低分差从 DeepSWE 的 20.9 个百分点扩大到 48.3 个百分点。
推荐理由: 通过改写 89 个 DeepSWE 任务的指令与起始代码，展示模型分数在熟悉基准与改动后任务间的巨大落差。
- MarkTechPost3838
Zyphra ZYFA：为 AMD MI355X GPU 优化的 FP8 FlashAttention，速度提升高达 1.76 倍
Zyphra 发布了 ZYFA（Zyphra FlashAttention on AMD），一套针对 AMD Instinct MI355X GPU 的 FP8 和 BF16 预填充注意力内核，在真实模型激活上其 FP8 内核速度比 AMD 默认内核库 AITER 快 1.16-1.76 倍，在 128 维头部下 FP8 误差比 AITER 低 62-78%。
- Hugging Face Daily Papers6565
MUON-RT 优化器复用教师轨迹实现无动量 LLM 自蒸馏
MUON-RT 优化器通过复用教师轨迹并移除动量权重，将教师模型信息以在线方式蒸馏至学生模型，节省 25% 内存参数（标准 Muon 需 4x 参数，MUON-RT 仅需 3x），提升模型性能。
- Hugging Face Daily Papers6565
TailSteer：一种用于抗漂移多轮图像编辑的轨迹尾引导训练框架
TailSteer 通过保持早期去噪动态接近基础模型并从策略内滚动学习轨迹尾部的精细偏差抑制校正，显著减少多轮编辑中的累积视觉漂移，同时保留预训练的生成和编辑能力。实验表明，TailSteer 在 FLUX、SenseNova 和 Qwen 系列模型上，能在 15-20 轮编辑中大幅降低漂移，且在大量文本到图像和单图像编辑基准测试上基本保持基础模型性能。
O'Reilly RadarRouteLLM 研究人员如何通过偏好数据训练路由器在强模型和廉价模型之间选择
RouteLLM 研究人员训练路由器在强模型和廉价模型间选择，基准评测显示成本降低一倍以上且对响应质量影响极小。自动路由能帮助用户在预算内获得更多帮助，使同一订阅支持更多请求或更频繁使用强模型。用户需了解路由效果，评估其带来的成本和时间效益，例如通过代码分析任务全程交互来比较不同路由策略。
- Hugging Face Daily Papers6565
NEO-VLA框架消除固定视觉编码器以提升动作策略的鲁棒性
NEO-VLA框架通过让动作策略直接访问网络深处的视觉表征，消除了固定视觉编码器，在多种操控场景和分布偏移下实现了更强鲁棒性。该框架使用轻量级卷积层对图像进行分词，并让视觉表征与语言在骨干网络中共同演化，使动作专家能从指令条件化的不同深度视觉表征中获取信息。层探查实验显示，动作关键信号常在最终视觉表征形成前就已达到峰值。
- The Decoder
GPT-6 Astra 通过权重直接重新编程其他 AI 模型
GPT-6 Astra 通过分析模型权重直接重新编程其他 AI 模型，无需传统训练。它正确识别了网络学习的游戏和图像生成形状，并在 Qwen3.5-0.8B 上通过修改 0.016% 的权重，将 MATH-500 基准测试准确率从 7.9% 提升至 48.1%。研究人员认为其潜力在于安全审计和针对性行为调整，但模型能力仍有限。
- Hugging Face Daily Papers6565
CrossSWE: 测试跨仓库联合开发的大语言模型基准
CrossSWE 基准测试当前大语言模型在跨仓库联合软件开发中的跨仓库一致性，包含 171 个实例，涵盖 165 个仓库、20 个技术领域和 13 种编程语言，评估显示最强的 GPT-6.1 Sol 仅达 58.48% Pass@1，跨仓库不一致是主要失败模式。
- Hugging Face Daily Papers6565
SWE-Trail：面向编码智能体训练的历史引导轨迹收集方法
SWE-Trail 通过利用过去的执行轨迹指导后续探索，但不向编码智能体暴露历史信息，从而提升了编码智能体训练的轨迹收集效果。该方法在 SWE-bench Multilingual 和 SWE-bench Pro 上，使用 124B 参数的学生模型，分别使平均问题解决率提升了 2.33 和 1.60 个百分点。
Hacker News · 300+ 热帖3737 Show HN: Hacker Times，一个受纽约时报启发的 Hacker News 版本
Hacker Times 以报纸风格布局呈现 Hacker News 故事，链接原始来源并每小时更新。该项目由 Andrej Karpathy 参与，旨在提供不同于传统浏览体验的阅读方式。
- MarkTechPost
Zyphra AI 推出 Zyphra 层次注意力 (ZHA)：通往真正亚二次方注意力的路径
Zyphra AI 发布了 Zyphra 层次注意力 (ZHA)，一种基于树状索引器的稀疏注意力方法，旨在解决稀疏注意力中索引器仍需扫描整个上下文的已知问题。ZHA 可蒸馏到约 4B token 的冻结预训练模型中，在 Qwen3.6-35B-A3B 上，其推理、智能编码和 256K 检索基准测试中接近密集注意力。
Apple Machine Learning Research注意Mamba：一种跨架构蒸馏的配方
苹果研究人员提出一种跨架构蒸馏配方，将基于Attention的模型蒸馏至Mamba架构，蒸馏后的Mamba模型困惑度达14.01，接近教师模型的13.86，并在下游任务中表现良好。
- Hugging Face Daily Papers3434
OSWAM：一种高效的单步行动生成世界行动模型
OSWAM 通过使用结构化想象标记初始化扩散过程，并将未来条件特权信息蒸馏到单个去噪步骤中，实现了自动驾驶和具身控制中的实时高质量行动生成。该模型仅需一步扩散即可生成高质量行动，比需要数十步的去噪过程直接策略世界行动模型（WAM）快约 3 倍，在 NVIDIA RTX 5090 GPU 上实现低至 40ms 的延迟，支持实时编译推理。
- Hugging Face Daily Papers6565
HiFOR：一种用于视觉语言行动模型的层级预见框架
HiFOR 通过层级预测未来状态并检索相关未来信息来指导行动生成，提升机器人操作能力。该框架通过层级依赖掩码（HDM）联合预测短期状态演变、语义里程碑和最终目标状态，建立跨时间范围依赖关系；结构感知潜在世界建模沿时间、视角和空间维度组织未来潜在表示，促进细粒度检索；行动引导分解世界检索根据去噪过程中的行动表示自适应检索相关未来信息，为行动生成提供针对性指导。
- MarkTechPost5858
qwenGPU：将 Qwen3.5-2B 与 45 编译 GPU 层结合的实验模型
qwenGPU 是开发者 Vixhal 在 GitHub 上发布的实验模型，将 45 个编译的 GPU 层直接嵌入 Qwen3.5-2B 的权重中，使其在自身前向传递中运行真实 CUDA。
- Hugging Face Daily Papers同一件事 · 2 家4545
Co-Design Bench: 多模态协作编码评测基准用于智能体模型
Co-Design Bench 基准包含 273 个任务和 2,331 项专家编写的验收标准，源自 26,314 次真实用户编码会话。在 10 个模型端点上，gpt-6-astra 平均通过每项任务 69.9% 的标准，但仅 26.4% 的任务完全满足；Qwen3.8-27B 总体严格完成率 64.4%，在仓库编辑子集排名第二。
