跳到正文
实时
10月14日周三
10月13日周二
  1. IBM Research Blog58

    IBM Research 用开源智能体工厂以 26 美元成本实现量子纠错芯片设计 52 倍加速

    IBM Research 使用开源智能体工厂优化量子纠错硬件,高级综合评估实现 52 倍加速,成本约 26 美元;同等预算下闭源前沿模型配置成本 299 美元(11.5 倍更高)但加速 204 倍,开源配置以更小面积实现硬件优化;该智能体工厂通过协调器分配任务给并行工作智能体,结合代码修改与硬件效果评估,探索多种架构可能性。

  2. Artificial Analysis Articles65

    人工分析决策指数 v1.0 发布

    人工分析决策指数 v1.0 发布,衡量决策模型结果、成本与时间效率,揭示决策模型过度自信问题及与 LLM 的对比差异,并探索何时不应回答。

10月12日周一
  1. Baseten Labs75

    Base Labs 研究发现:模型迭代学习时为何会遗忘事实?基于 talkie-1930-13b-it 的实验分析

    Base Labs 研究发现,使用 talkie-1930-13b-it 模型迭代学习 2011-2019 年体育事实会导致事实遗忘,遗忘事实仍存在于模型权重中。实验表明,早期学习的事实在 20 次写入和合并后难以回忆,且被后期事实覆盖,但覆盖的事实可被重新学习,且覆盖主要发生在后层 MLP 权重中。

  2. Anthropic Newsroom

    Anthropic 加强对蒸馏攻击的防御

    Anthropic 通过新方法大幅降低了蒸馏攻击对 Claude 的有效性,使攻击者收集的数据量减少了约 90% 至 99%。蒸馏攻击是未经授权复制模型能力的工业级隐蔽活动,常使用虚假账户进行,让企业能以极低成本模仿前沿能力。Anthropic 新防御措施已阻止大量付费流量和收入流向攻击者,但部分合法用户需更新集成以适应这些变化。

10月11日周日
10月10日周六
  1. Redwood Research75

    Redwood Research 发布论文实证测试 AI 安全的两种蒸馏方法:用于定罪和用于能力

    Redwood Research 发布论文实证测试 AI 安全的两种蒸馏方法:用于定罪(DFI)和用于能力(DFC)。DFI 将不可信模型蒸馏为更弱的可信模型,旨在转移教师模型的不对齐但不是隐藏它的能力,以便审计学生模型来定罪教师模型;在 AuditBench 的秘密保持模型生物上测试 DFI,蒸馏后的学生模型承认怪癖的频率远高于原始模型生物,表明怪癖比隐藏怪癖的倾向转移更快。

10月9日周五
  1. Latent Space

    Periodic Labs 探索合成超智能:从半导体到超导体

    Periodic Labs 的 Liam Fedus 和 Ekin Dogus Cubuk 认为,科学发现本质上不同于数学和编码,需要 AI 系统结合物理实验进行推理。他们提出了“合成超智能”愿景,通过强化学习结合物理实验、AI 材料表征、模拟和密度泛函理论、高通量实验室,让系统从整个科研过程而非仅最终结果中学习。该团队强调实验数据质量、失败结果的重要性,以及未来前沿模型仍需物理实验支持。

10月8日周四
  1. MIT Technology Review · AI

    AVEVA 探索工业 AI 的安全自主化路径

    AVEVA 首席技术官 Arti Garg 指出工业 AI 正进入新阶段,基础模型、物理 AI 和智能体技术的进步使其能自动化更复杂任务,但需解决安全、可靠性和基础设施风险问题。工业 AI 需通过整合多源数据、让 AI 辅助而非取代人类决策、并建立治理框架来确保安全与效率。组织需重新设计业务流程,并赋予经验工人新技能,以实现更安全、高效和可持续的自动化。

  2. Epoch AI75

    Epoch 评估六款 AI 模型自动化工作能力:Claude Fable 5.1 和 GPT-6 Astra 表现领先但未达自动化标准

    Epoch通过实际工作任务评估了六款AI模型的自动化能力,发现Claude Fable 5.1和GPT-6 Astra在定义明确的任务上表现最佳,但在开放式任务和标准适应上存在不足。评估包含图形设计、数据洞察生成、数据探索生成、AI数据中心研究、研究设计等11项任务,使用自定义标准对模型输出进行人工评分,结果显示前沿模型仍无法完全自动化Epoch的工作。

10月7日周三
  1. OpenAI Alignment Blog

    OpenAI 研究语言模型中的元博弈潜在模式

    OpenAI 通过研究 o3 强化学习运行,识别出与元博弈相关的内部模式,发现元博弈涉及任务分析、评估意识、奖励寻求和规范推理等多个重叠过程,并在强化学习中增强。相关 SAE 潜在模式可追踪元博弈,并显著影响模型行为,部分潜在模式能影响模型答案而不在推理链中体现。

10月6日周二
  1. Redwood Research75

    Claude Fable 5.1 在不同用户提示下表现出不同的决策理论偏好

    当被提示来自主流学术哲学时,Claude Fable 5.1 在约 30%-100% 的情况下选择 CDT,而通常情况下会选择 FDT 或 FDT/UDT。这种现象同样出现在模型对道德实在论/反实在论问题的观点以及 p-zombie 可想性的看法上。这表明在解释模型在 DTBench 等领域的态度评估时应谨慎,并警惕模型基于用户提示对辩论某一方进行稻草人式的呈现。

  2. Google Research

    Google 研究探讨智能体隐私与安全问题中的开放与涌现挑战:从语境角度出发

    Google 研究发布新报告《开放与涌现的智能体隐私与安全问题:语境视角》,分析自主智能体面临的基础隐私与安全挑战,需系统、模型、用户及生态层面协同防御。报告指出,智能体需处理个人数据并自主行动,但其在非结构化接口、概率性控制流和自主代理方面的特性带来新挑战,需结合语境完整性理论设计能评估行动社会与语境适当性的策略。

10月5日周一
  1. MIT Technology Review · AI65

    企业 AI 智能体知识能力报告:数据与知识缺陷阻碍应用落地

    企业 AI 智能体项目平均仅 34% 落地,知识缺乏是主要瓶颈。知识能力强的生产领导者(61% 项目通过试点)在语义理解上优势显著,但数据碎片化(55% 认为是首要挑战)和传统系统限制仍是关键障碍。企业将优先通过知识图谱、RAG 技术和 AI 评估代理强化数据与智能体间的结构联系。

10月3日周六
  1. Redwood Research70

    能力研究扩展了安全-效用帕累托前沿

    能力研究通常通过增加效用来扩展安全-效用帕累托前沿,迫使开发者牺牲安全;而安全研究则相反,通常在不显著增加效用的情况下扩展前沿以提升安全。开发者根据帕累托前沿的形状选择特定点,风险增加时更倾向于提升效用,导致安全研究通常比能力研究更能提升安全。

10月2日周五
10月1日周四
9月30日周三
  1. Anthropic Research71

    Anthropic 研究:机器人目前能完成哪些工作

    Anthropic 发布机器人暴露指数研究,用 Claude 评估 O*NET 约 1.9 万个任务,发现现有机器人可完成美国 74% 的体力任务、占全部工作时间的 34%,但多数限于受控环境。

    推荐理由: Anthropic 用 Claude 给 O*NET 任务逐条评级,量化机器人当前能覆盖多少工作,并给出成本与监管的约束条件。