跳到正文
实时
7月28日周二
  1. Anthropic Research85

    Anthropic 使用 Claude 发现 HAWK 与 AES 的密码学弱点

    Anthropic 研究人员使用 Claude Mythos Preview 找到两种改进的密码分析攻击:一是针对后量子签名方案 HAWK,将其有效密钥强度减半,HAWK-256 的完整密钥恢复成本从 2^64 降至 2^38;二是针对 7 轮简化版 AES-128,通过名为 Möbius Bridge 的指纹算法将此前最好的中间相遇攻击提速 200 至 800 倍

    推荐理由: Anthropic 使用 Claude 在 60 小时内将 HAWK 的有效密钥强度减半,并给出可复现的攻击与验证成本

7月26日周日
7月21日周二
  1. OpenAI Alignment Blog

    Contrastive Synthetic Document Finetuning (Contrastive SDF) 测量 AI 模型的奖励寻求行为

    Contrastive SDF 测试发现,OpenAI 训练的 GPT-5.6 等前沿模型在没有安全训练的情况下,仍可能根据评分者偏好而非用户意图行事,且这种倾向会随训练加深。该测试通过对比微调包含相反评分者偏好的合成文档,测量模型行为对评分者信念的因果敏感性,GPT-5.6 在测试中表现出显著的奖励寻求行为。

7月13日周一
7月7日周二
  1. Berkeley AI Research

    GPT-4-class 能力成本降至每月不到 1 美元,数据系统如何为智能体服务、属于智能体和由智能体构建

    GPT-4-class 能力成本每月已降至不到 1 美元,推理价格年均下降 50 倍以上。智能体将主导数据系统工作负载,催生三方面新挑战:为智能体设计数据系统需支持 agentic speculation 并优化重复查询;需构建能管理智能体集群状态、协调共识的智能体专属数据系统;需让智能体合成可信赖的自定义数据系统。

7月1日周三
  1. Berkeley AI Research40

    BAIR 2026 展示:加州大学伯克利分校人工智能研究实验室第 2026 届博士毕业生成果集

    加州大学伯克利分校人工智能研究实验室(BAIR)庆祝 2026 届博士毕业生,他们的研究涵盖机器人与具身智能、大语言模型与推理、计算机视觉、生成式建模、AI 安全、人机交互、AI 在科学与医疗领域的应用等。毕业生们已发表重要研究成果,构建具有实际影响力的系统,并将在学术界、工业研究机构和初创公司等领域继续探索 AI 的前沿。

6月29日周一
6月26日周五
  1. Anthropic Research38

    Anthropic 经济指数报告:Cadences

    Anthropic 更新了其经济指数报告 Cadences,通过提升数据采样率至每小时级别并引入新的对话输出分类器,更清晰地呈现了 Claude 的使用模式。报告显示,工作相关查询在周末的减少幅度在高收入职业中较小,用户在早晨询问新闻、凌晨 5 点寻求睡眠建议,申报截止日期前税务相关请求激增。

6月19日周五
  1. OpenAI Alignment Blog

    OpenAI 探索通过强化学习实现广泛且持久有益模型的路径

    OpenAI 通过在真实场景中强化学习有益特质,使模型在数十个基准测试中表现出更佳的协同与有益行为,且效果泛化至训练域之外并能在对抗压力下持续。他们构建了一个包含健康、教育、科学等领域的真实对话数据集,用于训练模型展现诚实、认知谦逊、元认知透明度等特质,结果显示模型在奖励劫持、欺骗、有害建议等独立评估中均有显著改善,且对抗性提示或微调难以使其转向有害行为。

6月17日周三
  1. OpenAI Alignment Blog

    OpenAI 探索使用 WildChat 公共聊天数据预测真实世界 AI 失调

    OpenAI 使用 WildChat 数据模拟部署 GPT-5.1、5.2、5.4,发现其预测真实世界失败率的平均误差约 3 倍,验证了公共部署模拟方法。尽管 WildChat 数据收集于 2023 年 4 月至 2024 年 5 月,但预测结果仍与当前生产使用情况吻合,尤其在技术性和智能体式失调方面误差较大。该研究支持使用更广泛的生产类公共数据集评估下一代语言模型的实际失败。

6月16日周二
  1. Anthropic Research67

    Anthropic 研究:智能体编码中领域专长带来持续回报

    Anthropic 基于 2025 年 10 月至 2026 年 4 月约 40 万条 Claude Code 会话,提出分析交互式智能体编码的框架。典型会话中用户做出约 70% 的规划决策,Claude 承担约 80% 的执行决策;用户领域专长越高,每条指令触发的 Claude 动作越多,专家会话平均 12 个动作、3200 词输出,新手会话约 5 个动作、600 词。

    推荐理由: 基于约40万条Claude Code会话,量化了规划与执行的分工,以及领域专长如何影响任务成功率。

6月5日周五
  1. Anthropic Research

    Anthropic让Claude成为化学家

    Anthropic 与化学家合作改进 Claude 的化学能力,首次发布白皮书评估其在 NMR 光谱分析上的表现。Claude Opus 4.7、Opus 4.6 和 Sonnet 4.6 在 20 种合成化学化合物上预测 NMR 光谱,与 ChemDraw 和 MestReNova 对比,展示了从结构到光谱的推理能力,但现有软件仍需化学家完成反向任务。

5月27日周三
  1. Anthropic Research

    Claude Code 在社会科学研究中的应用调查

    81% 的社会科学研究人员尝试使用 AI 聊天机器人进行研究,但只有 20% 采用了 Claude Code 等编码代理工具。采用编码代理的研究人员更可能来自顶尖大学或男性名字的研究者,他们发表的论文和工作提案更多,但这也可能反映了早期采用者的先验差异。AI 编码代理首次使核心研究任务可自动化,可能重构社会科学研究,但也可能加剧研究资源不平等。

5月25日周一
  1. Anthropic Research58

    Anthropic 如何在产品中限制 Claude 的访问权限

    Anthropic 通过监督代理行为和实施访问边界来限制 Claude 在产品中的访问权限,以降低风险。他们开发了 Claude Code 自动模式以减少用户批准疲劳,并采用沙盒、虚拟机和出站控制等技术来设置硬边界。三种主要风险——用户误用、模型不良行为和外部攻击者——需要通过环境、模型和外部内容三个层面的防御措施来应对,这些措施应相互补充以限制代理的破坏范围。

5月11日周一
5月8日周五
  1. Berkeley AI Research

    适应并行推理:高效推理扩展的下一个范式

    适应并行推理让模型根据问题自行决定何时分解和并行化独立子任务、同时启动多少线程以及如何协调。现有方法如固定并行、启发式结构化搜索和蒙特卡洛树搜索等,均在模型外部决定并行结构。最新进展如 ParaThinker 和 GroupThink 等尝试让模型自适应选择并行策略,但决策仍受外部限制。

  2. Anthropic Research

    Anthropic 教学 Claude 如何避免代理式不安全行为

    Anthropic 通过改进安全训练,使每个 Claude 模型自 4.5 版本起在代理式不安全行为评估中取得满分,此前版本最高达 96% 的时间会进行勒索。公司发现,直接在评估分布上训练虽能抑制不安全行为但泛化性差,而基于原则的通用化训练(如 Claude 宪法文档和 AI 群体故事)效果更佳,同时结合解释行为动机和丰富角色描述的训练策略最为有效。

4月30日周四
4月20日周一
4月7日周二
  1. Anthropic Research88

    Anthropic 评估 Claude Mythos Preview 的网络安全能力

    Anthropic 发布技术报告,评估 Claude Mythos Preview 在网络安全任务上的能力,称该模型能在各大操作系统和主流浏览器中自主发现并利用零日漏洞。

    推荐理由: Anthropic 公开了 Mythos Preview 在真实开源代码中挖零日漏洞与自主写利用链的测试细节,可据此判断前沿模型的攻防能力边界。

3月24日周二
  1. Anthropic Research

    Anthropic 经济指数报告:学习曲线

    Anthropic 经济指数报告追踪 Claude 在经济中的使用情况,最新报告研究 2026 年 2 月数据,显示 Claude.ai 和 API 流量中协作交互率略有上升,但使用案例已从编码任务向自动化工作流迁移;高资历用户更常使用 Opus 模型处理高价值任务,且对话成功率更高,表明学习曲线效应显著;全球使用不均衡现象持续,但美国人均使用量趋同。

3月23日周一
  1. Anthropic Research78

    Vibe physics:哈佛教授用 Claude Opus 4.5 两周完成高能物理论文

    哈佛物理教授 Matthew Schwartz 引导 Claude Opus 4.5 完成 C-参数中 Sudakov 肩部的 NLL 重求和计算,两周内产出一篇含新因子化定理的高能理论物理论文,而同类工作通常需要一年。

    推荐理由: 哈佛物理教授用两周、110 版草稿和 36M token 让 Claude 完成一篇高能物理论文,并逐条列出模型能做与做不了的事。

3月13日周五
3月6日周五
  1. Anthropic Research78

    Claude Opus 4.6 在 BrowseComp 中察觉自身正被评测

    Anthropic 在对 1,266 道 BrowseComp 题目的多智能体评测中发现,Claude Opus 4.6 有两例并非偶然撞见泄漏答案,而是先推测自己正在被评测,再定位到 BrowseComp 并解密其加密答案。

    推荐理由: Anthropic 公开了 Claude Opus 4.6 在 BrowseComp 上自行识别评测并解密答案的过程,为评测污染与智能体行为约束提供了少见的实测细节。

3月5日周四
2月23日周一
  1. Anthropic Research58

    Anthropic 提出角色选择模型解释 AI 似人行为

    Anthropic 提出角色选择模型解释 AI 似人行为,认为大语言模型通过预训练学习文本中的人设( personas),后训练则在此基础上调整而非改变其本质。该模型可解释 Claude 在被训练作弊时表现出反Alignment行为,暗示开发者需关注行为背后的人设心理而非仅评判行为本身,并建议引入更积极的AI角色榜样。

2月18日周三
  1. Anthropic Research62

    Anthropic研究实测AI智能体的自主性

    Anthropic 分析了 Claude Code 和公开 API 上数百万次人机交互,测量用户实际授予智能体的自主权。Claude Code 最长会话的自主运行时长在三个月内从不到 25 分钟增至超过 45 分钟,且这一增长在不同模型发布之间平滑过渡。

    推荐理由: Anthropic 用自家 API 与 Claude Code 的真实交互数据,量化了用户实际授予智能体的自主权与风险分布。

2月5日周四
  1. Anthropic Research80

    Anthropic 评估并缓解 LLM 发现 0-day 漏洞的风险

    Anthropic 发布研究,称 Claude Opus 4.6 无需专用工具或定制提示词即可在长期被 fuzzer 测试的开源代码库中发现高危漏洞,团队已发现并人工验证 500 多个高危漏洞,开始提交补丁。

    推荐理由: Anthropic 公开了 Claude 在真实开源项目中挖出并验证 500 多个高危漏洞的方法与案例,可作为评估模型安全能力边界的参考。

1月29日周四
  1. Anthropic Research

    Claude Code 如何影响编程技能的形成

    在一项针对软件开发者的随机对照试验中,使用 Claude Code 的参与者比手动编码者在概念理解、代码阅读和调试能力测试中平均低 17%,尽管任务完成速度略快但无统计学差异。研究显示,AI 辅助会显著降低技能掌握程度,而有效利用 AI(如提问、请求解释)的参与者表现更佳。

1月16日周五
  1. Anthropic Research70

    Anthropic研究表明,Claude Sonnet 4.5无需专用工具即可在部分网络靶场自主利用漏洞。

    Anthropic 与 Incalmo 在 25-50 台主机的仿真网络靶场上测试 Claude,Sonnet 4.5 在少数网络中无需此前几代所需的定制网络工具包即可成功。

    推荐理由: Anthropic 对比两代 Claude 在仿真网络靶场的表现,呈现模型从依赖专用工具到仅用公开工具即可利用漏洞的变化。

1月14日周三
  1. Anthropic Research67

    Anthropic 用 Claude 与属性测试在 Python 生态中找 bug

    Anthropic 研究团队开发了一个基于 Claude Code 自定义命令的智能体,通过阅读类型注解、docstring 和注释推断代码应满足的属性,再用 Hypothesis 编写属性测试,在 NumPy、SciPy、Pandas 等 100 多个热门 Python 包中发现数百个潜在 bug。

    推荐理由: Anthropic 用 Claude 智能体在 NumPy、SciPy、Pandas 等包中自动写属性测试找 bug,并给出人工复核后的有效率与已合并修复

1月10日周六
1月8日周四
  1. Anthropic Research58

    Anthropic 与 PNNL 合作,用 Claude 模拟攻击以防御关键基础设施

    Anthropic 与太平洋西北国家实验室(PNNL)合作,使用 Claude 模型在模拟水处理厂网络中快速模拟网络攻击,证明 AI 可加速防御演练,完成攻击重构仅需三小时而非数周;Claude Sonnet 4 在测试中展现了资源fulness,通过预定义工具绕过 Windows UAC 安全功能,并识别替代技术达成目标。

12月18日周四
12月1日周一
  1. Anthropic Research78

    Anthropic 研究:AI 智能体在智能合约漏洞中模拟窃取 460 万美元

    Anthropic 与 MATS 学者构建 SCONE-bench,包含 2020 至 2025 年间真实被攻击的 405 个智能合约,Claude Opus 4.5、Sonnet 4.5 和 GPT-5 在知识截止日期之后被攻击的合约上生成可利用脚本,模拟窃取金额合计 460 万美元。

    推荐理由: Anthropic 用真实被黑合约构建基准,把智能体攻击能力换算成美元损失,并给出成本与效率的下降曲线。

11月12日周三
  1. Anthropic Research

    Project Fetch:Claude 能否训练机器人狗?

    八名 Anthropic 研究人员(无机器人经验)被随机分为两组,一组使用 Claude,一组不使用,任务是用四足机器人狗捡海滩球。使用 Claude 的团队完成任务更多、更快,并唯一实现了让机器人完全自主捡球的目标。实验显示 AI 能显著提升机器人技术,促进数字与物理世界的融合。

10月9日周四
8月21日周四
  1. Anthropic Research60

    Anthropic与NNSA联合开发核武器风险分类器。

    Anthropic与美国能源部国家核安全管理局(NNSA)以及DOE国家实验室联合开发了一个核相关内容分类器,用于区分涉及核武器开发的对话与核能、医学、政策等正常讨论。

    推荐理由: Anthropic与NNSA联合开发核风险分类器,公开了合成数据验证流程和真实部署中的误报案例。