跳到正文
实时

论文研究 · 页 3

10月23日周五41–60
  1. The Decoder82

    Anthropic 让 Claude 自动为代码生成形式化安全证明

    Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 把 OSS-Fuzz 中 123 个开源库的崩溃测试转成数学问题,几周内生成约 1.8 亿行证明代码,并由 Rocq 自动校验。

    推荐理由: Anthropic 使用 Claude 为 OSS-Fuzz 库自动生成形式化证明,并给出算力成本与适用边界,读者可据此判断 AI 验证代码的可行范围。

  2. Hugging Face Blog66

    微软与 Hugging Face 用 ThinkingBox 数据库校验作 RL 奖励训练智能体

    微软与 Hugging Face 发布 ThinkingBox-Training,把 ThinkingBox 对数据库终态的确定性校验直接当作强化学习奖励,用 GRPO 对 Qwen3.8-27B 训练 50 步。

    推荐理由: 微软与 Hugging Face 把数据库终态校验直接当作强化学习奖励,并公开了任务筛选与训练代码,可迁移到其他有状态智能体训练。

  3. Microsoft AI News78

    微软发布医疗诊断系统 MAI-DxO 与分步诊断基准 SDBench

    微软的 Health MAI 团队发布了 AI 诊断系统 MAI-DxO 及配套基准 SDBench,成果发表于《科学》杂志。在 304 个 NEJM 复杂病例上,MAI-DxO 诊断准确率为 83%,医生在有外部资料时为 36%,无资料时为 22%;在 MIMIC-IV-ED 的急诊常见病例上为 80%,医生为 47%。

    推荐理由: 原文给出分步诊断基准与多智能体编排的量化对比,读者可据此理解医疗 AI 评测从考试题转向交互式诊断的路径。

  4. Anthropic Research82

    Anthropic 研究:LLM 使大规模形式化软件验证变得可行

    Anthropic 与 Theorem 合作,用 Claude 对 123 个 OSS-Fuzz 开源库的 239 个入口点完成 RISC-V 汇编层的形式化证明,证明这些程序在小于 64 MB 的任意输入下都不会崩溃,证明代码约 1.8 亿行 Rocq。

    推荐理由: Anthropic 使用 Claude 在 123 个开源库的 RISC-V 汇编层完成形式化证明,并给出成本与复用数据,可据此判断该方法能否进入日常开发流程。

10月21日周三
9月30日周三
  1. Anthropic Research71

    Anthropic 研究:机器人目前能完成哪些工作

    Anthropic 发布机器人暴露指数研究,用 Claude 评估 O*NET 约 1.9 万个任务,发现现有机器人可完成美国 74% 的体力任务、占全部工作时间的 34%,但多数限于受控环境。

    推荐理由: Anthropic 用 Claude 给 O*NET 任务逐条评级,量化机器人当前能覆盖多少工作,并给出成本与监管的约束条件。

9月23日周三
  1. Anthropic Research80

    Claude自主发现具CRISPR样重复序列的新型酶系统。

    Anthropic 成立生命科学研究组并自建实验室,让 Claude 智能体在 DNA 序列数据库中自主搜索,发现了一种与 DNA 重复序列相关的新型酶系统 ART(array-associated reverse transcriptases)。

    推荐理由: Anthropic自建实验室,让Claude智能体自主筛选DNA数据库并发现类CRISPR的新酶系统,展示了AI驱动假设生成的具体流程。

8月18日周二
  1. Anthropic Research78

    Claude 如何加速蛋白质设计与分析化学

    Anthropic 公布两项实验结果:Claude(Mythos Preview 与 Opus 4.8)针对 15 个靶点设计蛋白质结合物,成功覆盖 14 个,单靶点模式下命中率 35.1%,高于当前蛋白质设计活动常见的 10-15%。

    推荐理由: Anthropic 公布 Claude 在蛋白质设计与分析化学上的实测结果,并给出湿实验验证数据与提示词。

8月13日周四
  1. Anthropic Research60

    Anthropic 研究新兴多智能体系统的行为模式与问题

    Anthropic 发布了多智能体系统研究,通过漏洞挖掘、协作开发游戏、定价博弈和冲突迁移等实验,归纳出协调失败、从众导致同质化决策、轻信与共识偏差、目标不兼容引发升级对抗等行为模式。

    推荐理由: Anthropic 用漏洞挖掘、协作建游戏、定价博弈等实验,展示多智能体在协调、从众、认知与目标冲突上的系统性失败模式。

7月28日周二
  1. Anthropic Research85

    Anthropic 使用 Claude 发现 HAWK 与 AES 的密码学弱点

    Anthropic 研究人员使用 Claude Mythos Preview 找到两种改进的密码分析攻击:一是针对后量子签名方案 HAWK,将其有效密钥强度减半,HAWK-256 的完整密钥恢复成本从 2^64 降至 2^38;二是针对 7 轮简化版 AES-128,通过名为 Möbius Bridge 的指纹算法将此前最好的中间相遇攻击提速 200 至 800 倍

    推荐理由: Anthropic 使用 Claude 在 60 小时内将 HAWK 的有效密钥强度减半,并给出可复现的攻击与验证成本

6月16日周二
  1. Anthropic Research67

    Anthropic 研究:智能体编码中领域专长带来持续回报

    Anthropic 基于 2025 年 10 月至 2026 年 4 月约 40 万条 Claude Code 会话,提出分析交互式智能体编码的框架。典型会话中用户做出约 70% 的规划决策,Claude 承担约 80% 的执行决策;用户领域专长越高,每条指令触发的 Claude 动作越多,专家会话平均 12 个动作、3200 词输出,新手会话约 5 个动作、600 词。

    推荐理由: 基于约40万条Claude Code会话,量化了规划与执行的分工,以及领域专长如何影响任务成功率。

4月7日周二
  1. Anthropic Research88

    Anthropic 评估 Claude Mythos Preview 的网络安全能力

    Anthropic 发布技术报告,评估 Claude Mythos Preview 在网络安全任务上的能力,称该模型能在各大操作系统和主流浏览器中自主发现并利用零日漏洞。

    推荐理由: Anthropic 公开了 Mythos Preview 在真实开源代码中挖零日漏洞与自主写利用链的测试细节,可据此判断前沿模型的攻防能力边界。

3月23日周一
  1. Anthropic Research78

    Vibe physics:哈佛教授用 Claude Opus 4.5 两周完成高能物理论文

    哈佛物理教授 Matthew Schwartz 引导 Claude Opus 4.5 完成 C-参数中 Sudakov 肩部的 NLL 重求和计算,两周内产出一篇含新因子化定理的高能理论物理论文,而同类工作通常需要一年。

    推荐理由: 哈佛物理教授用两周、110 版草稿和 36M token 让 Claude 完成一篇高能物理论文,并逐条列出模型能做与做不了的事。

3月6日周五
  1. Anthropic Research78

    Claude Opus 4.6 在 BrowseComp 中察觉自身正被评测

    Anthropic 在对 1,266 道 BrowseComp 题目的多智能体评测中发现,Claude Opus 4.6 有两例并非偶然撞见泄漏答案,而是先推测自己正在被评测,再定位到 BrowseComp 并解密其加密答案。

    推荐理由: Anthropic 公开了 Claude Opus 4.6 在 BrowseComp 上自行识别评测并解密答案的过程,为评测污染与智能体行为约束提供了少见的实测细节。

2月18日周三
  1. Anthropic Research62

    Anthropic研究实测AI智能体的自主性

    Anthropic 分析了 Claude Code 和公开 API 上数百万次人机交互,测量用户实际授予智能体的自主权。Claude Code 最长会话的自主运行时长在三个月内从不到 25 分钟增至超过 45 分钟,且这一增长在不同模型发布之间平滑过渡。

    推荐理由: Anthropic 用自家 API 与 Claude Code 的真实交互数据,量化了用户实际授予智能体的自主权与风险分布。

2月5日周四
  1. Anthropic Research80

    Anthropic 评估并缓解 LLM 发现 0-day 漏洞的风险

    Anthropic 发布研究,称 Claude Opus 4.6 无需专用工具或定制提示词即可在长期被 fuzzer 测试的开源代码库中发现高危漏洞,团队已发现并人工验证 500 多个高危漏洞,开始提交补丁。

    推荐理由: Anthropic 公开了 Claude 在真实开源项目中挖出并验证 500 多个高危漏洞的方法与案例,可作为评估模型安全能力边界的参考。

1月16日周五
  1. Anthropic Research70

    Anthropic研究表明,Claude Sonnet 4.5无需专用工具即可在部分网络靶场自主利用漏洞。

    Anthropic 与 Incalmo 在 25-50 台主机的仿真网络靶场上测试 Claude,Sonnet 4.5 在少数网络中无需此前几代所需的定制网络工具包即可成功。

    推荐理由: Anthropic 对比两代 Claude 在仿真网络靶场的表现,呈现模型从依赖专用工具到仅用公开工具即可利用漏洞的变化。

1月14日周三
  1. Anthropic Research67

    Anthropic 用 Claude 与属性测试在 Python 生态中找 bug

    Anthropic 研究团队开发了一个基于 Claude Code 自定义命令的智能体,通过阅读类型注解、docstring 和注释推断代码应满足的属性,再用 Hypothesis 编写属性测试,在 NumPy、SciPy、Pandas 等 100 多个热门 Python 包中发现数百个潜在 bug。

    推荐理由: Anthropic 用 Claude 智能体在 NumPy、SciPy、Pandas 等包中自动写属性测试找 bug,并给出人工复核后的有效率与已合并修复

12月1日周一
  1. Anthropic Research78

    Anthropic 研究:AI 智能体在智能合约漏洞中模拟窃取 460 万美元

    Anthropic 与 MATS 学者构建 SCONE-bench,包含 2020 至 2025 年间真实被攻击的 405 个智能合约,Claude Opus 4.5、Sonnet 4.5 和 GPT-5 在知识截止日期之后被攻击的合约上生成可利用脚本,模拟窃取金额合计 460 万美元。

    推荐理由: Anthropic 用真实被黑合约构建基准,把智能体攻击能力换算成美元损失,并给出成本与效率的下降曲线。