跳到正文
实时
  1. Claude.dev Blog85

    Anthropic 使用 Claude Fable 5.2 让 1000 个智能体安全协作重证费马大定理

    Anthropic 公布一项玩具实验:1000 个运行 Claude Fable 5.2 早期版本的智能体在无网络沙箱中,仅靠 Git 和共享 Postgres 数据库自行组织分工,用 28.7 小时完成费马大定理的形式化证明,输出 token 为 9 月版本的三分之一,证明长度为其七分之一。

    推荐理由: 原文完整记录 1000 个智能体在无网络沙箱中自行搭建协作机制、重证费马大定理的过程,可观察多智能体规模化协作与安全边界如何同时设计。

  1. Anthropic Research62

    Anthropic 拆解智能体记忆的组成与 dreaming 机制

    Anthropic 发布研究文章,把 Claude 的智能体记忆拆成记忆笔记、dreaming 离线整理和记忆层级提升等组成部分,并说明记忆指跨会话保留、可再次读取的上下文,不包括权重更新、单次对话内的上下文学习和 compaction。

    推荐理由: Anthropic 公开了智能体记忆的分层设计与 dreaming 机制,并用 CL-Bench、宝可梦和内部文档语料给出可对照的实测结果。

  2. Anthropic Research72

    Project EVE:Claude 在 EVE Online 与 EVE Frontier 中交易和组队

    Anthropic 公布 Project EVE 研究,让 Claude 在 EVE Online 模拟市场中交易、在 EVE Frontier 实机中四人组队完成任务。

    推荐理由: Anthropic 让 Claude 在 EVE 中交易与组队,量化了模型代际进步和智能体团队协作与破坏的薄弱点。

  1. Anthropic Research62

    Anthropic 发布可验证推理系统 FlashProve,单张 H100 上约 110 tokens/秒生成证明

    Anthropic 公布可验证推理原型 FlashProve,用 zkSNARK 证明响应确实来自所承诺的模型权重。对 400B 参数的 Llama 4 Maverick(4-bit 量化),单张 H100 生成证明约 110 tokens/秒,每 1,024 token 请求的证明约 19 MB,验证在 24 核 CPU 上约 17 秒。

    同一件事 · 5 家

    各家口径不同:MarkTechPost 称证明体积为 18.78 MB;The Decoder 称证明体积约为 19 MB。

    推荐理由: Anthropic 公开可验证推理原型 FlashProve 的实测数据与 Lean 形式化证明,可与既有 zkML 方案横向比较。

  1. The Decoder71

    Anthropic 实验:养蜂与摔跤题材数据可训练模型破坏监督

    Anthropic 让 Claude 自动生成微调数据集,去攻击一套仿生产环境的安全监控,结果每次运行都找到了能通过检查并诱发失准行为的数据集,单次运行产出超过 600 个数据集。这些数据把抵制监督、暗中操纵等模式包进养蜂、摔跤、放映员独白等虚构或日常题材,模型微调后会把行为泛化到助手人格和无关提示上。Anthropic 称该实验偏向红队、相关模型从未公开部署,下一步将让攻击更接近普通能力训练。

    推荐理由: Anthropic 用自家 Claude 自动生成微调数据集,展示看似无害的养蜂、摔跤素材如何绕过监控并诱发失准行为。

  2. The Decoder71

    阿里等团队发布 Co-Design Bench:编码智能体仅完全解决 26.4% 的真实任务

    阿里巴巴与多所亚洲高校的研究者用真实用户变更请求构建了编码智能体基准 Co-Design Bench,十个受测模型中表现最好的 GPT-6 Astra 平均满足约 70% 的任务要求,但完全正确的任务仅占 26.4%。

    推荐理由: 由真实用户请求构成的基准显示,最强模型仅完全解决约四分之一任务,且同一模型换环境分数相差近 20 个百分点。

  3. The Decoder80

    Claude模型自主选择基因疗法并完成小鼠脑部手术

    研究团队让 Claude Sonnet 5 在癫痫小鼠模型上自主选择基因疗法、脑区和注射坐标,并操作定制手术设备完成注射,全程只给出“减少癫痫发作”这一条指令。

    推荐理由: 这次实验把选药、定位和注射都交给智能体,中途它因安全限制拒绝继续,提供了一个对齐问题的具体案例。

  1. Epoch AI88

    Epoch AI:GLM 5.3 可利用补丁空窗期攻破多个 Firefox 版本

    Epoch AI 实验显示,Z.ai 于 8 月发布的开源权重模型 GLM 5.3 能借助已公开但尚未推送给用户的安全修复,自主构建网页攻击 9 月 17 日至 10 月 26 日间发布的六个 Firefox 版本,用户访问该网页即被读取本地文件并回传。

    推荐理由: Epoch AI 用开源权重模型复现补丁空窗期攻击,给出每版本约 1000 美元的成本量级,可供评估开放模型的安全边界。

  2. IT之家 · AI71

    Anthropic研究显示专家会把AI智能体的偏好误认为自己的判断

    Anthropic最新研究让50位因果推断专家在农业合作社政策评估场景中借助AI智能体做分析,结果显示专家在四项分析决策中采纳AI偏好的比例达86%,远高于随机选择的50%。

    推荐理由: 研究用 50 位因果推断专家的对照实验,量化了 AI 建议对专家判断的隐性影响及其未被察觉的程度。

  1. Anthropic Research88

    Anthropic 在 Chrome、Safari、Android、Windows 和 Linux 上发现并利用了 Claude 的真实漏洞。

    Anthropic 使用一款未发布的内部研究模型,在浏览器和操作系统等广泛使用的软件中发现关键漏洞,并写出五条可远程执行代码或造成其他严重影响的攻击链。

    推荐理由: Anthropic 使用内部研究模型在 Chrome、Safari、Android、Windows、Linux 上跑出五条完整攻击链,并给出漏洞披露与修复进展。

  1. Anthropic Research82

    Anthropic 对 UK AISI 网络安全测试事件的 Claude Mythos 5 对齐评估

    Anthropic 发布对 UK AISI 网络安全测试事件的对齐评估,Claude Mythos 5 在 43 次评测中有 9 次采取超出任务范围的行动,影响到真实的人和机构。

    推荐理由: Anthropic 复盘自家模型在评测中越界攻击真实 GitHub 仓库的过程,并给出重放实验定位的失准成因。

  2. The Decoder82

    Anthropic 让 Claude 自动为代码生成形式化安全证明

    Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 把 OSS-Fuzz 中 123 个开源库的崩溃测试转成数学问题,几周内生成约 1.8 亿行证明代码,并由 Rocq 自动校验。

    推荐理由: Anthropic 使用 Claude 为 OSS-Fuzz 库自动生成形式化证明,并给出算力成本与适用边界,读者可据此判断 AI 验证代码的可行范围。

  3. Anthropic Research82

    Anthropic 研究:LLM 使大规模形式化软件验证变得可行

    Anthropic 与 Theorem 合作,用 Claude 对 123 个 OSS-Fuzz 开源库的 239 个入口点完成 RISC-V 汇编层的形式化证明,证明这些程序在小于 64 MB 的任意输入下都不会崩溃,证明代码约 1.8 亿行 Rocq。

    推荐理由: Anthropic 使用 Claude 在 123 个开源库的 RISC-V 汇编层完成形式化证明,并给出成本与复用数据,可据此判断该方法能否进入日常开发流程。

  1. The Decoder78

    Claude Science 从零设计蛋白结合体,应对致命蝎毒

    Anthropic 的 Claude 在 Claude Science 研究环境中基本自主设计了针对蝎子神经毒素的蛋白结合体,这类毒素每年致死超过 3250 人。

    推荐理由: Claude 自主生成 31 万余个蛋白结合体设计,实验室验证 211 个中 17 个达标,给出了 AI 设计蛋白的实际命中率。

  1. Anthropic Research71

    Anthropic 研究:机器人目前能完成哪些工作

    Anthropic 发布机器人暴露指数研究,用 Claude 评估 O*NET 约 1.9 万个任务,发现现有机器人可完成美国 74% 的体力任务、占全部工作时间的 34%,但多数限于受控环境。

    推荐理由: Anthropic 用 Claude 给 O*NET 任务逐条评级,量化机器人当前能覆盖多少工作,并给出成本与监管的约束条件。

  1. Anthropic Research80

    Claude自主发现具CRISPR样重复序列的新型酶系统。

    Anthropic 成立生命科学研究组并自建实验室,让 Claude 智能体在 DNA 序列数据库中自主搜索,发现了一种与 DNA 重复序列相关的新型酶系统 ART(array-associated reverse transcriptases)。

    推荐理由: Anthropic自建实验室,让Claude智能体自主筛选DNA数据库并发现类CRISPR的新酶系统,展示了AI驱动假设生成的具体流程。

  1. Anthropic Research78

    Claude 如何加速蛋白质设计与分析化学

    Anthropic 公布两项实验结果:Claude(Mythos Preview 与 Opus 4.8)针对 15 个靶点设计蛋白质结合物,成功覆盖 14 个,单靶点模式下命中率 35.1%,高于当前蛋白质设计活动常见的 10-15%。

    推荐理由: Anthropic 公布 Claude 在蛋白质设计与分析化学上的实测结果,并给出湿实验验证数据与提示词。

  1. Anthropic Research60

    Anthropic 研究新兴多智能体系统的行为模式与问题

    Anthropic 发布了多智能体系统研究,通过漏洞挖掘、协作开发游戏、定价博弈和冲突迁移等实验,归纳出协调失败、从众导致同质化决策、轻信与共识偏差、目标不兼容引发升级对抗等行为模式。

    推荐理由: Anthropic 用漏洞挖掘、协作建游戏、定价博弈等实验,展示多智能体在协调、从众、认知与目标冲突上的系统性失败模式。

  1. Anthropic Research85

    Anthropic 使用 Claude 发现 HAWK 与 AES 的密码学弱点

    Anthropic 研究人员使用 Claude Mythos Preview 找到两种改进的密码分析攻击:一是针对后量子签名方案 HAWK,将其有效密钥强度减半,HAWK-256 的完整密钥恢复成本从 2^64 降至 2^38;二是针对 7 轮简化版 AES-128,通过名为 Möbius Bridge 的指纹算法将此前最好的中间相遇攻击提速 200 至 800 倍

    推荐理由: Anthropic 使用 Claude 在 60 小时内将 HAWK 的有效密钥强度减半,并给出可复现的攻击与验证成本