跳到正文
实时
Anthropic Research·· 2026-06-16精选67

Anthropic 研究:智能体编码中领域专长带来持续回报

Agentic coding and persistent returns to expertise

要点速览

Anthropic 基于 2025 年 10 月至 2026 年 4 月约 40 万条 Claude Code 会话,提出分析交互式智能体编码的框架。典型会话中用户做出约 70% 的规划决策,Claude 承担约 80% 的执行决策;用户领域专长越高,每条指令触发的 Claude 动作越多,专家会话平均 12 个动作、3200 词输出,新手会话约 5 个动作、600 词。

Why it matters

基于约40万条Claude Code会话,量化了规划与执行的分工,以及领域专长如何影响任务成功率。

正文 · AI 翻译

主要发现

  • 基于对2025年10月至2026年4月间约40万个Claude Code会话的隐私保护分析,我们基于先前的工作,介绍了一个研究交互式代理编码的框架。我们评估了任务组合、人机协作和成功率。
  • 在一次典型会话中,人们做出大部分的规划决策(做什么),而Claude做出大部分的执行决策(如何做)。一个人在会话中带来的领域专业知识越多,Claude每条指令完成的工作就越多。在编码任务中,每个主要职业的成功率——即完成人们设定的目标,并有可验证的证据,如通过测试或提交工作——与软件工程师的平均成功率几乎相同。
  • 一个人拥有的领域专业知识越多,会话成功的次数就越多——尽管中级用户和专家用户之间的差距很小。在观察的七个月里,用于调试的会话份额减少了近一半,使用方式转向更端到端的代理使用:部署和运行代码、分析数据以及编写非代码文档。
  • 在那七个月里,典型任务的价值——我们通过与自由职业工作帖子进行比较来估计——几乎所有类型的工作都增加了,平均约25%。

引言

代理编码已经兴起。自2025年末以来,具有编码代理活动的GitHub项目的份额翻了一番多1,Claude Code用户现在平均每周使用该工具20小时2。没有正式编码经验的人能否成功引导代理完成复杂的技术工作?这些工具的快速采用和改进对广泛的知识工作意味着什么?虽然我们还没有完全回答这些问题,但我们试图从Claude Code使用数据中寻找早期信号。

本报告提供了关于Claude Code实际使用的证据,基于对2025年10月至2026年4月间约23.5万人参与的约40万个交互式会话的隐私保护分析。它建立在先前关注Claude Code会话中自主性指标以及Claude Code如何改变Anthropic的工作3的工作基础上。在这里,我们介绍一个描述交互式人工智能编码助手使用的框架:正在做什么类型的工作,谁在做什么,以及是否成功。我们专注于通过命令行界面(CLI)、Claude.ai或Claude Code桌面应用程序的Claude Code使用情况4。通过跟踪代理编码使用情况随着模型变得更强大的变化,我们可以更好地理解这些工具如何影响编码专业人员和知识劳动者的劳动力市场。

Claude Code上发生的事情可能是知识工作未来的预览,因为代理被嵌入到非编码工作中。我们发现Claude正在处理更复杂和更有价值的任务。与此同时,代理编码中仍然存在明确的劳动分工:人们决定要构建什么,而代理决定如何构建。

我们也看到证据表明,是领域专业知识而非编码能力放大了工具的有效使用。特别是,领域专家更常成功,并且更容易从错误和理解偏差中恢复。然而,专家与中级用户之间的差距很小——这表明在某个领域具备专业知识就足以像那些具有深厚掌握的人一样几乎同样有效地使用该工具。

这些发现让我们对劳动力市场可能的转变有了初步了解。在我们的数据中,成功取决于一个人对其试图解决的问题的理解程度,而不是他们是否接受过编码培训。如果这些模式在整个经济中都成立,这表明虽然代理编码工具可能正在吸收一些实施密集型的工作,但它们也在奖励那些对工作中解决的问题有深刻理解的人。编码代理不是替代领域专业知识——一个工人带给代理的理解越多,代理能够完成的工作质量就越高。

劳动分工

人们使用 Claude Code 的目的

为了了解人们使用 Claude Code 的目的,我们将每个会话分类为九种工作模式中的一种——最能描述该会话试图完成单一活动的分类。5 四种模式涉及直接编写或维护代码:构建新事物、修复已损坏的事物、测试代码以及协调其他代理或自动化管道。另一个类别是操作软件——部署、配置、运行管道、监控系统。两个类别更多是关于决定要做什么:理解现有系统的工作原理,以及规划在做出改变之前的变化。还有两个类别采取与代码无关的行动,或者代码对最终产品来说是偶然的:分析数据,以及通过演示文稿和其他基于文本的文档进行沟通。

大约 56% 的会话包括编写(25%)、修复(26%)或测试和协调代码(5%)。操作软件占 17%,而 14% 的会话是规划或探索,13% 产生分析或文本(图 1)。

我们通过让模型阅读其会话记录,然后使用我们的隐私保护分析工具,将它们与为每个会话自动记录的遥测数据(包括是否添加或删除任何代码行)进行核对。这两个来源具有高度一致性——例如,我们分类器标记为创建或修改代码的 90% 以上的会话在遥测数据中显示了代码更改。有关详细信息,请参阅附录 。

谁决定什么

Claude Code 的自主性有多大?能力评估表明上限很高且在上升:在METR 的时序评估等基准测试中,前沿模型现在可以独立完成需要一个人数小时才能完成的软件任务,并在途中独立解决障碍。但实际使用情况如何?在这里,我们查看在真实会话中,有多少指导是由人和 Claude 完成的。

我们从两个角度来研究这个问题。首先,我们关注人们将多少 决策 交给 Claude,其次我们看他们给了 Claude 多少 行动。为了理解会话中决策的分配,我们基于会话内容构建了一个隐私保护决策归因分类器。我们让分类器列出会话中所有的有意义决策。我们将这些决策分为计划(做什么,采取什么方法,什么算完成)和执行(要更改哪些文件,要写什么代码,用什么语言写,要运行什么命令)。然后分类器将每个决策归因于 Claude 或用户,给每个会话两个数字:用户计划决策的份额和用户执行决策的份额。

平均而言,人们做出大约 70% 的计划决策,但只有 20% 的执行决策(图 2)。在实践中,在代理编码中存在明确的分工——人们决定要构建什么,而代理决定如何构建它。

为了理解会话中行动的委托,我们关注会话的结构而不是其内容。一个 Claude Code 会话涉及 Claude 和用户来回交换提示(来自用户)和行动(由 Claude 执行)——用户写一个提示,Claude 去做一些工作,然后用户再写另一个提示,如此等等。在一个典型的会话中,大约有四个这样的回合。在我们的从 10 月到 4 月的历史数据中,用户发送的每个提示平均触发 Claude 大约 10 个行动——有时超过 100 个。6 在每个回合中,Claude 读取文件,编辑代码,运行命令,并平均写出 2,400 个字输出。

Claude 在检查点之间做了多少,很大程度上取决于谁在做决策。当用户控制执行(即做出超过 80% 的执行决策)时,Claude 每个回合采取的行动较少(大约八个行动)。而当 Claude 控制计划(即做出超过 80% 的计划决策)时,它采取的行动数量最多(大约 16 个)。

专业水平

从每个转录中,Claude 对用户在任务上的明显专业水平在五点量表上从新手到专家进行评分。专业分类器寻找三个信号:用户如何精确地表达他们的指示,他们要求 Claude 验证什么,以及用户是否倾向于纠正 Claude 或 Claude 是否倾向于纠正用户。请注意,专业水平捕捉到的东西与职位头衔或一般能力非常不同,而且,关键的是,它是 任务特定的。一名高级工程师问他们的第一个 Rust 问题在 Rust 方面是一个新手。一名从未使用过 Python 的会计师,但告诉 Claude Python 脚本必须执行的精确的协调规则,并在月末结账时捕捉到它处理的边缘情况,在那种任务上是专家。

下表显示了我们在分类器中如何定义每个专业水平,以及来自一个公开的编码代理会话数据集 SWE-chat 的一个示例请求。被归类为新手的对话给出了通用的指令,没有任何暗示的特定领域知识。专家对话传达了对代码库和技术的深刻理解。

我们量化了专业知识和每条提示下Claude的输出和活动之间的关系。在典型的初学者会话中,每个提示会触发大约五个Claude操作,并产生约600个单词的输出,而在专家会话中,触发的作用链长度超过两倍(12个操作),输出量也增加五倍(3200个单词)(图3)。初学者和专家会话之间的这种差距出现在所有类型的工作和所有任务价值范围内。

这些衡量指标补充了我们关于Claude Code的先前报告中的自主性衡量指标,该报告追踪了代理运行的时间以及人们自动批准其操作的频率。相比之下,我们的决策归因指标捕捉了整个会话中谁做出了实质性决策,而我们的每条提示输出和操作指标则衡量了每个人类提示触发了多少Claude的自主活动。

谁在使用Claude Code,以及用于什么目的

用户

为了了解是谁在进行这项工作,我们从会话记录中推断每个用户的职业,将其映射到美国劳工统计局标准职业分类(SOC)分类法中的23个主要类别之一。指示分类器仅依赖信号,例如代理在会话开始时加载的项目上下文、文件名称和结构、他们参考的任何工件(例如,法律文件、临床数据、财务报告、课程等)以及他们使用的词汇。7 指示分类器明确不应将编码行为视为编码职业的证据。只有当有明确的信号表明软件或数据工作是用户的职业时,会话才会被分类为编码SOC代码(计算机和数学职业)。在律师构建脚本来自动标记文件夹中合同中缺失条款的会话中,即使会话的主要工作是软件,也会将其映射到法律职业。当没有关于用户职业的信号时,会话将保持未分类。

我们能够在大约70%的会话中推断出职业。在这个集合中,计算机和数学职业,这是一个涵盖大多数与软件相关的工作的类别, unsurprisingly 是最大的群体。接下来最大的是商业和金融运营;艺术、设计和媒体;管理;以及生命、物理和社会科学。在我们的样本中,增长最快的非软件职业群体是管理、销售和法律职业。

工作

使用Claude Code完成的工作的构成在2025年10月至2026年4月之间发生了重大变化。最明显的变化是,用于修复损坏代码的会话份额从33%下降到19%(图4)。取而代之的是,我们看到了围绕代码的工作份额增加。操作软件的会话份额从14%增加到21%。编写和数据分析大致翻了一番,从大约10%增加到20%。

这些任务本身的价值也在增长。我们通过询问在自由职业市场上完成这项工作需要花费多少来估算每次会话的经济价值,并将其与真实的公开数据集进行校准。根据这一衡量标准,平均每次会话的价值在10月至4月期间估计增长了27%。这种增长体现在多种类型的工作中。建设、运营和维修类任务的价值都增长了约三分之一或更多(分别约为43%、34%和32%)。这些价格估计比较粗糙,因此我们主要使用它们来比较任务随时间推移的变化,而不是作为字面意义上的美元价值。8 关于任务估计器构建的详细信息,请参阅附录.

成功取决于用户带来的内容

任务的价值估计是了解Claude Code如何帮助人们完成工作的一种方式。另一个角度是查看有多少次会话是成功的,以及会话的哪些特征与成功相关联。在我们所有的成功衡量标准中,我们看到了一个明显的模式:一个人在会话中展现出的专业知识越多,成功的可能性就越高。大部分收益集中在专业水平较低的端——新手会话和中级会话之间的差距大于中级会话和专家会话之间的差距。

在转向成功会话的特征之前,我们应该明确我们如何衡量成功。我们没有观察到用户的实际结果,也无法直接询问他们是否从Claude那里得到了他们想要的结果。相反,我们依赖于两种互补的基于文本的衡量标准。第一种,判断成功 来自一个分类器,它读取完整的文本记录并决定一个人是否成功完成了他们开始要做的事情(选项:成功、部分成功、失败、没有明确目标)。然后有两个配套的分类器对判断的证据强度进行评分,以确定验证成功。一个成功信号分类器寻找可验证的成功证据。特别是,它寻找与工作匹配的git活动,如提交和拉取请求,以及通过测试套件和用户的明确肯定。它从“无信号”到“弱信号”(1)再到“多个硬信号”(5)对会话进行评分。一个平行的失败信号对事情出错(错误、失败测试、重试、用户对输出的反对)的证据进行评分。验证成功需要同时会话被判断为成功,并且至少有一个硬可验证的成功信号。对于以下分析,它专注于会话中成功或失败的程度,我们排除了被归类为“没有明确目标”的会话,这些会话占我们完整样本的约7.7%。

那么,哪些类型的会话最成功呢?事实证明,上述会话的专业水平评级对会话的成功至关重要。

人们可能会担心专业知识不是真正的驱动因素——也许专家只是选择了不同的任务,或者在其他方面有所不同。在本节中,我们通过比较在同一月份、同一估计价值、同一主题、来自同一大致职业群体的人进行的执行相同类型工作的会话,来部分解决这种担忧,并询问结果如何因个人的评级专业知识而异。

在我们所有的成功衡量标准中,一个人在一次会话中展现出的专业知识越多,这次会话成功的可能性就越大。被评为新手级别的会话达到我们最严格的标准,即验证成功,15% 的情况下达到,至少部分成功 77% 的情况下达到。被评为中级或更高级别的会话达到验证成功的概率为 28-33%,部分成功的概率为 91-92%(图 5)。

在每个衡量标准中,大部分的进步来自于从新手到中级的转变;从中级到专家,斜率下降。在附录中,我们提供了关于图 5 背后的回归分析的详细信息。

在遇到挑战的会话中也出现了类似的梯度。当失败信号记录到验证失败的证据时,我们称这次会话遇到麻烦。这可能是一个错误、一个失败的测试、多次尝试做同一件事,或者用户表达沮丧或不满。在遇到麻烦的会话中,验证成功的比例从被评为新手级别的会话的 4% 上升到被评为专家级别的会话的 15%,包括上述所有控制因素(图 5)。查看更宽松的衡量标准,我们发现新手至少部分成功的比例是 60%,而中级到专家会话的比例是 80-81%。

我们还追踪了专业知识与各种失败衡量指标之间的反向关系——注意,在这个分析中,被评为失败的会话是指那些甚至没有部分成功的会话。如果一次会话被评为失败并且没有编写任何代码行,我们称其为放弃:19% 的用户看起来像新手会话被放弃,而其他人则是 5-7%。换句话说,经验最少的用户在努力达到他们想要的结果时更有可能放弃。专业知识的一部分价值似乎在于能够引导代理朝正确的方向前进。9

职业可能不如专业知识重要

从事与软件相关的职业的人在他们的会话中大约 30% 的时间达到验证成功,而其他职业的用户大约 26% 的时间达到验证成功。在产生代码的会话中(即添加或修改至少一行代码的会话),这些数字分别是 34% 和 29%(图 6)。在我们的宽松成功定义下,与软件相关职业和其他职业之间的差距缩小——两组人在产生代码的会话中至少部分成功的比例分别是 89% 和 88%。这个五点的差距很小,在七个月内既没有扩大也没有缩小,尽管两组的成功率都在增加。在我们的数据集中,前十个最大的职业中,每一个在产生代码的会话中的成功率都在软件工程师的七个点范围内。管理职业在验证成功方面最高,略高于软件工程职业。他们更高的验证成功率可能反映了可以转移到指导代理的管理技能。但他们也可能部分反映了我们的衡量方式:验证部分依赖于会话记录中的明确确认,而管理者可能更有可能在得到他们要求的东西时进行沟通。10

展望未来

The results in this report offer an emerging picture of how agentic coding amplifies some forms of knowledge and skills, while substituting for others. In sessions that produce code, every major occupation succeeds at rates within a few points of those in software-related occupations. It appears that coding agents are making a coding background less relevant to successful programming.

At the same time, successful sessions are more likely to exhibit domain expertise. Sessions rated expert reach verified success more than twice as often as those rated novice, and when a session hits trouble, novices abandon the session at several times the rate of everyone else. The shape of the collaboration gives this picture more color—domain experts are able to direct Claude to do more work with each instruction they give. So, the ability to steer Claude toward success comes more from command of a domain than from the ability to write code. A person with such command, in any field, may now be able to do technical work they previously could not. A person without any such expertise will get far less from the same tool. And the gains come mostly from competence, not mastery––a working grasp of the domain captures most of the benefit, while deep specialization adds only a bit more beyond that.

These findings are preliminary. As in most of our research, we cannot measure real-world outcomes, like whether code written in a session is actually used or discarded thereafter, or whether it produces an economically valuable artifact. In addition, the non-interactive usage this report excludes is a substantial share of activity. Developing a framework to measure it is a priority for future work. And all of our classifications of sessions depend on a model's reading of the transcript. In the Appendix, we show that our classifiers track independent telemetry in expected directions, and agree with a strong reference model on the majority of sessions. But classifiers remain challenging to validate at scale, and Claude Code sessions add further difficulty, as they may be too long and complex for human labels to serve as ground truth.

The picture in this report will be updated as the models, the users, and the division of labor between them change. We hope that these measures will allow us to track consequential shifts as they happen. For instance, if the returns to expertise begin to decrease over time, that would suggest that models are starting to supply the essential judgment that users currently bring, and that the gains from these tools are broadening beyond domain experts. If the share of coding sessions completed successfully by users outside software occupations continues to grow, it could indicate that software production is becoming a part of ordinary work in every field, rather than the product of a single occupation. These shifts would change who benefits from agentic coding, and by how much, and would have implications for what is most valued in the labor market.

Appendix

Available here.

来源: Anthropic Research · anthropic.com