Agent X-Ray
RuntimeNotesAbout
Notes/AI 前沿/大厂技术博客档案/第46章

实践中衡量 AI Agent 的自主性

3 分钟 · 更新于 2026-09-01 · 原文

实践中衡量 AI Agent 的自主性

摘要

  • Anthropic 通过分析数百万次人机交互数据,揭示了 AI Agent 在真实环境中的自主性水平与演变趋势
  • 用户授予 Claude Code 的自主运行时间在三个月内几乎翻倍,反映出信任度的持续增长
  • 经验丰富的用户从逐一审批转向战略性干预,形成了更高效的监督模式
  • Claude Code 展现出不确定性校准能力,主动请求澄清的频率是人类主动中断的两倍以上
  • 约 80% 的工具调用包含安全保障机制,仅 0.8% 的操作具有不可逆性

文章信息


概述

Anthropic 的研究人员分析了 Claude Code 及其公共 API 中数百万次人与 Agent 的交互数据,以了解 AI Agent 在真实场景中的部署情况。该研究考察了生产环境中 AI Agent 的自主性水平、用户体验模式、应用领域分布以及风险特征。

核心发现

Claude Code 的独立运行时间持续增长

研究显示,在 2025 年 10 月至 2026 年 1 月期间,"99.9 百分位的对话轮次持续时间几乎翻倍,从不到 25 分钟增长到超过 45 分钟"。这一趋势在多个模型版本迭代中持续上升,表明驱动因素并非仅仅是模型能力的提升,而是用户正在授予 Agent 更高的自主权。

用户体验与监督模式

随着用户对 Claude Code 使用经验的积累,其监督策略发生了根本性转变。新用户大约自动批准 20% 的操作,而经验丰富的用户则提高到 40% 以上。看似矛盾的是,中断率也随经验增长而上升——新用户为 5%,资深用户达到 9%——这表明用户从逐一审批模式转向了战略性干预模式。

Agent 的自我调节能力

Claude Code 展现出不确定性校准能力,在复杂任务中"主动请求澄清的频率是人类中断的两倍以上"。这种自发的监督行为与人类的监督形成互补,构成了已部署系统中一项重要的安全机制。

领域分布与风险评估

软件工程是 Agent 使用的主要领域,占所有工具调用的近 50%。医疗、金融和客户服务等新兴应用场景已经出现,但规模仍然较小。约 80% 的工具调用包含安全保障措施,73% 涉及人类监督,仅 0.8% 的操作被判定为不可逆。

研究方法

该研究结合了两个互补的数据来源:

  • 公共 API 分析: 提供了跨数千个部署环境的广泛可见性,但分析的是单次工具调用而非完整会话
  • Claude Code 数据: 能够追踪完整的工作流程和会话级别的自主性指标,但仅代表一个专注于软件工程的单一产品

建议

该研究提出以下建议:

  1. 部署后监控基础设施是理解 Agent 真实行为的关键,其重要性超越了部署前评估
  2. 应优先训练模型的不确定性识别能力,使其能够主动发现并反馈潜在问题
  3. 产品设计应支持用户监督,需要提供可视化工具和简便的干预机制
  4. 避免强制规定特定的交互模式,例如要求固定的审批流程,因为研究证据表明经验丰富的用户会自然发展出有效的适应性策略

局限性

该分析仅反映了 Anthropic 自身的数据,聚焦于特定的时间窗口(2025 年末至 2026 年初),依赖 Claude 生成的分类结果,且无法观察到客户系统中 API 调用后的人工审核环节。研究承认 Agent 领域发展迅速,观察到的模式可能随时间推移而发生变化。

结论

Agent 所行使的自主权源于模型能力、用户行为与产品设计三者之间的动态交互。有效的监督需要全新的监控基础设施和人机交互范式,使双方能够协作管理自主性与风险。


  • English Original

本章目录
概述核心发现研究方法建议局限性结论Related Documents
苏ICP备2025204887号-2