AI 研究
Anthropic 称 Claude 正承担更多自家 AI 研发工作
Anthropic 发布新的内部使用测量结果,显示 Claude 已深入参与公司的研发流程,但关键目标、复核和决策仍由人类研究人员掌控。
Anthropic 发布了一组少见的内部测量数据,让外界更具体地看到前沿 AI 实验室如何使用 AI 来开发下一代 AI。公司在新的研究文章和数据集中表示,Claude 已经深入参与其内部研发流程,帮助完成编码、实验设计、分析和常规工程任务,但这些工作仍在人类研究人员设定目标和审查结果的框架下进行。
最引人注意的是一组具体比例。Anthropic 称,在被测量的时期内,AI 系统参与了公司 90% 以上的研发任务,其中约 26% 的任务由 Claude 主导。公司表示,按照同一套测量方式,今年 3 月 AI 主导任务的比例大约只有 1%。Anthropic 还披露,8 月期间,其内部 Claude Code 平台在任一时刻大约运行着 3 万个 agent。
这些数据并不意味着 Claude 已经能够独立设计下一代模型。Anthropic 把结果定义为协作,而不是自治。人类员工仍然负责确定目标、审核工作并作出关键判断,AI agent 主要承担实现、分析、迭代和日常工程中的部分任务。这个区别很重要,因为行业正在评估 AI 辅助 AI 研发是否会显著加快模型进步,或者带来新的安全风险。
Anthropic 还公布了一些与限制和监督相关的指标。公司称,在内部研发环境超过 10 亿次 AI 决策中,大约每 4.7 万次决策有 1 次会被安全机制或人工干预阻止。公司还表示,7 月的样本显示,Claude 在内部系统上的决策步骤中,有 12% 与 AI 研究相关,6% 涉及计算相关的安全决策。这些数字不是完整的外部审计,但它们仍然罕见,因为大多数 AI 实验室很少披露自己如何使用内部 AI 系统提高研发速度。
这份披露出现的时间点很关键。所谓递归式改进正在从理论讨论变成日常工程实践。代码 agent 已经可以编写测试、查看日志、重构基础设施、评估模型输出。在前沿实验室里,这些能力可能产生叠加效应,因为内部生产率的微小提升都可能帮助研究人员运行更多实验、清理更多数据、改进评测套件,并更快部署训练基础设施。
同时,测量结果也说明治理会变得更复杂。如果 AI agent 参与研发流水线,公司就需要知道它们具体做了什么、何时被阻止、人类多久会覆盖其行为,以及模型辅助研发是否会改变未来系统的风险结构。Anthropic 这次发布既是透明度动作,也是在向政策制定者释放信号:AI 发展的速度已经不只由人类研究人员和硬件预算决定。
对整个行业而言,最重要的启示是 AI 实验室内部使用 AI 的程度开始可以被量化。Claude 没有取代 Anthropic 的研究人员,但它正在成为研发装置的一部分。对于所有希望负责任部署 agent 的组织,这都是一个现实案例。效率提升、安全控制和可审计性必须放在一起评估,因为帮助构建 AI 的工具,正在成为 AI 开发过程本身的一部分。