Token导航 LogoToken导航

AI 资讯 · AI先锋官官方

Anthropic调查称AI研发提速翻倍 八成源于AI自身

更新 2026-11-06AI先锋官官方正文 2446字阅读约 8分钟5 张图片
“AI正在加速我们的研究,但很难确切地说加速了多少。”11月5日,Anthropic联合创始人、负责公司大部分安全工作的Sam McCandlish在X上发表长帖,回应独立AI评估机构METR刚刚公布的一份报告。
图片

这份报告披露了一个重要发现,Anthropic的AI模型能力进步速度,可能已经达到此前的两倍,其中约80%的当前加速可能来自AI参与自身研发。


图片


METR估计,自2025年10月以来,Anthropic模型在综合基准测试中的能力增长速度达到此前的1.9倍,95%置信区间为1.5至2.8倍。换句话说,Anthropic过去一年取得的进步,大致相当于此前两年的进步。

图片

这项调查从8月12日持续至10月29日,历时约11周。

METR投入相当于2.5名全职研究人员的工作量,获得了Anthropic此前未向外界开放的大量内部资料,包括未发布模型的测试成绩、预训练和强化学习数据、训练算力、算法效率、员工生产率调查,以及约15次关键员工访谈。

调查还涉及四个内部模型:2022年训练完成的未发布模型,以及2026年7月至10月间完成训练的Model 2、Model 3和Model 4。

METR是一家专门研究前沿AI能力与风险的非营利机构,曾与OpenAI、Anthropic、Google DeepMind等实验室合作开展模型评估。

报告试图回答三个问题:AI能力是否正在加速提升?这种加速有多少来自AI自身?未来是否存在阻碍进一步加速的瓶颈?

图片

首先,METR认为,模型能力增长确实出现了显著加速。

报告采用AECI,即Anthropic版本的Epoch Capabilities Index,衡量模型在多项可验证任务上的综合表现。

研究人员发现,2025年10月之后的能力增长斜率明显高于此前。不同模型、基准测试和统计方法得到的加速估计有所不同,稳健性分析结果介于1.1倍至2.9倍。

值得注意的是,METR明确排除了训练算力扩张速度加快是这次加速主要原因的解释。


研究人员考察了算力、人力、数据、算法突破以及其他瓶颈的变化。对于2025年末的加速,METR认为非AI因素可能发挥了重要作用;但到2026年10月,AI在研发中的贡献已经越来越大。

METR给出的主观估计是,当前加速中,大部分、可能约80%,来自Anthropic广泛使用AI开展研发。不过,研究人员强调,这一比例存在很大不确定性,并非直接实验测量的结果。

图片

AI究竟怎样加速AI研发?报告披露,Anthropic研究人员已经广泛使用AI编写代码、辅助实验和完成其他研究任务。

METR通过员工访谈、内部调查、代码行数、Pull Request数量和AI Agent推理支出等数据,尝试评估其影响。

研究人员对AI带来的整体效率提升估计差异很大,但大致集中在两倍附近。

其中一项内部Slack调查尤其引人注意。员工通过表情投票,估计使用最新模型带来的个人工作效率提升。到2026年10月,部分自报提升幅度已经达到12倍。

不过,METR特别提醒,这类调查证据较弱,个人效率提高12倍,并不意味着整个AI研发速度提高12倍。研究人员的主观估计、具体任务效率与模型能力的长期增长速度是不同概念。

报告同时指出,AI目前尚不能在模型训练最重要的环节中,独立完成具有重大意义的研究贡献。

现阶段的加速主要来自AI辅助人类研究,而不是AI完全自主地开发下一代模型。

但受访研究人员也描述了一些初步迹象,表明更高程度的自主研究贡献可能很快出现,不同研究领域的成熟度存在明显差异。

METR还调查了未来12个月可能限制增长的因素,包括算法进步、训练算力、实验算力和数据供应。

结果是,研究人员没有发现足以明确阻止进一步快速进步的重大瓶颈,也没有观察到强烈的边际收益递减证据。

不过,METR承认,随着获得更多内部资料,他们对部分瓶颈的判断曾多次改变,因此不能确信目前已经掌握全部限制因素。

由此,METR提出一种可能性,即更强大的AI帮助开发更强大的下一代AI,后者又进一步提高研发效率,使能力增长出现持续加速。这正是所谓的递归自我改进。

报告认为,未来一年存在进一步加速的显著风险,但没有断言这种循环已经实现。

这份评估还引出了Anthropic与独立评估机构之间的分歧。

Anthropic的《负责任扩展政策》设有两项与自动化研发相关的能力阈值:一是AI能够以具有竞争力的成本完全替代研究科学家和工程师;二是AI研发自动化使能力进步速度达到原来的两倍。

Anthropic在8月风险报告中认为,两项阈值均未触发。

METR同意当时的模型尚不能完全替代研究人员,也认同截至7月15日,自动化研发直接造成灾难性后果的风险较低。

但对于两倍加速阈值,METR认为Anthropic公开报告的判断过于确定。

在未删减的内部风险报告中,相关数据意味着1.97倍的加速,已经非常接近两倍。METR认为,公开报告仅称“不到两倍”,不足以准确传达这一情况。更重要的是,内部报告也承认,AI带来的实际加速可能已经超过两倍。

Sam在帖子中表示,METR的许多结论与他自己的判断一致。他特别承认,AI已经在加速研发,但目前还难以准确量化,而且尚未独立完成模型训练中的最重要贡献。

他也回应了报告大量删减的问题。METR原本完成了一份约100页的完整报告,但Anthropic对公开版本中的大量敏感证据进行了删减,包括算法效率变化、具体研发环节的加速估计、未来模型预测,以及AI贡献的详细归因。

METR表示,部分最能支持其风险判断的证据无法公开,意味着公众不得不更多依赖评估机构自身的判断。

Sam承认,这确实增加了外界核查的难度,但他认为,公开加速机制可能泄露商业机密,也可能为其他AI开发者提供加快研发的路线图。

他表示,这是一个需要权衡的问题,自己仍认为目前的决定是正确的。

Sam同时透露,Anthropic将在未来几周发布自己的内部AI进步速度分析,说明公司相对于《负责任扩展政策》的位置,并公布进一步加强安全与保障实践的新措施。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。