Token导航 LogoToken导航TokenDH.com

刚刚,Anthropic公开「递归自我改进」核心数据:3万Agent正在研发下一代Claude

更新时间 2026-09-18来源 AI寒武纪正文 1778字阅读约 6分钟2 张图片
图片

A厂内部3万个AI正在实验室里日夜不停地研发下一代AI,人类研发人员正在逐渐退出一线研发。

Anthropic刚刚公布了自家实验室的核心数据。

这是A厂第一次向公众彻底公开AI自我进化的真实进度。

为了让外界看清技术发展的真实速度,Anthropic公开了三项核心指标。

第一,AI参与研发自身模型的比例。

第二,人类对AI Agent的监控和拦截能力。

第三,算力资源的实际分配情况。

不仅如此,Anthropic还计划让多家独立第三方机构进驻公司,给外部人员开放和内部风控团队相同的系统权限,全程监督这些指标。

以下是Anthropic内部的情况。

第一个指标,AI造AI的自动化程度。

目前各家实验室都在用AI来造未来的新模型。

这能让研发速度大幅加快,但也带来了失控风险。

如果模型开始全自动加速自身的开发,人类将很难理解和掌控这些系统。

Anthropic基于Epoch AI的自动化分级标准,建立了一套研发自动化指数。

分级标准从AL0到AL5。

AL0代表完全没有AI参与。

AL3代表AI深度协作,在人类的密切指导下完成大块工作。

AL4代表AI主导,人类只给一个宏观提示词,AI就能端到端完成绝大部分任务,人类退居监督位。

AL5代表AI完全自主,没有任何人类参与。

Anthropic截至2026年8月的数据显示:

Claude完全自主操作的研发比例依然是0。

Claude主导的研发工作已经达到26%。

图片

AI深度协作及以上级别的工作比例,已经超过了90%。

这意味着,绝大部分AI研发都已经离不开AI本身的深度参与。

目前跨实验室对比这项数据有两个阻碍。

一个是行业缺乏统一的测量方法。

另一个是实验室用自己的模型评估自己的系统,裁判模型可能会犯同样的错误。

解决办法是引入第三方机构,或者用其他厂商的模型进行交叉验证。

第二个指标,对AI Agent的实时监控与拦截。

Anthropic内部最常用的平台上,同时有大约30000个AI Agent在做研发和工程工作。

这些Agent长时间半自主运行,甚至还会互相派发任务。

为了防止Agent做出危险举动,Anthropic设立了两道监控网。

第一道是实时在线监控。

主要用来拦截发生极快且无法撤销的危险行为,例如Agent偷偷把模型权重复制外逃。

覆盖率达到了100%。

所有Agent的动作在执行前,都会在几秒钟内经过系统扫描。

今年8月,系统分析了超过10亿次Agent决策,其中0.002%的动作被直接拦截,相当于每47000次操作拦截1次。

所有被拦截的动作,都会在一周之内交由人类进行复核。

第二道是事后离线监控。

主要用来抓取发展缓慢、但可撤销的危险信号,比如模型对齐失效的早期苗头。

覆盖率同样是100%。

系统在动作发生后抓取所有记录。

离线监控每周会标记大约100000份记录。

多套分类器会先过滤误报,每周最终会筛选出大约50份最高优先级的记录,升级给人类安全员进行人工复核。

整体标记率大约在千分之一到千分之二之间。


第三个指标,算力到底花在了哪里。

算力是衡量AI研发方向最直观、最难造假的硬指标。

Anthropic抽样分析了今年7月中旬整整一周的算力消耗:

在所有投入到AI研发的算力中,安全研究所占的比例只有大约6%。

在专门投入到AI自主研发的算力中,安全研究所占的比例大约是12%。

官方表示这是一个保守估算。

如果一个算力标记既推进了模型能力又推进了安全,这项数据就不会被计入安全算力。

这项统计也没有算入日常运行安全防护分类器的算力。

安全研究本身的特点是研究人员花大量时间设计实验,运行实验消耗的算力天生远少于大模型的预训练。

公开这项指标的目的,是给全行业提供一个可横向对比的基准。


Anthropic希望通过公开这些内部度量标准,推动全行业建立透明机制。

未来,各家实验室可以根据这些数据做出约束,比如硬性规定安全算力的最低比例,或者限制投入给AI研发Agent的算力上限。

消除前沿实验室与公众之间的信息差,让社会清楚看到技术走到了哪一步,是人类在技术狂飙中保留控制权的第一步。

source:

https://www.anthropic.com/institute/measuring-pace-of-ai-development

--end--

最后记得⭐️我,每天都在更新:如果觉得文章还不错的话可以点赞转发推荐评论

/...@作者:你说的完全正确(YAR师)

文章标签ClaudeAnthropic智能体
资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。

继续浏览更多资讯

返回资讯目录

相关资讯

更多