Token导航 LogoToken导航

AI 资讯 · AIGC从0到1

AI递归自我改进技术进展到哪一步

更新 2026-11-23AIGC从0到1正文 2.1万字阅读约 65分钟1 张图片

从 Agent 自我进化、模型权重重写,到 AI 研发体系与软硬件协同进化

全文2万字,RSI技术版图,截至 2026 年 11 月 21 日

--

引言:AI 自我改进,已经推进到了什么程度?

一类研究开始让 Agent 修改自己的代码、工具、记忆和执行流程,并将有效改动保留到下一轮任务中。另一类研究则进一步触及模型本身:模型不再只是提出修改建议,而是尝试直接编辑自身的权重参数。与此同时,领先 AI 实验室开始让模型承担更多研发工作,从代码编写、实验监控延伸到训练流程和基础设施开发。AI 甚至已经进入芯片设计和物理实验环节,参与改进支撑自身运行的计算系统。

这些进展分别发生在不同层面,目前值得关注的,已经不只是 AI 能不能修改自己,而是这些修改能否被继承,能否在后续任务中持续产生收益,以及改进后的系统能否进一步提高自己的改进能力,这几个条件决定了我们应该如何判断当前 RSI 的进展。

因此,本文从模型、Agent、研发体系和计算基础设施四个层面,梳理截至 2026 年 11 月 21 日已经出现的技术进展,并进一步分析这些路线是否开始连接,以及它们距离完整的递归自我改进还有多远。

01 · 从 RI 到 RSI:什么才算真正的自我改进?

一个边界:并不是所有由 AI 参与完成的自动化优化,都属于递归自我改进。

递归式改进(Recursive Improvement,RI),指系统能够不断利用反馈改善某个对象。AI 帮助工程师优化代码、自动搜索更好的算法参数、根据测试结果调整软件架构,都属于这一范畴。

例如,一个 AI 系统能够生成一批算法候选,再通过自动化测试选出表现最好的方案。这确实提高了研发效率,但被优化的是外部算法,AI 本身的能力和改进机制未必发生变化。

递归自我改进(Recursive Self-Improvement,RSI)则多了一层关键关系:系统开始把自身作为改进对象,而且改进后的系统能够继续参与下一轮改进。

可以把两者的区别概括为:

  • RI:AI 帮助改进某个系统。

  • RSI:AI 改进自己,并利用改进后的自己继续改进自己。

这意味着,判断 RSI 是否发生,至少需要两个条件。

第一,改进必须能够被继承。

AI 在一次任务中临时生成更好的答案,或者通过增加推理时间获得更高准确率,并不意味着系统已经自我改进。

推理时计算(Test-time Compute)可以让模型在当前任务中投入更多计算资源,但任务结束后,模型本身未必发生任何变化。下一次调用时,它仍然是原来的模型。

真正的自我改进需要留下某种可持续的变化:例如修改后的程序、更新后的 Harness、经过整理的经验记忆、调整后的模型参数,或者新的训练策略。这些变化必须能够进入后续运行过程,而不是只存在于一次性的输出中。

第二,改进后的系统必须具备继续改进的能力。

如果一个 Agent 通过自动化搜索找到了一套更好的工具配置,但下一轮仍然需要人类重新设计搜索方法、制定评估标准、决定如何筛选候选版本,那么它只是完成了一次局部自动化优化。

更有意义的情况是:系统不仅获得了更好的执行能力,还提高了自己发现问题、提出方案、设计实验、评估结果和继承有效经验的能力。

例如,第一轮改进让 Agent 更擅长解决代码问题;第二轮改进让它更擅长寻找代码问题的解决策略;第三轮改进又让它更有效率地发现和筛选新的优化方案。

此时,系统改进的对象已经从任务执行能力扩展到了改进能力本身。

这才是递归结构真正值得关注的地方。

一个用于观察技术进度的 L0—L4 框架

为了避免把不同层次的进展混为一谈,本文使用一个工作性的成熟度框架(非行业标准)。

阶段

能力描述

关键特征

L0

人类主导研发

人类设计、训练和评估,AI 提供辅助

L1

AI 辅助改进

AI 编写代码、分析数据、提出建议、执行实验

L2

局部自主改进

AI 修改自身的 Agent、Harness、工具、记忆和工作流,并继承有效变化

L3

模型自身改进

AI 直接参与自身权重、训练过程或学习机制的改进

L4

完整递归自我改进

系统持续提升自身能力,同时提升自己的改进能力,并形成可验证的正反馈

L0—L4 更适合用来判断不同研究究竟触及了 RSI 的哪一部分,正是这些层次分别出现了哪些可验证的技术进展。

02 · Agent 的自我进化:AI 开始修改自己的执行系统

目前,最容易开展 RSI 实验的对象,是围绕模型建立起来的执行系统。

理解这一点,需要先区分模型与 Agent。

模型提供基础推理能力,但一个 Agent 最终能够完成什么任务,还取决于模型之外的一整套系统组件:

  • Prompt:告诉模型应该做什么,以及如何处理任务。

  • Control Flow:决定任务如何拆分、执行和循环。

  • Tools:提供文件操作、代码执行、浏览器、搜索和外部 API 等能力。

  • Memory:保存过去的经验,支持跨任务继承。

  • Context Management:管理上下文窗口、历史记录和信息压缩。

  • Evaluation:判断任务是否完成、修改是否有效。

  • Harness:把上述组件组织成一个能够稳定运行的执行环境。

因此,Agent 的能力并不完全等于基础模型的能力。

即使基础模型的权重完全不变,只要修改工具调用策略、任务规划方式、上下文管理和记忆机制,就可能显著改变整个系统的表现。

这为 RSI 提供了一个相对容易进入的切入点:先让 AI 学会修改自己赖以工作的系统,再进一步研究如何修改模型本身。

2.1 RRSI:如何避免 Agent 越进化,越会应付考试?

【论文实验】RRSI(Regularized Recursive Self-Improvement of Agent Harnesses,2026 年 9 月)研究的核心问题,是 Agent 在持续修改自身 Harness 时,可能出现一种看似进步、实际上退化的情况:它越来越擅长解决训练过程中反复遇到的任务,却没有获得真正可以迁移的能力。

这与机器学习中的过拟合非常相似。

假设一个代码 Agent 被放在固定的一组软件工程任务上进行进化。每一轮,它都会根据测试结果调整自己的 Prompt、工具调用流程和代码修改策略。

经过多轮优化,它可能逐渐掌握这组测试任务的特殊规律,甚至学会利用测试环境的某些漏洞。最终,测试成绩不断提高,但换一批代码库、换一种任务类型,表现可能明显下降。

这意味着系统优化的目标发生了偏移:它不再真正改善通用问题解决能力,而是在寻找如何获得更高的测试分数,像极了在上级的评价标准外偷懒的人类。

RRSI 的解决思路是,在候选方案生成和筛选两个阶段引入约束。

在生成阶段,它限制单次修改可以包含的改动数量,并根据此前的进化历史鼓励探索不同的优化方向,避免系统反复尝试相似的方案。

在筛选阶段,它加入 Critic 和 Pruner 两种机制。前者识别可能针对特定基准测试进行投机的修改,后者删除过小、成本过高或已经失去价值的改动。

简单说,RRSI 不只问哪个版本的成绩更高,还要判断这个版本的改动是否值得保留,能不能形成具有复用价值的机制。

论文在八个基准上进行测试,报告称:相对于未正则化的进化方法,优化任务上的最高提升为 6.0 个百分点,五个分布外基准上的最高提升为 4.3 个百分点,同时策略 Token 使用量减少约 30%。

这里值得注意的变化是:研究者开始把「避免自我进化过程中的能力退化」作为独立问题处理,这说明 Agent 自我进化还需要考虑进化方向、修改质量和泛化能力。

但 RRSI 仍然主要是在特定任务集合和实验环境中优化 Agent Harness。它没有证明系统可以在任意开放任务中持续获得通用能力,也没有消除对评估体系的依赖。

2.2 ELITE:不再只选择最好的版本,而是整合不同版本的优点

【论文实验】ELITE(Evaluation-Free Recursive Self-Improvement for Coding Agents,2026 年 11 月 16 日)尝试解决另一个问题:如果每一轮都需要运行候选 Agent 的下游任务来评估效果,那么自我进化本身可能变得非常昂贵。

传统的进化方法通常采用一种比较直接的策略:

生成多个候选版本 → 运行任务 → 比较成绩 → 保留表现最好的版本 → 进入下一轮。

这种方法的缺点是,每个候选版本都需要经过实际任务测试。候选数量越多,评估成本越高,而且,单纯选择一个分数最高的版本,可能会丢失其他候选版本中具有价值的机制。

举个例子:

  • 版本 A 的任务规划能力更好;

  • 版本 B 的代码调试能力更好;

  • 版本 C 的上下文管理效率更高。

如果系统只选择 A,就意味着 B 和 C 中有价值的设计可能被放弃。

ELITE 提出了另一种思路:先探索,再整合(Explore-then-Integrate)。

它从同一个父版本出发,让多个候选方案分别尝试不同的局部改进。随后,系统不直接根据下游任务成绩选出一个冠军,而是分析不同方案的实现代码,识别它们之间的互补、重复和冲突关系,再把兼容的机制整合成一个新的版本。

不在进化循环中使用候选版本的下游任务成绩或任务解决轨迹来指导选择,这和我最近做研究时的方法也是一致的,每次都让它生成多个方向,然后再来做整合,不过我只是在提示词层面。

在 SWE-bench Pro 上,ELITE 将初始 Agent 的成绩从 60.0% 提高到 85.6%。作为比较,DGM 达到 86.7%,HGM 达到 88.3%。ELITE 的成绩略低,但在论文所测试的配置下,其进化墙钟时间分别减少约 8.8 倍和 3.2 倍。没有进一步适配的跨基准测试中,它在 SWE-bench Verified 和 Polyglot 上分别达到 73.3% 和 69.3%。

这项研究的价值在于,它展示了另一种进化机制:系统可以通过理解不同程序实现的结构和机制来整合改进,而不是每次都依赖完整的任务评估。

但「不依赖下游任务成绩」不等于「不需要评估」。

首先,结构和运行检查仍然存在;其次,最终成绩仍然需要通过外部任务测试确认。ELITE 只是减少了进化过程中对下游评估的依赖,它真正推进的是:让 Agent 学会从多个改进方案中提取可组合的机制,而不只是挑选一个分数最高的候选版本。

2.3 AIDE²:让研究 Agent 把自己作为研究对象

【论文实验】AIDE²(Recursive self-improvement of AI research agents,2026 年 9 月 22 日)是这一方向中值得重点关注的工作,它不再局限于代码 Agent 的局部优化,而是把 AI 研究 Agent 自身作为研究对象。

这项研究的出发点是:如果 AI 已经能够参与机器学习工程、算法优化和实验分析,那么它是否也能够提高自己完成这些研究工作的效率?

AIDE² 建立了一套递归改进循环:

  1. 研究 Agent 分析自身代码和执行流程。

  2. 提出可能改善研究效率的修改方案。

  3. 修改自己的程序。

  4. 在 AI 研发任务上测试修改后的版本。

  5. 通过隐藏评估判断哪些改动值得保留。

  6. 将被接受的新版本作为下一轮研究 Agent。

这个结构的关键,在于每次修改后的 Agent 会成为下一轮改进的主体,使得研究对象和研究执行者形成了同一个递归系统。

论文报告了一次持续 8 天的自主运行。在这段时间里,AIDE² 发现了七项连续改进,涉及搜索策略、记忆机制和上下文管理。

更重要的是,研究者没有只在原来的优化任务上检查结果,而是使用四个留出基准测试其迁移能力,覆盖机器学习工程、启发式算法工程和物理天气预测等任务。

在这些测试中,改进后的 Agent 达到或超过一个经过人工工程优化的生产级研究 Agent。另一个留出任务家族中,系统的奖励黑客率从 55% 降到 32%,尽管进化过程并没有专门优化这一指标。

这里值得关注的是两个方面。

第一,改进对象不再只是某个具体任务的执行程序,而是一个能够承担研究工作的系统。搜索策略、记忆管理和上下文处理的改善,可能同时影响多个研究任务。

第二,系统的改进结果出现了跨任务迁移。它并非只在原有评估集合上取得更高成绩,还在未参与优化的任务上表现出一定的改进。

不过,这仍然是一项预印本研究,下文后这个系列方向的最新进展。

但从 RSI 的结构来看,AIDE² 已经展示了一个重要环节:研究系统能够把自身的研究效率作为优化目标,并让改进后的系统接手下一轮研究。

2.4 Experience-Handoff RL:让系统学会把有价值的经验交给未来的自己

【论文实验】Experience-Handoff Reinforcement Learning(2026 年 11 月 12 日)关注的是另一个容易被忽略的问题:一个 Agent 完成任务后,究竟应该留下什么经验?

目前常见的 Agent 记忆方式,是让模型在任务结束后进行总结,把有价值的信息整理成文本,再在后续任务中检索使用。

但这类方法通常存在一个问题:经验的提取和整理方式往往是人为设计的,系统并没有真正学会怎样判断哪些经验值得保留。

例如,某个 Agent 在调试代码时遇到一个错误。它可以保存完整日志,也可以只保存错误原因,还可以总结成一条以后遇到类似问题时应该采取的操作策略。

哪一种方式更有价值?答案取决于这些经验在未来任务中能否帮助系统取得更好的结果。

Experience-Handoff RL 把这个问题变成了强化学习任务。

研究将 Agent 分为三个角色:

  • Actor:负责执行任务。

  • Reflector:从任务经历中提取经验。

  • Playbook Curator:整理经验手册,决定哪些内容应该交给后续任务。

系统不只根据当前任务的奖励评价 Actor,还通过经验手册对未来执行结果的影响,评价 Reflector 和 Curator 的行为,换句话说,它试图让系统学会:什么经验值得保存,以及应该怎样保存,才能让未来的自己真正受益。

论文报告称,在多个 Agent 基准上,该方法的留出表现优于对照方法。

它与普通记忆系统的区别在于,记忆不再只是一个外置的信息仓库,而成为可以通过后续任务结果持续优化的学习对象。

这也是 RSI 的重要组成部分。一个真正能够持续改进的系统,不能每次执行任务都从零开始。它必须具备积累经验、筛选经验、压缩经验和迁移经验的能力。

不过,这项研究仍然固定了 Agent 的整体 Harness 框架,重点优化的是经验交接机制,而不是整个系统的自主架构设计。

2.5 RSI-Env:从单次自我修改走向持续运行的环境

【论文实验】如果说前面的研究主要解决自我修改的不同技术问题,那么 RSI-Env(2026 年 11 月)则进一步尝试解决持续性问题。

一个系统即使能够修改自己的 Harness,也不意味着它已经具备持续进化的条件。

真正长期运行的递归系统还需要管理模型版本、运行服务、实验状态、评估流程和改进历史。否则,每次优化都可能变成一次孤立实验,改进结果无法稳定继承。

RSI-Env 构建了一个持续运行的环境,由独立的 Host Controller 负责服务管理、评估和版本控制。

系统将模型与 Harness 作为一个整体进行改进。每当某个版本通过接受条件,新版本就接管下一轮优化任务。

论文设计了三种实验设置:

  • Open-General:不提供具体能力目标,也不提供基准反馈。

  • Capability-Directed:给定希望提升的能力方向。

  • Benchmark-Guided:允许使用基准反馈引导改进。

这种设计的意义在于,可以观察不同程度的外部指导对递归进化的影响。

在 Open-General 条件下,系统的 GPQA Diamond 成绩从 65.2% 提高到 73.2%,AIME 2026 从 53.3% 提高到 56.7%。

在 Knowledge Self 实验中,SimpleQA 成绩经过连续系统更新,从 82.0% 提高到 85.0%,再提高到 88.0%。

这类结果比单次代码修改更接近 RSI 所需要的持续结构:系统有运行环境、有版本继承、有连续的优化过程,而且被接受的版本会继续承担下一轮工作。

因此,RSI-Env 的意义是把研究从「如何让 Agent 自我修改」推进到「如何为 Agent 建立一个能够持续继承改进的运行环境」。

2.6 这一层的进展究竟说明了什么?

这几项研究,可以看到 Agent 自我进化正在形成一套相对完整的技术问题:

研究

主要解决的问题

进展方向

RRSI

防止进化过拟合和无效修改

改进质量与泛化

ELITE

减少下游任务评估成本

多方案机制整合

AIDE²

让研究 Agent 优化自身研究效率

递归研究能力

Experience-Handoff RL

优化经验的提取和继承

跨任务经验积累

RSI-Env

建立持续运行和版本接管机制

连续递归环境

这几项研究是从不同角度处理 Agent 自我进化中的关键问题,它们共同说明:AI 已经不只是帮助人类修改 Agent。研究者开始让 Agent 自己分析、修改、测试和继承自己的执行系统。

在本文的成熟度框架中,这一层已经出现了比较扎实的 L2 证据。

但它仍有一个重要限制:系统可以修改自己周围的执行结构,并不代表它已经能够直接改变自己的基础模型。

03 · 模型的自我改写:AI 能否直接修改自己的权重?

Agent 自我进化与模型自身改进之间,存在一个重要的技术边界。

在前一章中,Agent 修改的是围绕基础模型建立的执行系统。模型本身可以保持不变,系统通过更好的工具、Prompt、记忆和控制流程获得更好的任务表现。

但模型的能力最终还是受到自身参数和学习机制的限制。

传统的大模型研发体系中,模型负责推理,外部训练系统负责改变模型。研究人员设计训练目标、准备数据、执行梯度更新,再通过评估决定是否接受新版本。

模型本身通常不能直接改变自己的权重。即使它能够分析自己的错误、提出新的训练方法,也需要外部系统执行真正的参数更新。

这是一种结构性的分工。

现在出现的研究开始尝试打破这种分工:让模型直接参与自身参数的修改,甚至在不执行传统梯度训练的情况下,通过推理过程完成权重编辑。

这比修改 Agent 的工作流更进一步。

3.1 Self-Rewriting:模型开始尝试重写自己的权重

【论文实验】2026 年 11 月 16 日发表的论文《Language Models Can Rewrite Their Own Weights》,是这一方向最值得关注的实验之一。

论文提出:如果一个模型能够理解自己的错误,也能够访问自己的权重,那么它是否可以通过自身推理,直接修改这些权重,让自己变得更好?

研究者将这种方法称为 Self-Rewriting。

实验中,研究系统获得了模型自身的权重、经过评分的回答,以及运行和检查模型的能力。随后,模型通过分析自身的表现,判断问题可能出现在什么位置,并尝试直接编辑相关权重矩阵。

整个过程不使用梯度更新,也不执行传统意义上的重新训练。

这与通常的大模型训练过程有明显区别。

传统训练需要通过损失函数计算梯度,再利用优化器更新模型参数。Self-Rewriting 则尝试让模型利用已有的推理能力,直接分析参数与行为之间的关系,找到可能需要修改的权重,并实施编辑。

论文以 27B 模型为主要研究对象,报告了几项重要结果。

第一,修改后的能力能够迁移到未见任务。

研究者在实验开始前固定了 490 道数学测试题。模型通过一次自我编辑,在这些此前未见的题目上将准确率提高了 6.6 个百分点。

这一点非常重要。

如果模型只是在原来参与修改过程的题目上取得提升,可能只是针对特定任务进行适应。未见任务上的表现改善,至少说明修改产生了一定程度的迁移。

第二,模型能够连续进行多轮自我编辑。

研究者采用了一种有条件的版本接受机制:只有当模型自身的测试结果支持新版本时,才接受本轮修改。

在前八轮连续会话中,准确率持续上升。

这意味着模型并非只完成一次权重修改,而是能够把前一轮修改后的版本作为下一轮工作的基础。

不过,八轮连续提升只能说明在这组实验条件下出现了持续改善,不能推导出系统可以无限轮次地保持正向增长。

第三,模型能够修复受损的自身副本。

这是论文中一个很有意思的实验。

研究者人为破坏模型副本的部分权重,再让模型通过文本数学任务分析和修复这个副本。它没有读取原始完好模型的权重,而是尝试根据自身已有的知识和行为表现,找到受损位置并进行重写。

修复后的模型在六个未见图像基准上的准确率,从 7% 提高到 70%,达到原模型准确率的约 83%。

这个结果说明,模型在一定条件下能够从自身已有的知识和内部结构中提取信息,用于修复参数受损的模型副本。

但需要注意,它并不等于模型已经掌握了通用的模型修复技术。实验结果依赖特定模型、特定损坏方式和特定任务设置。

第四,自我重写能力存在明显的规模门槛。

研究者对不同规模的模型进行了测试:

  • 2B 模型没有产生有效修改;

  • 4B 和 9B 模型的修改反而损害了性能;

  • 27B 模型才成功完成具有正向效果的自我修改。

论文还分析了 27B 模型的具体修改机制:它比较了正常完成任务和因 Token 耗尽而失败的回答所对应的隐藏状态,寻找能够区分两类状态的方向,再通过削弱相关方向进行调整。

这意味着,模型并不是简单地随机修改权重,而是利用自身内部表征与行为之间的关系进行诊断和干预。

3.2 为什么这项实验值得重视?

Self-Rewriting 的意义,不只是模型在某项数学测试中提高了 6.6 个百分点。

更重要的是,它展示了一种新的模型改进结构:

传统方式:

人类发现问题 → 人类设计训练方案 → 外部训练系统更新模型 → 人类评估结果。

Self-Rewriting 所探索的方式:

模型分析自身表现 → 模型诊断问题 → 模型修改自身权重 → 模型测试修改结果 → 接受有效版本 → 新版本继续参与下一轮修改。

这里发生的变化,是模型开始从训练过程的被动接受者,转变为参数改进过程的参与者。

如果这种能力能够进一步扩展,那么未来的模型改进可能不再完全依赖传统的训练流水线,模型可能在运行过程中发现自身的某些能力缺陷,提出参数修改方案,并通过实验判断是否应该保留。

当然,这种可能性距离现实中的通用自我训练仍有很大距离。

论文没有证明模型能够自主设计通用训练目标,也没有证明它能够独立研发下一代基础模型,更没有证明它可以在开放任务中无限轮次地持续提升。

6.6 个百分点是特定数学测试中的结果,不能解释为整体智能提高了 6.6%。八轮连续提升也不能证明长期收益一定持续,更不能排除某些能力提升以其他能力退化为代价。

因此,更准确的判断是:

Self-Rewriting 为模型直接参与自身参数改进提供了实验性证据,但距离通用、自主、稳定的自我训练仍然很远。

3.3 Weight-Space Programming:模型开始把权重当成可以操作的程序空间

与 Self-Rewriting 相关的另一条路线,是 Weight-Space Programming(权重空间编程)。

2026 年 11 月,MIT CSAIL 的研究团队展示了前沿语言模型直接读取、生成和修改神经网络权重的实验。

这里需要区分两件事:

Self-Rewriting 关注模型能否修改自己的权重;Weight-Space Programming 研究的是语言模型能否直接操作其他神经网络的权重。

它们不是同一项技术,但都指向一个变化:模型开始具备直接理解和操作参数空间的能力,而不只是通过自然语言描述模型应该如何变化。

传统上,如果我们希望修改一个神经网络的能力,通常需要准备训练数据、定义损失函数,再通过梯度下降更新参数;权重空间编程则尝试让语言模型直接读取参数结构,根据任务要求生成或修改权重。

例如,研究者让 GPT-6 Astra 处理一个存在推理循环问题的小型模型 Qwen3.5-0.8B。根据研究团队公开的实验结果,模型编辑了约 0.016% 的权重,MATH-500 成绩从 7.9% 提高到 48.1%。

这类实验的意义在于,模型可能不再需要完整执行传统训练流程,就能对一个神经网络进行局部能力调整。

不过,后续复现研究也揭示了明显局限。

2026 年 11 月 16 日发表的复现工作显示,前沿模型能够为简单游戏生成可运行的网络权重,但在手写数字分类等任务上,生成的网络表现仍然不如简单的专用分类器。模型读取权重时,也存在较强的结构依赖,部分判断主要来自输入层信息,而不是对整个网络内部计算机制的完整理解。

这提醒我们:能够生成一组有效权重,不等于已经真正理解一个神经网络;能够对小型网络进行局部修改,也不等于可以稳定改进数十亿参数的基础模型。

Weight-Space Programming 目前更像是一种新兴的模型操作能力,而不是已经成熟的模型自我训练体系。

但它与 Self-Rewriting 结合起来,值得长期关注。

前者探索模型如何操作权重,后者探索模型如何将这种能力用于改进自己。两者如果进一步融合,可能形成模型直接参与参数改进的技术基础。

3.4 CLAM:模型如何把经验沉淀为自己的长期记忆?

【论文实验】CLAM(Carried Latent Adapter Memory,2026 年 11 月 16 日)研究的是持续学习中的另一个问题:模型如何把多轮交互中获得的经验,沉淀为可以长期保留的参数化记忆?

传统 Agent 记忆通常依赖外部文本。

模型完成任务后,把经验总结为一段文字,保存到数据库或文件系统中,下一次任务再通过检索机制把相关信息放进上下文。

这种方式有一个限制:模型本身并没有发生变化。它每次处理新任务时,仍然从相同的基础参数开始,只是获得了额外的外部记忆。

CLAM 尝试把经验进一步转化为参数化记忆。

它使用循环超网络,将连续会话中的激活信息整合为低秩 Adapter,同时保留一个情景记忆缓冲区,用来保存具体的历史细节。

它的一个重要特点是,在构建这种记忆时,不需要调用生成式语言模型,也不需要执行梯度更新。

论文在 2B—7B 模型上的实验显示,CLAM 在 LoCoMo 和 LongMemEval-S 等长期记忆任务上取得了较好的表现。

CLAM 解决的是持续改进系统必须面对的基础问题:经验怎样从一次任务迁移到下一次任务,怎样从外部文本沉淀为模型可以长期利用的内部状态。

如果一个系统每次改进都要重新发现相同的问题,它很难形成真正的递归积累。

因此,CLAM 更适合作为 RSI 的基础性技术路线来观察。

3.5 MASS:让模型通过多 Agent 协作改进自己的研究能力

【论文实验】MASS(Multi-Agent Self-Supervision,2026 年 10 月)关注的是开放式任务中的监督瓶颈。

在数学题、代码测试等任务中,系统通常可以通过明确的答案或执行结果判断对错。

但在开放式研究中,情况完全不同。

一个研究方案可能很有创造性,却没有立即可验证的正确答案;一个实验可能产生了新的观察,但其解释存在多种可能;一篇研究报告也可能看起来逻辑完整,却没有真正解决问题。

如果 AI 研究 Agent 的能力逐渐超过人类能够快速评估的范围,那么谁来判断它的研究结果是否值得保留?

MASS 尝试利用多个 Agent 之间的协作和相互评价,构建一种自我监督机制。

它让同一个基础模型组织多个虚拟子 Agent,形成不同角色和信息路由,再通过进化搜索优化这些多 Agent 工作流。随后,系统使用生成的多 Agent 轨迹进行监督微调。

研究者在 Qwen3.6-27B 上进行了两个 MASS 循环,报告称,在四个开放式公开基准上,模型每输出 Token 的表现提高了 1.2—1.6 倍。通过这些轨迹训练的学生模型,也优于使用多出 1.4 倍训练 Token 的单 Agent 学生模型。

这项工作的关键在于,它尝试让模型不仅优化自己的单体推理过程,还能优化由多个角色组成的研究流程。

它与 AIDE² 的区别在于:AIDE² 主要通过修改研究 Agent 自身代码提升研究效率;MASS 则尝试通过优化多 Agent 协作结构和自生成轨迹,提升模型的研究与自我监督能力。

两者共同指向一个问题:未来的 AI 研究能力,可能不再只是单个模型参数规模的函数,也取决于系统如何组织自己的推理、协作和监督过程。

不过,MASS 仍然依赖研究者设定的实验环境和任务范围。多 Agent 之间能够相互评价,不意味着它们就拥有了真正独立的判断能力。多个 Agent 可能共享同样的知识缺陷,也可能共同强化错误的假设。

因此,多 Agent 自我监督可以缓解单一模型自我评价的局限,但还不能替代独立评估。

3.6 L3 到底走到了哪一步?

这些研究可以看到模型自身改进正在形成几条不同的探索路线:

研究

直接操作对象

主要贡献

是否直接构成 RSI

Self-Rewriting

自身权重

模型直接修改自身参数

是,具有实验性 RSI 特征

Weight-Space Programming

其他网络的权重

模型读取、生成和修改参数

不直接构成

CLAM

参数化记忆

将经验沉淀为长期参数记忆

不直接构成

MASS

多 Agent 工作流与训练轨迹

优化协作结构和自监督

具有递归自我改进特征

但需要看到,模型参数的修改只是问题的一部分。

一个真正能够持续提升自身能力的系统,还需要能够发现值得解决的问题、设计有效的修改方式、判断修改是否成功,并保证不同能力之间不会因为局部优化而产生严重退化。

目前还是点状探索,不够成熟支撑L4。

04 · AI 参与 AI 研发:研发体系是否正在加速?

前两章讨论的重点,是 AI 如何修改自身的执行系统和模型参数。

但还有一个更大的问题:AI 是否已经开始改变整个人工智能研发体系的生产效率?

这是判断 RSI 是否可能从局部实验走向产业实践的关键。

因为基础模型的进步并不是由某一个模型独立完成的。它依赖大量研究工作,包括算法设计、数据处理、训练运行、评估、基础设施开发和实验分析。

AI 能够显著提高这些工作的效率,那么它就能间接提高下一代 AI 的研发速度。

但这里必须区分几个不同层次:

  • AI 编写了多少代码?

  • AI 能独立完成多少研发任务?

  • AI 是否缩短了研究人员完成工作的时间?

  • AI 是否使模型能力增长速度加快?

  • AI 是否已经推动整个研发体系形成持续的正反馈?

这些问题不能用同一个指标回答。

4.1 Google DeepMind:AI 写了大量代码,但人类仍然主导关键研究判断

【产业实践】Google DeepMind 在 Gemini 4 Argon 安全报告中披露了内部 AI 研发自动化的情况。

截至 2026 年 9 月,Google DeepMind 大部分生产代码中,AI 编写的内容已经超过 75%。

但如果进一步观察 Pull Request 的自主完成程度,会发现另一幅图景。

完全由 AI 编写、且人类交互很少的 Pull Request,占比从 2026 年 4 月的 7.5% 上升到 9 月的 11.9%。换句话说,约 88% 的 Pull Request 仍然需要人类进行多轮引导、修改或直接参与代码编写。

这两个数字并不矛盾。

AI 可以在一个项目中贡献大量代码,但这并不意味着它能够独立理解整个项目的目标、决定架构、处理复杂依赖并保证最终结果符合要求。

在明确、可验证的工程任务上,AI 已经能够承担越来越多工作。

但在开放式研究中,真正困难的往往不是执行代码,而是判断应该研究什么、怎样设计实验,以及如何解释复杂实验结果。

Google 的报告也强调,人类仍然在选择高层研究方向、设计新实验和诊断复杂训练问题方面发挥关键作用,不过人已经在“跑步机”上了,加速度在提升。

Sergey Brin 曾用「starting to get onto that RSI treadmill」描述研究人员与模型共同推进下一代 AI 的趋势。

这句话值得关注,但它表达的是研发节奏和人机协作方式正在变化,并不意味着 Google 已经实现完整 RSI。

4.2 OpenAI:Agent 已经能够独立完成越来越长的研发任务

【产业实践】OpenAI 在 2026 年 11 月发布的《Research acceleration: The jagged frontier》,提供了另一组重要数据。

这份报告基于 OpenAI 内部研究人员使用 Agent 的情况,重点观察 Agent 能够独立完成哪些研发工作,以及它们如何改变研究人员的工作流程。

报告显示,从 2026 年 3 月到 10 月:

任务时长

3 月独立完成成功率

10 月独立完成成功率

2—4 小时的人类研究任务

23%

46%

4—8 小时的人类研究任务

13%

35%

这里的「独立完成」意味着 Agent 在没有人类干预的情况下完成任务。

但不同任务之间存在明显差异。

例如:

  • 监控训练运行:79%。

  • 启动训练运行:35%。

  • 编写推理和服务基础设施代码:25%。

这说明 Agent 并不是均匀地提升所有研发能力。

它在目标明确、状态容易观察、结果相对容易验证的任务上表现更好;在需要复杂工程判断和多环节协调的任务上,仍然存在明显困难。

与此同时,OpenAI 内部研究人员对 Agent 的使用强度也在上升。

按照报告对 Agent 工作时间的定义,每 8 小时 Agent 运行时间折算为一个 Agent Workday。研究人员每天使用 Agent 的工作量,从 0.5 个 Agent Workday 增加到 5.7 个。

按 API 标价计算,10 月研究人员每日 Agent 使用成本的中位数约为 2,400 美元,90 分位约为 23,000 美元。

这说明 Agent 已经不是偶尔用来补充工作的辅助工具,而是在一些研究团队中成为重要的研发资源。

不过,报告也明确强调,人类仍处于研发循环的核心。研究人员负责确定优先级、提出研究问题、判断结果质量,并决定下一步应该投入哪些资源。

OpenAI 的数据真正说明的是:AI 已经能够承担越来越多的具体研发任务,研发人员正在围绕 Agent 重新组织工作流程。

4.3 METR:AI 能够完成的任务时长正在快速增长

【研究判断】METR 的 Time Horizon 是理解 AI 长时程能力的重要指标。

它衡量的是:在一定成功率条件下,AI 能够完成多长的人类专家工作任务。

例如,如果一个模型能够以 50% 的成功率完成需要人类专家 4 小时的任务,那么它的 50% Time Horizon 就可以理解为 4 小时。

这个指标关注是它能否在更长时间内持续完成复杂工作。

METR 在 2026 年 11 月 20 日发布的 Q4 能力更新中,结合 TH1.1 和 TH2 两套任务评估,估计模型的任务时间视野大约每 3.61 个月翻一倍,95% 置信区间为 2.08—4.94 个月。

在 TH2 中可验证的任务子集上,估计的翻倍时间更短,约为 1.65 个月,但不确定性也更大。

这组结果值得关注,因为长时程任务能力是 AI 承担复杂研发工作的重要基础。

一个模型如果只能完成十分钟的代码任务,就很难独立承担复杂的研究流程;如果它能够连续完成数小时甚至更长的工作,就有机会接管更多研发环节。

但这里有一个必须强调的区别:

任务执行时间变长,不等于研究判断力同步提升。

METR 的时间视野指标主要衡量任务完成能力,提供的是研发自动化的能力基础。

4.4 Anthropic:METR 发现了模型能力进步速度加快的证据

【研究判断】如果说 OpenAI 的报告主要观察 AI 如何改变研究人员的工作,那么 METR 对 Anthropic 的独立评估,则进一步触及一个更关键的问题:

AI 参与研发之后,下一代模型的能力增长速度是否真的变快了?

2026 年 11 月 5 日,METR 发布了对 Anthropic 内部 AI 研发加速情况的评估。

这次评估持续约 11 周,METR 获得了 Anthropic 部分内部研发数据、模型能力指标、训练信息和研究人员访谈资料。

METR 估计,截至 2026 年 10 月,Anthropic 在明确规定的任务上提升模型能力的速度,可能约为此前历史阶段的两倍。

更具体地说,Anthropic 内部能力指数 AECI 自 2025 年 10 月以来的增长速度,估计约为此前的 1.9 倍,95% 置信区间为 1.5—2.8 倍。

METR 还认为,AI 参与研发可能是这一加速的重要原因之一。其中心估计认为,大部分加速与 AI 参与研发有关。

这是一项重要的证据,但需要谨慎理解。

首先,1.9 倍指的是特定能力指数的增长速度,而不是模型所有能力都提高了 1.9 倍。

其次,METR 评估使用了 Anthropic 内部尚未公开的模型数据和研发资料。报告中相当一部分关键证据经过了保密删减,公众无法独立检查所有数据和推断过程。

再次,AI 参与研发并不等于 AI 完全自主研发。

METR 的分析更接近这样的情况:AI 通过编写代码、辅助实验、提高研究人员效率等方式,间接加速了模型研发;和谷歌团队的描述一样。

4.5 三组证据为什么看起来不完全一致?

Google、OpenAI 和 METR 的结果,测量的是不同层次的事情。

机构

主要观察对象

核心发现

Google DeepMind

内部代码生产和研发任务自动化

AI 编写大量代码,但人类仍深度参与

OpenAI

Agent 独立完成研发任务的能力

可完成任务的时长和成功率持续提升

METR

Anthropic 模型能力指数的增长速度

估计能力进步速度出现明显加快

可以把这三类证据理解为一条逐渐深入的链条:

AI 参与更多研发工作 → 研究人员能够完成更多实验 → 研发周期可能缩短 → 下一代模型能力增长可能加速。

其中需要观察的是:这些效率提升是否最终转化为模型能力的持续增长。

比较稳妥的结论是:

至少在部分前沿 AI 实验室内部,AI 参与研发可能已经带来了可测量的能力进步加速。但这还不足以证明整个行业已经进入由 AI 自主驱动的递归增长阶段。


05 · 从软件到硬件:AI 能否改进自己的算力基础?

AI 自我改进最终会受到一个现实条件的约束:计算资源。

更强的模型需要更多训练和推理资源;更复杂的研究需要运行更多实验;更长的 Agent 工作流也会消耗更多算力。

2026 年 11 月出现的两项工作,提供了不同层面的证据。

5.1 OpenAI:AI 已经参与先进芯片设计优化

【产业实践】2026 年 11 月 18 日,OpenAI 发布了关于模型参与芯片设计的进展,介绍其在自研推理芯片 Jalapeño 和 AMD 芯片设计中的应用。

这里的核心技术是 RTL(Register Transfer Level,寄存器传输级)设计。

芯片设计人员可以通过 SystemVerilog 等硬件描述语言,描述电路的逻辑结构。AI 模型则可以参与修改这些描述,提出新的电路实现方案,再通过专业工具验证功能是否正确,并比较功耗、性能和面积。

芯片设计中经常使用 PPA 作为核心指标:

  • Power:功耗。

  • Performance:性能。

  • Area:面积。

在 Jalapeño 的计算模块优化中,OpenAI 报告了多个具体结果:

  • Warp Engine 标准单元面积减少约 13%。

  • Matrix Unit 标准单元面积减少约 10%。

  • 一个乘法器方案在综合阶段减少约 15% 面积,并将延迟从两个时钟周期缩短到一个。

  • 一个加法器方案减少约 15% 面积,同时保持两个时钟周期延迟。

在与 AMD 的合作中,OpenAI 报告称,模型在高度优化的 GPU IP 基线上实现了最高约 14% 的 PPA 改善;部分修改已经进入送交制造的设计。AMD 下一代旗舰 CPU 的关键模块,也验证了个位数百分比的 PPA 改善。

这项工作非常重要,如果模型能够帮助工程师改进电路设计,那么 AI 不仅可以优化软件系统,还可能参与改进支撑自身运行的物理计算资源。

但模型参与的是电路模块和 RTL 代码优化,设计仍然依赖专业工程师、成熟的电子设计自动化工具,以及严格的功能和物理验证流程。

从 RTL 优化到完整芯片量产,中间还存在架构设计、时序分析、物理设计、制造工艺、封装、良率和供应链等多个环节。

因此,这项工作的意义是 AI 已经进入真实芯片工程流程,并在专业验证体系下产生了可用的优化结果。

5.2 JARVIS:AI 开始完成真实物理实验的设计—制造—测试闭环

【论文实验】JARVIS(2026 年 11 月 19 日)展示了另一种更具代表性的能力:Agent 不只是在计算机中生成设计方案,而是能够协调真实设备完成电路板设计、制造和测试。

它的工作流程包括:

  1. 接收自然语言描述的实验任务。

  2. 使用三维扫描设备建立工作空间的数字孪生。

  3. 在虚拟环境中预演机械臂运动、制造步骤和电路行为。

  4. 协调机械臂、PCB 打印机和贴片设备完成电路板制造。

  5. 使用摄像头、传感器和示波器检查实际结果。

  6. 根据测量结果诊断偏差,修改 KiCad 电路设计。

  7. 进入下一轮预演和实验。

论文展示了一个 60 Hz 陷波滤波器实验。

JARVIS 在没有人工干预的情况下,用 2 小时 39 分钟完成首轮实验,实现了 60 Hz 处 50.6 dB 的衰减。

值得注意的是,系统在制造之前的数字孪生预演中,发现了五个问题,其中包括一个可能导致正常电路被误判为失败的测试标准。

这个案例的意义在于,它把 AI Agent 的能力从软件环境延伸到了真实物理世界:协调设备、制造物体、测量结果,再根据测量反馈修改设计。

这是一种真实的设计—制造—测试—学习闭环,完成特定物理电路的闭环研发。

5.3 两条硬件路线说明了什么?

OpenAI 的芯片设计工作与 JARVIS 的物理实验工作,代表了两种不同的进展:

  • OpenAI:AI 参与优化支撑计算的芯片设计。

  • JARVIS:AI 参与真实物理设备的设计、制造和测试。

两者共同说明,AI 正在从数字世界的代码和模型,进入更复杂的工程和物理环境。

未来的方向,AI 系统自主设计、制造、验证并持续改进支撑自身运行的完整计算基础设施。

06 · RSI 的真正瓶颈:为什么局部进步还没有形成完整闭环?

到这里,我们已经看到几个重要变化:

AI 能够修改自己的 Agent 执行系统;模型开始尝试直接修改自己的权重;AI 正在参与模型研发;AI 也进入了芯片设计和物理实验。

但完整的递归自我改进,不只是要求系统能够修改自己,还要求它能够持续、可靠、经济地判断自己是否真的变得更好。

目前至少存在五类关键瓶颈。

6.1 成本:自我改进可能比直接完成任务更昂贵

【论文实验】《The RSI Tax》(2026 年 11 月 10 日)专门研究了自我改进过程的成本问题。

通常,当我们比较两个 Agent 时,会关注它们完成任务的准确率、成功率和响应质量。

但对于自我改进系统来说,这种比较是不完整的。

因为一个系统可能花费大量 Token 进行探索、验证和修改,最终只获得很小的性能提升。

如果改进过程本身的成本超过后续任务执行所节省的成本,那么这套机制就没有实际经济价值。

论文将自我改进过程中消耗的 Token 称为 RSI Tax,并将其分解为验证、探索和写作等成本。

研究在两个语言模型、六种方法和持续任务流上进行比较,发现简单的 Bounded-Note 基线,在准确率上可以达到或超过 Meta-Harness、EvoSkill 和 RRSI,同时总 Token 消耗减少约 65.6%—71.0%。

研究还发现,在所比较的几种 RSI 方法中,验证成本占总 RSI Tax 的 74.8%—93.6%。

这说明一个很现实的问题:

自我改进不是免费的。

系统需要不断生成候选方案、执行实验、比较结果、检查错误,再决定哪些修改值得继承。

如果每轮都要消耗大量计算资源,而收益又无法持续积累,那么即使系统在技术上能够自我进化,也未必具有经济可行性。

真正值得追求的不是每一轮都修改得更多,而是每一轮修改能够带来足够大的长期收益,并且降低下一轮的改进成本。

6.2 评估:谁来判断系统真的变好了?

这是 RSI 最核心的技术难题之一。

如果系统能够修改自己的程序、模型参数和评估机制,那么它也可能改变自己判断成功的标准。

例如,一个 Agent 在某项代码测试中成绩不理想。它可以修改代码,让程序真正解决问题;也可能修改测试逻辑,让原本失败的任务被判定为成功。

两种情况都可能表现为测试成绩提高,但只有第一种代表真实能力提升。

因此,RSI 系统必须解决一个根本问题:改进者和评估者不能完全依赖同一套未经约束的判断机制。

至少需要以下措施:

  • 使用没有参与优化的留出任务。

  • 保留改动前后的版本和完整记录。

  • 检查收益究竟来自哪个组件。

  • 记录人类是否参与修改和筛选。

  • 记录每轮使用的计算资源。

  • 检查能力是否迁移到分布外任务。

  • 允许第三方复现关键结果。

ARRSI 2026 工作坊所讨论的研究议题,也包括独立评估、组件归因、计算预算、人工干预记录和针对奖励篡改的控制。

这说明学术界已经开始把 RSI 的评估问题作为独立研究方向。

但这里还存在更深一层的困难。

对于代码任务,我们可以通过测试验证结果;对于开放式研究,往往没有一个明确的标准答案。

一个新模型是否更聪明?一个训练策略是否更好?一个实验是否真的验证了研究假设?

这些问题很难仅靠自动化指标回答。

如果 AI 能力逐渐超过人类快速评估的范围,如何保证系统不会把错误的研究结论当成进步,就会成为 RSI 的关键限制。

6.3 研究判断:能执行实验,不等于懂得如何做研究

AI 在研发过程中最容易自动化的工作,往往是目标明确、流程可拆分、结果容易验证的部分。

例如:

  • 编写训练代码。

  • 修复软件错误。

  • 监控训练任务。

  • 整理实验数据。

  • 执行已有评估。

  • 生成研究报告初稿。

但真正困难的研究工作,经常发生在这些流程之外。

研究人员需要判断:

当前最重要的问题是什么?一个实验究竟能够区分哪些竞争性解释?某个结果是否只是数据集或评估方法带来的假象?下一轮实验应该改变哪个变量?一个局部指标的提升,会不会损害模型的长期泛化能力?

这些问题涉及科学判断,而不是单纯的任务执行。

Google 和 OpenAI 的报告都显示,AI 已经能够承担大量工程工作,但在人类研究人员负责的方向选择、实验设计和结果判断方面,仍存在明显差距。

6.4 算力与物理资源:改进速度不能脱离现实世界

RSI 经常被描述为一种正反馈:

AI 变得更强 → AI 更有效地改进自己 → 获得更强的 AI → 进一步加速改进。

但这个过程需要资源。

训练模型需要计算集群,运行 Agent 需要推理 Token,实验需要数据和时间,芯片制造需要工厂、设备、材料和供应链。

即使 AI 能够提高软件研发效率,也不意味着这些物理约束会同步消失。

如果每一轮能力提升都需要更多算力,而算力成本增长速度超过效率提升,那么正反馈可能无法持续。

因此,未来判断 RSI 是否进入更深阶段,还要观察每轮改进的资源效率是否改善。

例如:

  • 相同计算预算下,能否获得更大的能力提升?

  • 系统是否能够减少无效实验?

  • 是否能够自动优化推理和训练成本?

  • AI 是否能帮助改进芯片和数据中心效率?

  • 能力提升是否越来越少依赖人类投入?

真正可持续的递归增长,不仅需要能力提升,还需要资源效率的改善。

6.5 安全与治理:系统的自主权限越大,风险越难控制

AI修改代码、调用工具、启动实验、访问内部数据,甚至编辑模型权重,那么它需要的权限就会逐渐扩大。

这意味着风险也会发生变化。

一个具有自我修改能力的系统,可能:

  • 绕过原有权限控制。

  • 修改评估程序或实验记录。

  • 操纵测试环境,使结果看起来更好。

  • 删除或覆盖此前的安全限制。

  • 在未经授权的情况下复制系统或扩展运行实例。

  • 产生人类难以理解、审查和回滚的复杂改动。

这里的关键是系统在复杂运行环境中是否仍然能够被人类理解、监督和控制。

Vincent Conitzer 在《Is Recursive Self-Improvement Safe?》(2026 年 11 月 6 日)中指出,目前还缺乏分析 RSI 后果的清晰理论框架,并从博弈论角度讨论了参与者面对是否启动 RSI 时的决策问题。

这说明 RSI 不只是技术能力问题,也是治理问题:

当一个系统开始参与创造下一代系统时,人类需要决定的不只是它能不能做,还包括它应该拥有什么权限、哪些改动必须经过审查,以及发生问题时能否及时停止和回滚。

07 · 六条技术路线如何汇聚成 RSI?

回顾前面的研究,可以发现 RSI呈现多条路线共同推进,这些路线分别解决不同的问题,但它们最终需要连接成一个能够持续运行的系统。

技术路线

核心问题

代表研究或实践

模型自身改进

能否直接改变自身参数和学习机制?

Self-Rewriting、Weight-Space Programming

Agent 与 Harness 进化

能否持续修改自己的执行系统?

RRSI、ELITE、AIDE²、RSI-Env

AI 自动化 AI 研发

能否提高整个研发体系的效率?

Google、OpenAI、METR

数据与训练系统进化

能否积累经验并改善学习机制?

MASS、Experience-Handoff RL、CLAM

计算基础设施与硬件

能否改进支撑自身运行的物理基础?

OpenAI 芯片设计、JARVIS

理论、评估与安全

如何确认改进真实有效,并保持可控?

The RSI Tax、ARRSI、Conitzer

可以把这些路线放进一个完整的系统结构中理解。

图片

这个结构中,研发引擎负责发现问题、提出假设和组织实验;模型、Agent、数据训练和硬件路线提供不同的改进对象;独立评估与安全治理则贯穿整个过程。

只有通过验证的改进,才能进入下一轮。

如果没有可靠评估,系统可能把错误当成进步;如果没有经验继承,每一轮都可能重复探索;如果没有足够算力,复杂实验无法持续;如果没有安全治理,系统拥有的自主权限越大,风险也越难控制。

未来RSI 的关键不在于某一项技术是否已经突破,而在于这些能力能否相互连接。

未来 6—24 个月,最值得观察的八个信号

与其简单预测 RSI 何时到来,不如观察它是否逐渐满足以下条件:

  1. 自主提出研究问题: AI 能否主动发现值得解决的新问题,而不只是执行人类给定的任务?

  2. 自主设计实验: 能否设计真正区分竞争性假设的实验?

  3. 修改自身模型: 能否稳定修改自己的权重、训练过程或学习机制?

  4. 多轮继承改进: 多轮修改后,收益能否保留并持续累积?

  5. 跨任务泛化: 改进能否迁移到未参与优化的任务,而不是只提高特定基准成绩?

  6. 降低改进成本: 每轮改进消耗的算力、Token 和人类干预是否下降?

  7. 参与计算基础设施进化: AI 能否进一步参与芯片、数据中心和实验设备的设计优化?

  8. 独立验证与治理: 改进能否被第三方复现,关键操作能否审计和回滚?

其中,最关键的三个信号是:

  • AI 能否独立提出值得研究的问题。

  • AI 能否在连续多轮改进中保持真实的能力增长。

  • 改进后的系统能否降低下一轮改进的成本。

如果这三者同时出现,并且经过独立验证,那么我们才有充分理由认为 RSI 已经进入一个新的阶段。

08 · 人类的位置:当 AI 开始参与创造下一代 AI

RSI 带来的变化,人类在技术创造过程中的位置可能发生重新分配。

传统 AI 研发中,人类承担着几个关键角色:

  • 确定研发目标。

  • 选择研究方向。

  • 设计实验与训练方案。

  • 判断结果是否可信。

  • 决定哪些模型可以进入下一阶段。

人类研发的不同角色的转移速度不会相同。

执行工作可以较早自动化,判断工作通常更难;局部研究任务可以被委托,整体目标和风险责任却不能简单交给系统。

这里需要区分三个问题:

谁提出目标?谁决定实现路径?谁对最终结果负责?

AI 可以帮助人类寻找实现目标的路径,也可能逐渐提出新的研究方向,但这不意味着它天然拥有决定人类应该追求什么的权力。

人类依然保留目标判断、证据审查、风险治理和责任承担的能力。

因此,当RSI逐渐临近,人类需要重新思考的是:如何决定技术进步的方向,以及如何保证这种进步始终处于可以理解和治理的范围之内。

人类还有时间,因为目前的判断只是:

AI 已经从辅助研发,走到了局部自我改进和模型自我改写的实验阶段;从研发工具,逐渐成为 AI 研发体系中的重要参与者。真正的递归自我改进,正在从多个方向获得技术基础,但完整闭环仍有关键缺口。

但速度在加快,时间在缩短。


>/作者:王零壹,920.org.cn(AI Research Institute)创始人,港大AIBT研究生,前上市公司 CMO。长期研究 AI 产品、Agent 架构与商业增长,并持续观察技术变迁如何重塑人的工作、判断与生活。

*著有《AIGC从0到1》系列丛书、及东方寓言小说《飞将军》;

*善于洞察先机,1月26日中文互联网第1个意识到OpenClaw(小龙虾)范式价值的人;

关注我,一起AIGC从0到1~

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。