本文来自微信公众号： 未尽研究 ，作者：未尽研究
AI叙事的核心，切换到了RSI（递归自我改进）；终点是智能爆炸，是超级智能。
硅谷很擅长发明科技术语，其中最大的灵感来源，是科幻。数学家和计算科学家古德（I.J.Good）60年前写道：
“所谓超级智能机器，可以定义为这样一种机器：无论一个人多么聪明，它都能在所有智力活动上远远超过这个人。既然机器设计本身也是一种智力活动，那么一台超级智能机器就能够设计出比自己更好的机器；这样一来，就会毫无疑问地出现一场‘智能爆炸’，而人的智能将被远远甩在后面。……那么第一台超级智能机器就是人类有史以来需要亲自完成的最后一项发明。”所有末日色彩的结局，都蕴藏着极大的叙事能量。
古德说：“令人奇怪的是，除了科幻小说之外，这一点很少有人提到。有时候，认真对待科幻小说是值得的。”
一系列事件似乎演示，科幻正一步步变成现实。今年6月份Anthropic称AI正在构建自己，而人类还没有为RSI做好准备，最好放缓AI发展。越来越多前沿实验室声称正在用AI研发AI，包括芯片等硬件。AI批量证明人类多年未解数学难题，快得让数学家成为瓶颈。顶级的AI研究者都在响应RSI号召，离开大厂去创业。构建RSI平台，有望加快实现科学发现的突破。
一些安全事件的发生，也在警醒RSI风险的征兆。OpenAI智能体集体擅自入侵HuggingFace系统；因为管不住智能体群的行为，GPT-6.1 Astra被迫放弃发布；一批顶级的安全研究员正在出走前沿实验室，因为他们的确看到了AI的能力在加速发展，可能带来难以想象的风险正在逼近。
图灵奖和诺奖得主辛顿终于下场，与二十多位学界和产业界，包括OpenAI、Anthropic和微软的研究人员，联合发布了一篇文章《当AI接管AI研发：智能爆炸及其应对措施》，认为美国正在把空前的资源投入AI研发的自动化，可能导致智能爆炸，即在AI自身的推动下，AI技术进步的速度急剧加快，使得原本需要数年才能取得的进展，在数月甚至更短时间内就能实现。如果智能爆炸几年之内发生，可能为人类带来巨大的益处，如生产力爆发，经济增长起飞；但也可能带来巨大的失控风险，因为人类根本没有为此做好准备。他们呼吁政策制定者应当尽快掌握AI研发自动化的进展，制定引导和约束RSI的方法，并为智能爆炸对社会的影响做好准备工作。
但辛顿们对于RSI的分析，并没有超过60年前古德的预言。今天我们需要证明，当机器变得更聪明，究竟能使下一代机器的研发效率提高多少。要知道，从医药研发到摩尔定律，都已经证明了人类需要投入指数级的资源，才能保持技术持续进步，这被称为研发收益递减。
创新，越来越必要，也越来越难
2023/3/14阅读全文>
AI大神卡帕西（Andrej Karpathy），沉默近半年之后，最近提出了一个漏斗说法，全世界真正接触到前沿AI的，只有5000人左右。可能只有这群人，在屈指可数的前沿实验室里，真正感受到RSI，整天与成千上万个智能体工作（生活）在编程与数学的象牙塔之中，一离开这个象牙塔，真实的世界处处摩擦，对于他们来说，就是一个巨大的瓶颈。
亚特兰大联邦储备银行、斯坦福大学、英格兰银行和墨西哥自治技术学院的研究人员最近发布了一项针对近6000名企业高管的调查，其中约90%的受访者表示，这项技术对就业或生产力均无影响；不过有69%的受访者表示，他们的公司正在积极使用人工智能。人工智能带来的生产力提升仍然只是预测，而非观察。
人与智能体之间的协作，主要在执行层面消除了摩擦；也在制造新的摩擦。智能体生成工作，需要人的检查和整理，可能会抵消部分效率提升。人力资源平台Workday对3200名员工和企业领导者进行的一项调查发现，他们平均将人工智能节省的时间的约37%用于纠正、澄清或重写低质量的输出结果。
谷歌的经济学家调查了600名科学家，发现虽然使用人工智能平均每周为他们节省了7个小时，但其中近90%的表示，他们花费了十分之一的时间来检查人工智能的输出结果，46%的表示，他们花费的时间超过了四分之一。
即使是RSI想留在它的小圈子里，也要面对一个现实的问题，它能否摆脱研发的收益递减。
如果AI模型每次新版本增加的智能，按比例算只能带来越来越少的研发收益，那么反馈循环虽然存在，效果却会逐渐衰减；只有当每一轮能力提高所产生的新增研发能力，足以抵消“新思想越来越难发现”、实验越来越复杂、训练越来越昂贵等摩擦因素，反馈才可能真正自我放大。
这正是最近的一项研究《递归自我改进的经济学》（The Economics of Recursive Self-Improvement）试图回答的问题。
这项研究首先把算力、人力、数据等外生投入暂时固定下来，单独考察这样一个核心回路：AI能力提高→有效AI研发能力提高→算法效率提高→下一代AI能力进一步提高。
作者用经济学中的“弹性”来衡量每一根箭头的强弱：增加研发投入能够带来多少算法进步；AI能力提高以后，能够增加多少有效研发投入；算法效率提高，又能多大程度转化为新的AI能力。只有这些反馈效应组合起来的总增益大于1，整个闭环才会越转越快，而不是一轮一轮衰减。
论文按照一组基准参数校准，估计了算法进步速度、研发投入增长速度以及能力-算法弹性，模型能力每提高一个ECI——Epoch Capabilities Index——需要使有效AI研发能力提高大约15%，核心反馈循环才可能跨过“自我维持加速”的临界点。
从Claude 3.7 Sonnet到后来的Claude Opus 4.8，模型能力按ECI计算提高了约16个点；而Anthropic此后对研究人员的一项调查称，使用Mythos Preview带来了大约4倍的生产率提升。即使把这个很可能偏高的自报数字全部归因于模型能力进步，折算下来，每提高一个ECI点，生产率大约增加9%，仍低于约15%的基准门槛。
需要提醒的是，论文公式真正需要测量的是有效研发投入——整个研发体系的有效研发投入；而“4倍提升”测到的只是研究人员使用AI后自报的生产率提升。严格来说，两者存在密切关联，但并不是同一个变量。一些工程师写代码快四倍，不意味着整个实验室研究效率快四倍，也不意味着他们的最终产出增长了四倍。
实际上，根据据另外一项研究，从代码量到最终经过审核、验证、提交与可交付的代码之间，也存在着递减的关系。
如果AI能力本身还不足以突破收益递减，实现AI能力的持续提升,最现实的选择，就是继续增加外部投入：更多推理算力，让更多AI研究员同时工作；更多实验算力，让它们提出的方案真正能够被检验；更多训练算力，把算法进步兑现成更强模型；更成熟的工具链、更好的数据和评测环境，以及更多的人类研究者去处理仍然无法自动化的部分。
扩展定律（scaling law）目前仍然是AI的信条，因为这是唯一的通路，而铺设这条通路的，目前仍然是更大的资本投入。这也形成了RSI叙事中一个悖论：AI越是被描述为一种能够“自我改进”的技术，前沿实验室却越需要筹集越来越庞大的外部资本：烧掉千亿美元，获得百亿美元ARR，然后估值万亿美元，然后是下一次更大规模资本投入的循环。
如果它真的是一场纯粹的软件智能爆炸，理论上随着机器越来越聪明，外部资源的重要性应该不断下降；但目前我们看到的恰恰相反：模型能力越强，所需要的数据中心、GPU、电力、网络和资金规模变本加厉地扩大。
从这个意义上说，今天的通往RSI的反馈循环，其过程是越来越多原本被视为“外生”的投入，特别是物质投入，被一层层地卷入由AI的反馈系统中，形成了扩展定律。
人类与AGI之间，隔着空前的物质准备
2026/1/26阅读全文>
增加算力当然可以直接把AI进步继续推快，但这不能被称为“自我维持的加速”。真正重要的是，新增资源能不能多到解除瓶颈，从而改变反馈循环本身。AI首先提高软件研发效率，然后开始帮助设计芯片；它优化数据中心运行，改善GPU利用率，生成训练数据和强化学习环境；它未来还可能帮助设计新的能源系统、材料、机器人和制造流程。这也是奥特曼（Sam Altman）所说的：“一个AI模型的智能，大致等于用于训练和运行它的资源的对数。”
如果这些事情发生，那么算力、数据、芯片都不再完全是外生变量；甚至能源、资本形成和工业生产能力，都可能部分进入AI的反馈回路，系统不断扩张：AI→算法、芯片、数据、资本、能源和工业能力→更强AI。
当然，我们更期待一种比不断加码资本投入更理想的路径，即出现新的技术突破。像Transformer这样的底层算法突破再发生一次；计算系统出现堪比微处理器诞生的架构变化；能源生产出现数量级变化的技术，如核聚变；甚至未来在能源传输、材料和制造上取得新的基础性突破，如超导级的。
如果这些突破没有出现，AI就只能不断沿着现有技术边界堆入更多物质和经济资源；而随着规模上升，资源可能进一步向少数前沿公司和少数拥有完整算力、能源、工业和资本体系的国家集中。
这也说明，超级智能最大的摩擦不是智能本身不够，而是互补的技术不够用来一起克服瓶颈。算法进步需要算力兑现；软件需要验证和部署；药物需要湿实验；材料需要制造和测试；企业中的AI需要理解组织内部知识和规则；大规模进入社会，又要面对法律、安全和价值约束。
一项技术如果只能把某个环节提高一百倍，而它所依赖的其他环节仍然停留在原地，整个系统最终还是会被最慢的那一环锁住。AI可以让左脚那只鞋子的生产率无限提高，但它最终会受到右脚那只鞋子生产率的制约。
Anthropic非常明白这个阿姆达尔定律，可能正因为如此，它发现AI的能力提升，在目前这一阶段可能有很大一部分是无效的，真正有效的部分，可能最初就是在那些可以从事反复验证工作的“象牙塔”内，如科学发现。
在编程、数学证明、算法优化、某些科学研究中，任务容易验证，反馈速度快，AI有可能率先形成非常强的闭环，于是出现“垂直超级智能”。但问题是这种价值可能高度集中，并不会自动转化为众多行业和经济的广泛生产率增长。现在的重心都放到后训练和强化学习环境，这会进一步强化反馈循环在特定领域中的作用。
真正决定RSI最终形态的，是AI的这些象牙塔功夫、局部能力能否泛化。如果AI在科学发现中形成一套可以跨越材料、生命科学、化学、物理和工程设计的通用研究技能，那么窄领域中的反馈就可能向更广范围扩散；如果AI又能够不断帮助解决下一轮出现的互补性瓶颈，那么一次次增长冲刺，就可能最终连接成一条持续上升的曲线。
所以短期内更可能首先发生的，不是一个全领域的、总攻式的智能爆炸，而是一个个阶段性增长冲刺（growth spurt），今年先来个编程，再来个个人智能体，然后明年又期待下一个领域。
所有这些，都需要资本。最重要的反馈循环，来自资本。AI大模型的扩展定律，从预训练到后训练，从强化学习到测试时计算，从基础设施到工程流程，直到要求越来越高的数据、评测环境和工具链，每年需要上万亿美元的资本投入，才能支撑得起AI的“自我持续加速”。所以，最近陈福阳和陈立武都指出，AI最大的瓶颈是资本。
在现实中，最重要的循环，是在资本市场上建立起反馈循环。实际上，一种循环融资的游戏，已经建立起来了，问题是能持续到AI自己能持续加速吗。
--
参考文献：
Speculations Concerning the First Ultraintelligent Machine，Irving John Good
https://casp.ac/__l5e/assets-v1/5efd4b41-deb5-4513-a0a3-b4f82d2b79ea/intelligence-explosion.pdf
https://elasticity.institute/rsi-paper.pdf
https://basilhalperin.com/papers/singularities.pdf
https://www.rameznaam.com/p/ai-rsi-isnt-leading-to-super-intelligence
