2026年4月26号，13个AI编程助手被扔进了一个共享空间，没有人告诉它们该做什么。
它们收到的只有一份两页纸的说明文档，一个评分程序，还有一个陌生得不能再陌生的任务：给一个从没被训练过的语言模型灌入"知识"，条件是不能用任何训练数据，也不能做梯度更新。12天后，这群AI互相发表了1703条研究记录，把一个原本随机初始化、几乎在瞎猜的模型，硬生生调教到了逼近专业训练模型62%的水平。
没有项目经理，没有任务分配表，没有人监督进度。它们是怎么做到的？
这篇来自NVIDIA的论文，讲的不是某个新模型有多强，而是一个更底层的问题：当很多个AI研究者同时在做研究时，谁来记住谁做过什么。
一个人能做研究，一群人很难
先说清楚这篇论文想解决的麻烦。
现在已经有不少"自动化科研"系统了，比如能自己改进训练流程的AutoResearch，能自己生成论文想法的ResearchAgent，还有能包揽从想法到实验到写论文全流程的AI Scientist。这些系统证明了一件事：一个AI Agent确实可以像研究员一样干活，读代码、跑实验、改参数、写结论。
问题出在"多"这个字上。
如果你只运行一个AI研究员，它会带着自己积累的经验一路走下去。但如果你想加快进度，把这套系统复制13份同时跑呢？
论文里点出了一个很扎心的事实：多个独立会话之间，学到的东西是完全隔绝的。第一个AI发现某个学习率会导致训练发散，第二个AI压根不知道这件事，只能重新踩一遍同样的坑。第三个AI放弃了一个看似没前途的分支，第四个AI又从头开始把这条路走了一遍。
*智能体（Agent）：能够自主感知环境、做出决策并执行动作的AI程序，这里特指能读代码、跑实验、写报告的AI编程助手。*
更多的算力投进去，换来的不是更多发现，而是更多重复劳动。这就好比你雇了13个侦探破一个案子，但每个侦探破案时都不知道其他人查到了什么线索，甚至不知道有其他侦探存在，最后13个人各自把同一个嫌疑人盘问了一遍，效率没提升，反而互相踩脚。
现有的多智能体框架，比如MetaGPT、AutoGen这些，其实是在解决另一个问题：怎么让几个AI在同一个对话里配合默契地完成一个具体任务。这些框架很擅长团队协作，但前提是这个团队共享同一场对话、同一个管理者、同一套工作流程。
研究不是这样运作的。
真正的科学共同体，是一群互相不认识、时间上不同步、方法上互相竞争的人，靠着一套公共的知识体系松散地协调在一起。论文引用了1961年社会学家默顿的经典观察：科学史上"多个人独立撞上同一个发现"是常态而不是例外，因为大家都是站在同一个公共知识的地基上往前爬。研究团队想要的，正是这种"共享地基"，而不是"共享对话框"。
用Git做记忆，而不是数据库
论文给出的解法叫Agora，思路说出来其实挺朴素：把每一次研究成果都变成一个Git提交（commit）。
*Git：程序员最常用的版本管理工具，每次代码修改都会生成一个带唯一身份编号的"提交"，而且这些提交记录一旦生成就不能被篡改，只能在此基础上继续往前叠加。*
为什么是Git，而不是随便搭一个数据库？
这里有个技术上的巧思。Git的提交历史天生具备两个特性：不可篡改和可追溯血缘。每一次提交都有一个基于内容计算出来的哈希值当身份证，而且每个提交都记录着"我是从谁那里继承来的"。这两个特性拼在一起，正好对应科学研究最需要的东西：每一个结论都得说清楚证据是什么，每一个改进都得说清楚是在谁的基础上做的。
如果不这样做会怎样？假设Agora用的是一个普通数据库表格记录研究进度，会发生什么？记录可以被随意修改删除，历史可以被覆盖，一个AI谎报数据或者悄悄改掉之前的结论，没人能追责。而用Git，每一条记录一旦生成就钉在那里，谁在什么时间基于什么前提做了什么改动，全都摆在明面上，想抵赖都没地方抵赖。这就像法庭上的证词录像和一份手写笔录的区别，录像不能剪辑，笔录随时能撕了重写。
Agora给每条研究记录定义了一套标签体系，一共7种。setup是项目初始文件，result是实验结果（不管成功失败都要记），insight是从现有证据里提炼出的洞察，hypothesis是还没验证的猜想，report是跨多条记录的综合报告，verification是独立复现验证，endorsed是纯粹的点赞式认可。
*标签（tag）：给每条研究记录打上的分类标记，用来说明这条记录是什么性质的贡献，比如是一个新实验结果，还是对别人工作的验证。*
这套标签不是随便起的名字，背后挂着权重规则。前五种标签（setup、result、insight、hypothesis、report）各自贡献+5分的"证据分"，verification根据验证结果给+20分（完全确认）、+10分（部分确认）或-20分（验证失败）。而endorsed和wip（进行中标记）权重是0，纯点赞不算数。
这个设计想堵住一个漏洞：如果论文只看"被点赞次数"来判断一个成果的质量，那AI很容易学会互相吹捧刷分。所以Agora干脆不算点赞，只算"有没有人真的在你的工作基础上往前走了一步"。一条记录的分数，是看有多少个不同账号真的基于它做了后续工作，而且明确排除了自己给自己刷分的情况。
打个比方，这就像学术界的引用制度。如果一篇论文的价值只看朋友圈点赞数，那大家会互相刷赞；但如果价值看的是有没有人真的引用你的方法继续做研究，作弊的成本就高多了，因为你得真的拿出后续工作才能刷分，而且这后续工作还得经得起别人检验。
光有记忆还不够，还得防止扎堆
这套系统跑起来之后，研究团队发现了一个新问题：如果只给AI看一个排行榜，所有AI都会挤到同一个方向去。
这很好理解。如果排行榜第一名的方法看起来最有希望，那么理性的选择就是所有人都去优化这个方法，谁还愿意冒险走一条看起来暂时落后的路？
*局部最优/单一文化（monoculture）：论文里用来描述一种状态，就是整个研究社区的注意力全部集中在同一个思路上，其他可能更有潜力的方向完全没人碰。*
论文设计了一个叫"多样性感知置信上界"（diversity-aware UCB）的排序公式，本质上是给每条记录算一个综合得分，这个得分不只看这条记录本身分数高不高，还要看它所在的方向有没有被充分探索过。具体来说，公式里有三项：质量得分、探索次数少给加分（follow-on越少加分越多）、以及和别的记录内容重复度越低加分越多。
*置信上界（UCB, Upper Confidence Bound）：一种源自多臂老虎机理论的决策规则，核心思想是既要选目前看起来最好的选项，也要适当照顾那些还没被充分尝试、可能有惊喜的选项。*
算出分数之后，系统会把候选方向分成三类展示给每个AI：exploit（复现或优化现有的领先方案）、explore known（在一个证据不多但有潜力的方向上继续挖）、explore novel（去看看那些几乎没人碰过的孤立想法）。
这个三分类的设计，其实就是把"该守还是该闯"这个决策权直接摆在AI面前，而不是替AI做决定。
如果不这样设计，只给一个单纯的排行榜会怎样？论文里真实发生了这种情况。5月2号之前，研究团队发现超过三分之一的活动都堆在同一个语义簇里，排行榜连续好几天没有实质性突破，这就是典型的"扎堆"症状。所有AI都在同一个局部最优附近反复微调，谁也没有勇气或者说没有信号去尝试别的路。
这就像一群人在山里找宝藏，如果只有一张写着"最近发现的宝藏在这个山头"的纸条，所有人都会往那个山头跑，哪怕旁边那座没人去过的山头可能藏着更大的宝藏。而如果地图上专门标出"这片区域没人去过"和"这片区域有点苗头但没人跟进"，探险队的分布就会自然散开。
研究团队在5月2号做了一次也是唯一一次的人工干预：把这套聚类分析和多样性排序界面正式部署上线。结果第二天早上，就有一个AI主动选择去跟进一个之前几乎没人碰的状态空间模型（SSM）分支，而不是继续在主流方向上抠小数点，这一步直接把评分从1.90以上打穿到了1.90以下。这个五天的"单一文化"现象，在展示了一张"自己有多集中"的地图之后，一天之内就被打破了。
一场真实的AI集体科研，具体发生了什么
说完机制，来看这13个AI到底干了什么活。
任务本身设计得挺刁钻。研究团队准备了141个开源的预训练语言模型作为"捐献者"，涵盖GPT-2、LLaMA、Mistral、Qwen等32个不同的模型家族。目标模型是一个自己搭建的混合架构，14层网络交替使用注意力机制和简化版Mamba状态空间模块，参数量1.196亿，维度设计得跟所有捐献者模型都对不上号。
*注意力机制（Attention）：Transformer架构的核心组件，让模型在处理某个词时能同时权衡上下文里所有相关词的重要性。*
*状态空间模型（SSM）：一种处理序列数据的新架构，Mamba是其代表模型，相比传统注意力机制在处理长序列时计算效率更高。*
*每字节比特数（bpb, bits per byte）：这次实验的评分标准，衡量模型预测下一个字符的能力，数值越低说明模型预测越准。随机初始化的模型得分是3.39，一个正常训练好的GPT-2 124M大约是1.0。*
规则很严格：不能用训练数据，不能做梯度更新，只能想办法把这141个"知识渊博"但架构不匹配的模型里的知识，用某种巧妙的手段"搬"到这个空白的目标模型里去。
13个工作账号（5个用Claude Opus 4.7驱动，8个用GPT-5.5驱动）在12天里发表了1703条记录，包括1124条实验结果、284条洞察、203条假设、165条独立验证，还有1份综合报告。
最先摸到门道的是第一个尝试直接复制GPT-2和Mamba权重参数的账号，结果得分4.68，比随机初始化还差。这个AI没有藏着掖着，直接把这个失败结果发布出来并附上了解释。30分钟后，同一个账号换了个思路：不复制参数，改成读取GPT-2对每个词的预测概率分布，构造一个"unigram先验"，得分一下跳到2.52。6小时之内，四个不同的账号把这个思路从单个词扩展到2到24个词的上下文窗口，得分压到1.93。
论文里给出一个很扎实的数字：这最初的18条记录，贡献了整个实验期间98%的进步。后面1106条记录，只是在这个基础上反复打磨，把最后的0.03分差距一点点抠出来。
*大规模语言模型的次序统计压缩（这里指论文中的核心方法）：把多个捐献者模型对词语的预测概率统计信息压缩进目标模型的输入嵌入和输出层，再通过奇异值分解（SVD）降维。*
最终胜出的方案分两个阶段。第一阶段，从6个共享同一词表的捐献模型（GPT-2 small/large、Cerebras-GPT系列）里，采集它们在28种不同上下文下对5万多个词的预测概率，混合加权成一张巨大的"词语接续统计表"，再用随机SVD降维压缩进目标模型的嵌入层和输出层，同时把所有中间层清零。第二阶段，再小心翼翼地重新激活一部分中间层，用极其稀疏的手工编辑方式，给注意力层、前馈层、状态空间层加上一点短程上下文信号，让模型不只是"看词表"，还能看看"最近几个词说了什么"。
最终结果，从随机初始化的3.3923 bpb降到1.899044 bpb，堵住了通往一个专业训练GPT-2模型62%的差距，而这一切没有用到一条训练数据、没有一次梯度更新。
这个数字意味着什么？意味着一个原本对语言完全没有概念的空壳模型，仅仅靠"偷看"其他141个模型的预测习惯，就恢复出了相当一部分语言理解能力。这就像一个完全不懂中文的人，通过观察141个中文母语者对话时的用词习惯统计规律，硬是学会了大半的日常表达，全程不需要真正学一天中文课。
有意思的是负面结果也被认真记录了下来。有账号尝试把上下文窗口从24个词扩到48个，结果反而变差了，四种变体都验证了这一点，这些"此路不通"的记录同样被公开发布，供后来者参考。整个实验期间一共有53条明确标记为负面结果的记录。
胜出方案的祖先链条里有145个提交，来自15个不同的账号，144条父子关系里有115条跨越了账号边界。换句话说，没有任何一个单独的AI账号能独立组装出这个最终方案，它是靠所有13个账号接力传递才拼出来的。
验证环节同样值得说说。165条独立验证记录覆盖了95个不同目标，每一条验证都必须由非原作者的账号来做，而且没有一条报告失败。同一硬件上的复现结果是完全一致的，跨硬件（A100对比H100）复现结果的偏差在千分之一点三以内，都在论文设定的容忍范围里。
这套体系还暴露了一些不太好看的地方。论文统计发现，696对不同账号发布相同分数的记录里，63%发生在1小时之内，80%发生在6小时之内。这说明什么？说明大量的重复劳动依然存在，多个AI独立撞上了同一个发现，这既印证了默顿说的"多重发现是常态"，也提醒我们共享记忆并没有完全消灭重复搜索。
研究团队自己也很坦诚地承认了这个局限：这次实验没有设置对照组。没有跑一组"完全相同的AI和算力，但不用Agora"的对照实验，也没有跑一组"用普通排行榜而不是多样性视图"的对照实验。所以到底是共享记忆机制本身起了作用，还是仅仅因为多给了13个AI并行试错的机会，这个问题目前还没有一个干净的答案。论文附录里专门设计了一套对照实验方案，打算未来分别测试"完全孤立工作"、"只看时间顺序日志"、"中央规划者分配任务"和"Agora多样性视图"这四种模式，看看到底哪种机制真正提升了集体科研的效率。
这份坦率挺难得。一篇论文敢把自己没解决的问题清清楚楚写出来，而不是把62%这个数字包装成一个天花乱坠的结论，这种态度本身值得多说一句。
写在后面
读这篇论文的时候，最触动我的其实不是那个62%的数字，而是那批AI自发形成的"科研礼仪"：从4月28号开始，超过400条记录会先声明一个预测区间，再报告实际测出来的结果，后来的AI还会主动去回应前面某个账号提出的悬而未决的问题。
没有人要求它们这么做。这行为是从"每次提交都必须能被别人复现"这条规则、以及"别人发的东西你能看得到"这个条件里自然长出来的。这让我想到一件事：好的制度设计，有时候不需要规定具体行为，只需要把正确的激励结构搭好，剩下的交给参与者自己摸索。
还有一处细节值得单独说说。论文里那张展示"帕累托前沿收敛"的图（图5）显示，10个SOTA（当时最优结果）节点里，有10次是在6小时窗口内被2个不同的AI同时盯上并推进的，还有几次甚至有4到5个AI同时扑向同一个刚出炉的最佳结果。这种"扎堆抢跑"的现象，某种程度上像极了学术圈里几个实验室同时看到某篇预印本后一窝蜂扑向同一个改进方向的场景，只不过这里的时间尺度从几个月压缩到了几小时。
论文没有回答的一个问题，我倒是很想追问：如果把这套Agora机制的规模从13个AI扩大到130个甚至1300个，扎堆现象会不会因为选择变多反而加剧，还是会因为多样性排序机制的存在被稀释？这大概是下一篇论文该讲的故事了。
Q&A
Q1：Agora是什么？
A：Agora是NVIDIA提出的一套基于Git的共享研究记忆系统，让多个AI研究智能体的实验结果、洞察和验证都以不可篡改的提交形式记录下来，形成一个公开的研究知识图谱，避免不同AI之间重复摸索同样的问题。
Q2：这13个AI最终把模型调教到了什么水平？
A：它们在没有训练数据和梯度更新的情况下，把一个1.196亿参数的空白混合模型从随机初始化的3.39 bpb优化到了1.899 bpb，弥合了通往一个专业训练GPT-2模型62%的性能差距。
Q3：Agora靠什么防止AI集体扎堆在同一个方向上？
A：系统会给每条研究记录计算一个多样性感知的排序分数，并把候选方向分成"复现优化"、"深挖潜力方向"、"探索冷门方向"三类展示给AI，同时在实验中期部署了聚类可视化界面，一天之内就打破了持续五天的扎堆现象。
