你可能听说过一个说法：让AI模型多想几遍，答案会更准。这个直觉大体上没错，就像你做数学题，演算两遍比演算一遍更容易发现错误。
但如果让AI"想"两万遍呢？
2025年底，一群研究者在做一个实验：训练一个只有700万参数的小模型去解极难的数独题，然后让它反复迭代计算，看看准确率会怎么变化。按常理，迭代次数越多，模型应该越接近正确答案。但实验结果却让人意外：准确率先是一路上升，冲到62.2%的顶峰，然后开始掉头向下，迭代越多反而越差，最后跌到58.1%。
这不是训练没做好，而是一个结构性的问题。这篇论文的作者们把这个问题挖了出来，并给出了一个解决方案，让同样的模型在两万多次迭代之后依然在进步，最终准确率冲到97.9%。
这篇论文的名字叫《Scaling to Tens of Thousands of Test-Time Iterations with Loop-Native Attention Residuals》，核心方法叫InfiLoop。
循环神经网络这件事，说起来有点意思
先说清楚这里的"迭代"是什么意思。
有一类AI模型叫循环Transformer*（循环Transformer：一种重复使用同一组神经网络参数、反复对输入进行处理的模型结构，每循环一次相当于增加一层计算深度，但不增加参数量）。它不像普通的深度网络那样一层一层往上堆叠不同的参数，而是用同一套参数反复处理，循环的次数越多，计算的"深度"就越大，理论上能解决的问题就越复杂。
这个思路的好处很直接：不用增加参数量，只要在测试阶段多算几轮，就能让模型变得更"聪明"。对于数独、迷宫寻路这类需要多步推理的任务，这种反复琢磨的能力很重要。
问题出在"怎么把上一轮的结果交给下一轮"这件事上。
目前主流的做法叫carry-last规则*（carry-last规则：每一轮计算结束后，把这一轮产生的新状态直接作为下一轮的输入，完全替换掉之前的状态），通俗点说就是"这一轮算完的东西，直接原封不动地交给下一轮，不管之前算过什么"。
这就是问题所在。论文作者发现，这个规则有一个隐患：新一轮的计算结果未必比上一轮更好，但carry-last会毫无保留地全盘接受这个新结果，把旧状态彻底冲刷掉。如果某一轮的计算出现了噪声或者错误，这个错误就会直接污染下一轮的起点，而且没有任何机制能帮你把之前正确的部分找回来。
论文里做了一个很直观的对比实验。他们用TRM（一个典型的carry-last模型）去解数独，追踪模型在每一轮迭代后"改变主意"的程度。结果发现：在第36到72轮之间，TRM平均每道题要改动77次预测，而且错误的格子数量还在增加。更要命的是，在第36轮时两个模型都已经正确预测了142万个空格，但在后续迭代中，TRM有20.9%的正确预测被自己推翻改错了。相比之下，InfiLoop只推翻了2.4%。
这就好比你做完一套数独题，检查了一遍确认全对，结果有个"习惯"让你忍不住又去改动已经填好的格子，改着改着把正确答案改成了错误答案。而且这个"手欠"的毛病越到后面越严重：论文发现TRM在解出答案后，状态变化率会先降到3%，但很快又反弹回10%并持续居高不下，9轮之后就开始丢失已经解出的答案，36轮后丢失了19.7%的正确解。
如果你见过那种做完题还要反复涂改、越改越乱的学生，你大概能理解这个现象。不是能力不够，是没有一个机制告诉他"这里已经对了，别再动了"。
问题到底卡在哪：旧的信息只能靠最新状态来"转达"
为什么会出现这个问题？
论文给出的解释是：在carry-last规则下，早期计算产生的有用信息，只能通过"最新状态"这一个窄窄的通道传递下去。如果最新状态本身出了偏差，那之前积累的所有正确信息，理论上还存在于计算历史里，但实际上已经无法被后续迭代直接访问到了。
标准的残差连接*（残差连接：神经网络中一种让信息跳过某些层直接传递到后面层的连接方式，最早由ResNet提出，用来缓解深层网络训练困难的问题）本来是为了解决深层网络训练困难的问题而设计的，但在循环Transformer里，同一套参数被反复套用，残差流会随着循环次数不断累积，这种"深度坍塌"的现象被称为深度诅咒*（深度诅咒：指标准深度Transformer中，越往后的层对最终输出的贡献越小，增加深度带来的收益递减甚至变负的现象）。
这就引出了论文真正要解决的核心矛盾：怎么让模型在看到新一轮计算结果时，有能力判断"这个新结果到底值不值得采纳"，而不是无脑全盘接受。
InfiLoop的设计：给循环也装一个"记忆打分器"
InfiLoop的核心思路，简单说就是不再让新状态直接替换旧状态，而是让模型学会给每一轮产生的候选结果打分，再按分数和时间远近做加权平均，决定最终该采纳多少新内容、保留多少旧内容。
具体的机制由两部分组成。
第一部分是内容打分。模型用一个共享的"伪查询向量"（可以理解成一个固定的评判标准）给每一轮产生的候选状态打一个分数，这个分数反映这个候选状态"靠不靠谱"。
第二部分是时间衰减。越早的候选状态，权重会按指数规律逐渐衰减，这样可以避免太久远的信息喧宾夺主，同时也不会一下子就被最新结果完全盖过。
这两者结合起来，形成一个加权求和的机制：最终传给下一轮的状态，是所有历史候选状态按"内容分数乘以时间衰减"加权平均的结果。
这里有个技术难点：如果真的要把每一轮产生的所有候选状态都存下来再加权平均，随着循环次数增加，需要存储的信息量会越来越大，最终变得不可行。论文的巧妙之处在于，他们证明了这种加权求和可以写成一个精确的流式递推公式：只需要维护一个加权状态向量和一个归一化系数，每一轮根据新的候选结果更新这两个量就够了，完全不需要保存历史全部记录。无论循环一百次还是两万次，需要的存储空间都是固定的。
这个设计可以换一个角度理解：它其实是一种自适应的残差更新。每一轮的更新幅度由一个叫步长的量来控制,这个步长是新候选状态的内容分数，除以（历史累积权重乘以衰减系数加上这个内容分数）。当新结果的分数远高于历史累积权重时，步长趋近于1，新结果会大幅度地被采纳；当新结果分数很低时，步长趋近于0，模型基本保持原来的状态不变。
这就像一个资深编辑在审稿。她手头有一份已经改了很多轮、质量不错的稿子（历史状态），这时候来了一份新投稿（新的候选状态）。如果新投稿质量明显更好，她会大刀阔斧地采纳替换；但如果新投稿质量很差，她只会象征性地采纳一点点，绝大部分还是保留原来的好稿子。如果没有这个审稿机制，编辑只能机械地"最新来的稿子直接发表"，哪怕这份新稿子比上一份差很多，也照单全收，时间长了稿子质量只会越改越差。这正是carry-last规则在实际发生的事情。
这套机制不只用在模型的单一循环轴上。论文中使用的是一种叫TRM的嵌套循环架构，它有内循环和外循环两层结构，InfiLoop分别给内外两个循环轴都配备了独立的打分器和衰减参数，让两条推理轨迹都能受益于这种学习型的状态复用。
从实验结果看，这套设计到底管不管用
论文在四个推理基准上做了测试：极难数独（Sudoku-Extreme）、30×30迷宫寻路（Maze-Hard）、以及两个抽象推理测试集ARC-AGI-1和ARC-AGI-2*（ARC-AGI：一套考察AI系统能否从极少量示例中归纳出变换规则的测试集，被认为是检验通用推理能力的重要基准，连DeepSeek-R1这样的671B大模型在ARC-AGI-2上也只能拿到1.3%的准确率）。
在同样是700万参数规模的模型里，InfiLoop在数独上拿到97.9%的精确匹配准确率，超过此前最好的FPRM模型（94.2%）和TRM模型（74.7%）。在迷宫寻路任务上，InfiLoop达到87.4%，略微超过FPRM的87.0%。在两个ARC-AGI任务上，InfiLoop分别拿到49.1%和13.6%，后者几乎是TRM的7.8%的两倍。
更值得说的是测试阶段的深度扩展能力。论文做了一个对照实验：固定住训练好的模型不再调整参数，纯粹在测试时增加循环次数，看看准确率怎么变化。结果是，InfiLoop只用1,872层的计算量就达到了90.9%的准确率，而FPRM要用两倍的计算量（3,744层）才能达到相近的90.1%。换句话说，同样的准确率，InfiLoop只需要一半的计算开销。
更极端的测试是把循环次数一路拉到24,960层，相当于普通训练深度的26倍以上。TRM在这个深度下的准确率只有83.65%，甚至不如InfiLoop只用936层就达到的86.5%。InfiLoop自己在这个极限深度下还在进步，最终达到92.74%。
这个现象放在日常经验里，大概相当于一个学生做题，别人让他多检查26遍，结果越检查错得越多，而InfiLoop这个"学生"则是越检查越细心，始终在进步。如果没有这个学会"什么该改、什么不该改"的机制，单纯堆砌检查次数反而会越帮越忙。
在难度分层测试中，这种优势在困难题目上体现得更明显。对于空格数在45到51个的简单题，InfiLoop和FPRM都能做到100%正确；但当空格数提升到60个（最难的级别）时，InfiLoop保持59.5%的准确率，FPRM是56.5%，而TRM骤降到36.0%，差距拉大到23.4个百分点。这说明InfiLoop节省下来的"记忆力"，恰恰在最考验推理深度的难题上发挥了作用。
模型学会了什么：一种意外出现的自我验证行为
论文里有一段分析特别有意思，研究者去看InfiLoop内部那个"步长"参数（也就是前面说的决定接受多少新结果的那个量）在解题过程中到底是怎么变化的。
如果模型对每一轮结果都一视同仁，不做任何区分，这个步长理论上应该稳定在0.56左右（这是由衰减参数直接推算出来的基准值）。但实际观察发现：在题目还没解出来之前，步长被压得很低，大约只有0.40，说明模型在"搜索阶段"对自己产生的中间结果持保留态度，不轻易采纳。而在题目刚好被解出来的那一轮，步长突然飙升到0.91，几乎是满额接受这个正确答案。再往后几轮，步长又慢慢回落到0.56的基准线，维持住这个已经解出的状态不再大改。
这个行为是模型自己从数据里学出来的，训练过程中没有人告诉它"这一步是对的，要全盘接受"。研究者进一步验证了这一点：他们统计了模型给不同候选状态打的内容分数，发现分数和这个候选状态里"错误格子的数量"高度相关。完全正确的候选状态平均能拿到7.25分（接近打分上限8.0），而错误格子多达33个的候选状态，平均分数直接跌到负数。
这意味着模型在没有被明确告知"对错"标签的情况下，自己学会了判断一个中间结果靠不靠谱，这种能力有点像一种隐式的自我验证机制。
研究者还做了一个压力测试，专门考验这套机制的鲁棒性。他们在模型运行到第36轮时，故意往状态里注入一点随机扰动（幅度从万分之一到百分之三十不等），然后继续让模型跑完剩下的36轮，看看之前已经解出的题目还能不能保持正确。结果是，无论扰动多大，InfiLoop都能保住100%已解出的题目；而TRM在完全没有扰动的情况下，都会自然丢失15%到20%的正确答案，哪怕只加入万分之一的微小扰动，它的状态轨迹也会在12轮之内彻底偏离原来的路径，相对距离跑飞到和原来完全不是一回事的程度。
这就像两个人走钢丝，一个人手里拿着平衡杆（InfiLoop），另一个人没有（TRM）。给两人同样轻轻推一下，没有平衡杆的人会越走越偏，最后完全偏离原来的路线；有平衡杆的人能很快把自己拉回正轨，继续稳稳地往前走。如果不给模型这种"抵抗扰动"的能力，哪怕是训练数据里从未出现过的微小噪声，都可能让整个推理过程功亏一篑。
论文里还做了几组消融实验，进一步确认了设计的必要性。他们试过把"内容打分"这个功能直接拿掉（强行设成0），结果不管是训练阶段还是测试阶段拿掉，准确率都会掉6到7个百分点。他们还试过把衰减方向反过来，也就是让越早的信息权重越大（这在直觉上说不通，但作为对照组），结果准确率直接崩到2%左右，证明"越新的信息理应获得更高关注度"这个设计方向是必要的，不是随手调出来的。
写在后面
读这篇论文时，有一个细节让我重新想了一下"深度"这个概念。
我们通常觉得，给AI更多计算时间、更多思考步骤，它应该变得更聪明，这几乎是一种默认的直觉，类似于"用功一定有回报"。但TRM在数独任务上的表现打破了这个直觉：62.2%的准确率峰值出现在468层，再往后非但没有收益，反而开始倒退，跌到58.1%。这说明"多想"本身不是免费的好事，如果没有一个机制去筛选哪些想法该留、哪些该丢，思考得越多反而可能越糟。这和人类认知其实有点像，有些人反复纠结一个决定，想得越多反而越容易把原本正确的判断推翻。
另一个让我觉得有意思的地方是，InfiLoop学到的那个"自我验证"行为完全是涌现出来的，不是被硬编码进去的规则。训练时没有人告诉模型"这是正确答案，要全力接受"，但它自己从数据里总结出了一套机制：不确定的时候谨慎一点，一旦找到靠谱的答案就果断采纳并锁定。这种行为模式，某种程度上比"准确率提高了多少个百分点"这件事本身更值得琢磨。
论文还留了一个没完全展开的问题：这套机制能不能用到更大规模的语言模型上，而不只是700万参数的小型推理器。如果一个千亿参数级别的大模型也能学会这种"什么该记住、什么该舍弃"的能力，那会对现在的长链推理训练产生什么样的影响，这大概是接下来值得追问的方向。
Q&A
Q1：InfiLoop解决了循环Transformer的什么问题？
A：InfiLoop解决了循环次数增加后准确率反而下降的问题。传统carry-last规则会让每一轮新计算结果直接替换旧状态，一旦某轮出现错误会污染后续所有计算，而InfiLoop通过学习打分和时间衰减机制，让模型自己判断哪些历史状态该保留、哪些新结果该采纳。
Q2：InfiLoop和TRM、FPRM相比效果如何？
A：在700万参数规模下，InfiLoop在数独任务上达到97.9%准确率，超过FPRM的94.2%和TRM的74.7%；在ARC-AGI-2任务上拿到13.6%，接近TRM的两倍；在测试阶段深度扩展上，InfiLoop只需一半计算量就能达到FPRM的准确率水平。
Q3：InfiLoop的核心机制是怎么实现的？
A：InfiLoop给每一轮产生的候选状态打一个内容分数，再结合随时间指数衰减的权重做加权平均，决定下一轮该接受多少新信息。这个过程可以写成一个只需固定存储空间的流式递推公式，不会随循环次数增加而占用更多内存。
