你有没有想过，为什么有些AI客服能秒回你的问题，有些却要"思考"半天？
2026年，一种叫做"类型化决策模型"的AI开始流行起来。它们干的事情很简单：你给它一段文字和几个选项，它直接告诉你每个选项的概率，不说废话，不写长篇大论。比如判断一封邮件是不是垃圾邮件，一个案例符不符合政策,一道选择题选哪个答案。这种模型被称为"System 1"思维,也就是像人一样凭直觉秒答的那种反应。
类型化决策模型：接收一个状态（比如一段文字）、一个问题和几个选项，直接返回每个选项的概率,不生成任何文字说明的AI模型。
但这里有个问题。快是快了,可有些问题根本没法"秒答"。
比如这样一句话："奥马尔是诚实的人,伯特说奥马尔说真话,本说伯特是骗子。"问你:本说的是真话吗?
这得一步步推理:奥马尔诚实,所以伯特说的是真的;伯特是诚实的,但本说伯特是骗子,如果本说的是真话,那伯特就是骗子,这就和"伯特说的是真的"矛盾了。所以本在撒谎。
这种链式推理,AI的"一次性直觉"模型表现有多差?论文里给出了一个扎心的数据:商业产品Jev API在处理一步推理的链条时能做到100%正确,但推理链拉长到三步,准确率就跌到62.5%,拉到六步以上,基本就是瞎猜的50%水平了。
这就是这篇论文要解决的核心矛盾。一次性扫一眼的"直觉模型"遇到复杂推理会失灵，但要解决复杂推理，传统思路是让AI像人一样写长长的思考过程，也就是"System 2"思维,那种一步步写"让我想想......所以答案是"的模式。可这样做意味着每生成一个字都要重新跑一遍整个模型，速度慢，而且丢失了"直接返回概率"这个干净利落的接口。
于是,来自明尼苏达大学的研究团队提出了一个介于两者之间的方案,他们管它叫System 1.5。
循环：不增加参数,只增加思考的次数
这篇论文的核心模型叫SanSi,名字取自《论语》里"季文子三思而后行"的"三思"。它建立在一个叫Ouro的、本身就被设计成可以"循环"的语言模型基础上。
循环（Looping）：把同一组神经网络层反复套用在自己刚输出的结果上，每循环一次相当于让模型对当前的理解再审视一遍，而不生成任何新文字。
这个设计思路其实很直白。如果一次性扫一眼不够,那就扫两眼、三眼,但不是从头到尾写一篇论证文章,而是让同一套参数"回头再看"一遍自己的判断,看看能不能发现之前漏掉的东西。
技术细节是这样的:模型有24层网络,这24层被当作一个整体反复使用,比如用8次。每循环一次,模型都会在最后输出一个关于各个选项的概率分布,而且训练的时候,每一次循环的输出都会被拿来和正确答案比对、打分、反向传播调整参数,这样最终得到的模型不管你让它循环1次还是8次,给出的答案都是经过专门训练的,不是半成品。
这就好比你让一个学生做一道数学题。如果只给他看一遍题目就让他写答案,他可能凭第一直觉写个数字就交卷了。但如果你告诉他"再检查一遍",他会重新审视自己刚才的推理,发现哪里漏看了条件。而SanSi做的事情,是让模型把这个"再检查一遍"的动作,内化成了参数本身的一部分,而且每一次检查都有自己的"及格线",不是只有交卷那一刻才算数。
如果不这样设计会怎样?论文里专门做了对比实验。他们训练了一个只在最后一次循环才计算损失的版本,结果发现早期的循环完全没学会回答问题:第一次循环的准确率只有35.6%,而SanSi在同样条件下能达到58.4%。更糟的是,这种"只在最后打分"的模型整体表现也要低1.1个百分点。这说明光靠多转几圈是不够的,得让每一圈都"有用",模型才能真正学会怎么利用这几次额外的机会。
循环带来的提升有多大
研究团队把SanSi和一个结构完全相同、但只跑一次的模型SmolLM2-1.7B放在一起比。两者用的训练数据一样,训练方法一样,随机种子也一样,唯一的区别就是SanSi会循环8次。
结果是72.0%对58.4%,整整高出13.5个百分点。
这个差距意味着什么?在一万多道测试题里,SanSi能比对照组多答对大约1350道题。而且这个提升不是靠某几类题目撑起来的,在59个测试来源里有55个,循环版本都比单次版本表现更好。
提升最明显的地方特别有意思。简单的分类任务,比如判断一条评论是正面还是负面,循环只带来3.1个百分点的提升,因为这种题目扫一眼基本就能看出来。但涉及多步推理的任务,提升达到15.1个百分点;需要读长文档的任务,提升16.7个百分点;考察知识的问题,提升高达17.6个百分点。
这个规律其实挺符合直觉的:如果一道题扫一眼就能看懂,那多看几眼也不会有新发现。但如果一道题需要把好几条信息串起来理解,那"回头再看"就有意义了,因为第一遍可能根本没来得及把所有线索都串联起来。
这就像你在超市找东西。如果货架上贴着大大的标签,你扫一眼就知道牛奶在哪,多看几遍不会让你找得更准。但如果你要在一堆相似的调味料里找出那瓶特定品牌的酱油,第一眼很可能会被包装相似的邻居干扰而拿错,这时候多看一眼,专门核对一下标签上的文字,才真正有用。循环的价值不在于"看得更久",而在于给了模型一个机会去纠正第一印象里的偏差。
当然,循环也不是免费的。每多循环一次,就要多跑一遍整个24层网络,计算成本是线性增加的。论文测算,跑满8次循环的计算时间大约是单次模型的7.7倍。但有意思的是,这个成本是可以灵活控制的:你可以只跑3次循环,这时候已经能拿到72%左右提升的88%,花费只是跑满8次的三分之八。这意味着使用者可以根据场景的紧急程度,自己决定要不要让模型"多想一会儿"。
更大的参数量能替代循环吗
这是个很自然的问题。既然循环本质上是用计算量换准确率,那直接把模型做大会不会效果更好,还更省心?
研究团队拿了一个参数量是SanSi三倍的模型Qwen3.5-4B做对比。结果是,Qwen3.5-4B确实更准,高出1.8个百分点,但它消耗的计算时间是SanSi跑满8次循环的3.3倍。换句话说,如果比的是单位计算量上谁更划算,循环模型反而赢了。
更关键的证据来自两个专门设计的"深度测试"。研究者构造了"说谎链"和"物品交换"两类题目,题目的难度可以用一个数字精确控制,就是需要追踪多少步依赖关系。训练时这两类题目的步数最多到8步,测试时特意延伸到16步,也就是模型从没见过的更难题目。
结果非常有说服力。在9到16步的说谎链上,SanSi跑满循环后答对了72.6%的题目,而参数量三倍大的Qwen3.5-4B只有50.0%,也就是瞎猜的水平。在物品交换任务上,差距同样悬殊,SanSi领先将近30个百分点。
这说明了一件事:参数堆得再多,如果只有一次"看"的机会,面对需要多步推理的新难题照样会翻车。而循环给模型的是反复咀嚼同一个问题的能力,这种能力在面对陌生的深层推理时,比单纯的参数规模更管用。
这让我想起一个简单的类比。参数量更大的模型像是请来了一位知识渊博但只愿意看一眼材料就下结论的专家,他懂的东西确实多,普通问题几乎不会出错。但遇到一份需要反复核对交叉引用的复杂合同,他的渊博知识帮不上太大忙,因为问题不在于"懂不懂",而在于"有没有耐心把每一条线索理清楚"。循环模型则像是一个知识面没那么广、但愿意反复推敲的审校员,面对复杂文档时反而更靠谱。如果不给模型反复推敲的机会,再大的知识储备也救不了它在深层推理上的短板。
循环到底在模型内部改变了什么
研究团队没有止步于"准确率提高了",他们还深入追踪了答案是怎么一步步变化的。
一个关键发现是,大部分改善发生得很早。从第一次循环到第二次,准确率就跳升了8.5个百分点;第二次到第三次,又涨了3.5个百分点。到第四次循环时,已经有90.2%的答案"定型"了,后面几次循环基本不会再改变这个答案。
这意味着什么?意味着SanSi的"深思熟虑"其实大部分浓缩在前三四次循环里,后面的循环更多是在微调,甚至有时候是在做无用功。论文统计发现,从第五次循环开始,"把错的改对"和"把对的改错"这两种变化几乎势均力敌,也就是说循环已经不再带来净增益了。
更有意思的是难易程度和"定型速度"之间的关系。研究者用三个不同的单次模型分别去答同一批题,如果三个模型都答对了,说明这题简单,这类题目平均1.4次循环就定型了;如果三个模型都答错,说明这题很难,SanSi的答案平均要到第2.8次循环才稳定下来,而且往往还是错的。
这个规律挺像人做题的真实状态。一道一眼就能看懂的题,你扫一眼写完就不会再犹豫了。一道需要反复斟酌的难题,你会在心里推翻好几次答案,换来换去,但越是这种"换来换去"的题,最后蒙对的概率反而越低,因为真正的难点不在于"想没想",而在于"有没有想对"。
循环对模型的"自信心"也产生了有意思的影响。论文发现,置信度会随着循环次数上升,无论答案是对是错都会变得更自信。这意味着循环并没有教会模型真正的"自我怀疑",它只是让模型在自己已经选定的答案上更加坚定,而不是让它更擅长判断自己是不是错了。这一点在校准误差上体现得很明显:第三次循环时,模型的自信程度和实际准确率最匹配,但从第四次循环开始,自信程度会继续上涨,而准确率已经不再提升,这就导致了"过度自信"的问题重新抬头。
ECE（校准误差）：衡量模型说的"我有90%把握"是不是真的对应90%的正确率,数值越低说明模型越诚实,不会盲目自信或过度谦虚。
有一个细节特别值得展开说说。研究者专门设计了一批"证据缺失"的题目,也就是把回答问题所必需的关键信息故意删掉。理想情况下,模型遇到这种题应该识别出"我没法回答",而不是硬给一个自信的答案。结果发现,随着循环次数增加,SanSi给出"硬答案"而不是"我不知道"的比例从27.1%降到17.5%,这说明循环确实提高了模型识别"证据不够"的能力,而且这个能力几乎追平了参数量三倍大的模型。
这就像一个人在被要求回答一个问题时,第一反应往往是急着给出答案,哪怕材料不全。但如果他被要求"再想想",往往会意识到"等等,这份材料里好像缺了一个关键信息",从而改口说"这个问题现在没法回答"。循环给模型的,正是这样一个"慢下来、回头检查材料是否齐全"的机会。
把SanSi用作AI训练的裁判
这篇论文还做了一个很实用的实验:如果用SanSi给另一个AI模型的输出打分,来训练那个模型变得更好,会怎么样?
具体做法是这样的。研究者训练了一个问答生成模型,让它在一个叫2WikiMultiHopQA的多跳问答数据集上练习。这个过程中没有标准答案可以参考,唯一的"老师"就是SanSi给出的概率分数,分数越高说明答案越可能正确。
结果很有戏剧性。当用SanSi跑满8次循环后的判断作为奖励信号时,生成模型的F1分数从39.5提升到47.3,涨了7.7个百分点。用4次循环的判断,也能提升6.3个百分点。但如果只用SanSi第一次循环的判断,也就是最"直觉"的那个答案,生成模型的表现反而从39.5跌到了29.1,整整掉了10.5个百分点,比不训练还糟糕。
这个结果揭示了一个很朴素但容易被忽略的道理:如果让一个本身判断力不够的裁判去打分,被训练的一方非但学不到东西,反而可能被带偏。论文分析发现,第一次循环的判断分辨"哪个答案是对的、哪个是错的"的能力明显弱于循环多次之后,这种分辨能力用AUROC衡量时,第一次循环只有0.78,而第四次和第八次循环分别能达到0.91和0.90。裁判自己都判断不准,被训练的模型自然学不到正确的方向。
这就好比让一个刚入职、还没完全看懂评分标准的新考官去批改作文,他可能会把跑题但辞藻华丽的文章打高分,把切题但朴实无华的文章打低分。学生如果按照这种反馈去调整写作风格,只会越改越偏。而一个经验丰富、反复推敲过评分标准的老考官,给出的反馈才真正有指导意义。
研究给出的启示:循环次数的选择不是无关紧要的细节,它直接决定了这个模型能不能被信任去承担"裁判"这个角色。
这些发现是怎么验证出来的
整个研究的数据规模相当扎实。测试集包含10027道题,来自59个不同的数据来源,涵盖分类、多步推理、证据不确定性判断、长文档理解、句子对关系判断和知识问答六大类题型。训练集则有12800道题,来自20个来源。
研究团队特别注意控制了"数据泄露"的风险,确保测试题和训练题之间没有重叠的文本内容,也避免了同一组相关题目被拆到训练集和测试集两边。他们还做了大量的对照实验,包括关掉Brier评分项、改用强化学习替代监督训练、把损失只放在某几层循环上等等,逐一验证每个设计选择到底贡献了多少。
Brier评分：一种衡量概率预测准确度的打分方式,它会同时考察模型对所有选项给出的概率是否都合理,而不只是盯着正确选项那一个概率值。
值得一提的是,这套循环机制高度依赖于背后那个"本身被设计成可以循环"的基础模型Ouro。研究者专门做了反向验证:把同样的循环训练方法套用在一个从未被设计成可以循环的模型SmolLM2-1.7B上,结果完全没有提升,甚至更差。这说明循环带来的收益,一部分功劳要归于基础模型本身的预训练方式,SanSi的训练方法更像是把这种潜力"激活"出来,而不是凭空创造出来的。
写在后面
读完这篇论文,我最意外的一点其实是校准误差在第三次循环之后反而变差这件事。
直觉上你会觉得,既然模型答得越来越准,它应该也越来越清楚自己什么时候可能出错。但论文的数据明确否定了这个想法:模型变得更自信,但分辨对错的能力几乎没有同步提升。这意味着准确率和自我认知其实是两件可以脱钩的事情,一个系统完全可以在变得更强的同时,变得更不了解自己的边界在哪里。这个发现让我对"AI越强就越可信"这个朴素假设产生了一点动摇。
另一个让我反复琢磨的细节是,论文里提到大约11.7%的题目存在这样一种情况:模型在某一次循环时答对了,但跑满全部循环之后反而答错了。这意味着如果有一个"上帝视角"能替每道题选出最佳的停止时机,理论上能把准确率从71.6%一口气拉到83.3%。但研究者老老实实地说,他们目前还没有办法让模型自己判断"这道题已经想够了,该停下来了"。这个悬而未决的问题,其实比论文已经解决的部分更让我好奇:一个AI要怎样才能知道自己什么时候该停止思考?这个问题放在人身上,可能也没有标准答案。
Q&A
Q1：SanSi是什么？
A：SanSi是一种基于循环机制的类型化决策模型,它让同一组神经网络层反复处理问题多次,每次循环都输出一次选项概率,从而在不增加参数量的情况下提升复杂推理能力,属于介于"一次直觉判断"和"长篇生成式思考"之间的System 1.5思维模式。
Q2：SanSi循环次数越多效果越好吗？
A：不是。实验发现大部分提升集中在前三四次循环,从第四次循环开始准确率基本稳定,超过训练时设定的循环上限后准确率反而会下降,目前模型也没有自动判断"该停在哪一次循环"的能力。
Q3：用SanSi当裁判训练其他AI模型效果怎么样？
A：效果和循环次数直接相关。用跑满循环的SanSi打分能让被训练模型的F1分数提升7.7个百分点,但如果只用第一次循环的判断当裁判,被训练模型的表现反而会下降10.5个百分点,说明裁判本身的判断力不够会带偏训练方向。
