Token导航 LogoToken导航

AI 资讯 · 科技行者

AI智能体长链条任务反复失误的根源

更新 2026-11-21科技行者正文 5682字阅读约 18分钟

你有没有遇到过这种情况:修一个电脑故障,试了方案A没用,换成方案B还是没用,结果绕了一圈才发现,真正的问题出在最开始装系统的时候选错了一个设置。前面所有的修复尝试都是白费功夫,因为你一直在表面上打补丁,根源从来没被碰到。

现在让AI智能体去做一个长链条任务,比如写代码、配置服务器、规划一条货运航线,它面对的也是同样的困境。只不过它的记忆比你还差。

**长链条任务里,早期的一个小判断失误,可能要等几十步之后才会露出马脚。**

等到AI终于发现"哎,这里好像不对",它往往已经不记得当初是怎么走到这一步的了。它能做的只是回退一步,换个方向再试试,或者干脆推倒重来。这就是本文要讨论的论文,《Failure Recovery via Belief Updates and World Modeling for Long-Horizon Agents》想解决的核心问题。

### 当AI只会"回退重试"时,会漏掉什么

目前主流的做法是把智能体的探索过程画成一棵树。遇到失败就回退到上一个节点,换一条分支继续走。听起来挺合理,毕竟这就是人类调试代码时常用的思路。

但树状结构有一个隐藏的假设:每条分支之间互不相干。

现实往往不是这样。假设你在修一段货运航线规划代码,有27项检查,目前过了19项。你怀疑是"油耗检查缺失"导致的,试了一下发现其实这个检查早就存在,只是另一个环节出了问题,是油量在多段航程之间的累加传递算错了。这时候,如果你的智能体只会"这条路走不通就换下一条",它永远不会知道:刚才那次失败的探索,其实已经告诉我们,另一个候选方案("油耗被高估")的可能性应该跟着往下调,因为它们可能共享着同一个底层机制。

树状结构记得"发生了什么",但不会主动用这个信息去调整其他候选方案的优先级。这就好比你请了十个侦探分头调查同一个案子,每个人只汇报自己负责的那条线索,没人把线索拼在一起看谁更可信。

论文团队给这套系统起了个名字,叫BELIEFWEAVER。

信念编织者*:论文提出的核心框架名称,核心思路是维护一张持久的关系图,记录所有探索过的方向、尝试、观察结果和检查点,并让新证据能够反过来调整其他相关假设的优先级,而不只是针对当前这次尝试。

### 探索的基本单位:不是"动作",是"修复假设"

BELIEFWEAVER不是一步步盯着具体的操作,而是把整个探索过程组织成一系列可检验的假设,论文里叫做"前沿"(frontier)。

前沿*:一个可检验的修复假设,它说明了可能的故障原因、需要收集哪些证据来验证,以及用什么检查来判断修复是否成功。

每个前沿都带着一个"信念值",表示这个方向还值不值得继续追。这个信念值不是拍脑袋定的,而是通过贝叶斯式的证据累积计算出来的。

想象你在一张案件调查板上,给每个嫌疑人贴一张卡片,上面写着"目前的可信度"。新线索出现时,你不是把整张板子推倒重来,而是走到对应的卡片前,把分数往上或往下调一调。如果不这样做,会发生什么?你每次有新发现都得重新审视所有嫌疑人,效率低得吓人,而且你很容易忘记上周已经排除过的某个人,结果又把他翻出来调查一遍。

这张"案件调查板"在论文里被称为持久关系图。

持久关系图*:一个贯穿整个任务执行过程、不会因为回退操作而清空的数据结构,节点包括各个修复假设、每次尝试、观察到的结果和历史检查点,边则记录了假设之间的关联,比如哪些假设共享同一个失败机制,哪些是对另一个假设的细化版本。

关键在于"持久"这两个字。很多系统在回退到上一个检查点时,会把中间产生的所有探索记录一并清空,相当于"从头来"。BELIEFWEAVER反对这种做法,它让图结构本身跨越回退操作继续存在,这样即便智能体退回到了几步之前的状态,它仍然记得刚才那次尝试教会了它什么。

### 怎么判断一个假设该不该信

光有图还不够,图上的信念值到底怎么算出来?

论文设计了一套"证据因子"机制,本质上是给每个假设算一个赔率(odds),再转换成0到1之间的概率。这里面考虑了四类证据:

反复失败的惊讶指数:同一个假设如果已经试过还失败了,它的优先级会按失败次数打折。这个折扣系数是从真实数据里统计出来的,论文里设成0.34,意味着重试同一个失败方向,改进的概率大约只有34%左右,相比其他候选方案明显更低。

关联降权:如果某个还没试过的假设,跟一个刚失败的假设共享同一个底层机制,或者是它的子方向,这个还没试过的假设也会被连带打折。这正是前面货运航线案例里发生的事:当代码检查证实"检查项缺失"这个猜想不成立时,另一个关于油耗计算的候选项的可信度也跟着下调了。

历史目标反馈:如果某个候选方案瞄准的那部分代码,之前已经被改过还是没解决问题,这个方向也会被降权,因为它暗示"这块地方已经被动过手术,但病没好"。

探针反驳:直接运行一条诊断命令,去验证某个假设声称的"当前行为"是否属实。如果探针结果和假设的说法矛盾,直接给这个假设打上反驳标记。

这四类证据不是简单相加,是以独立的"单元因子"形式乘进赔率公式里,每个前沿的信念值是单独算出来的,不涉及前沿之间的联合概率建模。这个设计选择本身也值得琢磨:为什么不建一个更复杂的联合模型,让所有前沿互相影响?大概是因为联合建模的计算成本和设计复杂度会迅速失控,而当前这种"关系决定谁被谁的证据影响,但计算各自独立"的折中方案,在工程上更可控,也更容易调试和解释。

### AI需要一个"内心的推演者":隐式世界模型

光记住过去发生的事还不够。智能体还得知道,接下来该往哪个方向探索。

这就是论文里的另一个核心组件:隐式世界模型。

隐式世界模型*:论文简称IWM,它的作用是对每个候选修复假设进行三方面的评估:这个假设有没有证据支持,继续推进它大概能带来多大的进展,以及它和其他假设之间有什么关联。之所以叫"隐式",是因为它不去学习环境本身精确的运行规律,而是直接基于当前已有的探索上下文进行推理判断。

这个模型具体做四件事。

第一件是生成候选假设:给定任务要求、带行号的源代码、当前的诊断信息和历史尝试记录,让大模型提出一个具体的修复假设,说明哪里的实现和规格不符、可能的机制是什么、需要收集什么证据、用哪个检查项来验证。

第二件是诊断探测和证据判断:针对每个候选假设,生成一条诊断命令,在临时的环境副本里跑一遍,然后让一个独立的"证据裁判"角色对比观察结果和假设声称的"当前行为",给出一致、证据不足或矛盾三种判定之一。

第三件是前瞻性评估:用两个专家角色来估计推进某个假设大概能带来多大进展。一个叫local_code,负责顺着代码的控制流和数据流去判断这个机制是否真实存在、修复后能带来多大进展;另一个叫contract_judge,负责判断当前代码实现是否违反了任务要求里引用的那一条具体条款。两者的判断会按照一套固定的一致性检查规则合并,如果判决角色给出明确且自洽的结论,就以它为准,否则回退到代码分析角色的估计。

第四件是推断假设之间的关系,判断哪些假设是在细化同一个方向,哪些共享着同一个底层故障机制。

这四个角色合在一起,相当于给智能体配了一个"内部参谋团",参谋团不负责真正动手修复,只负责分析每个方向值不值得试,试了大概能有多大收获。

打个比方,如果一个外科医生每次动手术前都要先做CT、问病史、查血常规,这个过程确实慢,但省掉这个流程直接开刀会怎样?可能切错地方,也可能白切一刀什么问题都没解决。IWM扮演的就是术前检查的角色,它让智能体在真正执行修复动作之前,先用低成本的方式确认一下这条路值不值得走。

### 两套闸门:排名和准入资格是两件事

论文里有一个设计让我觉得挺巧妙的,它把"这个方向排第几"和"这个方向能不能现在就上手"拆成了两套独立的判断逻辑。

排名靠的是信念值减去一个失败惩罚项,信念值越高、最近没有失败记录的候选项,排名越靠前。但光排名靠前还不够上场,还得通过一道准入门槛:必须拿到"证据一致"的诊断判定,并且目标检查项还没有通过。两个条件同时满足,才会被真正交给执行器去动手修复。如果没有任何候选项同时满足这两个条件,智能体就老老实实地继续普通执行,不带着某个具体假设去冒险尝试。

这种拆分避免了一个很常见的陷阱:一个"看起来很有希望但其实证据还不够扎实"的假设被草率地付诸行动。就像招聘的时候,简历分数高(排名)和背景调查通过(准入资格)得同时满足,你才会给这个人发offer,只有简历亮眼但背调发现造假,照样不能录用。

### 实验结果:省时间,还提分

论文在三个终端类基准测试上做了实验,分别是TB2(Terminal-Bench 2.0)、TB3(Terminal-Bench 3.0)和LHTB(Long-Horizon Terminal-Bench),一共113个任务,覆盖多样化的命令行操作场景,其中LHTB专门强调更长的执行链条。

拿DeepSeek V4 Pro做教师模型测试,完整版BELIEFWEAVER相比原生的Terminus-2续写基线,整体最终得分提升了5.1个百分点,其中TB3上的提升幅度最大,达到10.1个百分点。它还同时提升了执行效率指标,意味着它不仅最终结果更好,而且更早就开始取得有效进展,不是靠最后硬凑分。

论文还做了拆解实验,一步步加组件看效果:只加"结构化续写"(支持检查点、候选执行、回退)就能带来2.9分的提升;单独加"世界模型打底"(诊断探针和执行反馈)反而让整体分数掉了1.7分;但把持久关系信念和证据门控执行机制加在打底之上,又能把分数拉高3.9分。这个结果挺有意思的,它说明光靠诊断信息本身不够,甚至可能帮倒忙,真正起作用的是让这些诊断信息被合理地组织和利用起来的那套信念更新机制。

资源消耗方面,相比原生基线,完整系统反而减少了13.2%的执行步数和17.8%的执行时间,但付出的代价是控制器调用次数从每任务不到9次涨到了33.4次。这揭示了一个很直白的权衡:多花点"思考成本"(调用IWM去评估候选方案),省下了"动手成本"(真正去执行无效操作的时间)。

### 把聪明劲儿塞进小模型里

33次控制器调用听起来不多,但如果每次调用都要跑一遍昂贵的大模型推理,成本很快就会堆起来。论文接下来做的事,是把IWM里反复出现的四个角色(探针生成、证据判断、关系推断、条款评估)蒸馏进一个更小的9B参数学生模型里。

蒸馏*:一种让小模型学习大模型(教师模型)行为的训练方法,目标是让小模型用更低的计算成本达到接近教师模型的效果。

训练分两步走。第一步是监督微调(SFT),用教师模型生成的请求回复对直接教学生模仿;第二步叫在线策略蒸馏(OPD),这一步更关键一些,它让学生自己去探索任务,产生学生自己会遇到的具体场景,再让一个"影子教师"在旁边同步回答同样的问题作为监督信号,但不替换学生自己的输出。

为什么不直接用第一步训练出来的模型就完事?因为SFT阶段学生看到的全是教师主导探索时产生的场景,这些场景和学生独立决策时真正会撞见的情况未必一致。好比你学开车的时候,教练一直握着方向盘帮你带路,你学到的更多是教练的驾驶习惯;真正自己上路了才发现,路况完全不是教练带你走的那套路线。OPD做的事,就是把方向盘真正交给学生,让它自己在真实路况里积累经验,教练只在旁边打分纠偏,不动手抢方向盘。

结果是,这个9B的学生模型最终整体得分达到58.4%,比原生基线高出9.8个百分点,甚至比它学习的那个教师模型(53.7%)还高出了4.7个百分点。这不是蒸馏常见的"学生逼近老师但略逊一筹"的剧本,而是学生在适配自己实际遇到的场景之后,反超了老师。

更进一步,论文还尝试让学生自己来生成修复假设(而不是继续依赖教师生成),这个版本把教师API的请求数砍掉了74.5%,预估成本从每任务0.550美元降到了0.100美元,降幅81.9%,同时任务得分还比对照的教师模型高出3.8个百分点。

### 这套系统也有没解决的地方

论文也诚实地指出了几处局限。IWM的预测本身可能出错,一旦判断失误,排序会错乱,白白浪费探索精力。另外,目前建模的假设之间关系种类还比较有限,现实里一个故障可能同时牵涉好几个相互纠缠的原因,现有框架可能应付不来这种复杂度。最后,实验全部在有验证器反馈、能可靠回退检查点的终端任务环境里完成,如果换到反馈稀疏或者回退机制不可靠的场景,这套方法还能不能撑得住,目前还不清楚。

论文里有个"失败案例"的记录挺值得琢磨。一个配置Nginx服务器的任务,智能体一开始怀疑是"服务没启动",本地验证的时候确实看到服务器启动成功的提示语句,但紧接着下一轮的控制器探针又连接失败了,七轮尝试下来,得分始终卡在37.5%不动。这暴露出一个很现实的问题:本地单次执行的成功,和"检查点真正被持久保留下来的状态"之间,可能存在落差。换句话说,系统有时候会被局部的、瞬时的成功信号误导,以为问题解决了,但那个成功状态可能根本没有被真正地固化保存下来。

Q&A

Q1:BELIEFWEAVER是什么?

A:BELIEFWEAVER是一个帮助AI智能体从长链条任务失败中恢复的框架。它用一张持久的关系图记录所有探索过的修复假设、尝试、观察和检查点,让新证据能反过来调整其他相关假设的优先级,而不只是针对最近一次尝试起作用,另外还配了一个隐式世界模型来评估候选修复方向的价值。

Q2:BELIEFWEAVER相比传统的树状回退探索方法有什么优势?

A:传统树状结构里各分支互不相干,一次失败只能影响当前这条分支。而BELIEFWEAVER能让一次失败的证据,反过来调整其他相关候选方案(比如共享同一故障机制的假设)的优先级,实验显示整体最终得分提升了5.1个百分点,同时执行步数和时间都有所减少。

Q3:把BELIEFWEAVER蒸馏进9B小模型后效果怎么样?

A:蒸馏后的9B学生模型比原生基线提升了9.8个百分点,甚至比教师模型本身还高出4.7分。如果再让学生自己生成修复假设,教师API成本能降低81.9%,从每任务0.55美元降到0.1美元,同时任务得分依然保持领先。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。