Token导航 LogoToken导航

AI 资讯 · 科技行者

AI Agent世界模型新方法可自我修改想法

更新 2026-10-20科技行者正文 9739字阅读约 31分钟

你可能没意识到一个问题:现在市面上让AI智能体(Agent)变得更聪明的一大类方法,叫做"世界模型"。

**世界模型**:一种试图预测环境会如何反应的AI组件,简单说就是让AI在真正行动之前,先在脑子里"模拟"一下会发生什么。

这个思路听起来很合理。就像下棋高手会在心里推演几步之后再落子,AI智能体如果能提前预判"如果我这么做,环境会给我什么反馈",似乎就能少走弯路。

但2026年9月,中国人民大学高瓴人工智能学院的一支研究团队,在一篇论文里提出了一个挺扎心的问题:既然智能体本来就能真刀真枪去执行动作、拿到真实的环境反馈,你还费劲去预测一个假的反馈干嘛?

这个问题问得直白,但背后藏着一个被很多人忽略的判断:预测环境,可能从一开始就问错了方向。

世界模型的老套路,为什么在智能体身上不灵了

先说说传统的世界模型是怎么工作的。

在游戏AI、机器人控制这些领域,世界模型的经典做法是:给定当前状态和一个动作,预测下一步的环境会变成什么样。这套逻辑在AlphaGo、Dreamer这些系统里被验证得很成功,因为棋盘的变化规律是确定的,机器人手臂移动的物理规律也是确定的。

**语言世界模型**:把这套"预测下一状态"的思路搬到大语言模型智能体上的做法,具体做法是让模型去预测工具调用之后会返回什么结果。

问题来了。当智能体在做的事情是网页搜索、终端操作、软件工程这类任务时,环境反馈本身充满了不确定性。

你搜索一个问题,搜索引擎返回什么结果,取决于当下互联网上有什么内容、搜索引擎的排序算法怎么变化,这些东西外部黑箱到了极点。你在终端里执行一条命令,返回什么内容,取决于当前文件系统状态、正在运行的进程、依赖库的版本,随时都在变。

论文里管这种特性叫"高熵、执行依赖",翻译成人话就是:这些反馈本来就很难预测,而且预测的意义也不大,因为真实的工具反馈唾手可得,何必去猜一个可能猜错的假反馈?

这就好比你要判断今天出门要不要带伞,与其花大量精力去精确预测天气,不如直接走到窗边看一眼——真实的观察比预测准得多,也快得多。如果非要预测天气而不看窗外,你得到的结果大概率还不如直接看一眼来得可靠,甚至可能因为预测错误而做出错误决策,比如没带伞却遇上暴雨。

这就是研究团队提出的核心质疑:当真实反馈唾手可得的时候,去预测一个可能是错的假反馈,图什么?

论文里还提到一个更严重的后果,叫"模拟可能引入捏造的证据,却没有改善智能体的理解和后续决策"。也就是说,如果预测的假反馈本身就是错的,反而会把智能体的判断带偏,越走越远。

真正的病根:任务状态污染

那么问题到底出在哪里?研究团队通过分析大量智能体运行轨迹,找到了一个反复出现的失败模式,他们给它起了个名字,叫"任务状态污染"(task-state contamination)。

这个说法听起来有点抽象,拆开来看其实很好理解。

智能体在探索一个陌生环境的时候,手头只有零散的部分观察结果,它得靠这些碎片信息不断更新自己对任务进展的判断、假设和计划。问题是,智能体经常会犯几种典型错误:把没有被证实的假设当成既定事实、明明收到了矛盾的反馈却还死守着过时的计划、把阶段性进展误认为任务已经完成。

这些错误一旦发生,会怎么样?

**任务状态污染**:错误的判断被写进历史记录,接下来智能体的每一步决策都基于这个被污染的历史继续推演,错误就像滚雪球一样越滚越大,最后整个任务偏离到完全错误的方向上。

论文里举了具体的例子。在搜索任务里,智能体可能会一直追着一个已经被反证的候选答案不放;在软件工程任务里,智能体可能在一段还没验证过的代码基础上继续构建新功能;在终端操作任务里,智能体可能看到了输出结果,却没有做该做的执行校验就往下走了。

这背后有一个很关键的洞察:即便智能体拿到的是真实的、没有掺假的环境观察,也不代表它就一定能正确更新自己的认知。

数据说得很清楚。研究团队标注的语料显示,在搜索领域,60%的动作被判定为"噪声"(也就是没有产生实际价值甚至方向错误的决策);在终端领域,noisy动作占25.1%,探索性动作占比最高,达到43.2%;在软件工程领域,critical动作占42.1%,noisy动作占28%。这说明智能体在长程任务中真正"走对路"的比例,远没有想象中那么高。

想象一下你在一个陌生城市找路,手机地图突然没信号了。你根据模糊记忆判断"这条街应该往左拐",走了两个路口才发现完全错了,可这时候你脑子里已经默认"我在正确的方向上",接下来的每一次转弯判断,都是基于这个错误起点做的。就算你后来路过了正确的路标,如果没有意识到自己一开始就走错了,你也不会去质疑那个已经根深蒂固的错误假设。如果没有及时纠错,这个错误会一路影响你后续所有的判断,越走越远。

这正是任务状态污染最狡猾的地方,它不是一次性的失误,而是一种持续污染后续决策的慢性病。

AEWM的解法:不预测环境,而是编辑智能体自己

想清楚了病根,研究团队提出的解法叫AEWM,全称Agent-Editing World Model(智能体编辑世界模型)。

这个名字本身就透露了设计思路的转变:不再去预测"环境会怎么反应",而是去审查和编辑"智能体自己打算怎么做"。

具体来说,AEWM包含两个核心能力,一个叫Action Judge(动作评判),一个叫State Revision(状态修订)。

**Action Judge**:在智能体真正执行某个动作之前,先判断这个即将执行的推理和动作组合,大概率会是什么效果,分为三类:CRITICAL(关键)、EXPLORATORY(探索性)、NOISY(噪声)。

CRITICAL指的是这个动作能直接补上关键证据缺口,或者完成必要的状态变更,是通往答案的直接路径上的一步。EXPLORATORY指的是这个动作虽然不在最直接的路径上,但能有效降低不确定性,或者验证一个合理的分支方向,属于有价值的探索。NOISY则是指这个动作大概率不会带来什么进展,或者会重复已知信息、偏离方向、违反约束。

这里有个细节值得多说一句:AEWM特意保留了EXPLORATORY这个中间类别,而不是简单粗暴地把动作分成"好"和"坏"两类。

这是因为一个合理的探索动作,即使没有直接解出答案,只要它排除了一个可能的错误方向,或者提供了有用的验证信息,也是有价值的。判断标准不是"这一步是否马上产生了正确答案",而是"这一步是否让后续的路径变得更清晰"。

这就好比侦探破案,你去调查一个嫌疑人,结果发现这个人有不在场证明,排除了嫌疑。这次调查没有直接抓到真凶,但它绝对不是浪费时间,因为它让接下来的排查范围缩小了。如果只用"是否抓到真凶"来评价每一步调查,那所有排除嫌疑的工作都会被误判为"无用功",实际上恰恰是这些排除工作构成了破案的骨架。

对于被判定为NOISY的决策,AEWM不会就此打住,而是启动第二个能力。

**State Revision**:针对被判定为噪声的原始推理-动作组合,基于同样的历史信息,重新生成一份更靠谱的推理和动作,替换掉原来那份。

这里有个关键点:State Revision修改的不只是接下来要执行的具体动作,还包括推理过程本身。因为这段推理会被写进智能体后续的历史记录里,成为它未来判断的依据。如果只改动作不改推理,那个错误的假设依然会留在历史里,继续污染后面的决策。

论文里用了一个数学表达式来说明AEWM和传统世界模型的本质区别。传统世界模型做的事情是:给定当前状态,预测一个观察结果。AEWM做的事情是:给定当前状态,生成一个编辑过的状态,这个编辑直接替换掉智能体准备执行的推理和动作,历史记录本身被保留,但即将发生的这一步被改写了。

再往前推一层,把Action Judge和State Revision组合到一起投入实际使用,就构成了论文里的核心机制,叫EditAct。

**EditAct**:在智能体每一步做决策的时候,先用Action Judge判断这个决策的类型。如果是CRITICAL或EXPLORATORY,就保留原方案直接去真实环境里执行;如果是NOISY,就先用State Revision生成一个替换方案,再拿这个替换方案去真实环境里执行。

这里必须强调一个设计原则:不管最终执行的是原方案还是替换方案,最后一步都是在真实环境里跑一遍,拿到的是真实反馈,而不是预测出来的假反馈。

这就是AEWM和传统世界模型最本质的分野所在。传统世界模型试图替代真实环境(预测一个假的反馈),而AEWM始终依赖真实环境(只是在决定"该让真实环境回答什么问题"这件事上做了优化)。

打个比方,这就像一个项目经理,他不会替员工去猜测客户会怎么反馈,而是在员工准备发一封可能有问题的邮件之前,拦下来审一遍,觉得措辞有问题就帮忙改一下,但最终这封邮件依然会真实发出去,等真实的客户回复。项目经理没有替代客户的角色去伪造一个回复,他做的是在关键节点上把关,让发出去的东西更靠谱。如果项目经理省略了审核这一步,直接让员工按自己的判断发邮件,出问题的概率显然会更高;但如果项目经理干脆自己伪造一个客户回复来代替真实沟通,那就更荒谬了,因为最终客户会不会满意,只有真实的回复才能告诉你。

训练这个系统:从标注数据到两阶段训练

有了设计思路,接下来的问题是怎么把AEWM训练出来。

研究团队选择了三个差异很大的应用领域来训练和验证:Search(网页搜索)、Terminal(终端操作)、Software Engineering(软件工程,简称SWE)。

数据构建分成两条线。

第一条线是Action Judge数据的合成。研究团队用一个强力的标注模型(DeepSeek-V4-Pro和GLM-5)去逐轮分析已经验证过的成功轨迹,给每一步动作打上CRITICAL、EXPLORATORY、NOISY的标签。这里有个很讲究的地方:标注的时候虽然能看到完整轨迹(包括这一步之后发生了什么),但生成训练数据的时候,必须严格限制只用这一步执行之前能看到的信息,绝对不能让"未来的答案"提前泄露到训练样本里。

这个限制背后的逻辑其实很朴素:AEWM要学的是"在不知道结果之前,怎么判断这一步靠不靠谱",如果训练数据里偷偷夹带了未来信息,那学出来的模型看起来准,实际上是作弊,遇到真实场景(不知道未来)就会失灵。

第二条线是State Revision数据的合成。流程是让一个提议智能体先尝试完成任务,用一个专门训练过的Action Judge检查点识别出哪些提议是NOISY的,再让一个修订智能体基于同样的历史信息生成替换方案,这个替换方案会被真实执行,只有当替换方案真的带来实质性进展的时候,这条数据才会被保留下来用作训练。

经过严格的规则过滤和语义质量审核(论文附录里详细列出了打分维度,包括标签是否正确、推理是否只用了执行前可见的信息、修订后的动作是否真的比原方案更好),最终的训练数据集包含52.16B token的中期训练语料,以及120K条精挑细选的监督微调样本。

训练过程分成两个阶段。第一阶段叫中期训练(Mid-Training),用大规模语料让模型建立起对三个领域交互模式的广泛认知。第二阶段叫监督微调(SFT),用60K条Action Judge样本和60K条State Revision样本,精确激活和校准模型的判断与修订能力。

这套两阶段训练的必要性,在后续的消融实验中得到了验证。数据显示,只做SFT不做中期训练,在Terminal-Bench 2.0上的得分是41.9,只做中期训练不做SFT是44.2,两个阶段都做的完整方案则达到48.3。差距虽然不算悬殊,但清晰地说明了广泛的交互知识和精确的判断校准是互补的,缺一不可。

效果验证:AEWM到底有多准

光说设计思路还不够,得看实际效果。

研究团队构建了一个专门的评测基准,叫Action Judge Benchmark,包含3000个决策样本,均匀分布在Search、Terminal、SWE三个领域。

结果相当亮眼。AEWM在这个基准上取得了70.5%的宏平均F1分数,超过表现最强的对比模型DeepSeek-V4-Pro(59.9%)整整10.6个百分点。

放到具体领域来看,AEWM在Search上是60.9%,Terminal是72.1%,SWE是77.8%,都是三个领域里最高的,分别超过各自领域最强基线10.3、10.5、13.4个百分点。

这里有个值得琢磨的现象:不同领域的提升幅度不一样,SWE领域提升最大,Search领域相对最难。这说明软件工程任务里的对错边界相对清晰(代码能不能跑通、测试能不能过),而搜索任务里信息的模糊性更高,判断一个搜索动作是不是有价值本身就更难。

分类别来看,AEWM在识别NOISY动作上的精确率达到80.3%,召回率82%,F1值81.1%,表现相当稳。相比之下,EXPLORATORY类别的精确率是57.5%,说明这个中间地带确实是最难判断的,这也印证了前面提到的,探索性动作和噪声动作之间的边界本来就模糊。

EditAct实战:三个智能体骨干,六个基准测试

判断准不准是一回事,用起来到底能不能提升实际任务表现是另一回事。

研究团队在Qwen3.5-4B、Qwen3.5-9B、Qwen3.5-35B-A3B三种不同规模的智能体骨干上做了完整测试,覆盖六个基准:BrowseComp和DeepSearchQA(搜索类)、Terminal-Bench 2.0(终端类)、SWE-Bench Pro、Doc2Repo、NL2Repo(软件工程类)。

对照组包括标准的ReAct框架(智能体直接执行每一步动作,不做任何审查)、Step-level Best@3(每一步采样三个候选动作,用一个裁判模型挑最好的)、Trajectory-level Best@3(跑三条完整轨迹,挑最好的一条提交)。

结果显示,EditAct在全部六个基准、全部三个骨干模型上,都比最强的对比方法要好。

具体来看,以Qwen3.5-35B-A3B为骨干,EditAct的平均得分是48.8分,比ReAct(42.2分)高出6.6分,比表现最好的对比方法Trajectory-level Best@3(45.6分)也高出3.2分。

有个特别有意思的对比:用EditAct加持的Qwen3.5-9B,平均得分是44.1分,居然超过了没有加持的Qwen3.5-35B-A3B(42.2分)。

这说明什么?

**这说明一个更小的模型加上正确的决策纠错机制,可以打过一个更大但没有纠错机制的模型。**

这个结果放到日常经验里其实不难理解。一个刚入职的新员工,如果身边有一个靠谱的导师随时帮他把关,纠正那些方向性的失误,他做出来的成果,可能会超过一个经验更丰富但完全没人指导、自己埋头猛干的老员工。经验能弥补一部分判断力的不足,但如果错误的方向没人拦,跑得越快反而错得越离谱。

再往下看,研究团队特意区分了"训练时见过的场景"(in-distribution)和"训练时没见过的场景"(out-of-distribution),发现EditAct在两类场景下都能带来提升,说明这套机制不是死记硬背了训练数据里的特定套路,而是真的学到了某种可迁移的判断能力。

AEWM-RFT:把纠错能力内化进智能体本身

到这里,AEWM已经证明了自己在"实时纠错"上的价值。但研究团队还想解决一个更进一步的问题:能不能让智能体自己学会这些纠错技巧,而不用每次都靠AEWM在旁边盯着?

这就是AEWM-RFT(Agent-Editing World Model based Rejection Sampling Fine-Tuning)要解决的问题。

**拒绝采样微调(RFT)**:一种训练方法,先用现有系统生成大量候选结果,只保留质量达标的部分作为新的训练数据,再用这些数据继续训练模型。

具体做法是,先用EditAct跑出一批完整的智能体交互轨迹,这些轨迹里既包含了智能体原本的决策,也包含了AEWM介入之后修订过的决策。经过质量筛选后,用这批数据去微调智能体本身,让智能体直接学习"AEWM会怎么改"这个模式。

作为对照,研究团队还设了一个Self-RFT,就是只用智能体自己独立跑出来的、没有AEWM介入的成功轨迹去微调。

关键的评测设定是:微调之后的智能体,在测试的时候完全不再有AEWM在旁边把关,就是纯粹的ReAct推理。

结果显示,AEWM-RFT在BrowseComp、Terminal-Bench 2.0、Doc2Repo三个基准上,分别比Self-RFT高出2.2、2.6、2.5分。

这个结果说明的东西挺重要:AEWM介入过程中产生的修正轨迹,包含了智能体自己很难独立发现的决策模式。这些模式一旦被提炼出来喂给智能体做微调,智能体就能把这种纠错能力真正内化成自己的一部分,即使没有外部监督也能表现得更好。

论文里还提到一个附带的观察:AEWM-RFT训练出的智能体,在BrowseComp和Terminal-Bench 2.0上完成任务需要的平均步数分别减少了30%和16.7%,效率也提升了。

这就好比一个学生长期跟着一位擅长纠错的老师做习题,老师每次都会指出他哪一步逻辑跳跃了、哪个假设没验证。如果只是让老师帮他改题(相当于EditAct在线纠错),那这个学生离开老师依然会犯同样的错误。但如果把老师的批改思路整理成一套方法论,让学生反复练习内化(相当于AEWM-RFT),学生最终能自己独立做对题目,甚至做题速度都会变快,因为他不再需要反复试错来验证自己的判断。

消融实验:拆开来看,每个部件都有它的作用

一个系统好不好,不能只看整体效果,还得知道每个组件到底贡献了多少。研究团队做了一系列细致的拆解实验。

第一组对照叫Random Gate,也就是去掉学出来的Action Judge判断,改成按照训练数据里NOISY动作的固定比例,随机决定要不要触发修订。结果这个随机版本明显不如真正学出来的判断机制,这说明AEWM学到的判断能力确实是有信息量的,不是靠概率蒙对的。

第二组对照叫Agent Resampling,保留Action Judge的判断能力,但把State Revision换成让智能体自己重新采样一次。也就是说,判断出这一步是噪声之后,不是靠专门训练的修订能力去改,而是简单粗暴地让智能体再试一次。结果这个方案也不如直接用State Revision,说明"重新生成一次"和"有针对性地修订"之间存在实质差异,给智能体多一次机会不等于给它一个更靠谱的方向。

第三组对照叫AEWM Hint,把State Revision生成的修订思路作为一段提示文字,喂给智能体让它自己重新决策,而不是直接替换。结果同样不如直接编辑状态。这个对比很有意思,它说明"直接改写"比"给建议让对方自己领悟"更有效。

这几组对照放在一起,能看出一个共同的规律:越是间接的干预方式,效果越打折扣。

这就好比修改一份文档,你可以直接在文档里改错别字(对应直接编辑状态),也可以在旁边写批注让作者自己去改(对应给提示),还可以让作者重新写一遍全文(对应重新采样)。直接修改的效率最高,因为错误点被精准定位并解决了;批注方式依赖作者自己正确理解你的意图,中间会有信息损耗;重新写一遍则完全没有针对性,好的部分可能被改掉,坏的部分也未必被改对。

此外,研究团队还测试了只修订推理不修订动作、只修订动作不修订推理这两种"半吊子"方案,结果都不如同时修订推理和动作的完整方案。这印证了前面提到的一个核心观点:推理会进入历史记录,只改动作而不改推理,错误的假设依然会遗留下来污染未来的判断。

具体案例:AEWM到底改了什么

抽象的数字说服力有限,论文附录里放了大量具体案例,这里挑几个特别有代表性的说说。

在一个搜索任务里,智能体需要找到一位校长的出生姓氏。任务过程中出现了两个互相矛盾的名字,一个叫Prevett,一个叫Robertson,智能体倾向于相信前一个消息来源,准备直接拿这个名字去做确认性搜索。AEWM识别出这是一个"把偏好当成已验证事实"的典型污染,把搜索方向改成了直接询问这两个名字之间的关系历史,最终真实反馈揭示了完整的婚姻更名链条,智能体基于这个信息给出了正确答案。

在一个终端任务里,智能体需要实现一个监听5328端口的服务,反复检查IPv4端口列表都没找到这个端口,于是开始怀疑服务根本没启动,准备去检查进程文件描述符。AEWM意识到问题可能出在观察方式本身,服务代码绑定的是IPv6地址而不是IPv4,直接把诊断命令改成了检查IPv6端口表,一下子就找到了服务确实在正常运行的证据。

在一个软件工程任务里,智能体给一个模块建了两个同名的定义文件,导致循环导入报错,它意识到有问题却提出了一个跟原来一模一样的"修复方案",本质上什么都没改。AEWM识别出这是一个命名冲突,直接删掉了多余的文件,把类定义统一放到正确的包结构里,问题随即解决。

这几个案例有一个共同特征:智能体本身并不是完全没意识到问题,很多时候它已经隐约觉得哪里不对,但因为被之前的错误假设锁死,提不出真正有效的解法。AEWM要做的,就是在这个卡壳的节点上,帮它跳出原有的思维框架,重新审视整个证据链。

这就好比一个人在解数学题时,明明发现算出来的答案不对劲,却还是习惯性地在原来的解题路径上反复检查计算失误,而不去怀疑最初那个建模思路是不是本身就错了。旁边一个人提醒他"你要不要重新想想题目到底问的是什么",往往比让他自己反复验算更有效。

写在后面

读完这篇论文,最触动我的其实不是AEWM本身有多聪明,而是研究团队敢于质疑一个已经被广泛接受的技术路线。

"世界模型应该预测环境",这个假设在过去几年的AI Agent研究里几乎是默认前提,很少有人认真追问,对于长程任务型智能体来说,这个假设是否还成立。

论文里有个细节让我印象很深:研究团队特意设计了EXPLORATORY这个中间类别,而不是简单地做二元分类。这背后其实是一种对"进展"这个概念的重新定义。很多评价体系习惯用"这一步是否直接产生了正确结果"来衡量价值,而AEWM承认了一种更微妙的价值形态,排除一个错误方向本身也是进展,哪怕它没有直接指向答案。这种对"有效探索"和"无效噪声"的精细区分,其实映射了人类专家做研究、做决策时的真实心智模型,我们并不是每一步都在直奔终点,很多时候是在系统性地缩小不确定性的范围。

另一个让我反复琢磨的地方,是任务状态污染这个概念本身。它揭示了一个挺反直觉的事实:拥有真实、准确的环境反馈,并不能自动保证智能体的认知是正确的。信息的真实性和信息的正确使用,是两件独立的事情。这让我想到人类社会里很多决策失误其实也是这样,不是因为信息不够真实,而是因为一旦某个错误假设先入为主,后续再多的真实证据都会被这个假设扭曲解读。

AEWM-RFT那部分实验结果也留下了一个开放性的问题:既然智能体能够把AEWM纠错过程中产生的模式内化成自己的能力,那这个内化的边界在哪里?如果持续用这种方式训练下去,智能体的判断力是否能逐渐逼近甚至超越那个负责纠错的AEWM本身?这个问题论文里没有直接回答,但值得继续追问下去。

Q&A

Q1:AEWM是什么?

A:AEWM全称Agent-Editing World Model,是一种新型语言世界模型。它不像传统世界模型那样预测环境会返回什么反馈,而是判断智能体即将执行的推理和动作是否靠谱,对判断为噪声的决策进行修订,然后再拿去真实环境里执行。

Q2:任务状态污染具体指什么?

A:指智能体在探索任务过程中,把未经证实的假设当成事实、坚持已被反驳的旧计划、或者把阶段性进展误认为任务完成,这些错误一旦写入历史记录,会持续扭曲后续所有决策,像滚雪球一样越滚越大。

Q3:EditAct和AEWM-RFT有什么区别?

A:EditAct是在智能体运行过程中实时介入,判断每一步决策并按需修订后再执行;AEWM-RFT则是用EditAct跑出来的高质量轨迹去微调智能体本身,让智能体不需要外部世界模型在场也能表现出类似的纠错能力。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。