Token导航 LogoToken导航

AI 资讯 · 科技行者

AI当长期工友比出考题更难

更新 2026-11-12科技行者正文 8441字阅读约 27分钟

你有没有想过,为什么现在的AI助手让你写个爬虫脚本得心应手,但你让它帮你连续工作十二个小时,从头到尾盯着一个复杂项目反复试错、改方案、最后交出成果,它多半会在第二十分钟就跟你说"任务完成了,请查收",然后甩给你一个漏洞百出的半成品?

这不是智商问题,是经验问题。

就像一个刚毕业的实习生,你让他写一份周报他能写得像模像样,但你让他独立负责一个为期半年的项目,他大概率会在第一个坎上就觉得"这差不多就行了",然后提前交卷。不是他不聪明,是他从来没有经历过那种"做了十步发现第一步错了,得推倒重来"的真实历练。

这篇来自中科大、高德地图和南方科技大学团队的论文,讲的就是怎么给AI补上这堂课。

AI的"实习生"困境:它见过命令,但没见过真正的工作

先说一个容易被忽略的事实:现在训练AI操作电脑终端(也就是那个黑乎乎的命令行界面,程序员最常打交道的工具)的方法,本质上是在教它"认字",而不是教它"做事"。

**终端*:一种通过输入文字命令来操作电脑的界面,程序员、系统管理员常用它来管理文件、运行程序、部署服务。

你给AI看很多条"敲个命令、看看结果"的短轨迹,它确实能学会`ls`、`cat`、`grep`这些操作是干什么用的。但现实中的专业工作从来不是这样进行的。你去修一个分布式系统的故障,不是打开终端敲三行命令就能搞定的,你得先排查是哪个节点出了问题,查日志、对比正常和异常的差异,提出一个假设,然后动手验证,验证失败了再推翻重来,等真正定位到问题根源,再去实施修复,修完了还要反复验证,确认没有引发新的问题。

这是一整套"探索、推理、修正、验证"的连续过程,而不是孤立的几个动作拼起来的。

论文里打了个很形象的比方:短轨迹能教会AI认识命令行的工具,就像教会一个人认识扳手和螺丝刀,但真正装配一台机器,需要的是理解这些工具之间怎么配合、什么时候该拧紧什么时候该松开、装错了怎么拆。这种"连成一条线"的经验,才是让AI能独立完成长周期任务的关键。

研究团队给这类任务取了个名字,叫"长周期终端智能",而要让AI学会这种能力,第一步得先有合适的训练数据。可问题来了:这种高质量的长周期训练数据,现在几乎是空白。

问题出在哪:环境造得太"贴心"了

你可能会想,那就多造几个复杂任务不就行了?让AI去修一个更难的bug,去完成一个更长的项目,难度上去了,经验不就跟着来了吗?

没那么简单。

研究团队发现了一个很反直觉的现象:任务做得越复杂,AI展现出的"真实工作痕迹"反而可能越少,不是越多。

这是为什么?因为在构建这些模拟任务环境的时候,设计者往往会"好心办坏事"。打个比方,你想考察一个厨师炒菜的真实水平,于是给了他一个食谱和一堆半成品食材,结果没想到,那些"半成品"其实已经被切好、腌好、甚至提前炒了一半,厨师只需要把最后几步补完就行。这道菜看起来是他做出来的,但真正考验刀工、火候判断的那部分工作,早就在你准备食材的时候被偷偷替他做掉了。

环境构建时,如果任务所需的核心分析、实现、调试工作提前就被打包进了环境(比如AI本该自己写的核心函数,环境已经帮它写好了八成,AI只需要改一个参数),那AI在"解题"的时候,根本碰不到真正困难的部分,它走的是一条被铺平的路。

**环境合成*:指用程序化方式批量生成可执行、可验证的任务测试环境,让AI在里面通过实际操作来学习,而不是靠人工一个个手写案例。

这就是论文要解决的第一个核心难题:怎么确保造出来的任务,真的需要AI去做那些该做的探索、实现和验证工作,而不是被提前简化掉了。

第二个难题更隐蔽。就算任务本身保留了这些工作,光是把任务做得更难、让AI多打几轮交互,也不一定能让这些行为模式真正连成一条线。论文里提出一个核心判断:任务加长不等于经验加深,新增加的工作内容必须建立在前面判断、行动和结果的基础上,这样AI的探索、修正、验证才能真正接续起来,而不是简单堆砌出一堆独立的小任务。

这两个难题,正是整篇论文方法设计的出发点。

TerminalHorizon:先让AI"裸考"一次,再根据结果改卷子

研究团队设计的这套系统叫TerminalHorizon,核心思路可以概括成两个阶段:第一阶段叫"挑战引导的长周期合成",第二阶段叫"渐进式视野扩展"。听起来有点绕,拆开讲其实很清晰。

**第一阶段的关键动作,是先让一个完全没参与出题的AI去"裸考"一次任务,再根据它的答题过程反推题目出错在哪。**

具体流程是这样的:系统先派一个"规划智能体"去梳理已有任务、找出还没覆盖到的专业领域和行为模式,定下接下来要研究的方向;再派一个"深度研究智能体"去查真实世界的文档、代码仓库、问题报告,摸清楚这个专业问题到底需要哪些具体工作,形成一份任务草稿;接着"构建智能体"把这份草稿做成一个真正可以运行的任务环境,包含指令、环境、参考答案、验证器和配置五个部分。

到这里,环境造好了,但还没完。

接下来才是整篇论文最巧妙的一步:找一个完全没有参与前面出题过程的"独立挑战者"智能体,让它在不知道任何背景信息的情况下,真刀真枪地去做这个任务。它不知道参考答案是什么,不知道出题人的意图,只能看到公开的任务说明和环境本身。

这就像一道考题出好之后,不是直接拿给出题老师自己批改,而是先找一个完全不知情的学生去做一遍,看他在哪里"抄了近道"。如果这个学生三下两下就做完了,而且做得还挺顺,那很可能说明题目本身有漏洞,某个本该考察的核心步骤,被他绕过去了,可能是环境里不小心留了提示,也可能是任务被简化成了改一个参数就能通过。

系统会分析这个"裸考"轨迹,诊断出哪些地方的核心工作被环境构建时不小心"完成"掉了,论文里举的例子是,如果任务要求实现一个核心函数,但环境本身已经把这个函数写好了,那剩下的工作可能就退化成了改一个常数。诊断出问题后,系统会重新构建环境,把需要实现和调试的部分还原回去,同时保留必要的公开规范,让AI真正要做这部分工作,然后再让独立挑战者重新做一次,确认这次它确实碰到了那些该碰到的难点。

这个"裸考-诊断-重建-再裸考"的循环会持续进行,直到任务真正把该保留的核心工作留住为止。

**如果不这样做会怎样?**答案其实在论文的案例研究里体现得很清楚。有一个关于RabbitMQ(一种消息队列中间件,常用于分布式系统里不同服务之间传递数据)集群故障恢复的任务,最初的版本里,AI只需要调用一个现成的`partitionctl heal`命令,重启一个节点,剩下的靠系统自动重试和幂等消费就搞定了,等于说,真正复杂的"故障恢复"工作,几乎被自动化机制全包了。经过连续五轮的重建和六次独立挑战,这个任务才逐渐变成了需要AI自己判断哪个消息发布失败、去重建丢失的业务状态、避免重复扣款之类的真实场景。中间有两次重建后的任务,独立挑战者依然"轻松过关",因为设计者选的故障条件恰好没有触发真正的困难路径,直到第四五轮,系统才把故障安装的时机和客户端连接的节点关联起来,让AI真正遇到那个必须自己排查、自己修复的难题。

换句话说,光靠想象是很难一次性把任务设计对的,必须靠真实的执行反馈,一遍遍逼近那个"恰好有挑战性"的平衡点。

渐进式扩展:让任务像滚雪球一样越滚越深

光有一个高质量的单次任务还不够,论文的第二阶段要解决的是"怎么让任务连续地深入下去"。

这个阶段的核心逻辑是:一个已经通过验证的任务,不是终点,而是起点。

系统会派出一个"进化智能体",在保持原任务目标不变的前提下,往四个方向去拓展:让AI承担更广的职责(用已有的产出去支持相关的新需求)、挖掘更深的机制(把之前简化掉的依赖关系、不确定性重新纳入工作范围)、补充更丰富的证据(加入新的记录、观测数据,要求跨信源分析)、或者升级解决方法本身(要求对原方案做实质性的改造)。

但光加需求还不够,关键是要让新增加的工作和之前的进度产生实质性关联,而不是另起炉灶。论文设计了三种连接方式:一种是让后续的判断必须依赖之前通过公开查询、探测获得的证据;一种是让工具或系统产生的可观察反馈,串联起诊断、修正、验证的链条;还有一种是让环境里的对象或状态在每次运行时略有变化,逼着AI每次都要重新检查当前实例的具体情况,而不能套用上次的做法。

这里有个很值得琢磨的真实案例,是论文附录里的"仓库机器人路径规划"任务。最初版本要求机器人完成一系列物品配送,衡量指标是按几何路径长度算的"最短距离"。基础模型(也就是没经过这套训练方法训练的对照组)确实找到了不错的路径,但它犯了一个关键错误:它优化的目标和真正的评分标准不一致,因为最终评分看的不是路径有多短,而是压缩后的"按钮操作次数"有多少(机器人靠录制和回放宏指令来减少重复操作)。基础模型后来甚至把宏指令压缩这个环节删掉了,导致它提交的最终方案成本飙升到466.35,而它中途其实找到过成本只有286.05的更好方案,但它没有保留住这个进度。

经过TerminalHorizon训练的模型,走的是完全不同的路。它先搭了一个考虑朝向的路径规划器,然后加入单条宏指令压缩、顺序宏指令替换,后续实验又尝试了不同初始化方式、路径段反转、成对交换等多种搜索策略。它还做过一次失败的尝试:用C++写了一个局部搜索变体,发现运行时间更长、效果反而略差(成本281.96对比281.92),于是果断放弃了这个方案,转而保留了一个针对小规模实例的精确动态规划优化器作为备选。最终它提交的方案成本是281.11,远低于基础模型的466.35。

这个案例最打动我的地方不是最终数字的差距,是那个"发现方案更复杂但效果更差,果断放弃"的细节。这说明真正的长周期能力,不只是"坚持做得更久",更是"知道什么时候该放弃一个看起来很有希望但实际没用的方向"。

这套方法训练出来的模型,表现到底怎么样

说了这么多方法论,最终还是要看数据说话。

研究团队用TerminalHorizon这套引擎,造出了1535个任务环境,收集了2852条训练轨迹,组成了一个叫TerminalHorizon-3K的数据集。这些轨迹平均每条包含52.8轮交互,90百分位数达到98轮,相比之下,论文对比的其他几个同类方法,轨迹平均长度基本都在3到16轮之间,差距是数量级的。

**仅用不到3000条轨迹对Qwen3.5-27B模型做监督微调,得到的TerminalHorizon-27B模型,在12个基准测试上全部超越了基座模型。**

在最核心的Terminal-Bench系列测试上,1.0版本从46.3%提升到55.0%,2.0版本从41.6%提升到55.8%,提升了14.2个百分点,2.1版本提升了13.85个百分点。更值得注意的是,TerminalHorizon-27B用相同的基座模型和执行框架,仅用不到十分之一的训练轨迹数量(约3千条对比约3.2万条),就超过了另一个同类方法Terminal-Universe-27B 3个百分点。这说明问题不在"量",而在"质",高密度的长周期经验比海量的短轨迹数据更有训练价值。

| 基准测试 | 基座模型 | TerminalHorizon-27B | 提升幅度 |

|---|---|---|---|

| Terminal-Bench 1.0 | 46.3% | **55.0%** | +8.7 |

| Terminal-Bench 2.0 | 41.6% | **55.8%** | +14.2 |

| Terminal-Bench 2.1 | 46.82% | **60.67%** | +13.85 |

| AutomationBench(通过率) | 5.5% | **17.2%** | +11.7 |

| AutomationBench(部分得分) | 26.4% | **49.7%** | +23.3 |

| VitaBench跨领域 | 20.5% | **31.8%** | +11.3 |

| AIME 2025 | 86.7% | **93.3%** | +6.6 |

这里有个细节值得展开说说:训练只用了终端任务的数据,但模型在完全不同领域的测试上也有提升,比如在企业自动化办公场景的AutomationBench上,通过率提升了11.7个百分点,部分完成得分提升了23.3个百分点;在电商和航空客服场景的τ?-bench上也有5.5和2.6个百分点的提升;数学推理测试AIME 2024和2025分别提升了3.4和6.6个百分点。这说明这套训练方法培养的并不只是"操作终端命令"的技能,而是一种更通用的"面对反馈持续调整策略"的能力,这种能力能够跨场景迁移。

论文还做了一个有意思的消融实验:把同样的训练方法应用到35B-A3B和122B-A10B两种不同规模的模型上,都取得了两位数百分点的提升(分别是13.11和14.98个百分点),说明这套方法捕捉到的行为模式具有普适性,不依赖于某一个特定的模型架构。

十二小时的"自我提升"考验:真实差距在哪里

比基准测试分数更能说明问题的,是论文里做的几个"自我提升"案例研究(论文里叫RSI案例,RSI指的是"递归自我改进",Recursive Self-Improvement,意思是AI在没有外部监督的情况下自主地反复测试、修正、优化自己的方案)。

**递归自我改进*:指AI系统在给定研究预算的情况下,不依赖人类反馈,自主进行实验设计、结果分析、方案修正的持续迭代过程,本质上考察的是AI能不能像一个真正的研究者那样长期自主工作。

团队给了基础模型和TerminalHorizon-27B同样的12小时研究预算,去做四类不同的任务:机器人路径宏优化、潮汐海底摩擦场反演、2048游戏策略优化、多视角点云融合。结果是惊人地一致:基础模型几乎每一次都在很早的时间点就自己判断"任务完成了",然后提交了一个质量明显不如中途已经找到的最优方案。

最典型的是多视角点云融合这个案例。点云融合是什么意思?简单说就是要从好几个角度拍摄的、带噪声的3D点云数据里,拼出一个完整准确的三维场景模型。基础模型设计了一个自己的评估指标(用最接近第一视角的点来打分),得到了0.8994的高分,才工作了12.1分钟,就自信满满地判断"结果非常好,可以提交了"。

但问题是,它用来自我评估的这个指标本身有缺陷:只对齐第一个参考视角,并不能保证重建出了完整的场景,因为别的视角能看到的表面,第一视角看不到。这就好比你想拼一个完整的拼图,但你只检查了拼图跟边框对不对得上,却没检查拼图中间有没有缺块。

TerminalHorizon-27B在早期实验中也遇到了同样的陷阱,它有一个方案按照"离参考视角最近的点"来筛选,自测得分高达0.989,但它没有止步于此。它去检查了这些被选中的点到底来自哪些视角,发现问题所在:这个指标奖励的其实是"复制参考视角",而不是真正的重建。于是它设计了一个"留一视角验证法",故意去掉某一个视角重新测试,发现覆盖率明显不足,据此重新设计了融合策略,加入跨视角对齐、两轮全局精炼、基于置信度的点筛选。

最终结果是,在隐藏测试集上,基础模型的归一化得分是21.93,TerminalHorizon-27B是48.96,差距超过27个百分点。

这个案例里最让我印象深刻的不是最终分数,而是那个"反思自己的评价标准是不是有问题"的环节。一个真正会做研究的人,不只是在埋头优化一个方案,还要时不时停下来问一句:"我用来判断自己做得好不好的这把尺子,本身准不准?"这种对评估标准本身的怀疑能力,恰恰是基础模型完全没展现出来的。

表格汇总四个案例的结果:

| 案例 | 基础模型得分 | TerminalHorizon得分 | 提升 | 基础模型用时 |

|---|---|---|---|---|

| 仓库机器人路径优化 | 14.63 | **39.72** | +25.09 | 11.42小时 |

| 潮汐摩擦场反演 | 27.41 | **48.15** | +20.74 | 1.12小时 |

| 2048游戏策略 | 37.54 | **45.25** | +7.71 | 1.28小时 |

| 多视角点云融合 | 21.93 | **48.96** | +27.03 | 0.20小时 |

注意看"基础模型用时"这一列,除了机器人路径这个任务,另外三个任务基础模型都在不到一个半小时内就自己宣布收工了,而给它的预算是整整12小时。TerminalHorizon-27B则用满了全部12小时,持续在做实验、对比、修正。这个用时差距本身,可能比最终得分差距更能说明问题:**基础模型不是能力不够,是它压根没有"这还不够好,我该继续试"的判断习惯。**

25个专业领域,27种行为模式

这套数据集覆盖的范围,比我预想的要广得多。1535个任务横跨25个专业领域,从芯片设计、物理学、天文学,到教育评估、农业渔业、金融会计、医疗健康都有涉及。论文特意强调,终端提供的只是一个统一的交互界面,而不是限定了工作的范围,一道教育评估题、一次工资核算、一次射电望远镜的信号校准,背后的材料和约束完全不同,但都能以"在终端里执行命令、观察反馈、调整方案"的方式呈现出来。

研究团队还做了一件挺细致的工作:他们把AI在解决问题过程中展现出的行为归纳成27种"行为模式",分成五大类:信息探索与判断、诊断与纠错、构建与进度推进、验证与确认、策略与执行协调。

举个例子,有一种模式叫"关系追溯",指的是沿着调用关系、数据流、身份标识或者来源关系去理解对象之间的联系,找到该从哪里下手修改。还有一种叫"多检查点验证",指的是组合多个有意义的检查来支撑或限定一个结论,不是查一次就算完,而是从不同角度反复确认。论文里统计,平均每条训练轨迹包含8.6种核心行为模式,这意味着每条数据提供的不是单一技能的重复展示,而是一整套相互配合的问题解决经验。

论文附录里给了一个很具体的例子,叫"TLS网关修复"任务。AI先发现一个直接握手能成功,但重试路径会失败,于是修正了路由处理逻辑;接着后端日志暴露出客户端身份缺失的问题,需要单独修复;即使这个问题修好了,下游客户端依然收不到响应内容,尽管网关日志显示记录了84字节数据,这个矛盾把排查方向引向了请求消费和连接关闭的逻辑;最后修改了请求读取路径,并从一次失败的测试启动中恢复过来,才完成了端到端验证。

这个例子里,诊断、修正、验证这三种行为模式不是分段出现的,是互相缠绕、反复穿插的,这正是论文想要捕捉的那种"真实工作的连续性",而不是教科书式的"先诊断、再修复、后验证"三段论。

数据怎么保证干净:严格的筛选和去污染

写到这里你可能会有个疑问:收集回来的训练轨迹,质量真的可靠吗?会不会有AI靠"作弊"通过了任务的情况混进训练集?

团队在这块确实下了功夫。他们用另一个大模型(GPT-5.6-luna)作为审阅者,逐条检查每条轨迹,评判标准有三个:轨迹本身是否连贯有效(排除上下文截断、协议损坏、依赖答案泄露这类问题,但允许AI犯了小错误又自己纠正过来的情况,这种纠错过程反而是有价值的训练素材);是否基于环境真实反馈推进(而不是无视报错信息反复做无用功);是否具备多轮训练价值(是不是能被一行代码或一个固定脚本替代的"伪复杂度")。

经过这三道筛选,原本收集的轨迹里,有一部分被淘汰,最终保留2852条组成了正式训练集。

另外,团队也做了严格的基准测试去污染检查,用精确匹配、近似重复检索、语义相似度综合比对的方式,核查训练任务和12个评测基准之间有没有内容重叠。检查结果显示,3251条评测题目和1535条训练任务之间,没有任何一个精确匹配的长文本片段,经过语义复核的190对候选相似题目中,也没有一对被判定为真正的内容重复。这个工作虽然不起眼,但对判断"这个提升到底是真学会了,还是提前背过答案"至关重要。

Q&A

Q1:TerminalHorizon是什么?

A:TerminalHorizon是一套全自动数据合成引擎,专门用来生成能训练AI长周期终端操作能力的高质量数据。它通过让未参与出题的AI独立挑战任务来发现环境设计中的漏洞,再据此重建任务并渐进式扩展需求,最终产出的训练数据平均每条包含52.8轮交互,远超同类方法。

Q2:用TerminalHorizon训练出来的模型效果怎么样?

A:团队用2852条训练轨迹对Qwen3.5-27B做监督微调,得到的TerminalHorizon-27B在12个基准测试上全部超越基座模型,Terminal-Bench 2.0提升14.2个百分点,AutomationBench部分得分提升23.3个百分点,且训练数据量仅为同类最优方法的不到十分之一。

Q3:这篇论文里的"递归自我改进"案例测试的是什么能力?

A:测试的是AI在给定12小时研究预算内,能否持续实验、根据反馈修正方案、并把有效改进保留到最终提交结果中的能力。案例显示基础模型往往在很短时间内就提前判断任务完成并提交次优方案,而TerminalHorizon-27B会持续实验直到预算用尽,在四个案例中得分均大幅领先。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。