Token导航 LogoToken导航

AI 资讯 · 科技行者

AI代码指挥工具为何让智能体更聪明

更新 2026-11-17科技行者正文 6339字阅读约 20分钟

你有没有遇到过这种情况:跟一个特别啰嗦的同事交代工作,他每做一步都要跑回来跟你汇报一遍细节,等到任务做完,你已经被海量的中间过程信息淹没了,根本记不清最初到底要解决什么问题。

现在的AI智能体,很多时候就是这个啰嗦同事。

**直接工具调用**:智能体每执行一步操作(比如查数据库、读文件),都会把结果原样塞进对话上下文里,下一步决策时还要带着这些历史记录一起思考。

这种方式在任务简单、步骤少的时候没什么问题。但一旦任务变得复杂,比如要处理几百个订单记录、跨多个数据表查询、还要做条件判断,问题就来了。原始的工具返回结果像滚雪球一样越积越多,模型的"脑子"里塞满了琐碎细节,这就是研究者说的"上下文腐化"。更麻烦的是,当上下文被撑爆之后,智能体常常会出现"编排崩溃":明明前面查到了关键信息,后面却忘了用,或者干脆开始胡乱调用工具,逻辑全乱了。

这不是危言耸听。来自香港科技大学等机构的研究团队做了一个实验,让DeepSeek V4 Pro这个强大的模型去处理一系列任务,当任务涉及的数据规模从小变大(他们称之为v0到v3四个等级,每升一级数据量翻一倍),模型用传统方式的通过率从95%一路跌到42%。几乎腰斩。这说明问题不是模型不够聪明,而是这种"把一切都塞进上下文"的工作方式本身有结构性缺陷。

那有没有更聪明的办法?

答案藏在程序员每天都在做的一件事里:写代码。

从"口头汇报"到"写程序":编程式工具调用是什么

研究团队提出了一套叫ProgAgent的训练方案,核心思路是让AI不再一步步"口头汇报"每次工具调用的结果,而是像程序员一样,用一段可执行的代码把整个任务的逻辑写出来。

**编程式工具调用**:模型生成一段Python程序,程序里调用各种工具(数据库查询、文件读取等),工具返回的结果先存在程序的变量里,只有程序员主动用print()打印出来的内容,才会进入模型能看到的对话历史。

这个区别听起来简单,但效果惊人。论文里有一个很生动的例子:假设你要统计800个未发货订单里金额超过100美元的总价值,以及哪三个地区订单最多。如果用传统方式,模型得先调用"查订单列表"拿到800个订单号,然后对每一个订单号单独调用"查订单详情",再对每个订单调用"查客户信息",光是工具调用就要上千次,每次返回的数据都原样堆进对话历史。但如果用编程式调用,整套逻辑可以写成一个for循环,里面嵌套try/except做异常处理,用if做条件过滤,最后只打印一行汇总结果:总金额、前三地区、异常订单数。

这就像你让一个新来的实习生去整理仓库的货物清单。如果你让他每搬一件货就回来汇报一次"我搬了这个、这个颜色是红的、重量是多少",你很快就会被淹没在细节里,根本记不住自己到底想知道什么。但如果你直接给他一张任务单,让他自己按逻辑清点、分类、汇总,最后只交给你一张总结报表,你的大脑负担会小得多,他的工作效率也会高得多。如果不让他自主整理,只让他机械汇报,你永远得不到一份干净的总结,反而会在信息海洋里迷失方向,这正是传统工具调用方式的致命伤。

为什么这套逻辑对AI特别管用?

研究者给出了两个关键理由。第一,现在的大语言模型在预训练阶段已经吃透了海量代码,它们天生擅长用循环、条件判断、异常处理这些编程结构来组织复杂逻辑。把工具调用包装成代码,等于是把模型最擅长的能力直接复用到了工具编排这件事上,而不是逼着它用生硬的、线性的对话轮次去模拟同样复杂的逻辑。第二,代码执行提供了一种天然的"信息筛选机制"。中间结果留在变量里,只有真正有用的汇总信息才会被打印出来进入对话历史,这从根本上控制了上下文膨胀的速度。

没有合适的训练任务,这套方法就是空中楼阁

光有一个好想法还不够。研究团队发现,之前的工作大多只把编程式调用当作推理阶段的优化技巧,很少有人系统研究过它是否适合用来训练模型。

原因也很现实:市面上几乎找不到专门为这种训练方式设计的、既复杂又可验证对错的长任务数据集。

于是团队自己动手搭建了一整套训练基础设施,叫ProgAgent,包含三个核心部分:一套能自动生成可验证长任务的流水线、一个轻量级的代码执行运行时环境、以及一套两阶段的训练方法。

**环境状态缩放**:论文里一个很巧妙的设计是,固定任务的指令、底层逻辑和工具接口不变,只是让环境里的数据量成倍增长(v0到v3,每级数据量翻倍),用这种方式精确控制任务难度,而不是靠增加工具种类或让任务逻辑本身变得更绕。

这个设计思路值得多说两句。想象你在训练一个新司机,如果你既改变路况(从市区到高速)又改变车型(从手动挡到自动挡),那司机表现变差的时候,你根本分不清是路况难还是车不会开。但如果你只固定一个变量,比如始终让他开同一辆车,只是把路程从10公里逐渐拉长到80公里,你就能清楚地看到"路程"这一个因素对他驾驶表现的影响曲线。ProgAgent正是用这种"单变量控制"的思路,让研究者能精确观测到:当环境数据规模扩大时,到底是模型的理解能力崩了,还是上下文管理崩了。

实验证实,数据规模每翻一倍,用传统方式的模型表现就显著下滑,而用编程式调用的模型几乎不受影响,通过率稳定保持在90%以上。这个对比本身就是一个强有力的证据:问题的根源真的是上下文管理方式,而不是任务逻辑本身变难了。

团队一共构建了215个任务,每个任务又实例化成四个难度等级,总共860个任务实例。这些任务分布在23个领域里,包括医疗、金融、运营等,每个任务都配有一个用Python脚本写成的自动化验证器,只要满足所有评判标准就返回"通过",否则返回"不通过"。为了保证任务真的可解,团队还设计了一个"自我测试"机制:先让一个标准解法(oracle solution)去尝试完成任务,如果连标准解法都拿不到满分,系统会自动修复任务的环境配置、工具定义或验证逻辑,直到标准解法能顺利通过。

**独立审计和难度过滤**:除了自测,团队还引入了一个独立的"审查智能体",专门检查任务指令、工具和验证器之间是否自相矛盾;再用另一个模型对每个任务跑8次采样,只保留通过率落在0到80%之间的任务,确保任务"有挑战但不是不可能"。

这套层层把关的流程,很像一场严谨的考试命题。出题人先自己做一遍题目保证有解(标准解法验证),再找同事检查题目有没有歧义或者漏洞(独立审计),最后还要找一批学生试做,把太简单(全对)或太难(全错)的题目都剔除掉(难度过滤),只留下那些"踮踮脚能够到"的题目。如果跳过这些步骤,直接把随便拼凑的任务拿去训练模型,很可能训练出一个只会应付简单题或者压根学不会任何东西的模型,整个训练过程就是在做无用功。

持久化的代码沙箱:让变量真正"活"在回合之间

光有好任务还不够,还得有地方让智能体真正去"写代码"并执行。

**PTC运行时**:论文中提到的轻量级运行时环境,核心是一个持久化的IPython内核,配合Bubblewrap这个沙箱隔离工具。每次智能体生成一段程序,这个内核就负责执行,并且关键的是,程序运行过程中产生的变量会在多个对话回合之间一直保留,不会因为一轮对话结束就清空。

这个设计解决了一个很实际的问题。想象你在用计算器做一道很长的数学题,如果每按一次等号计算器就自动清零,你每次都得把前面算过的中间结果重新手动输入一遍,效率极低而且极容易出错。而一个带内存功能的计算器允许你把中间结果存起来,后面直接调用,计算链条就能流畅地接续下去。智能体的代码执行环境也是同样的道理,如果每轮对话都要重新执行一遍前面所有的代码才能拿到之前算出的结果,那"编程式调用"节省上下文的优势就完全体现不出来了。

沙箱还设置了严格的隔离机制,防止智能体访问验证器的实现代码和标准答案,避免"作弊"。同时每个任务回合都从一个全新的环境开始,保证不同智能体之间、不同任务之间互不干扰。

两阶段训练:先模仿,再自己摸索

有了任务和运行环境,接下来就是怎么训练模型的问题了。团队采用的是一套经典但有效的组合拳:先做冷启动的监督微调(SFT),再用强化学习(RL)精调。

**冷启动SFT**:用一个更强的"教师模型"(DeepSeek V4 Pro)先生成大量示范轨迹,让待训练的模型先模仿着学一遍基本的编程式工具调用套路,这个阶段相当于让学生先跟着老师抄作业,建立起基本的解题框架。

接下来才是真正的强化学习阶段,用GSPO这种策略优化算法,让模型通过反复尝试、根据验证器给出的二元奖励(对或错)来自我调整。

这个顺序安排其实很符合人类学习的直觉。你学一项新技能,比如学做菜,如果一上来就让你自己瞎试,大概率是浪费大量食材还做不出能吃的东西。但如果先跟着师傅照着菜谱做几遍,熟悉了基本流程和手法,再放手让你自己根据反馈调整火候和调料比例,进步速度会快得多。如果跳过模仿阶段直接上强化学习,模型很可能在一开始就迷失在巨大的探索空间里,根本找不到有效的行为模式,这也是为什么论文中提到,未经训练的基础模型即便直接给它编程式调用的接口,表现也很差,必须经过系统训练才能真正发挥这种工作方式的优势。

团队还做了一个对照实验,叫做Hybrid(混合模式),让模型可以自由选择用编程式调用还是传统直接调用。结果出人意料:纯编程式调用的表现反而比灵活的混合模式更好。

研究者给出的解释是,一个统一的、单一的工具交互接口反而降低了模型的学习难度,让它能学到更通用、更一致的行为模式,而不是在两种调用方式之间来回切换、增加决策负担。这有点像学外语时,如果你一会儿说中文一会儿夹杂英文,反而容易造成语法混乱、表达生硬;而坚持用一种语言思考和表达,语感反而会养成得更快更稳。

实打实的数据:四个基准测试全面领先

说了这么多设计思路,最终还是要看实际效果。

团队用8B和14B两种规模的模型(基于Qwen3),在仅仅215个任务、860个实例的数据规模下进行训练,然后拿到四个权威基准测试上去检验,包括MCPMark、LOCA-bench、Toolathlon-Verified和MCP-Atlas。

结果相当亮眼。在MCPMark上,ProgAgent的8B和14B模型分别拿到了18.3%和29.7%的平均通过率,远超同等规模的其他已训练基线模型。在Toolathlon-Verified上,14B模型达到17.1%,而其他同规模基线模型最高也就2.8%左右。

最震撼的数据出现在LOCA-bench上。这是一个专门用来测试智能体在极端上下文增长情况下表现的基准,环境状态从8k一路扩展到64k token。在这个最苛刻的64k测试点上,ProgAgent的14B模型依然保持30.7%的通过率,而对比的同规模基线模型全部是0%。零通过率意味着这些模型在面对巨量上下文时彻底失效,而ProgAgent依然能稳住阵脚。

在MCP-Atlas上,ProgAgent-14B拿到45.6%的分数,已经可以和Claude Sonnet-4.5在直接工具调用模式下的43.8%相媲美,这是一个14B参数的开源模型追平顶级商业闭源模型的罕见案例。

**训练动态**:论文用图表展示了强化学习过程中三种模式的奖励曲线变化,直接调用模式(DTC)的奖励只从0.08缓慢爬升到0.15,而编程式调用(PTC)和混合模式分别从0.5左右起步,最终冲到0.70和0.72。

这组数字的差距非常直观地说明,同样的训练步数、同样的任务池,编程式调用能让模型学得更快、学得更好。更细致的分析显示,训练过程中编程式调用产生的工具输出token数量下降了大约20%,降到每轮不到2万个token,同时工具调用次数也只有直接调用模式的一半左右。这意味着模型不仅表现更好,运行起来也更"省力"。

一个意外发现:编程式训练的好处能"跨界"

这篇论文里最让人意外的一个发现,是关于"跨接口迁移"的实验。

研究者的疑问是:如果一个模型是用编程式调用方式训练出来的,那它学到的能力,是只在编程式调用这个特定接口下才好用,还是说这种能力是通用的,换回传统的直接调用接口依然好用?

答案是后者。

团队把用编程式调用训练出来的模型,拿到传统直接调用的评测环境下去测试,结果发现它依然比专门用直接调用方式训练出来的模型表现更好。比如在MCP-Atlas上,用编程式调用训练的14B模型,即便切换回直接调用模式评测,分数也比专门用直接调用训练的对应模型高出11.9个百分点。

这个结果的含义很值得琢磨。它说明编程式调用训练带来的提升,并不只是来自"接口本身更高效"这种表面红利,而是实实在在地提升了模型对工具编排这件事的理解能力,这种理解能力是可以迁移的,就像一个人学会了用思维导图整理复杂问题的逻辑结构后,哪怕之后被要求口头汇报,他的表达也会比从没学过这种结构化思考方式的人更清晰有条理。思维方式的训练,效果不会被表达载体锁死。

反过来,团队也测试了只给未经训练的基础模型提供编程式调用接口,会不会自动变聪明。结果是不会,通过率依然很低。

这说明仅仅是"给了一把好用的工具"是不够的,真正起作用的是通过训练让模型学会了"如何正确使用这把工具"。这也提醒我们,很多时候技术升级的瓶颈不在工具本身,而在使用工具的方法和熟练度。

当前方法还没解决的两个问题

研究团队也很坦诚地指出了ProgAgent目前存在的局限。

第一个问题出现在面对高度不可预测、非结构化内容的环境时,比如网页自动化测试工具Playwright。当智能体需要根据当前页面截图来决定下一步点击哪里时,它往往会退化回"直接调用"式的笨拙行为。数据显示,在14B模型里,有40.7%的编程式调用其实只包含一次简单的工具调用,完全没有用到循环、异常处理或者筛选打印这些本该体现编程优势的结构。这说明在信息高度不确定、需要实时感知反馈的场景里,预先规划好的程序逻辑确实有点力不从心。

第二个问题更隐蔽,叫做**静默服务器失败**:有些第三方工具服务器在返回错误信息时,没有按照标准协议规范把错误标记清楚(isError字段缺失),导致智能体的异常捕获机制根本捕捉不到这个错误,反而把错误信息当成正常的成功结果继续处理下去。

论文里专门做了一个消融实验,把这种基于服务器错误标记的检测机制关掉,结果LOCA-bench的通过率从24.3%掉到19.3%(8B模型),从38.3%掉到34.5%(14B模型)。这个发现提醒我们,智能体系统的可靠性不仅取决于模型本身聪不聪明,也严重依赖整个工具链条上每一个环节是否诚实地报告自己的状态,一环失信,全盘受累。

这两个局限其实都指向同一个更深层的问题:编程式调用擅长处理结构化、可预测的任务链条,但现实世界充满了意外和噪声,如何让这种"写程序式"的思维方式更好地兼容不确定性,是留给后续研究的真正难题。

Q&A

Q1:ProgAgent是什么?

A:ProgAgent是香港科技大学等机构提出的一套AI智能体训练方案,核心是让模型用编程式工具调用(PTC)代替传统的直接工具调用(DTC),通过写代码来编排多个工具调用,从而缓解上下文腐化和编排崩溃的问题。

Q2:编程式工具调用和直接工具调用有什么区别?

A:直接工具调用下,模型每次调用工具的原始结果都会堆进对话历史;编程式工具调用下,模型生成一段代码,中间结果存在变量里,只有主动打印出来的内容才进入对话上下文,能大幅减少无用信息堆积。

Q3:用ProgAgent训练出来的模型效果怎么样?

A:仅用215个任务训练,ProgAgent的14B模型在LOCA-bench的64k超长上下文测试中仍保持30.7%通过率,而同规模基线模型是0%;在MCP-Atlas上表现接近Claude Sonnet-4.5。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。