Token导航 LogoToken导航

AI 资讯 · 科技行者

多智能体AI如何为任务挑选最优团队组合

更新 2026-11-21科技行者正文 5244字阅读约 17分钟

你有没有遇到过这种情况:团队接了个项目,可以让三个程序员一起干,也可以让一个程序员加两个审核员,还可以让一个数学高手单干。这几种搭配最后都能把活儿干完,但效率和准确度天差地别。

现在把"团队"换成AI智能体,把"项目"换成一道数学题,这就是这篇论文要解决的问题。

多智能体系统*:让多个AI模型像一个团队一样协作完成任务,每个AI承担不同角色,互相传递信息,最后汇总出答案。

这几年大家发现,让一堆AI智能体组队干活,往往比单个AI模型表现更好。但组队这件事本身就很有讲究:找几个人、分什么角色、谁该听谁的,这个"组队方案"在论文里被称为协作拓扑。最早的做法很粗糙,工程师们手工设计好一套固定流程,不管来什么任务都用同一套班子上。后来有人开始琢磨,能不能让AI自己根据题目来决定该找几个人、分配什么角色。

这就是一个叫做ARG-DESIGNER的系统干的事。它会读一道题,然后像拼乐高一样,一步步决定要哪些智能体、谁和谁通话,生成一张"协作关系图"。这套系统的训练方式很直接:先让很多种预设的团队配置(链式、星型、网状等等)去跑大量题目,凡是真正解出题的配置都被记录下来,组成一个"验证过的配置库",然后用这个库去教AI生成图的模型该怎么画图。

问题就出在这个"教"的过程上。

一个任务,好几种正确答案,AI却学不会哪个更好

这里有个你可能没想到的事实:这个验证库里,同一道题往往被好几种不同的团队配置都解出来了,但库里完全不记录哪个配置更好。它只是一个"能用的名单",不是一个"排行榜"。

这就好比你翻看一本菜谱合集,里面收录了一百种能把某道菜做熟的做法,但书里从来不告诉你哪种做法更好吃、更省时间。你照着学的时候,自然而然会学那个出现次数最多的做法,而不是那个真正最适合你手头食材的做法。

论文作者发现,用这个库去做继续的监督微调(也就是让AI模型反复模仿库里记录的"正确答案"),会导致一个很微妙的副作用:AI生成的团队配置会越来越集中到某几种固定搭配上,而不是针对每道题灵活调整。这种"模式坍缩"在某些任务上确实提升了分数,但在另一些任务上反而让分数下降了。论文里给出一个很扎眼的数字:在AQuA这个代数应用题数据集上,继续做监督微调之后,准确率比原始的ARG-DESIGNER系统低了12.60个百分点。

监督微调*:一种常见的AI训练方法,让模型反复模仿一批"标准答案",调整参数使自己的输出越来越接近这些答案。

这背后还有第二个麻烦。AI生成一张图是一步步来的,每一步都要看前面已经画好的部分。训练的时候,AI看到的"前面部分"永远是验证库里记录的、已经被验证成功的那种图的片段。但部署上线之后,AI自己画的图未必和库里的一模一样,它看到的"前面部分"就变成了自己画出来的、库里从没出现过的新组合。这时候AI等于在一个它从没被教过的情境里做决定,没有任何参照。

这就像你在驾校练车的时候,教练永远坐在你旁边,告诉你每个路口该怎么转。你练得滚瓜烂熟。可是一旦上路独自开车,你走到一个教练从没带你去过的路口,突然发现自己完全不知道该往哪儿打方向盘,因为你学的始终是"教练安排好的那条路",而不是"遇到任何路口该怎么判断"。如果不解决这个问题,AI每次偏离训练时见过的路径,就等于驶入了一片没有路标的荒野。

PRISM:让一个"开了天眼"的老师来纠偏

论文提出的解决方案叫PRISM(全称是"特权同胞引导的多智能体拓扑设计")。这个名字里的关键词是"特权信息",这是整篇论文最核心的巧思。

特权信息*:指的是那种在训练阶段能拿到、但在正式部署使用时根本拿不到的额外信息。打个比方,就像期末考试前老师额外给你看了一道往年的真题,让你练手,但正式考试时这道真题不会出现。

PRISM的做法分成两个阶段。第一阶段,研究者复制了一份一模一样的AI模型,叫它"老师",然后给这个老师装了一个额外的输入接口。这个接口能读到什么呢?同一道题的另一个"兄弟"配置,也就是验证库里针对同一题目的另一种成功解法。这个兄弟配置对正式部署的学生模型来说是完全不可见的,它只存在于训练这个特殊阶段。

这个额外接口在技术上用的是一种叫FiLM调制的方法,初始化的时候权重被设成零,意思是老师一开始和学生表现得一模一样,没有任何差别,这个接口只是在训练过程中被慢慢"激活"的。

FiLM调制*:一种让神经网络根据额外信息动态调整自身行为的技术手段,可以理解成给模型加了一个"旋钮",根据输入的不同信息把模型内部的计算微调到不同状态。

第二阶段才是重头戏,也是解决前面提到的"教练不在场"问题的关键。这一次,不再是让AI死记硬背验证库里的标准答案,而是先让当前的学生模型自己去生成一批团队配置方案(这叫"自主采样"),然后让那个开了天眼、能看到兄弟配置的老师,给学生自己生成的这些方案逐一打分、给出建议。学生再根据老师的建议调整自己的判断。

这个设计的巧妙之处在于,纠正发生在学生真正会走到的那些路口上,而不是纠正发生在教练预先设定好的那些路口上。还是开车的比喻:这次教练不再坐在副驾驶上念固定脚本,而是让你自己开,开到哪个路口就在那个路口给你反馈,哪怕这个路口是之前练习手册里从没写过的。如果没有这一步,学生模型永远只能学到"标准路径"上的判断,一旦偏离就没人管了。

老师打分和学生判断之间的差距,用的是一种叫KL散度的数学指标来衡量,具体用的是反向KL散度,这个选择不是随便定的,论文里专门做了对比实验。

KL散度*:衡量两个概率分布之间差异程度的一种数学工具,数值越小说明两个分布越接近。反向KL散度在这里的效果是让学生的判断更倾向于"坚决选一个最优方案",而不是把概率摊平到好几个选项上。

为什么反向KL比较好?因为一道题往往有好几种解法都算对,如果用那种"照顾所有可能性"的散度计算方式,学生模型的判断会被拉扯得很分散,相当于又走回了"模式坍缩但方向错了"的老路。反向KL则会让学生在老师给出的多个合理选项里,坚定地选中一个,而不是和稀泥。

实验结果显示,反向KL在数学类任务上全面领先,在GSM8K和SVAMP两个数学数据集上,反向KL的优势分别比另一种对比方法高出1.89和2.10个百分点。

除此之外,PRISM还保留了一条"锚点"损失,也就是学生依然要对验证库里的标准答案负一定责任,不能完全脱离轨道乱跑。这相当于给学生加了个安全绳,既鼓励它自主判断,又不让它彻底偏离已知有效的做法。

六个任务全面测试,结果说明了什么

论文在六个不同类型的基准测试上做了验证,涵盖数学推理(GSM8K、MultiArith、SVAMP、AQuA)、通用推理(MMLU)和代码生成(HumanEval),所有实验都统一跑在Qwen2.5-7B-Instruct这个大语言模型上。

下面这张表是核心结果,PRISM在全部六个任务上都拿到了最高分:

| 方法 | GSM8K | MultiArith | SVAMP | AQuA | HumanEval | MMLU |

|---|---|---|---|---|---|---|

| 单智能体 | 70.28 | 88.33 | 82.40 | 61.81 | 69.51 | 62.70 |

| ARG-DESIGNER | 79.98 | 98.83 | 92.50 | 75.20 | 79.27 | 71.98 |

| 继续监督微调 | 86.13 | 98.83 | 92.40 | 62.60 | 80.49 | 73.22 |

| **PRISM** | **88.02** | **99.17** | **93.30** | **76.38** | **82.32** | **73.94** |

你能看到最扎眼的地方还是AQuA那一列:继续监督微调把分数做成了62.60,比ARG-DESIGNER原本的75.20还低了12.60个点,而PRISM则做到了76.38,不仅追回了那个窟窿,还反超了原始基线。

值得一提的是,PRISM带来这些提升几乎不增加成本。部署阶段,PRISM平均每道题调用3.04个智能体,和ARG-DESIGNER的3.00几乎持平,调用次数从每题4.00次只涨到4.04次,涨幅不到1%,换来的却是平均两三个百分点的准确率提升。那个开天眼的老师模型,训练结束之后就被整个丢掉了,正式上线跑的学生模型,架构和原来的ARG-DESIGNER一模一样,没有多出任何推理成本。

几个有意思的验证实验

论文还做了几组很扎实的消融实验,专门用来排除"PRISM赢是不是因为别的原因"这种质疑。

第一个质疑是:会不会只是因为PRISM训练时用了更多参数、更多计算量,随便加点什么都能涨分?研究者设计了一个"打乱对照组":给老师模型接上同样的特权信息接口,同样的训练预算,但故意把兄弟配置打乱,让老师看到的是别的题目的配置,而不是真正匹配的兄弟配置。结果这个打乱版本的提升效果明显不如真正匹配的版本,说明真正起作用的不是接口本身,而是接口里装的那个"对口的信息"。

这就像你想知道一个家教是不是真的在因材施教,还是随便讲讲都有用。你找来另一个家教,让他给学生讲一套完全不相关的练习题,发现效果确实比不讲差一些,但远不如讲对口的题目好。这说明讲"对的内容"比单纯"有人讲"更重要。

第二个质疑是:会不会这种"学生自己生成、老师再打分"的训练方式本身就比传统监督微调强,跟兄弟配置到底是不是真的信息没关系?研究者又设计了一个"恒定输入对照组",老师的特权信息接口始终接收一个固定不变的输入,而不是每道题匹配的兄弟配置。结果恒定输入版本确实比纯监督微调强,说明"在学生自己走的路上纠偏"这件事本身就有价值,但PRISM用真正匹配的兄弟信息,又比恒定输入版本平均高出1.66个百分点。换句话说,这个提升是两部分叠加的结果:一部分来自训练方式的改进,另一部分来自兄弟信息本身带来的额外线索,两者缺一不可。

第三组验证更有意思,研究者直接把不同方法生成的"团队配置"单独拿出来执行,固定住其他所有变量(比如通信方式、轮数、决策方法),只看配置本身的差异。在AQuA数据集上那些监督微调模型常给出错误配置的题目上,直接执行监督微调给出的默认配置只有61.54%的准确率,而换成PRISM生成的配置,同样的题目,准确率跳到77.66%。这个差距是统计显著的,说明问题确实出在"选错团队搭配"这件事上,而不是别的什么偶然因素。

有意思的是,研究者还发现角色的排列顺序也有影响。同样三个"数学解题专家"的组合,如果按照监督微调模型原本给出的顺序排列,得分是61.54%,而换成另一种"标准排序",得分反而掉到53.85%。这说明不只是"找谁来"重要,"谁先谁后"这个顺序安排本身也在起作用,比想象中要复杂一些。

写在后面

读这篇论文最让我反复琢磨的一点,是它揭示了一个很容易被忽略的训练数据陷阱:数据集"记录了成功案例"和数据集"知道哪个成功案例更好",完全是两回事。我们很容易默认,只要数据是验证过、确实有效的,拿来训练就不会有问题。但PRISM这篇论文用一个具体数字狠狠打了这个假设一巴掌,12.60个百分点的倒退,发生在一个看起来"正确"的训练流程里。

另一个让我觉得挺妙的设计,是"特权信息训练后即焚"这个思路。很多AI训练方法总想着给模型加更多输入、更多参数,部署时也跟着变复杂。PRISM反其道而行之,训练时故意给老师开小灶,让它比学生看到更多,但学生自己从头到尾什么都没多看,上线时这个模型和原来架构完全一样。这种"训练不对等、部署对等"的思路,其实在教育领域也有类似的影子,比如老师批改作文时参考了范文,但学生考试时并不知道范文长什么样,他只是被这个过程潜移默化地训练得更会写了。

论文里也坦诚承认了局限,他们没有完全搞清楚这个方法到底是不是真的学会了"给每道题排出一个最优团队配置的优先级",还是只是碰巧让输出更多样化了。这个问题留给了未来的研究者。如果一个AI系统能自己判断什么时候该找谁组队、什么时候该让谁先发言,这件事的边界到底在哪里,可能才是真正值得继续追问下去的方向。

Q&A

Q1:PRISM是什么?

A:PRISM是一种针对多智能体系统协作拓扑生成器的训练方法,核心思路是用同一道题的另一个成功解法作为训练阶段专属的"特权信息",让一个老师模型据此给学生模型自己生成的方案打分纠偏,而部署时这个特权信息完全不会用到。

Q2:为什么继续用监督微调训练拓扑生成器会导致准确率下降?

A:因为验证库里只记录了哪些团队配置成功解出了题目,却不区分优劣,继续微调会让模型的输出越来越集中到出现次数最多的配置上,而不是针对每道题选出最合适的配置,这种模式坍缩在AQuA数据集上导致了12.60个百分点的准确率下降。

Q3:PRISM相比原来的方法增加了多少计算成本?

A:几乎没有增加,PRISM平均每道题调用3.04个智能体,原方法是3.00个,调用次数从每题4.00次涨到4.04次,涨幅不到1%,部署时用的模型架构和原方法完全一样,因为训练用的老师模型在训练结束后就被丢弃了。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。