Token导航 LogoToken导航

AI 资讯 · 科技行者

BrowseComp测试揭示AI搜索代理64K上下文利用率不足

更新 2026-10-20科技行者正文 6847字阅读约 22分钟

2026年,一个叫BrowseComp的测试集给所有做深度搜索的AI团队上了一课。

研究者们让DeepSeek-V3.1和Claude-Sonnet-4.6这两个当时数一数二的模型,用标准的搜索代理框架去回答一批需要多轮网络检索才能解答的难题,同时给足了64K token的上下文空间,这个数字在两年前几乎相当于一整本中篇小说的长度。

结果呢,接近六成到六成五的对话,模型压根没能在用完这64K之前给出答案。

不是答错了,是没答完就被截断了。

这个数字让人愣住。如果你以为AI搜索能力的瓶颈是"想不到该搜什么"或者"读不懂搜到的内容",那这个数据会告诉你,真正卡住脖子的,是模型自己制造的信息垃圾把自己活活埋了。

这就是IterSynth这篇论文想要解决的问题,也是这篇文章想跟你聊清楚的事。

一件事憋不出答案,问题出在哪

先说清楚现在主流的深度搜索代理是怎么工作的。

大部分开源的搜索代理沿用一种叫ReAct的工作模式。

ReAct*:一种让AI交替进行"推理"和"行动"的框架,模型一边想一边搜,把搜索结果读进去接着想,如此循环,直到给出最终答案。

这套模式的问题在于,所有的推理、搜索、整理证据这些活儿,全靠同一个"脑子"、同一段不断变长的对话记录来完成。

你可以把这想象成一个人一边翻书查资料一边在同一张纸上做笔记,从来不撕掉旧的、也不重新誊抄整理,越查越乱,越乱越查不动。如果这张纸有页数限制(也就是上下文长度限制),那查到后面,纸满了,笔记也乱了,人也糊涂了,最后往往连一个像样的结论都写不出来。这不是假设,前面那个59%到65%的数字就是实测结果。

如果不这样限制会怎样?答案是模型确实能多写一会儿,但代价是"读懂"的能力反而下降了,因为有用的信息被淹没在越堆越多的搜索片段和过程性思考里,模型自己都找不到重点在哪儿。

论文的作者们把这背后的病根总结成两条。

第一条叫角色耦合,指的是同一个AI既要负责判断"接下来该查什么",又要负责"读懂查到的东西",还要负责"最后怎么下结论",三件性质完全不同的活儿全压在一个决策上,容易顾此失彼,比如提前草率下结论,或者反复搜些没用的东西。

第二条叫上下文累积,指的是随着搜索轮数增加,历史记录越滚越大,有用信息被噪音淹没,早期的错误判断还会一直遗留在对话里,持续误导后面的决策。

这两条问题,此前业界其实都各自有过应对方案,但都没能同时解决。

一类思路叫多智能体系统,简单说就是干脆用两个甚至更多不同的AI模型分工合作,一个负责查资料,一个负责整理提炼。

这就像请了两个专业分工的助手,一个专门跑腿找资料,一个专门坐办公室写报告。分工确实清楚了,但你得同时养两个人,通讯协调成本也上去了,部署起来更贵更复杂。

另一类思路叫摘要式压缩,就是让AI定期把冗长的搜索历史压缩成一份精简的记忆,减轻上下文的负担。

问题是,这个压缩摘要的动作往往是外挂的辅助模块,不是这个AI在训练里学会的行为,它自己也说不清楚"这段该留,那段该扔"的判断标准是什么。压缩得好还行,压缩得不好,可能把关键信息也一起扔了,或者把干扰信息留下了。

IterSynth想做的,就是把这两条路子的优点捏到一块儿,同时又不让缺点跟着搬过来。

一个脑子演两个角色

IterSynth的核心设计,是让同一个AI模型,通过不同的提示词,在两个角色之间来回切换:一个叫规划者,一个叫合成者。

规划者*:负责判断当前信息够不够,决定下一步该搜什么,或者已经可以给出最终答案了。

合成者*:负责把新搜到的资料读懂、提炼、和已有的知识整合起来,更新一份持续存在的"全局摘要",同时过滤掉没用的和有冲突的内容。

关键的设计在于,这两个角色共用同一套模型参数,靠不同的提示词和不同的权限来区分职责。规划者只能看到原始问题和当前这份摘要,看不到之前所有搜索的原始记录;合成者只能改写摘要,不能决定搜什么,也不能给最终答案。

这就好比一个记者去调查一个复杂的事件。他不会把所有采访录音原封不动堆在桌上边听边想边下结论,而是每次采访完就整理一份干净的案卷笔记,下次决定采访谁、问什么问题的时候,只看这份笔记,不去重新翻录音带。案卷笔记里没记下来的细节,等于对这次决策不存在。如果不这样做,记者的桌子上会堆满几十盘录音带,每次做决定前都得从头听一遍,效率崩溃不说,还容易被无关的细节带偏方向。

这个设计带来的直接好处,是每一轮的对话上下文都被结构性地控制在一个有限范围内,不管搜索轮数拉多长,规划者面对的永远是"问题加最新摘要"这两样东西,而不是不断膨胀的历史。

论文把这套流程形式化成一个数学模型,叫做双角色马尔可夫决策过程。

马尔可夫决策过程*:一种描述"在当前状态下做决策,决策带来新状态"这种循环过程的数学框架,是强化学习的基础语言。

具体来说,每一轮迭代分成两步。规划者先看当前状态(原始问题加当前摘要),决定是发起新搜索还是直接给答案;如果选择搜索,环境返回检索结果,合成者再基于这些结果生成新的摘要,覆盖旧状态。整个轨迹就这样一轮一轮走下去,直到规划者觉得信息够了,给出答案为止。

这套架构本身,论文叫作"上下文重塑",跟前面提到的多智能体方案和摘要方案做对比会更清楚一些。多智能体方案是"多套参数、角色分开",摘要方案是"单套参数、角色混在一起",而IterSynth是"单套参数、角色分开",同时拥有了两边的好处:不用多养一个模型,又实现了专业分工。

光会设计架构不够,还得会训练

架构设计好了,接下来的问题是怎么让一个AI真正学会扮演好这两个角色。

论文用的是一套两阶段的训练配方,第一阶段是监督微调打底子,第二阶段是强化学习精细打磨。

监督微调*:用人工准备好的高质量示范数据,直接教模型模仿正确的行为模式,是训练AI最基础的一种方式。

第一阶段,研究团队先用一个更强大的模型(Qwen3.5-397B-A17B)在真实的搜索环境里跑出上万条规划者-合成者交替的轨迹,再经过筛掉格式错误、幻觉推理、答案不对的样本,留下大约1万条高质量轨迹,用来训练一个80亿参数规模的Qwen3-8B模型。

这一步相当于让新人先跟着老师傅的示范录像学一遍标准动作,知道"该怎么做",但还不知道"怎么做才是最好的"。

真正的难点在第二阶段,也就是怎么用强化学习去优化这套双角色行为。

强化学习*:不靠人工示范,而是让AI自己尝试、根据结果好坏获得奖励或惩罚,从而自我优化的训练方式。

如果直接套用最普通的强化学习方法,比如只根据"最后答对没答对"给一个笼统的奖励,会遇到一个麻烦:一次完整的搜索轨迹可能要经过七八轮甚至更多的规划者-合成者互动,但奖励信号只在最后一步才出现,中间每一步具体做得好不好,根本没法单独评价。

这就好比一场足球赛踢完了,你只知道最后比分是2比1赢了,但你没法知道这场比赛里,哪一次传球是精彩的,哪一次防守是失误的,因为整场比赛只有一个笼统的"赢了"标签贴在所有球员身上。如果不去拆解每个动作的具体表现,教练根本没法告诉某个球员"你这一脚传球方向选错了",球队也就没法针对性地改进。

论文对此提出的解法叫角色解耦策略优化,简称RDPO。

角色解耦策略优化(RDPO)*:一种把最终结果的奖励和每一轮的过程评分结合起来,并且分别针对规划者和合成者单独计算"优势"的强化学习算法。

具体怎么做的呢。研究者先请一个更强的模型(Claude-4.6-Sonnet)分析20组"成功轨迹对比失败轨迹"的案例,分别针对规划者和合成者提炼出五条评价标准,比如规划者要看子问题问得精不精准、该收手的时候有没有收手,合成者要看有没有忠实整合证据、有没有过滤掉噪音。这五条标准被冻结下来,训练时由另一个模型(Gemini-2.5-flash-lite)当裁判,对每一轮的规划者输出和合成者输出分别打分。

这个过程评分再加上最终答对与否的结果奖励,组合成一个复合奖励。关键的一步在后面:计算优势值(也就是这一步表现比平均水平好多少)的时候,不是把规划者和合成者的分数混在一起算平均,而是分成两个独立的池子,规划者的分数只跟规划者的分数比,合成者的分数只跟合成者的分数比。

这就好比一场考试,语文和数学的分数不能混在一起算平均分再评价一个学生的"考试水平",因为两门课的难度、评分标准根本不是一回事。硬要混着算,可能一个数学考砸了但语文超常发挥的学生,看起来"平均还不错",实际上没人知道他数学到底哪里出了问题。分开算,才能各自看清楚谁在哪个科目上真正需要提高。

实验数据证实了这套区分是必要的。研究者做了一个对照实验,用同样的复合奖励,但不分角色而是把所有样本混在一起算优势值,结果平均分反而从纯结果奖励的48.9掉到了47.2,比不做角色区分还要差。这说明单纯加入过程评分不管用,真正起作用的是"分开计算"这个动作本身。而完整的RDPO把平均分拉到了50.7。

角色互换实验揭示了谁更难当

为了验证这两个角色是不是真的各自学到了本事,而不是架构设计本身在起作用,研究者做了一个挺有意思的消融实验:把训练好的IterSynth模型里的某一个角色,单独换成没训练过的原始Qwen3-8B,另一个角色保持训练好的状态,看看整体表现掉多少。

结果显示,换掉合成者,平均分从58.9掉到41.5,掉了17.4个百分点;换掉规划者,平均分直接掉到17.8,掉了41.1个百分点,几乎是前者的两倍多。

这个数字差距说明规划者才是更吃功夫的那个角色。

原因不难理解。如果规划者本身水平不行,提的子问题不精准,那么后面收集到的证据从一开始就是歪的,就算合成者再厉害,也很难在一堆本来就搜偏了的资料里整理出正确结论,属于"巧妇难为无米之炊"。反过来,如果合成者弱一点,但规划者足够聪明,它还能针对摘要里暴露出的漏洞,主动发起补充搜索来弥补,属于"发现问题及时纠错"。

这个发现其实也印证了RDPO设计的初衷:两个角色对最终结果的贡献程度并不对等,如果奖励信号眉毛胡子一把抓,很难让模型真正学会哪个环节该往哪个方向使劲。

数字说话:8B模型打出了什么成绩

说了这么多设计理念,最终还是得看实打实的成绩单。

论文在五个长程深度搜索测试集上做了评估,包括BrowseComp、中文版的BrowseComp-ZH、GAIA的纯文本子集,还有Xbench-DeepSearch的两个版本。

| 模型类别 | 代表模型 | 平均分 |

|---|---|---|

| 8B以下已训练模型 | MiroThinker-v1.0-8B | 46.5 |

| 8B以下已训练模型 | **IterSynth-8B** | **50.7** |

| 30B级已训练模型 | Tongyi-DR-30B | 58.2 |

| 30B级已训练模型 | MiroThinker-v1.5-30B | 67.0 |

IterSynth-8B用80亿参数拿到50.7的平均分,比此前同等规模里最强的模型高出4.2个百分点,其中BrowseComp-ZH这个中文长程搜索测试集上的表现尤其突出,达到55.4分,比之前最强的小模型高出整整15.2个百分点。

更值得琢磨的是它和更大模型的对比。虽然只有8B参数,IterSynth-8B的平均分已经超过了不少30B规模的模型,比如ReSum-30B、AgentFold-30B-A3B,也逼近IterResearch-30B和WebSailor-V2-30B,用不到三分之一的参数量做到了这些。

研究团队还做了一个对照实验,专门排除"是不是训练数据质量更好导致的这一切"这种可能性。他们用完全相同的问题、相同的教师模型、相同的训练流程,只是把双角色的IterSynth式轨迹换成单角色的传统ReAct式轨迹,训练出一个对照版本。结果显示,在监督微调阶段,IterSynth架构本身就比ReAct架构高出11.5个百分点;到了强化学习阶段,这个差距进一步扩大到12.6个百分点。这说明架构设计和训练算法各自都有真实的贡献,不是互相替代关系。

一个容易被忽略但很实际的发现是,IterSynth不需要重新训练也能用。研究者直接把这套"规划者-合成者"提示词模板套在Claude-4.5-Opus和DeepSeek-V3.1这样的现成商业模型上,不改一个参数,纯靠改变对话组织方式,平均分就比标准ReAct提示词高出4.5到5.5个百分点,在BrowseComp-ZH上甚至比ReAct高出10个百分点。这意味着这套"两个角色轮流上场"的思路,本身就是一种普适性的组织智慧,跟具体用哪个模型关系不大。

训练过程里藏着的行为演化

论文还记录了强化学习训练过程中一些挺有意思的行为变化曲线。

训练刚开始的四十多步里,平均搜索轮数从大约4轮一路涨到12轮的峰值,这说明模型一开始学到的是"多搜点总没错",拼命把搜索预算往上堆。但过了这个阶段之后,轮数又慢慢降回到7到8轮并稳定下来,说明模型逐渐学会了见好就收,不再无脑地把预算全部用完。

与此同时,模型输出的随机性(专业说法叫熵)在前四十步里显著下降,然后在一个不算太低的水平上企稳。这个细节挺重要的,因为如果熵一路降到接近于零,说明模型陷入了某种固定套路,遇到没见过的难题就没有应变能力了;维持在一个适度的水平,说明模型既学会了稳定的行为模式,又保留了应对新情况的灵活性。

还有一个反直觉的发现:即便在那些已经答对了的轨迹里,过程评分(也就是规划者和合成者各自的行为质量分)也在持续上升,从大约0.32涨到0.38。这说明结果对了不代表过程做得漂亮,RDPO这套细粒度的过程奖励,能在"反正结果是对的"这种情况下依然推着模型把每一步的动作打磨得更精细,这是只看最终结果的奖励机制根本做不到的。

一次重试就能多拿几分

论文里还提到一个挺实用的小技巧,属于不用重新训练、纯靠推理阶段调整就能拿到的收益。

研究者发现有一类失败模式很典型:规划者在某一步草率地给出了一个答案,但这个答案其实文不对题,压根没有真正回应问题。针对这种"没有真正作答"的情况,只要把这一步重新采样一次,让模型再决定一次是继续搜索还是换个答案,就能明显提升整体表现。

在Xbench-2510上这个简单的重试策略带来了9个百分点的提升,在BrowseComp和BrowseComp-ZH上也分别有5.2和6.3个百分点的提升。这个现象说明,很大一部分失败并不是模型能力不够,而是某一步的判断出了岔子,多给一次机会,模型往往能自己纠正过来。

写在后面

读完这篇论文,最让我意外的其实不是那个精巧的双角色架构,而是那个59%到65%的非完成率数字。

我们平时聊AI能力提升,习惯性地会去讨论模型"想得对不对""搜得准不准",很少有人会去认真统计一下:这个模型到底有没有机会把话说完。这是一个特别基础、又特别容易被忽视的问题,就像评价一个演讲者的口才之前,先得确认他有没有在规定时间内讲完这场演讲。

论文附录里那张失败分布图,把这个盲区摆到了台面上,也让我重新理解了"上下文窗口"这个东西的意义。它不只是一个存储空间的技术参数,它其实决定了一个AI能不能在有限的注意力预算里,把一件复杂的事从头到尾理清楚。这跟人的工作记忆是有点像的,一个人同时脑子里塞太多杂乱信息,思考质量本身就会下降,这不是靠"再想久一点"能解决的问题,得靠换一种组织信息的方式。

论文里那个把"没作答成功"的答案重试一次就能涨9个点的发现,也挺有意思的。它说明很多所谓的"能力不足",本质上是"某一步判断失误没能及时纠正",两者听起来像,但解决办法完全不同。前者需要更强的模型,后者只需要一个更宽容的重试机制。

那份论文里附的BrowseComp案例走查,规划者和合成者来回切换三轮就锁定了一个已故肯尼亚作家的完整履历,从他童年想当警察的细节,到他做缓刑官的具体年份,每一步都干净利落。看着那份不断被重写、被打磨的摘要,忽然觉得这套流程更像是一个记者写深度报道的过程,而不是一个AI在机械地翻页。

那这套"重新组织信息"的思路,会不会在写作、编程这些同样需要长时间、多轮次积累信息的任务里,也有类似的用武之地?

Q&A

Q1:IterSynth是什么?

A:IterSynth是一种让AI搜索代理交替扮演"规划者"和"合成者"两个角色的深度搜索方法,规划者负责决定下一步搜什么,合成者负责把搜到的资料整理进一份持续更新的摘要里,两个角色共用同一套模型参数,靠不同提示词区分职责。

Q2:为什么现有的AI搜索代理经常搜到一半就卡住了?

A:因为大部分代理沿用ReAct框架,把推理、搜索、整理证据全塞进一个不断膨胀的对话历史里,实测显示即便给了64K的上下文,也有59%到65%的搜索轨迹在给出答案前就把上下文用完了。

Q3:RDPO和普通的强化学习训练有什么不同?

A:RDPO把最终答对与否的结果奖励和每一轮针对规划者、合成者分别打的过程评分结合起来,并且分开计算两个角色各自的优势值,而不是混在一起算平均,这样能更精准地告诉每个角色具体哪里做得好、哪里需要改进。

文章标签AI产品大模型

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。