Token导航 LogoToken导航

AI 资讯 · Aike

华为金融智能体指南解读:128K窗口第15轮失忆

更新 2026-10-31Aike正文 1391字阅读约 5分钟3 张图片

晚上十点,你把一个跑了三个月的活交给智能体:读合同、对条款、出差异表。头三轮像模像样,第八轮它把上一份合同的金额写进了这一份,第十二轮连你要的是表格还是段落都忘了。你回头翻提示词,觉得每条都写清楚了。

一本 144 页的《金融九问:生产级智能体规模化落地行动指南》,华为技术有限公司主编,北京国家金融标准化研究院和邮储、交通、兴业、广发、上海、南京、中原、长沙九家银行参编。第六章讲上下文的那几页,账算得跟直觉相反:智能体真正的天花板不在窗口容量,在轮次。

多数人现在的做法正相反:先把能塞的资料都塞进去,塞不下就换更大的窗口,换完发现它还是忘。你以为瓶颈是装不下,其实是装太杂。

01 128K 的窗口,第 15 轮才用掉一成二

指南给了一笔很具体的账。以一个 128K 的上下文窗口为例,系统基础指令约 8000 Token,每轮对话新增约 500 Token,到第 15 轮累计输入约 1.5 万 Token。连窗口的八分之一都没用到。

按容量算,这时候还早得很。然而紧接着的结论是:智能体在后台会自动触发记忆检索、工具加载这类辅助调用,返回里还夹着大量 JSON 噪音,很容易在 15 到 20 轮时触及性能拐点,响应质量骤降。它把这件事定性成金融级智能体落地中最常见的工程瓶颈。

图片

那么"等窗口再大一点就好了"这个念头,方向是反的。吃掉预算的不是你说的话,是每一轮都在重发的常驻配置和后台调用。窗口是仓库,轮次是工人,仓库变大不代表工人不累。

02 让它变准的办法,是把 2000 字删到 200 字

同一章里有一个更别扭的口径。把约 2000 字的营销活动文案压成 200 字的关键信息,只留有效期、优惠力度、适用客群几个决策字段,准确率从 88.2% 升到 99%。砍掉九成文字,它反而更准。指南的结论是:更少但更准的信息,优于更多但含噪的信息。

它把压缩分成三档:L0 原始全量、L1 摘要折叠、L2 精准提取,按场景复杂度挑。再往外还有一步驱逐,把无关内容直接删掉,冗余文本还能再压掉一半。

图片

代价那一面也写了。手机银行的意图超过 400 个,每个描述约 500 Token,全量注入就是 20 万 Token。就算换一个装得下的模型,注意力也已经被稀释掉了。

03 明天就能改的三件事

先量常驻配置。指南那个案例里,启动时自动加载的几个引导文件占了系统提示词的 60%,精简到约 3840 Token 之后,单会话可持续轮次从 15 提到 40。先看这个比例,再谈换模型。

短期记忆按场景定长度。复杂的转账流程留 6 到 7 轮,够提取收款人、金额、账户;余额查询留 2 到 3 轮就够。别一律保留全部历史。

按维度切开,别混在一个池子里。下面这张表是它给的切法,你可以直接照着排自己的预算。

常驻:每轮都要重发,最贵
系统指令
精简到 4000 Token 以内,别把整本规章挂上去
引导文件
只留当前任务用得上的,定期清
短期:最近 N 轮
强参数流程
转账、授信这类,留 6 到 7 轮
轻查询
余额、进度这类,2 到 3 轮
长期:落盘再按需取
历史对话
折成摘要,不搬原文
关键字段
精准提取,单独存一份
无关内容
直接删,别指望它自己忽略
图片

上下文工程的终点,是学会少说

这份指南通篇在教怎么把智能体送上生产,最扎人的一句在第六章:给模型"更干净"的信息,往往比给模型"更完整"的信息更重要。你担心的那些"它不知道背景",多数时候不是背景给少了,是噪音给多了。

它没解决的是,小团队没有那套平台时该怎么攒这套纪律。

华为2026生产级智能体规模化落地行动指南1.0.pdf

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。