你有没有遇到过这种情况:手机存储满了,系统提示你清理空间,于是你开始纠结,这张三年前的聚会照片要不要删,那个很少用的App要不要卸载。
每一次选择都让你犹豫,因为你知道,删错了东西,以后想找都找不回来。
现在把这个场景搬到AI智能体身上,情况会更极端。南京大学的研究团队做了一个实验,让AI智能体在资源极度受限的情况下完成一系列任务,包括操作数据库、管理操作系统、查询知识图谱。结果让人意外:那些号称能够持续学习、积累经验的复杂记忆系统,很多时候还不如完全不带记忆的智能体表现好。
这不是危言耸听。在他们测试的知识图谱任务里,一个叫MemRL的记忆方法,成功率只有4.7%,而什么都不记的基线智能体反而能做到30.7%。复杂的记忆机制不但没帮上忙,反而成了拖累。
这件事的反常之处在于,我们通常默认"记忆越多越聪明"。小时候老师告诉我们多做题多记知识点成绩会更好,训练AI的时候我们也默认给它更多历史经验会让它决策更准。但这篇论文告诉你一个扎心的事实:当资源紧张到一定程度,记忆本身是有代价的,用错了记忆,比没有记忆更糟。
这到底是为什么?我们一点点捋。
资源紧张到底有多紧张
要理解这个问题,得先弄清楚什么叫"资源受限"。
在实际部署场景里,AI智能体很少能无限制地生成文字、无限次地和环境交互、无限量地存储和调用历史经验。手机端、嵌入式设备、按token计费的API调用,都会给这几件事划定红线。
论文里设定了一组非常苛刻的限制。以数据库任务为例,整个智能体每次任务只能生成128个token(相当于几十个英文单词或者几十个汉字),交互轮次最多3轮,记忆库里最多存64条记忆,每次检索最多只能用1条。
输出预算*:指AI智能体在完成一次任务时,所有语言模型生成的文字总量上限,包括执行任务本身的输出,也包括任何辅助性的记忆整理、反思总结等操作产生的文字,这些都要算进同一个预算里。
这意味着什么?意味着每一次决策都没有试错空间。如果你给智能体塞了一条看似相关但其实没用的记忆,它要花费本就紧张的token去读这条记忆,读完还可能被误导,然后在有限的几轮交互里根本没机会纠正回来。
这就像你参加一场限时的开卷考试,但考卷规定你只能带一页参考资料进考场,而且这一页纸还有字数上限。这时候,带错了参考资料,比完全不带参考资料更麻烦,因为你不仅浪费了翻阅它的时间,还可能被错误的信息带偏了思路,而这道题留给你纠错的时间几乎为零。如果你不带任何资料,至少你会凭基本功老老实实做题,不会被误导。这正是论文里"没有记忆的智能体有时反而打赢有记忆的智能体"这件反直觉事情背后的逻辑。
问题的核心不是"记不记得住过去的经验",而是"在只能带一样东西进考场的情况下,到底该带哪一样"。
为什么语义相关不等于有用
传统的检索增强生成(也就是常说的RAG方法)通常靠语义相似度来挑选记忆。
RAG*:Retrieval-Augmented Generation的缩写,一种给语言模型配上外部知识库的技术,做法是根据当前问题去检索相关的历史资料,然后把检索到的内容一起塞给模型参考。
这套逻辑听起来很合理:问题问的是数据库查询,那就找历史上处理过的数据库查询案例。但论文作者发现,语义相关和实际有用是两件事。一条记忆可能读起来和当前任务很像,但它存在误导性细节,或者它适用的场景和当前场景有微妙却致命的差异,结果反而把智能体带偏了。
这就好比你问朋友怎么修一个水龙头,他给你讲了一个他修过的、看起来很像的水龙头案例,但那个案例里的零件型号和你家的根本不一样,你照着他说的拆,拆到一半发现根本对不上。如果没有这个"看起来很像"的案例,你可能老老实实翻说明书,反而不会走弯路。相关性带来的是一种虚假的信心,这种信心在资源紧张、没有时间验证的情况下格外危险。
所以问题从"怎么找到相关的记忆"升级成了"怎么判断一条记忆到底值不值得被使用"。这是论文提出的核心概念,也是整篇工作的出发点。
TokenWorth:给每条记忆打一个价值分
针对这个问题,研究团队设计了一个叫TokenWorth的轻量级在线记忆框架。它的核心思路是,不再只看记忆和问题的语义相似度,而是学习一个随查询变化的"记忆价值",并且这个价值是从智能体实际执行任务的反馈里一点点学出来的,而不是预先设定好的规则。
这里有个细节值得注意:执行反馈是非常稀疏的。每个任务只会被执行一次,智能体只能知道自己选的那条记忆用了之后任务成不成功,而不知道如果换一条记忆结果会怎样。这就好比你每次只能点一道菜,事后你能评价这道菜好不好吃,但永远不知道隔壁那道菜是不是会更好。TokenWorth要在这种极其有限的反馈信号下,学出一套靠谱的打分机制。
TokenWorth的打分系统分为两层,一层负责稳,一层负责准。
第一层是一个线性基础打分器,捕捉的是那些放之四海而皆准的规律,比如一条记忆过去被用过多少次、成功率如何、创建时间有多久。这一层的更新非常保守,始终围绕一个事先设定好的先验值小幅调整,不会因为一两次偶然的成功或失败就大幅波动。
先验*:机器学习里指模型在看到任何数据之前,根据已有经验或常识设定的初始假设或起点值。在这里,先验是研究者根据直觉预设的权重初始值,比如语义相似度权重设为1.0,是最重要的参考因素。
第二层是一个叫RFM的残差修正模型,负责捕捉那些线性规律抓不住的、更细腻的、随具体问题变化的非线性模式。
RFM*:Recursive Feature Machine的缩写,一种能够自动学习哪些特征更重要的机器学习模型,它会反复根据预测误差去调整自己对各个特征的关注程度。
这两层打分器各管一摊,一个管全局稳定趋势,一个管局部细节修正,组合起来就是每条记忆针对当前问题的最终得分。
这个设计思路其实和很多领域的双轨决策系统很像。你可以想象一个经验丰富的老医生看病,他脑子里有一套从多年行医积累下来的、相对固定的诊断框架,这是稳定的那一部分,不会因为今天遇到一个特殊病例就推翻整个知识体系。但同时他也会根据眼前这个病人的具体症状、化验结果做出细微调整,这是灵活的那一部分。如果医生只靠固定框架,遇到特殊情况会误诊;如果医生完全靠临场直觉,没有稳定框架打底,诊断会飘忽不定、前后矛盾。TokenWorth想要的就是这种"框架稳、细节活"的平衡。
更巧妙的是,RFM内部本身还分成了快慢两条更新线。
快的那条叫核岭回归,用最近一小批反馈数据频繁更新,负责迅速捕捉最新出现的规律。
核岭回归*:Kernel Ridge Regression,缩写KRR,一种结合了核方法和岭回归的预测模型,能够处理特征之间复杂的非线性关系,同时通过正则化避免过拟合。
慢的那条叫AGOP,用更长时间窗口里积累的反馈,去调整判断"哪些特征更重要"这件事本身,更新频率低得多。
AGOP*:Average Gradient Outer Product的缩写,一种计算特征重要性的方法,通过统计模型预测梯度的外积平均值,来判断输入的哪些维度对结果影响更大。
研究者做了一个消融实验,很能说明这个快慢分离设计的必要性。只用基础线性打分器,成功率是64.2%;加上RFM残差学习器但不让它调整特征几何(也就是固定快慢两条线的相对重要性),成功率反而掉到63.0%;只有当AGOP的慢速特征调整机制也加进来,成功率才回升到65.0%,超过了纯基础打分器。这说明单纯加入一个更复杂的非线性模型,如果没有配套的特征重要性自适应机制,反而会帮倒忙,这也印证了前面说的"记忆决策的代价"这个道理在模型内部同样适用,复杂度本身不是免费的,用不好反而是负担。
记忆不只用在检索上,还决定了去留
TokenWorth的巧妙之处还在于,它把这套"价值打分"的逻辑,不仅用在挑选当前任务该用哪条记忆上,还用在了决定记忆库里哪些旧记忆该留、哪些该淘汰上。
这就是论文标题里说的"记忆是有代价的"。记忆库的容量是有限的(前面提到的例子里是64条),新的成功经验不断产生,旧的经验占着位置,到底谁该腾地方?
TokenWorth的做法是,对每一条候选记忆,拿最近一小批问题去试探性地给它打分,取平均值,作为它的综合价值。当记忆库满了,一条新记忆要么足够新颖(和现有记忆差异明显,能带来新的覆盖面),要么它的综合价值明显超过现有最好的记忆并且在大多数测试问题上都表现为正向价值,才有资格被收录进去。收录之后,系统会把当前记忆库里综合价值最低的那一条淘汰出局,哪怕这条刚被收录进来的新记忆本身价值也不算高。
这套机制很像一个图书馆的藏书淘汰制度。图书馆的书架空间有限,新书不断出版,旧书不断占地方。一个好的图书馆不会简单地按"先来后到"决定留谁走谁,而是会综合考虑这本书有多少人在借、是不是内容已经过时、是不是和馆藏里已有的书高度重复。如果没有这套淘汰机制,图书馆要么很快塞满了一堆没人看的旧书,要么新书进不来,馆藏质量只会越来越差。TokenWorth做的就是给AI的"记忆图书馆"配了一套智能的借阅淘汰系统,而不是简单的先进先出。
实验结果:数据说话
研究团队在三个来自LifelongAgentBench的环境里做了测试,分别是数据库交互(DB)、操作系统交互(OS)、知识图谱交互(KG),并且在本地部署(用Qwen2.5-14B-Instruct模型)和API部署(用DeepSeek-V4-Flash模型)两种情况下都做了验证。
LifelongAgentBench*:一个专门用来评测语言模型智能体持续学习能力的基准测试集,涵盖多种真实交互场景,任务按顺序到来,模拟智能体在真实世界里不断积累经验的过程。
结果非常一致,TokenWorth在全部六种"环境加部署方式"的组合里,任务成功率都是最高的。
在本地部署的数据库任务上,TokenWorth做到了65.0%的成功率,而表现最好的对比方法RAG只有33.0%,差了整整32个百分点。在API部署下的数据库任务,TokenWorth是62.2%,最强对手只有32.2%,差距同样接近30个点。在操作系统和知识图谱任务上,TokenWorth的优势幅度相对小一些,但依然稳定领先,分别领先4.8个点和6.0个点(本地部署)。
更值得关注的是,TokenWorth不仅成功率最高,用的token还最少。
在本地部署下,相比完全不带记忆的基线智能体,TokenWorth在数据库任务上节省了9.3%的输出token,在操作系统任务上节省了51.5%,在知识图谱任务上节省了18.7%。在API部署下,这三个数字分别是31.6%、58.3%、21.3%。在操作系统任务这个场景里,TokenWorth用的token数量不到基线智能体的一半,但成功率反而更高。
这组数据说明一件挺重要的事:好的记忆不是让模型多说话,而是让模型少走弯路。给智能体塞一条真正有价值的参考,它不需要靠大量试探性的生成去摸索答案,一次就能找准方向。这就好比一个新手修车工,如果有个老师傅在旁边准确地告诉他"问题出在这个零件",他几步就能修好;如果没有指点,他可能要东拆西卸试半天才能找到故障点,耗时耗力还不一定找得对。TokenWorth省下来的token,正是这种"少走弯路"省下来的。
这项研究算不上石破天惊的突破,它更像是一记警钟,提醒大家在设计AI智能体系统的时候,不要想当然地认为"功能越复杂越好""记忆越多越强"。它继承自更早的工作,比如2023年提出的Reflexion方法率先把语言智能体和基于反馈的自我反思结合了起来,还有像Mem0这样的生产级长期记忆系统,这些工作共同奠定了"智能体需要记忆"这个共识。而TokenWorth做的,是在这个共识之上泼了一盆冷水:记忆这件事本身不是免费的,尤其在资源紧张的真实部署环境里,每一次"记"和"忘"的决定都有真实代价。
论文里也提到了这个方向之后可以延伸的工作。比如Hajimiri等人在2026年的一篇工作专门研究了固定推理token预算下,在线技能和记忆模块是否还有用,和TokenWorth关注的问题高度相关。再比如BudgetMem这个工作,进一步探讨了如何根据查询内容在不同的运行时记忆预算之间动态路由。这些工作和TokenWorth放在一起看,能感受到一个正在形成的研究方向:不是一味追求智能体记得多、学得快,而是开始认真考虑"在有限资源下,怎么让每一次记忆决策都物有所值"。
Q&A
Q1:TokenWorth是什么?
A:TokenWorth是一个轻量级在线记忆框架,专门用来解决AI智能体在资源受限情况下该如何选择和管理记忆的问题。它通过学习查询相关的记忆价值分数,来决定检索哪条记忆以及长期保留哪些记忆,在数据库、操作系统、知识图谱三类任务上都取得了最高的任务成功率,同时用的输出token数量也最少。
Q2:为什么复杂的记忆系统有时候反而不如不带记忆的智能体?
A:因为在资源极度受限的情况下,每次只能检索和使用极少量的记忆,而且生成文字的额度和交互轮次都很有限。这时候如果检索到的记忆语义上看起来相关,但实际上没有帮助甚至带有误导性,智能体就会被带偏,而且没有足够的空间去纠正错误,导致表现比完全不用记忆还差。
Q3:TokenWorth是怎么判断一条记忆值不值得用的?
A:它结合了一个稳定的线性基础打分器和一个灵活的RFM非线性修正模型,从智能体实际执行任务后得到的成功或失败反馈中在线学习打分规则。这套价值评分不仅用来决定当前任务检索哪条记忆,还用来决定记忆库满了之后该淘汰哪条旧记忆、该收录哪条新记忆。







