Token导航 LogoToken导航

AI 资讯 · 科技行者

多语言模型共享符号实现事实传递

更新 2026-11-18科技行者正文 8791字阅读约 28分钟

你有没有想过,两个完全不认识的人,一个只会说中文,一个只会说英文,要怎么合作完成一件复杂的事情?

最直接的办法是找个翻译。但翻译需要提前培训,需要理解两种语言的语法规则,如果突然来了第三种语言,又得重新培训一遍翻译。

现在把这个问题搬到人工智能的世界里。

多个语言模型组队干活,这件事现在很流行。一个模型负责查资料,一个负责推理,一个负责写代码,它们各自发挥所长,拼成一个更强的系统。但这些模型之间怎么交流?大部分时候靠的是自然语言,也就是文字。你一句我一句,跟人聊天一样。

这没什么问题,直到有人想到:文字传递信息太慢太啰嗦了,能不能让模型之间直接交换"脑子里"的东西,也就是它们的内部状态(也叫隐藏状态或激活值)?这样信息传递应该更快更直接。

问题来了:不同模型的"脑回路"长得完全不一样。

模型A理解"红色"这个概念时,在它的内部空间里对应一组特定的数字向量;模型B理解同一个"红色",内部对应的向量可能完全是另一套数字,维度都不一定相同。你把A的向量直接塞给B,B根本看不懂,就像你把中文语音波形直接播放给一个只认识英文文字的人,对方听到的只是一堆噪音。

**

目前学术界解决这个难题,主要靠两条路。

**

一条是Cache-to-Cache这样的方案,通过训练一个专门的翻译模块,学会把A的内部状态映射成B能理解的形式。另一条是LatentMAS这样的方案,它要求参与的模型结构上要相似,相当于说"你们俩方言不能差太远,不然翻译不了"。

两条路都有代价。前者要额外训练翻译器,后者限制了能合作的模型范围。有没有第三条路,既不用训练翻译器,也不要求模型结构相似?

这篇来自南洋理工大学等机构的论文,给出了一个挺巧妙的答案,它的名字叫SYNC(Symbol-Indexed Neural Communication,符号索引神经通信)。核心思路可以用一句话概括:别传向量,传词。

为什么是"词",而不是向量

这个想法的灵感来自一项叫J-space的研究发现:在一个模型内部,某个具体的词(比如"红色")会对应一个相对稳定的内部表示,而且这个表示可以支撑模型回答很多不同的问题。

J-space:指语言模型内部与具体词汇相关联的一组内部表示,这些表示能支持模型完成多种推理任务,而不是只服务于单一问题。

既然每个模型内部都能为"红色"这个词找到一个属于自己的表示,那是不是可以让两个模型围绕同一批词,各自维护一份"词到向量"的对照表?发送方不需要知道接收方内部长什么样,只需要告诉接收方"这是红色"这个信息本身;接收方收到后,查自己的对照表,找到自己理解的"红色"对应哪个向量,自己把这个事实写进自己的脑子里。

这就好比两个国家做跨境贸易,不需要统一货币,只需要有个共同认可的商品清单。卖家说"我要卖这个编号37的货物",买家查自己的价目表,知道编号37对应什么商品,该付多少钱。整个过程里,没有人需要理解对方国家的货币体系,只需要对上编号就行。

如果不这样设计,而是让两国强行统一货币会怎样?那就相当于逼迫一方放弃自己的记账系统,代价极高,而且一旦加入第三个国家,整套系统又要推倒重来。SYNC的做法恰恰避开了这个代价,219个词构成的共享清单(论文里叫inventory,也就是符号词表)成了这个"商品编号对照表"。

inventory(符号词表):论文中预先定义的221个英文单词组成的固定列表,每个词对应一个唯一编号。发送方和接收方都共享这份词表,但各自独立维护"词到内部向量"的映射关系。

发送方怎么选词,又怎么"看不见"问题

SYNC设计里有个挺讲究的细节:发送方只能看到私密信息(比如两个糖果各自的颜色和味道),完全看不到接收方最终会被问什么问题。

这个限制乍一看有点反常识。既然发送方不知道要考什么,它怎么知道该传哪些事实?

但这恰恰是这篇论文想验证的核心能力:选择性事实使用。研究者设计了一个很巧妙的测试场景。想象有两颗糖果,A是红色甜味,B是绿色酸味。现在把两颗糖果的颜色互换,A变绿色甜味,B变红色酸味。接收方要同时回答"哪个是甜的"和"哪个是红的",并且在互换前后都要答对,一共四个答案全对才算成功。

这个设计的巧妙之处在于,它排除了"蒙对"的可能。如果接收方只是机械地记住某个答案,不管场景怎么变都给同一个答案,那互换颜色之后它肯定会答错。只有真正理解并正确使用传来的事实,才能四个问题全部答对。

发送方的工作,是用一个提示词(prompt)驱动的语言模型,阅读私密描述,从221个词的清单里,给每个物体挑出最多四个最贴切的词,然后把这些词的编号(不是词本身)连同物体归属,打包发出去。

研究团队测试了三种不同的发送方模型(Gemma-4-26B-A4B、Qwen3.6-27B、gpt-oss-20b),每一种都要先通过一个"消息质量检测":生成的信息能不能被正确解析、该传的事实有没有漏传、有没有传错对象。三个发送方全部通过了这道质量关卡,解析成功率都在98%以上,事实召回率89%到98%不等。

接收方怎么把"词"变成自己的理解

发送方把编号传过去之后,真正有意思的部分在接收方这边。

接收方要先给每个词建立一份专属词典,这个过程叫做方向拟合(fitting directions)。具体做法是:给一个中性的占位符(论文里用的词是unknown),比如先让模型处理"A是unknown的",记录模型内部某一层的状态;再让模型处理"A是红色的",记录同样位置的状态。两者相减,就得到了这个模型理解"红色"这个词时,相对于"什么都不知道"状态的变化方向。

这个过程重复12次,每次用不同的上下文(比如红色出现在不同物体、不同位置),把12次结果取平均,就是这个词最终的"方向向量"。

residual stream(残差流):Transformer类模型内部层与层之间传递信息的主通道,每一层的输出会累加到这条流上,可以理解为模型思考过程中不断被修改的"草稿纸"。

这里有个特别值得琢磨的设计:这12次拟合用的全是通用的、公开的上下文模板,不包含任何具体场景、问题或答案。换句话说,接收方的词典建立过程,和它后续要回答的具体任务是完全脱钩的,这份词典建一次就能反复复用,不需要为每个新场景重新训练。

这就好比一个译员提前背熟了一本通用词典,不管后面客户要翻译什么内容,合同也好,菜单也好,都不用重新学单词,直接查词典现成的释义就行。如果不预先建好这份通用词典,而是每次来了新任务都现学现卖,那接收方每遇到一个新场景就要重新计算一遍每个词的含义,不仅慢,而且每次计算出来的结果还可能因为场景不同而漂移不定,四个答案全对的稳定性根本无从谈起。

有了词典之后,接收方要做的就是"写入":把发送方传来的词对应的向量,叠加到模型内部专门预留的位置上。这些位置原本是占位符状态(放着unknown),叠加之后就携带了具体的事实信息。写入之后的状态被保存成一份缓存(key-value cache),每个问题都基于这份缓存的独立拷贝来回答,不再重复写入。

key-value cache(键值缓存):Transformer模型推理时用于保存之前计算结果的缓存结构,后续生成可以直接复用这些结果,不需要从头重新计算。

写在哪一层,决定了能不能用

如果说前面讲的是SYNC的骨架,那接下来这个发现,可能是整篇论文里最让人意外的部分。

研究者最初选择在模型的中间层(相对深度0.4到0.6)写入事实,这是一个相对自然的选择,毕竟中间层通常被认为承载了比较丰富的语义信息。但实验结果给出了一记响亮的耳光:在中间层写入,四个受试的开发阶段接收方里,只有一个模型表现正常,其余三个的成功率低到几乎为零,GLM-4-9B甚至只有0.5%。

这个数字意味着什么?意味着一千次尝试里,接收方差不多只有5次能把两个问题、两个世界的四个答案全部答对。信息明明传过去了,接收方却几乎用不上。

研究者没有就此放弃,转而尝试在更早的层(相对深度0.2)写入同样的信息。结果一下子翻天覆地:GLM-4-9B从0.5%跳到了74.3%,另外两个原本失败的模型也分别冲到了97%以上。

relative depth(相对深度):将模型的层编号除以总层数得到的比例值,用来统一描述不同层数模型中"写入层"所处的相对位置,方便跨模型比较。

为什么写在哪一层差这么多?论文给出了一组诊断实验,挺有说服力。研究者把早层写入的结果保留,但把更深层的键值缓存强制替换回"什么都没写"的中性状态,看看效果会不会消失。结果发现,如果在相对深度0.5之前就做替换,效果立刻清零或大幅下降;如果替换发生在0.65之后,影响已经很小了。

这说明后续的问答过程,其实需要在比较低的层里就能"读到"写进去的事实。如果写入点太靠后,模型后面没有足够的计算层数来处理、整合、传递这个信息,相当于你把一条重要指令写在了会议快结束时的最后一页纸上,与会者根本没时间消化就散会了。

这个类比可以再往深里想一层。如果不是在会议纪要的第一页写明重点,而是等到散会前最后一分钟才匆忙补充,后果是什么?与会者可能已经形成了自己的结论,后面的补充信息要么来不及被纳入决策,要么和已经形成的思路产生冲突,最终被忽略。模型内部的信息处理也是类似的道理:早期层负责搭建理解的框架,如果事实没能在框架搭建阶段就注入进去,后面再硬塞,模型的"思考流程"已经定型,很难再临时调整。

更有意思的是,研究者还做了一个"是否读懂了符号"的检测。他们发现,即便在深层写入导致任务失败,模型依然能准确识别出"这里写的是哪个词"——准确率高达99.8%以上。这说明失败的原因不是模型读不出符号,而是模型没能建立起符号和具体物体之间的绑定关系。知道这里写了"红色",但不知道"红色"是属于A还是属于B。

这个区分很关键,它告诉我们一个常见的直觉误区:能识别信息,不等于能正确使用信息。就像你能听清楚电话里对方报出的一串数字,但如果没有上下文告诉你这串数字是银行卡号还是快递单号,你照样不知道该拿它做什么。

一个不用跑任务就能预测结果的探针

早层有效、晚层失效,这个规律发现之后,研究者又往前走了一步:能不能不用真正跑一遍完整任务,就提前判断某个模型在某一层写入是否有效?

这就是论文里提出的绑定探针(binding probe)。

binding probe(绑定探针):一种不依赖具体任务场景的诊断工具,通过向模型写入两个符号并询问"哪个物体对应哪个符号",用回答的准确率来预测该层是否适合承载事实写入,整个过程不使用任何真实的任务数据或答案。

这个探针的设计思路很直接:既然深层写入失败的根源是"绑定关系"没建立起来,那就直接测这个绑定关系。给模型两个虚构物体,各写入一个符号,然后问"哪个物体带着这个符号",用110对随机配对的词汇反复测试,算出一个准确率分数。

研究者先在四个开发阶段的接收方身上,用这个探针分数和真实任务表现之间找了一个分界线:0.786。高于这个值的层,预测为可用;低于的,预测为不可用。

真正的考验在于,这套规则能不能推广到全新的、从没被用来调参的模型身上。研究团队把这套规则应用到九个全新的接收方模型(覆盖五个不同的模型家族)上,一共要预测45个"层-深度"组合,而且是在真正跑任务之前就把预测结果锁定下来的。

结果:45个预测全部命中。

只用深度这一个指标来预测(层数越浅越好用)的简单规则,平衡准确率只有0.87,比探针的方法低了0.13。差距主要体现在一些临界情况上,比如某个27B参数的模型在相对深度0.5时依然可用,但另一个同样27B规模的模型在这个深度就不行了,光看"深度"这一个数字是分不出来的,探针却能分辨。

这就像体检时单纯量体重判断健康状况,体重一样的两个人,一个代谢正常一个有隐疾,光靠体重这一个指标根本分不出来,得结合更细致的生化指标才行。绑定探针相当于给每个模型做了一次更精准的"体检",而不是只看表面的层数深度。

跨家族、跨场景的验证:数字说话

设定好写入位置之后,研究团队做的最硬核的一件事,是把这套写入方案彻底冻结,不再做任何调整,然后拿去和全新的发送方、接收方组合跑。

三个新发送方,九个从没在调参阶段出现过的新接收方,覆盖Qwen3.5、Qwen3.6、Granite、OLMo、gpt-oss、Mistral等五个家族,组成25对跨模型组合,在572个全新测试场景上验证。

结果是:内部写入方式的四答案全对成功率落在72.0%到98.3%之间,具体数据见下表(部分代表性数据):

| 接收方 | 规模 | Gemma-4发送方(内部) | Gemma-4发送方(文本) |

|---|---|---|---|

| Qwen3.5-2B | 2B | 81.2 | 86.7 |

| Qwen3.5-9B | 9B | 93.4 | 94.7 |

| **Qwen3.5-27B** | 27B | **98.3** | 98.6 |

| Qwen3.6-27B | 27B | 97.7 | 98.2 |

| OLMo-3 | 7B | 76.0 | 87.8 |

| Mistral-Small-3.2 | 24B | 96.9 | 96.7 |

作为对照,研究者还设计了一个破坏性实验:把每个符号强行指向另一个毫不相关符号的方向向量,保持消息字节数和实际修改幅度不变。如果写入真的携带了有效信息,这种"指鹿为马"的操作应该让任务彻底失败。实验证实了这一点:所有情况下,成功率都跌到4.4%以下。

这个对照实验非常关键,它排除了一种可能的质疑:会不会只是因为模型内部被"扰动"了,随便改一下就能让回答发生变化,跟传递的具体信息无关?答案是否定的。符号指错方向之后,扰动幅度完全一样,但效果荡然无存,这说明起作用的确实是信息内容本身,不是单纯的数值扰动。

更值得注意的是,两个参数规模最大的接收方(27B级别),它们的内部写入成功率已经和直接读取文本消息几乎持平。这暗示着,规模越大的模型,越能充分利用这种非文本形式传递的事实,这和直觉上"大模型理解力更强"是吻合的,但能在实验数据上得到印证,还是让人挺意外的。

换个场景、换个任务,还能用吗

光在原来的实验设置里表现好还不够,研究者接着测试了这套方案能不能扛住场景的变化。

第一类测试是换布局。原来每个物体的事实固定写在前两个槽位,现在改成写在最后两个槽位且顺序颠倒;或者把整个消息的格式模板、分隔符、物体排列顺序全部换掉;又或者凭空多加一个第三方物体,它的信息跟任何问题都不相关,纯粹用来干扰。

六个接收方在这些新布局下,内部写入的成功率维持在89.6%到100%之间,18项对比测试里14项通过了"非劣性"检验,也就是新布局下的表现没有比标准布局明显变差。

第二类测试更有挑战性,叫做Countries任务,改编自此前另一篇论文的设计。这个任务要求接收方动用自己的世界知识:发送方私下读到"某人在某地标",接收方要据此判断这个地标属于哪个国家。这里的符号从原来的两百多个常见单词,换成了195个地标名称和80个国家名称,其中不少地标名字要拆成两到九个词元(token)才能被模型处理,比之前的单词符号复杂得多。

token(词元):语言模型处理文本时的最小单位,一个单词有时会被拆分成多个词元,尤其是不常见的专有名词或长单词。

在这个更难的任务上,四个接收方的内部写入成功率落在23.9%到64.0%之间。虽然明显低于直接读文本的87%到99%,但要知道,没有任何消息传递的话,成功率严格为零(因为接收方面对两个世界的输入完全相同,根本答不出两个不同的正确答案)。从0到60%的跃迁,证明这套机制即便换了一个完全不同难度的任务,依然在起作用,只是作用的强度打了折扣。

权重编码:强度比文字描述更可靠

论文里还藏着一个挺有意思的附加发现,关于"强度"信息怎么传递。

除了传递"是什么事实",SYNC的消息格式里还能携带一个8位的权重数值,表示这个事实的"强度"或者说可信度。研究者设计了一个实验:让每个物体对某个属性有两个候选值,一个权重拉满(255),另一个权重调低,两个世界之间只是这个"谁的权重更高"发生变化,符号本身完全相同。

内部写入路线把这个权重直接转化成写入强度的大小;文本路线则是把权重数字原样打印出来,比如"红色[128/255]"。

结果在两个模型上都很清晰:内部写入(用强度大小表达权重)比打印数字的文本方式,平均高出33到36个百分点。研究者还对比了另外五种不同的文字表达方式,比如用百分比、用"大概率""小概率"这类模糊词、给数值排序等等。内部写入依然领先大多数文字方案,只有用"肯定""也许""不太可能"这种带主观判断色彩的限定词时,文字方式才反超了8.8个百分点。

这个结果挺耐人寻味。数字本身对语言模型来说,可能不是一种特别自然的信息载体,模型处理阿拉伯数字时,经常会有计算或比较上的误差。但如果把"强度"直接体现在内部向量的大小上,模型反而能更稳定地分辨出"谁更强"。这有点像人类读体温计的刻度和听别人口头说"有点发烧"相比,直接看到刻度的位置,比处理语言里模糊的程度副词,往往更直观。

当然这个优势也有边界:当两个权重数值很接近时(比如191比255),区分依然很困难,内部写入只有4.9%的成功率,文本方式反而略高一些,达到18.1%。精细的数值差异,目前还是这套系统的软肋。

这套方法没解决什么

论文在讨论部分很坦诚地列出了没完全解决的问题。

在事实权重相等的常规设置里,内部写入相对于直接读文本,并没有表现出全面的优势。小模型上文本甚至能赢14个百分点,只有最大的两个模型打成平手。内部写入的推理耗时还比文本贵1.19到1.28倍。换句话说,这套方法目前的卖点不在于"更快更省",而在于"能传递一种文本之外的信息通道",尤其是在权重强度编码这类场景里优势更明显。

另外,这套方案测试的消息都来自一个固定的词汇表,开放词汇的场景、物体之间的关系型事实(比如"A在B旁边"这种关系陈述)、以及另一个更复杂的TipSheets任务,目前都还没验证过。还有两个混合专家架构的模型,在工程实现检查阶段就没能通过,论文里也诚实地把这个局限写了出来,没有藏着掖着。

研究者还顺带测试了让发送方直接从自己的隐藏状态里提取符号,而不是靠提示词驱动选择,结果表现很差。这说明"怎么让模型自己说出该传哪些信息",本身还是一个没解决好的难题,目前这套方案依赖的是提示词工程这条相对笨拙但稳妥的路。

写在后面

读完这篇论文,最让我意外的不是"跨模型传递信息"这件事本身,而是那个关于写入层深度的发现。

直觉上很容易觉得,模型内部越"深"的层,信息越抽象越高级,应该是更好的操作对象。这篇论文用扎实的数据证明了相反的情况:太深反而没用,因为后面没有足够的计算步骤去把这个信息"消化"成可用的形式。

这让我想到一件不太相关但感觉有点呼应的事情。你给一个团队交代任务,如果是在项目启动会上讲清楚,大家后面的每一步都会围绕这个目标展开;但如果是在项目快结束的复盘会上才补充说明,哪怕说得再清楚,前面的工作已经按照原来的理解做完了,这个"迟到的指令"基本起不了作用。模型的层级结构,某种意义上也是一种"时间顺序",越靠前的层,对后续计算的影响范围就越大。

另一个值得单独拎出来说的细节是那个绑定探针。它不需要跑真实任务,只靠一个简单的"谁配对谁"的测试,就能提前预判一个全新模型在哪一层可以承载信息写入,而且45次预测全部命中。这种"用小实验预测大任务表现"的思路,在很多工程领域其实都很有价值,它意味着你不需要把所有组合都跑一遍才能知道答案,可以先做一个廉价的诊断,再决定资源往哪里投。

论文里还有个地方让我停下来想了挺久:写入的符号即便在深层失败的场景下,模型依然能以99.8%的准确率"认出"这个符号。知道和会用,原来在机器的世界里,也是两件完全不同的事情。这个发现挺朴素的,但朴素到让人觉得,也许人类的学习和理解过程,本质上也面临着类似的分野。

这套方法还远没到能大规模落地的程度,开放词汇、复杂关系型事实、更难的任务场景,都还是空白。但它提供的这个思路,也许比它当前的实验结果本身更值得记住:跨系统的协作,不一定非要让双方用同一种语言思考,有时候只需要约定好"这个编号代表什么",剩下的交给各自内部去理解就够了。

那么下一个问题是,如果连"符号对照表"这种最基础的共识机制都能支撑起复杂的跨模型协作,未来会不会出现一种更轻量的通用协议,让不同厂商、不同架构的AI系统,不需要互相知道对方内部长什么样,就能像今天的互联网协议一样自由互通?

Q&A

Q1:SYNC是什么?

A:SYNC(Symbol-Indexed Neural Communication)是一种让不同语言模型之间传递事实信息的免训练方法。发送方从共享的词汇表里选出代表事实的词,只传词的编号,接收方用自己拟合的内部向量来理解这些编号,整个过程不需要训练翻译模块,也不要求两个模型结构相似。

Q2:SYNC为什么要选在早层写入信息,而不是中间层?

A:实验发现在模型中间层(相对深度0.4到0.6)写入事实,大部分接收方几乎无法正确使用这些信息,成功率低至0.5%。改到更早的层(相对深度0.2)写入后,同样的模型成功率飙升到70%到100%。原因是后续层数不够,模型来不及把中间层写入的信息转化为可用的形式,而早层写入给了后面足够的计算步骤去处理和绑定这些事实。

Q3:SYNC这套方法对所有模型都适用吗,效果怎么样?

A:论文测试了三个新发送方和九个全新接收方(覆盖五个模型家族)共25对组合,在572个测试场景上,内部写入的四个答案全对成功率在72.0%到98.3%之间。两个27B规模的大模型表现接近直接读文本的水平,但在权重开放词汇、关系型事实等更复杂场景仍未验证,两个混合专家模型未通过工程检查。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。