Token导航 LogoToken导航

AI 资讯 · 科技行者

科学家找到AI模型具备空间地图能力证据

更新 2026-11-10科技行者正文 7097字阅读约 23分钟

你有没有想过一个问题:当你的手机助手看着一张照片,告诉你"杯子在桌子左边"的时候,它脑子里到底发生了什么?

它是真的"看懂"了空间位置,还是只是在模式匹配,碰巧蒙对了答案?

这个问题听起来有点哲学,但其实非常现实。因为现在的多模态大语言模型(MLLM)

**多模态大语言模型*:能同时理解图像和文字的AI系统,比如你给它一张照片加一句话,它能看懂图里的内容并回答你的问题。

已经被用在了机器人抓取、自动驾驶导航、三维重建这些真刀真枪的场景里。如果它对空间的理解只是蒙的,那后果可能很严重。

一群来自MirroS、清华大学和北京大学的研究者,决定钻进这些AI模型的"大脑"里看个究竟。他们这次不满足于只看模型答对了多少题,而是想搞清楚:模型内部到底有没有一套专门处理空间信息的机制?如果有,它长什么样?

结果他们还真找到了一个东西,并且给它起了个名字,叫S-Space。

空间推理这件事,到底难在哪

先说一个扎心的事实:尽管现在的AI模型在很多任务上已经超越人类,但一遇到换个角度看问题这种事,表现就会突然崩盘。

SpinBench

**SpinBench*:一个专门测试AI换视角推理能力的题库,比如问"如果从左边看这个场景,哪个物体会出现在左侧"。

这个基准测试里有一类题目特别简单,简单到你三岁侄子都能秒答:给你一张正面拍的桌面照片,上面有个杯子和一个瓶子,问你"如果从左边看过去,哪个物体会出现在左边"。

人类做这种题几乎是本能反应,脑子里转一下画面就出来了。但论文里测试的几个主流模型,包括Molmo2-ER、Qwen3.5-4B、Qwen3.6-27B,在没有任何提示的情况下,直接回答的准确率只有60.96%。

这是什么概念?随机蒙两个选项的概率就是50%,也就是说这些模型的表现只比瞎猜好那么一点点。即便让模型用思维链

**思维链*:让AI在给出最终答案前,先一步步写出推理过程,类似人做数学题时打草稿。

一步步推理,Qwen3.6-27B也只能把准确率拉到83.56%,依然有接近两成的错误率摆在那里。

问题来了:这种失败到底是因为模型压根没"看懂"场景里物体的位置,还是因为它看懂了,但没能正确完成"想象换个角度看"这个心理操作?

这两种失败的性质完全不同。前者意味着模型的感知系统有缺陷,后者意味着感知是好的,但推理环节出了问题。如果不把这两者分开,你永远不知道该往哪个方向去改进模型。

这就好比你去医院看病,医生告诉你"你身体不舒服",但不告诉你到底是心脏的问题还是胃的问题。治疗方案肯定完全不一样。如果不做鉴别诊断,吃再多药也是碰运气。

研究者们想做的,就是给AI模型做一次精确的"鉴别诊断"。

S-Space:AI脑子里的一张坐标图

研究者们提出了一个假设:既然AI模型内部的概念经常是用线性方式编码的

**线性表征假设*:一种观点认为,AI模型内部很多抽象概念,比如"猫"这个概念或者"开心"这种情绪,在模型的高维数据空间里,是沿着某个特定方向排列的,就像一条直线上的刻度一样。

那么物体的空间坐标,比如左右、上下、远近,会不会也是用类似的方式藏在模型的中间层表示里?

他们真的找到了这样一个结构,并命名为S-Space。这是一个三维的线性子空间,存在于模型中间某一层的隐藏表示里。当模型处理一张图片和图里物体的名字时,每个物体名字对应的那个词元

**词元*:AI模型处理文字时的最小单位,可以理解为一个词或一个字的编号,比如"苹果"可能被拆成一两个词元。

物体的内部表示,如果你把它投影到这三个特定的方向上,就能读出一组连续的坐标值,分别对应这个物体在水平、垂直、远近三个轴上的位置。

怎么找到这三个方向呢?研究者的做法挺巧妙。他们给模型出一堆"物体A在物体B的左边还是右边"这种问题,然后看模型在回答"左"和"右"这两个词的时候,内部的激活值是怎么变化的。具体来说,他们计算模型输出"右"这个词相对"左"这个词的分数差异,然后对着这个分数差异去求梯度

**梯度*:数学上表示一个量往哪个方向变化最快,这里的意思是,沿着这个方向轻轻推一把物体的内部表示,模型回答"更偏右"的倾向就会明显增强。

关键的一步是,研究者把"查询物体"和"参照物体"的梯度做了一个反对称处理:用查询物体的梯度减去参照物体的梯度再除以二。这么做的道理是,如果你让查询物体更往右移,模型应该更倾向于说"右";但同样的变化如果发生在参照物体身上,模型应该更倾向于说"左"。两者的效应方向正好相反,用减法就能把这个共性的空间信号给放大出来,同时把那些跟物体身份、提示语句式这些无关因素给平均掉。

这就好比你想测量一个跷跷板哪边更重,你不会只看一边往下沉了多少,而是同时比较两边的升降幅度,这样才能把"风吹过来的偶然晃动"和"真正的重量差异"区分开。如果只看一边的变化,很可能被无关的噪声干扰,测出一个错误的结论。

研究团队在COCO数据集

**COCO数据集*:一个常用的图像标注数据集,里面有大量标好物体位置和类别的照片,常被用来训练和测试AI的视觉能力。

上用了六千张图片来确定这三个方向,又用一千八百张图片来挑选到底该在模型的哪一层去找这个空间子空间。他们发现,太早的层还紧贴着输入的原始信息,太晚的层又已经开始为了预测下一个词而服务,只有中间层才是空间信息最稳定、最容易读出来的地方。

这个发现意味着什么?意味着AI模型内部确实存在一个相对独立、相对稳定的"空间坐标系",它不是每次任务临时拼凑出来的,而是模型本身自带的一种组织结构。

这张地图到底准不准,是不是摆设

光找到这个结构还不够,得证明它真的靠谱。

研究者做了三件事来验证。

第一件事是看坐标准不准。他们把物体词元投影到S-Space上得到的坐标,拿去跟物体在图片里的真实位置(通过标注框中心点算出来的)做对比,结果发现相关性相当高,水平方向的相关系数达到0.789,垂直方向达到0.774,两两物体之间的坐标差异相关性更是分别冲到0.871和0.872。

第二件事是直接拿这些坐标去回答空间问题,完全不让模型说话,只比较两个物体在S-Space里谁的坐标更靠右、更靠上、或者更近,把这个大小关系当成答案。结果这种"读心术式"的答题方式,准确率跟模型自己直接用语言回答的准确率几乎不相上下,在某些情况下甚至更高。比如Qwen3.5-4B在CV-Bench

**CV-Bench*:一个专门测试AI视觉空间理解能力的评测集,包含物体相对位置和远近判断等题目。

上直接回答只有73.60%,但用S-Space读出来的坐标去判断,准确率飙升到89.36%,整整高了接近16个百分点。

这个结果挺颠覆常识的:模型嘴上说错了,但它脑子里其实是对的。换句话说,有些时候模型不是没看懂,而是没说对。这跟我们平时想象的"模型哪里出错就是哪里没学会"完全不一样。

第三件事是因果干预。研究者直接动手术,把S-Space里读出来的坐标人为改动一下,比如把某个物体的坐标往右边挪一大截,然后再把改动后的坐标写回模型的内部表示,继续让模型往下生成。结果模型关于左右关系的回答真的跟着变了,而且跟物体颜色这种无关问题的回答几乎没受影响。

这说明S-Space不是研究者臆想出来的摆设,而是模型真正在用来生成回答的一个因果通路。

这就好比你怀疑一辆车的方向盘和轮胎之间到底有没有真实的机械连接,还是说方向盘只是个装饰品。验证的办法很简单,直接转方向盘看轮胎动不动。如果转了方向盘车还是径直往前开,那说明方向盘和轮胎根本没接上。而这次实验里,研究者转了"方向盘",车真的转弯了,这就证明了这条连接是真实存在的,不是巧合。

更有意思的是持久性测试。研究者换了好几种完全不同的提问方式,有直接问相对位置的,有分别单独问两个物体在哪的,甚至还换成了跟空间完全无关的"这两个物体是什么颜色"的问题。结果S-Space读出来的坐标依然保持稳定,依然能支持准确的空间判断。这说明这套坐标系统不是因为某个特定问法才临时冒出来的,而是模型骨子里自带的东西,哪怕你压根没问它空间问题,这套坐标系统依然在后台默默运转。

S-Space不只管看得见的东西

接下来的发现有点出乎意料。

研究者猜测,S-Space之所以会出现,可能是因为模型在海量文本训练中,为了正确预测"左""右""上""下"这些空间词,必须把物体和它们的相对位置绑定起来,这种训练压力意外地把模型内部的激活塑造成了稳定的空间坐标轴。

如果这个猜测是对的,那这套坐标系统应该不只限于处理图片里直接看得到的东西,因为语言本身承载的空间含义要丰富得多。

实验结果也确实支持这个猜测。比如给模型看一张守门员扑球的照片,但球本身因为运动模糊或者画面裁切的原因根本看不清楚,问模型球在哪,模型依然能把"球"这个词的坐标放在守门员扑救方向的那一侧。这说明S-Space不只是在登记"我看到的物体在哪",它还能根据画面里的动作线索,去推断一个看不太清楚甚至没出现的东西应该在哪。

更进一步,研究者测试了一个压根不在画面里的概念,就是"你"这个代词,代表观察者自己。结果模型把"你"的坐标放在了远近轴上最靠近的那一端,仿佛观察者天然就该是离镜头最近的那个存在。

语言的暗示同样能改变S-Space里的坐标。研究者固定住同一张送货机器人的图片,只是把提示语从"机器人从你身边经过"换成"机器人朝你走来",结果"你"这个词在S-Space里的远近坐标真的跟着从远挪到了近,而机器人自己的坐标几乎没变。这意味着单单换一个介词,就能让模型内部那套空间坐标系统重新排布一次,这已经不是单纯的视觉感知了,而是语言含义在直接操纵这套空间表示。

最让人意外的是一个关于政治立场的小实验。研究者给模型一个辩论场景的提示,里面有"社会主义者""温和派""保守派"三种身份,结果发现"社会主义者"这个词在S-Space的水平轴上真的被投影到了偏左的位置,"保守派"则偏右,跟我们日常说的"政治光谱上的左派和右派"这种比喻完全吻合。

这说明语言里那些原本只是隐喻性质的空间词汇,比如"政治立场偏左",在AI模型的内部表示里居然跟物理意义上的左右共用了同一套坐标系统。这既展示了大规模语言训练能把语言里各种微妙的空间隐喻都捕捉进来,这是一种能力,但同时也暴露了一个潜在的风险,模型可能分不清什么时候该用物理的左右,什么时候该用比喻的左右,这两者在它内部其实是搅在一起的。

用S-Space给AI做体检:问题到底出在哪

回到最开始那个问题:换视角推理失败,到底是感知的问题还是推理的问题?

现在有了S-Space这个工具,研究者可以把这两件事彻底分开来检验。

他们设计了一套对照实验。一边是让模型正常回答问题,或者用思维链一步步推理;另一边则是把模型内部S-Space的坐标直接读出来,用一个写死的数学公式对坐标做旋转变换,模拟"假如从左边看过去会是什么样子",然后用变换后的坐标去判断答案。

结果相当震撼。Molmo2-ER直接回答只有60.96%的准确率,但用坐标旋转这套办法,准确率一下冲到94.52%,整整提升了33.56个百分点。Qwen3.6-27B用思维链推理能到83.56%,但坐标旋转法依然更高,达到95.21%。

这个对比说明什么?说明模型内部其实早就有足够准确的空间信息,只是它自己不太会把这些信息正确地转换成"换个角度看会怎样"这个答案。问题不在于看,而在于算。

研究者还做了一个更狠的实验,叫带前提设置。他们直接把"源视角下物体A比物体B更近"这个正确答案预先告诉模型,相当于把感知这一步的难度直接清零,模型只需要专心做变换计算就行。结果呢,即便给了这个提示,模型自己直接回答的准确率依然只能从60.96%爬到72.92%,远远没达到完美。但与此同时,S-Space里读出来的坐标,在有了这个语言提示之后变得更加精准,几乎能支持百分之百的正确判断。

这个结果像是给模型做了一次CT扫描,清清楚楚地照出来问题出在哪个部位:不是眼睛看不清,是大脑里那个负责"心理旋转"的计算环节没发育好。

这就好比一个人明明知道从家到公司怎么走,也记得每条路的长度和方向,但一旦你让他在脑子里把整张地图旋转九十度,重新判断哪条路更近,他就彻底懵了。信息都在他脑子里,但把信息重新组织成另一个视角所需要的那种空间想象力,他没有。而这恰恰就是现在AI模型最薄弱的环节。

研究者还追踪了思维链推理过程中S-Space坐标的动态变化。他们人工构造了一套标准化的推理模板,让模型先分析当前视角下的关系,再想象目标视角,最后得出变换后的结论。通过在这三个阶段分别读取S-Space坐标,他们发现一个很有意思的渐变趋势:在推理刚开始的阶段,如果直接用原始坐标去判断答案,正确率只有44.5%,但如果提前给它套上旋转变换,正确率能到96.6%。而到了推理快结束的阶段,这个关系整个反过来了,直接用坐标判断的正确率涨到86.3%,反而是套旋转的那个掉到了67.1%。

这说明随着思维链一步步展开,模型内部的S-Space坐标确实在被一步步地"转动",模型是在真实地模拟这个换视角的心理过程,只不过这个内部的转动做得不够彻底,也不总能正确地落实到最后说出口的答案里。

除了换视角的问题,研究者还发现了另一种混乱,叫参照系耦合。有些题目要求模型判断"东南西北"这种地理方位,而不是简单的"图片里的左右",结果模型经常把两者搞混,把图片里的"右边"直接当成了地理上的"东边"。研究者统计了模型在MMSI-Bench

**MMSI-Bench*:一个专门测试多图像空间智能的评测基准,涉及跨图片的位置推理任务。

这个测试集上生成的推理文本里出现的方位词,把"东""南""西""北"这些词投影到S-Space的坐标上,结果发现"东"这个词真的跟"右"挤在了同一个方向,"北"跟"上"也挤在了一起。这意味着模型把两种本该完全独立的参照系,在内部表示层面混成了一锅粥,这很可能是因为它在海量网络文本里读到的地图类数据,习惯性地把东方画在右边、北方画在上边,久而久之这种习惯就渗透进了模型对抽象方位概念的理解里。

这篇研究还有一个让人印象深刻的小发现,跟机器人训练有关。研究者比较了同一个基础模型Molmo2-ER和它经过动作训练之后衍生出的两个机器人控制模型MolmoAct2-Pretrain和MolmoAct2,测试它们判断一个物体整体和它的功能部件(比如水壶和水壶把手)谁离镜头更近这类细节深度关系。结果发现随着动作训练的推进,这种局部的深度判断准确率是稳步上升的,从63.1%一路涨到67.1%再到69.0%。这说明让AI去学习怎么伸手抓取、操作物体这件事,反过来会让它脑子里那张空间地图变得更精细,这是一个挺有启发性的侧面证据,说明跟物理世界真实互动,可能是打磨空间理解能力的一条有效路径。

研究者还测试了S-Space在多视角场景下的表现。他们给模型同时展示两张视角不同但拍的是同一个场景的照片,然后通过提示语告诉模型"以第一张图为准",接着悄悄把两张图的顺序调换,看模型内部的坐标是不是也跟着调换的视角走。结果显示,不同模型的方向steering准确率普遍在73%到97%之间,证明S-Space并不是死死焊在某一张特定图片上的,而是可以被语言提示动态地重新锚定到不同的观察视角。

写在后面

读完这篇论文,最触动我的其实不是S-Space这个发现本身,而是那个"带前提"的实验设计。它用一种特别干脆的方式,把"感知失败"和"推理失败"这两个长期被混为一谈的问题给彻底剥离开了。

很多人讨论AI做不好空间推理,习惯性地归结为"它没看懂图片"。但这篇论文告诉我们,至少在换视角这类任务上,看懂和算对完全是两回事,模型可能早就看懂了,只是不会算。这个区分对于下一步该怎么改进模型特别关键,因为如果病根真的在计算环节,那堆更多标注数据、换更强的视觉编码器,可能都是在做无用功,真正该投入精力的方向是训练模型怎么在心里转动一个场景。

另外那个政治隐喻的小实验也让我多想了一下。社会主义偏左、保守主义偏右这种说法,本来只是人类历史上一个偶然形成的政治隐喻,法国大革命时期议会座位左右分布留下的习惯。但AI模型因为吃了海量文本,居然把这种纯粹文化层面的隐喻,跟物理空间里真实的左右方向,编码进了同一套坐标系统里。这让我意识到,当我们说AI"理解"了空间,这个理解里混杂着多少是真实的物理常识,又有多少只是语言习惯的沉淀,这事恐怕没那么容易说清楚。

论文结尾提了一句,未来也许不需要指望一个模型自己把所有空间操作都算明白,而是可以让AI去调用专门的外部工具来做坐标变换、模拟演算。这倒让我想起一个问题:如果AI真正擅长的是感知而不是计算,那会不会未来最好的空间智能系统,根本不是一个更聪明的大脑,而是一个知道什么时候该掏出计算器的大脑?

Q&A

Q1:S-Space是什么?

A:S-Space是研究者在多模态AI模型内部发现的一个三维线性子空间,物体的水平、垂直、远近坐标都能从中直接读出来,相当于模型内部自带的一张空间坐标图。

Q2:AI模型空间推理失败是因为看不懂图片吗?

A:不完全是。研究发现模型内部往往已经形成了准确的空间坐标表示,真正的瓶颈在于把这些坐标正确转换到新视角所需要的计算环节,也就是感知没问题,推理环节掉链子。

Q3:S-Space只能处理图片里看得见的物体吗?

A:不是。实验显示S-Space还能根据动作线索推断画面外看不见的物体位置,甚至能给抽象的观察者"你"分配坐标,连政治立场这种隐喻概念都会投影到对应的空间方向上。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。