Token导航 LogoToken导航

AI 资讯 · 虎嗅网

PI联合创始人谢尔盖·莱文谈机器人数据闭环瓶颈

更新 2026-11-05虎嗅网正文 8054字阅读约 26分钟

PI 联合创始人深度访谈:机器人最大的瓶颈是数据闭环

本文来自微信公众号: AGI 2050 ,作者:AGI 2050

在具身智能与机器人强化学习领域,加州大学伯克利分校教授、Physical Intelligence(简称PI)联合创始人谢尔盖·莱文是一位绕不开的学者。作为全球机器人学习领域引用率最高的科学家之一,他早在谷歌大脑时期主导的机械臂集群抓取实验,就奠定了业界对机器人自主采集数据的认知基础。

2024年,莱文与前Google DeepMind资深科学家卡罗尔·豪斯曼等人共同创立了Physical Intelligence,迅速获得亚马逊创始人贝索斯、OpenAI、Thrive Capital等知名机构的大额投资,今年估值已超过110亿美元,据彭博社10月报道,新一轮融资谈判的估值约200亿美元。与执着于打造特定形态人形机器人的硬件厂商不同,PI的核心目标是构建物理世界的通用基础大模型,让不同形态的机械臂、轮式设备或双足机器人,能够像加载通用操作系统一样,具备理解物理世界、拆解任务并完成精细操作的能力。

本期内容源自硅谷早期投资机构South Park Commons的播客《Minus One》,由该机构合伙人、前Dropbox首席技术官阿迪蒂亚·阿加瓦尔深度对谈谢尔盖·莱文。在对话中,莱文复盘了从初代模型π0到最新公开的π0.7的架构演变,阐释了为何自动驾驶漫长的数据冷启动不能照搬到通用机器人上,剖析了垂直一体化与横向平台模式的产业分工逻辑,并分享了他对当前“世界模型”技术热潮的冷思考。

本期内容来自Minus One播客,2026年10月22日播出,原视频时长42分钟。

以下为精选对话内容,全文约8000字,阅读时长约8分钟。

本期精彩观点

●

互联网上的信息总量,在真实的物理宇宙面前几乎可以忽略不计。绝大多数物理现象都无法在虚拟网络中找到。要让机器真正理解客观世界,它就必须成为一个在实体环境中交互的机器人。

●

在面对复杂的智能难题时,把问题做大,往往比把问题做小更容易解决。自然语言处理的突破,不是靠单独研发特定的英汉翻译模型,而是靠统一处理所有语言任务实现的。通用机器人同样如此,单纯死磕某一特定硬件是死胡同,必须直接面向广泛的机器人操作任务。

●

纯靠物理硬件在封闭环境里试错存在明确上限。机器人不仅需要动作经验,更需要庞大的先验知识,而后者正是互联网预训练大模型的核心价值所在。

●

自动驾驶之所以经历了长达十余年的冷启动,是因为其场景过于特化且试错代价极高。通用机器人可以从海量低风险的日常操作中学习物理常识,再将其迁移至高风险任务中。

●

不要过度陷入“世界模型”等新概念的理论争辩。无论采用扩散机制、视频模型、世界模型还是大语言模型,都属于下游的技术选型;真正决定具身智能天花板的,始终是高质量物理交互数据的获取路径。

●

机器人商业化落地的现实路径,是先实现“笨拙但自主”。通过人工接管数据教会机器人应对异常,再依靠强化学习逐步消除笨拙;这一步目前还没有大规模用于部署,只在实验室实验里跑通。

●

对机器人而言,视觉推理不是比文本推理更好,而是补上文本最难给出的那部分。相比于用语言描述复杂的空间坐标,让单独的图像模型生成一张“机器人手指碰到按钮”的图,能直接告诉机器人该怎么做。

从游戏图形学到真实机器人:会议室里的数据实验与认知转折

问:你早年在斯坦福主要研究计算机图形学,后来转型做物理机器人控制,并在加州大学伯克利分校和谷歌开展了大量开创性研究。这一技术演进背后的脉络是怎样的?

谢尔盖·莱文:我在大学最初的想法其实是做电子游戏,但在游戏公司实习后,我发现那只是一份和别处没什么两样的公司工作,充斥着流程内耗。我希望探索技术难度更高、组织结构相对简单的领域,于是转向学术研究。

因为对虚拟交互环境感兴趣,我选择了计算机图形学。图形学本质上是对物理世界的模拟,而其中最难模拟的是人类行为。为了让虚拟角色表现得像真人一样,我开始深入研究角色运动控制。博士快毕业时,我觉得如果这项技术最终只能用来改善好莱坞特效或游戏动画,未免有些局限。既然算法能驱动虚拟角色完成复杂的物理动作,理论上它也应该能控制真实的机器人。

为了补齐硬件控制方面的短板,我申请了加州大学伯克利分校彼得·阿贝尔实验室的博士后。面试初期其实并不顺利,彼得曾认为角色动画与当时实验室的方向不符;但一周后他改变了主意,给我发来了录用通知。这个转折让我真正接触到了真实的机器人系统。

后来在谷歌工作期间,我们团队尝试验证一个想法:要让机器人掌握通用能力,必须采集海量的物理交互数据。我们在一个改造过的会议室里部署了一大批机器人,让它们日夜不停地抓取各种形状的物体。抓取被视为物理操作的最小原子单位,我们希望通过大量机械性试错让机器人自主积累经验。

这个方案最终遇到了一堵无形的墙:机器人可以把特定场景的抓取动作练得非常精准,但完全无法将能力迁移到其他任务上。因为复杂的物理操作不仅需要机械动作经验,更需要对现实世界的先验理解。如果把一个新生儿孤立在空房间里,他也不可能自行领悟复杂的工具使用逻辑。机器人必须被赋予基础的物理常识,而当时人工智能社区通过在互联网海量数据上预训练大模型,恰好提供了这种先验常识的获取路径。把大规模物理交互与大模型的常识储备结合起来,才构成了完整的技术闭环。

创立Physical Intelligence与首代基座模型π0的工程逻辑

问:很多资深学者会选择长期留在顶尖实验室,是什么原因促使你走出象牙塔,参与创立了Physical Intelligence?

谢尔盖·莱文:这个想法最初来自卡罗尔·豪斯曼(现Physical Intelligence首席执行官)。在一次晚餐中,他提出全球一定会诞生一家在机器人底层智能上取得核心突破的研究机构,而且很可能只会有一家,既然历史窗口已经出现,就应该全力尝试。

当时,我们在伯克利、斯坦福以及Google DeepMind已经有一批长期共事、理念契合的研究伙伴。大家都在这个方向上深耕已久,也都觉得时机到了。对于硬核技术研发而言,早期的核心壁垒不是写在纸上的商业计划,而是一支有共同认知、且愿意在极为繁复的工程细节中长期摸爬滚打的团队。

问:团队发布的首个模型π0引起了行业广泛关注。你们采用视觉语言模型作为基础骨干,并结合了连续动作流生成机制。确立这种架构的技术考量是什么?

谢尔盖·莱文:机器人基座模型的设计可以完全从第一性原理推导:

在输入端,机器人感知物理世界的主要媒介是图像,无论是普通彩色相机、深度相机还是激光传感器,其本质都是高维的空间图像信息;在输出端,机器人需要执行高频的物理指令,通常是描述各个关节角度变化、末端执行器空间位姿或电机扭矩的连续数值向量,一般由30到50个数字组成;同时,为了让模型具备通用性,自然语言是最直接的任务指令载体。

面对这个框架,通常有两种开发路径:

第一种是直接在有限的机器人操作数据上进行端到端的模仿学习。这种方法在学术界很常见,但极易失效,因为单纯的本体操作数据远远无法覆盖物理世界的多样性。

第二种路径是寻找一个具备互补能力的成熟模型作为底座。机器人物理数据最欠缺的是通用常识,而互联网预训练大语言模型恰恰具备极高密度的常识理解,唯独缺乏与物理实体的结合。

因此,以视觉语言大模型作为先验知识底座,向下接入基于流匹配的高频连续动作生成模块,是最合乎逻辑的骨干方案。需要明确的是,π0并不是终极形态,它更像是一个骨架。有了这个骨架,我们后续才能把逻辑推理、任务拆解和多模态理解逐步填充进去。

从π0到π0.7:任务拆解与视觉空间推理的演进

问:随后推出的π0.5开始展现出更强的泛化能力,能够应对未曾专门训练过的家庭环境。这一代模型的技术关键点是什么?

谢尔盖·莱文:核心突破主要体现在两个维度:

第一,是数据策略的研究化。机器人数据采集不只是工业问题,同时也是研究问题;它之所以这么难,正是因为要把经济账、工业规模的运营和研究结合在一起。究竟该收集哪些场景的物理分布、如何用可控的成本提高长尾环境的覆盖率,往往需要边扩大数据规模边进行算法验证。

第二,是为物理控制引入了内部推理机制。

如果直接对模型输入“清理厨房”这种抽象的高层指令,纯动作执行网络通常无法有效响应。因为这句指令与底层电机毫秒级的高频微调之间,存在巨大的认知断层。

在π0.5中,模型学会了类似代码编写助手的中间规划。接收到宏观指令后,它会先通过思维链将其拆解为一系列离散步骤:“先拿起餐盘;再拿起抹布;然后擦掉洒出来的污渍”。当长周期任务被细化为具有明确物理边界的子任务后,动作生成模块才能稳定执行。

问:最新发布的π0.7进一步展示了开箱即用的泛化表现,甚至能够直接操作陌生的厨房电器。从0.5到0.7跨越的核心是什么?

谢尔盖·莱文:π0.7的设计重心就是开箱即用的零样本泛化。过去要让机器人掌握一项新操作,通常需要人工进行动作示教并针对具体任务做模型微调;而在π0.7中,操作人员可以直接使用自然语言向机器人讲解任务步骤。即使它从未接触过某款厨房电器,模型也能自己摸索出用法;而且它能把复杂技能拆成步骤,只需监督这些步骤、不必再监督具体动作,省去了针对每个任务的微调过程。

更关键的一点在于:我们把内部推理拓展到了视觉空间模态。

在实体世界中,语言描述空间位置是极为低效且模糊的。如果对机器人说“请按下烤面包机的电源键,位置在右边缘往左3英寸处”,这类指示不仅冗长,而且容错率极低。

而在π0.7中,模型可以直接调动视觉先验,在内部生成一张目标意象图:画面中清晰呈现出机器人的机械手指正准确接触在电源开关上的理想状态。

这张目标画面一旦生成,就等于直接告诉了机器人该怎么做。这种基于视觉意象的空间推理并不比文本推理更好,两者是互补关系:它提供的恰恰是最难从文本里得到的那部分信息。

目前,负责生成目标画面的模块依然是一个独立的模型组件,它的输入由大语言模型生成。长远来看,我认为多模态认知、视觉生成与底层动作控制最终会融合成一个端到端的大一统模型,只是以目前的技术水平,图像生成这部分通常还是独立的。

机器人研发的真实门槛:穿透软硬件全栈的工程细节

问:很多工程师来自传统软件、互联网甚至纯算法背景,在真实的机器人基础模型研发中,实际的日常工作状态是怎样的?

谢尔盖·莱文:机器人研发涵盖的技术链条极其宽泛。你可能上一小时还在优化数千张算力卡上的分布式并行训练通信,下一小时就必须蹲在实验台前,拿着工具调整机械臂末端夹爪的固定螺栓。

如果说机器人研究员有什么不可或缺的核心品质,我认为是对底层细节的高度敏感。

机器人系统的技术栈垂直跨度极大。一旦系统运转不起来,原因可能分布在任何一个层级:

●

可能是有人没把摄像头的接头插到位;

●

可能是学习率没设对;

●

可能是数据集没选对;

●

也有可能是模型规模不够,比如现在是160亿参数,其实需要320亿。

如果在不同抽象层级之间存在认知断层,研发人员极易陷入低效的盲目排查中——比如模型跑不好,你以为是学习率或数据集不对,最终却发现问题仅仅是有人没把接头接好,导致机械手指闭合时留有一丝微小间隙。具备跨越软硬件边界、动手排查根本问题的能力,在具身智能领域比漂亮的学术文凭更为关键。

我们在招募团队成员时,最看重的并不是论文数量或名校履历,而是候选人面对复杂物理故障时的排查逻辑和技术穿透力。

打破数据短缺的假象:为什么机器人不该复制自动驾驶的冷启动路径?

问:行业内一直有观点认为,物理世界的数据维度极高且无法直接从网上爬取,因此机器人会长期受制于“数据荒”。你如何评估机器人领域的数据供需关系?

谢尔盖·莱文:从宏观视角来看,物理世界所蕴含的信息是无穷的,而目前互联网上存储的数字化图文,在真实宇宙的物理现象面前只占极小的一部分。

现实世界中的重力表现、接触摩擦、柔性物体形变,绝大部分从未被数字化记录。如果你想造出一台真正理解物理规则的智能系统,它唯一可能的形态就是实体机器人,因为唯有实体才能与物理环境发生真实的因果交互。

再看商业规律:只要机器人能够在工业生产或家庭服务中创造明确的经济价值,其部署规模就会迅速扩张,正如汽车的大规模普及一样。当成千上万台机器人在真实世界中持续运转、试错与纠错,它们所记录的交互数据体量,在长期来看会远远超过现有互联网上的所有数据。

因此在终局阶段,数据根本不是瓶颈。真正的挑战在于当前的“冷启动阶段”——即如何以可承受的工程成本,跨过早期数据匮乏的拐点。

问:自动驾驶走过了一条极为漫长的数据积累之路,像Waymo这样的头部公司花了十几年才把车队规模拓展到几千台。通用机器人是否也需要经历如此漫长的数据积累周期?

谢尔盖·莱文:这恰恰指出了问题所在:自动驾驶之所以历经十几年才走通冷启动,是因为它的任务过于特化,且试错代价极其沉重。

如果一个人类儿童从小被剥夺了在日常环境中跑跳、触碰、摆弄物体的机会,只被允许坐在驾驶位上学开车,他同样很难发展出成熟的物理空间认知。在道路交通这种极高风险的场景下,任何一次算法决策失误都可能引发严重交通事故,这导致自动驾驶完全无法通过低成本试错来快速积累经验。

通用机器人则截然不同。表面上看,让机器人完成多样化的日常任务似乎更难,但“多任务”反而是其快速冷启动的天然优势。

通用机器人可以先在容错率极高的低风险场景中运转,即使出了差错,也不会造成严重后果。而这些低风险任务能够带动高风险任务的学习,就像人的成长过程一样。从多样化、低风险的任务切入,是快速跨越数据冷启动更现实的路径。

商业化落地路径:“人工接管纠错”与强化学习的协同

问:在目前进行的实际业务部署测试中,你们是如何构建数据正向循环的?

谢尔盖·莱文:业内目前行之有效的部署方式,依然是人机协同闭环。

在实际场景中,模型初期并不需要做到100%的绝对全自动。只要自主水平足够,就可以在人工监督下部署,机器人出错时由人工介入接管。

例如在物流分拣线上,如果机器人抓取滑落,操作员可以帮它将物品拾起归位,随后系统继续自主工作。这种接管数据极具价值,它直接向模型示范了当系统偏离正常状态时,应当如何进行自我纠错。

但这只是第一步。人工接管教会了机器“出错后如何恢复”,但并没有从根本上解决“下次如何不犯错”。

这就需要强化学习发挥作用。这一步目前在实际部署中还没有广泛使用,但在我们的实验室实验里已经跑通。我们设想先借助人工接管数据,让机器人达到“虽然动作笨拙、但能够自主运行”的状态;在此基础上,让强化学习算法利用机器人自身的经验,逐渐改掉这种笨拙。这个过程更慢,也有赖于更高的自主性。先保证自主性,再追求优雅与精度,这是更平稳的落地路径。

通用底座还是垂直一体化:为什么做大问题反而更容易?

问:具身智能领域目前存在两种路径:一种是以特斯拉为代表的垂直一体化,从本体硬件、芯片到底层算法全栈自研;另一种是专注打造通用的机器人智能大脑,适配各类硬件生态。你认为未来几年行业将如何演化?

谢尔盖·莱文:人工智能的发展历史上反复验证过一个规律:面对高度复杂的智能问题,把问题做大,往往比把问题做小更容易取得突破。

在早期自然语言处理领域,为了做英汉翻译,大家倾向于单独收集双语平行语料去训练专用的翻译网络。但后来的实践证明,最优秀的翻译能力并不是靠专用翻译系统实现的,而是把所有自然语言处理问题一次性解决之后的副产品。这样得到的翻译系统,比单一的特化模型更好。如今这已没有争议,每一位自然语言处理研究者都会这么告诉你。

这个逻辑放到机器人领域,比在自然语言处理领域更加适用。

人形机器人本身没有任何问题,我也很希望身边到处都是人形机器人。但如果想让人形机器人足够好,答案不是只收集人形机器人的样本,而是解决所有机器人问题。如果只局限于特定的单一硬件构型,模型能见到的情况就会非常有限。而通用性带来更多数据,模型能见到更多不寻常的情况、例外和边缘案例。

从计算产业的历史来看也是如此。上世纪五六十年代,大型计算机以IBM的垂直一体化方案为主,客户购买硬件、专有系统和技术服务都依赖单一厂商。但随着行业成熟,产业分工必然走向模块化:芯片算力、整机制造、操作系统和应用软件相互解耦,各司其职。

机器人产业也将经历类似的成熟过程。我们会看到一场创造力的爆发,出现各种各样的机器人和各种各样的机器人应用。硬件形态将呈现多元分布,而连接底层硬件与上层任务规划的,必然是一层通用的物理智能基础平台。

关于“世界模型”的冷思考与研究文化

问:过去一段时间,“世界模型”成为业界讨论的热门概念。你如何看待世界模型与当前机器人技术路径的关系?

谢尔盖·莱文:我对纯粹的概念争论持保留态度。研发通用基座模型的核心,从来不是模型本身,而是其底层依赖的数据演进路径是否可持续。

行业里经常热衷于争论到底该用视频模型、世界模型、大语言模型,还是扩散式动作生成机制。但从系统工程的角度看,具体算法架构往往是从属的下游选择,都要服从数据这条路径。真正决定生死的是:你的物理数据从何而来?你的闭环数据飞轮靠什么长期自增殖?

当然我个人的假设是,终极形态的机器人模型会具备类似“世界模型”的推演能力。因为人类在执行许多非语言化的高难度动作时(例如攀岩),大脑中并不会产生离散的文字描述,而是直接依靠空间概念在脑海中完成动作预演。

但不必过度神化或者纠结于“世界模型”这一标签。在物理世界里用尽可能低的边际成本跑通真实数据的闭环,远比抽象的定义争辩更具实际意义。

问:机器人涉及多学科交叉,在Physical Intelligence内部,你们是如何协调硬件、算法与系统工程之间的协作壁垒的?

谢尔盖·莱文:在机器人这类系统复杂度极高的领域,最致命的组织内耗是过度的条块分割——做硬件的只关心机械公差,做算法的只盯着模型指标,彼此不愿深入对方的领域。

我们极力倡导一种文化:每个人都在自身领域拥有过硬的技术实力,但同时对技术栈的其他环节保持主动探究的意愿。

例如我们硬件团队有位做执行器、传感器这类底层硬件的同事,有一次做午餐技术分享,来听的人里,离硬件最远的人多得出奇,比如做机器学习基础设施的、钻研高深强化学习算法的同事。他们最想弄懂这些,因为一心想搞清楚整个技术栈。有了这样的文化,每个人都有自己的看家本领,也尊重别人的专长,同时对整个技术栈在做什么至少有个大致的概念。

快问快答

问:在你们做过的所有机器人操作测试中,哪一个任务成功时的表现最出乎你的意料?

谢尔盖·莱文:机器人用塑料袋捡起一块人工模拟的狗粪。

问:如果面向普通家庭环境推出第一款实体机器人,双足人形与带双臂的轮式底盘,你倾向于哪一个?

谢尔盖·莱文:毫无疑问选带双臂的轮式底盘。因为轮式底盘绝对不会意外摔倒,从而避免对家中的儿童或宠物造成物理碰撞风险。

问:过去一年中,除去你们团队自己的工作,哪篇学术论文最值得行业研发人员精读?

谢尔盖·莱文:麻省理工学院菲利普·伊索拉团队发表的《Neural Thickets》(神经灌木丛)。

这篇论文提出了一个非常反直觉的实验发现:当神经网络的参数量级达到足够大时,对模型的网络权重引入随机扰动,不仅不会摧毁模型输出,反而能维持极高的综合性能;但在小参数模型上,随机扰动的效果并不好。这篇研究为“强化学习为什么有效”提供了一个略带颠覆性的解释视角:或许强化学习起效,只是因为它加入了随机噪声,而不是做了什么高明的事。

问:在当前的具身智能与机器人学习领域,如果推荐一位值得关注的青年学者,你会推荐谁?

谢尔盖·莱文:推荐我的前博士生阿比谢克·古普塔,他目前任教于华盛顿大学。在学术研究中,我们应该格外关注那些敢于跳出主流的人,阿比谢克正是其中之一。他近期在通用世界模型方向上的一系列探索非常扎实,值得保持关注。

资料来源:South Park Commons出品《Minus One》,合伙人阿迪蒂亚·阿加瓦尔对话谢尔盖·莱文,2026年10月22日上线,https://www.youtube.com/watch?v=5X166Fead8o

文章标签机器人大模型

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。