本期嘉宾
Ed H. Chi(纪怀新) Google DeepMind 研究副总裁 · 思维链(Chain-of-Thought)论文作者之一
Ed Chi 是 Google DeepMind 研究副总裁,也是思维链(Chain-of-Thought)论文的作者之一。这篇论文让大模型学会「先推理、再作答」,是今天推理模型的基础方法之一。他过去 30 年从推荐、搜索做起,如今主导大模型的推理、规划与记忆研究。
在硅谷坐标的专访中,他对六个问题给出了判断:消费级 AI 走到了哪一步,通用助理何时真正到来,Google 的护城河在哪里,大模型的记忆难在哪里,开源与闭源的差距与 AI 泡沫,以及 AI 时代的教育。以下为要点整理,观点仅代表嘉宾个人,不代表 Google。
完整视频YouTube / B 站 搜索「硅谷坐标」

Ed H. Chi · Google DeepMind 研究副总裁
01
消费级 AI:曙光初现
Consumer AI
■2025 年之前,大模型对普通人只是「多了几个聊天 app」
在 Ed Chi 看来,大模型问世后的三四年里,投资人热情高涨、资金大量投入,但对大多数人的生活并没有带来实质改变。
■2026 年收入爆发,但集中在企业端
今年 Anthropic 和 OpenAI 凭借 AI 编程和订阅,收入从百亿美元量级跃升至六七百亿美元,两家合计可能接近 2000 亿美元(嘉宾估算)。但这些收入主要来自企业 API 调用和编程场景,「消费级这一块的影响,事实上还没有真正开始,我们只是看到一些曙光。」
■个人助理正从「问答」走向「代办」,卡点是权限与可靠性
搜索是大模型在消费端最大的应用,Google 由此发展出 AI Mode。新一代助理产品希望更进一步,替用户订机票、订酒店、购物。难点在于授权与可靠性:用户担心把信用卡交给助理后,它会乱买东西。他判断这一领域仍处早期,预计 6 个月到一年内,通用助理与 AI 搜索之间的关系和交互方式会更加清晰。
消费级这一块的影响,事实上还没有真正开始,我们只是看到一些曙光。
—— Ed Chi
02
通用助理:信任才是护城河
General Assistants
■推理能力已跨越式进步,但仍局限于特定领域
三四年前写思维链论文时,模型在解小学数学题,准确率只有三十几个百分点;今天最强的模型已在挑战纳维-斯托克斯方程这样的顶级数学难题。但这种推理集中在数学等特定领域。通用助理需要的是跨领域推理,比如对高尔夫球杆和球的理解,这与数学完全不同。做应用之前,必须先弄清模型在各个领域的推理能力到了什么程度。
■消费端真正的护城河是用户信任
用户对助理的体验和感受决定一切。助理只要犯一次严重错误,用户就可能彻底改观,这与雇用真人助理时的容忍度是同一个道理。
■「奶奶测试」:衡量通用助理是否到来的标准
Ed Chi 提出了一个测试:当有一天你的奶奶指着家里的机器人,责怪它「怎么这么笨」,就说明通用助理的时代真的到了。这意味着普通人已经像对待真人助理一样对它抱有很高的期待。目前无论产品还是科研,都在探索这条边界。
■下一个入口尚无定论
入口会是搜索、手机、智能眼镜还是其他设备,目前没有结论。他认为通用助理时代不该再让用户操心下载和更新 app。端侧模型与消费级硬件仍是很大的空白,比如智能音箱、智能冰箱这类曾被冷落的设备,今天加一块屏幕、接入大模型,就能比七八年前容易得多地实现智能化。至于现象级产品出自大厂还是创业公司,他认为并不重要,关键在于找到人与 AI 互动的正确方式。
03
Google 的护城河:全栈与最低成本
Capability over Cost
■Google 不可能放弃自研模型
用户期待 Google 拥有自己的核心技术,而不是使用其他公司的模型,这有「技术主权」的意味。Google 也在持续开发更大的模型。
■优势在于全栈
Google 的业务覆盖模型研发、应用与服务,向下延伸到超大规模算力中心、自研芯片乃至能源的使用和调度。这使它每个 token 的成本是行业最低的。
■模型能力普及后,竞争的核心是成本
当各家模型能力趋同,最重要的就是成本控制:用最低的成本交付最好的能力。他指出业内目前很多人还没有关注成本,「但所有 AI 的东西,最终都是能力除以成本(capability over cost)。」对于资本开支高企、应用收入尚未兑现的担忧,他认为以 5 到 10 年为周期的公司,真正该优化的指标正是能力与成本之比。
■大模型与小模型之间的资源分配是长期难题
DeepMind 近几个月发布的多是较小的模型,因为个人助理、个性化应用需要的是小模型。湾区追求 AGI 的群体相信「软件吞噬世界」,只要编程做到极致就能赢得一切,因此偏爱超大模型;但在他看来,手机和通用助理不宜依赖超大模型,能耗太高。大模型与小模型之间如何分配资源,即便在大厂内部也是难题。
所有 AI 的东西,最终都是能力除以成本(capability over cost)。
—— Ed Chi

Ed Chi:模型能力普及之后,最重要的是成本控制
04
记忆:本质是排序
Memory
■存储短缺可以用计算来缓解
对于当前 DRAM、NAND、硬盘全线紧张的局面,他从计算机科学的角度指出,存储和计算之间可以互相替代。有长期投资规划的公司,不必过分担心一时的存储短缺。
■记忆研究的重点是算法,而不只是硬件
关键在于计算方法需要多少存储和带宽,以及神经网络能否通过设计降低存储需求。例如 Kimi 的 delta attention 模型,存储用法就与传统的全注意力和稀疏注意力不同。此外还有个性化记忆、KV cache 等问题。
■一两百万 token 的上下文远远不够
当前 Transformer 模型的上下文窗口最多约一两百万 token,在他看来「完全不够」。更大的问题是,业界仍把记忆当作单纯的检索机制。从认知科学的角度,记忆是一种不断变化、指导行为的「程序」,远不只是检索。
■记忆的本质是排序
很多人认为机器不需要遗忘,记忆只是「记得或不记得」。Ed Chi 认为,记忆的核心是排序:判断什么最重要。提到巴黎,你想起的是最重要的几段记忆,而不是所有与巴黎有关的信息一涌而来。他预计存储与计算之间的关系在未来几年会有新的突破,创业公司在其中也有机会。
很多人觉得记忆是记得还是不记得的问题。事实上,记忆是一个排序的问题。
—— Ed Chi

Ed Chi 接受硅谷坐标专访
05
开源、闭源与泡沫
Open Source · Bubble
■价值创造正向应用和算力两端转移
模型能力正在「大路货化」,最好与最差模型之间的差距在缩小。价值会流向应用和 token 工厂(算力基础设施)两端。应用端的护城河是用户黏性、留存与体验;算力端则是成本:能源效率、芯片设计、存储与计算的配合,以及端侧与云端的分工。
■开源追上闭源,思维链是原因之一
开源模型通过思维链去观察闭源模型的推理方式并加以复制。因此大厂正在想办法把思维链隐藏起来。但多模态等能力很难复制,「开源必然追平闭源」的说法在他看来还不成熟:一些能力会因蒸馏而普及,另一些目前看不到这种趋势。
■AI 不是整体泡沫,而是局部泡沫
「我不觉得整个市场是泡沫,但它肯定在不同的地方有不同的泡沫。」例如物理智能领域存在一些不现实的预期,而很多模型的推理能力其实仍然很差。他认为分歧源于信念:如果相信解决了软件就解决了一切,结论是一回事;如果认为解决软件之后还有大量问题,那么「我们还有很多戏可以看」。
■编程之后,看好消费端崛起
当前大模型公司的收入以企业订阅为主。他看好下一阶段消费级 AI 的崛起,并直言这正是自己留在 Google 的原因:消费级服务一直是 Google 最强的领域。
我不觉得整个市场是泡沫,但它肯定在不同的地方有不同的泡沫。
—— Ed Chi
硅谷坐标主持人曹卿云专访 Ed Chi
06
AI 时代,孩子还要学数学吗
Education
■AlphaGo 之后,下棋的人反而更多了
近十年前 AlphaGo 战胜顶尖棋手时,很多人认为人类将不再下棋。结果下棋和研究围棋的人反而更多了。他认为数学也会如此:AI 能解决难题之后,会有更多人觉得数学有趣、想去研究它。
■学习的动力从「探索边界」转向「好奇与乐趣」
过去研究数学,更多是为了探索知识的边界;今后,理解与乐趣会成为更重要的动力,更多人会出于内心的好奇去学习。
■AI 降低了学习门槛
过去学围棋要请教练、找棋力相当的对手;今天一部手机上的围棋 AI 就能陪练,反而带动了大量孩子学棋。搜索也一样:大模型出现后,Google 看到搜索类应用在增加,而不是减少。他承认 AI 会改变很多现有结构,但对未来保持乐观。
很多人说,人类以后不下棋了。结果后来下棋的人反而更多了。
—— Ed Chi

Ed Chi 谈 AI 时代的教育
» 名词解释
思维链(Chain-of-Thought)让模型先写出一步步的推理过程再给答案的方法,Ed Chi 是该论文作者之一。
通用助理不只回答问题,还能替用户办事的 AI,如订机票、订酒店、网购。
AI ModeGoogle 搜索中的 AI 模式,直接由大模型生成回答。
端侧模型直接在手机、眼镜等设备本地运行的小模型。
Token大模型处理文字的基本单位,大致相当于一个字或一个词,也是计费单位。
Token 工厂大规模生产 token 的算力基础设施,即 AI 数据中心。
资本开支(Capex)科技公司建设数据中心、采购芯片的投入。
上下文窗口模型一次能处理的文字长度,相当于它的工作记忆。
KV cache模型推理时缓存中间结果的技术,占用大量显存。
蒸馏用大模型的输出训练小模型,把能力迁移过去。
纳维-斯托克斯方程描述流体运动的方程,相关问题是千禧年七大数学难题之一。
硅谷坐标 Silicon Valley Vector | 文 / 采访:硅谷坐标主持人曹卿云







