QUOTE
收入增长证明的是它买了多少 GPU,而不是它赚了多少钱。
—— AI Odyssey
过去两年,AI 基建有一个最容易理解的故事:
买更多 GPU,建更多数据中心,再把算力租给那些永远嫌卡不够的模型公司。
需求在涨,收入在涨,订单排到几年以后。看起来只要卡买得够多,生意就会一直往前走。
但到了 2026 年,这个故事开始变得复杂。
GPU 仍然重要,却不再是唯一稀缺的东西。推理优化曾经是少数团队掌握的能力,现在可以被开源、被收购,也可以被接进一套公共框架。模型发布当天,多家推理平台几乎同时上线服务,过去靠速度形成的时间差正在消失。
与此同时,另一批不那么“AI”的问题浮了上来:
哪里还有可以立即使用的电?谁能拿到并网许可?谁有能力提前锁定土地和基础设施?谁能签下足够长的合同,又扛得住 GPU 空置和折旧?
这些问题听起来不像模型工程,更像能源、地产和金融。
这一期 AI Odyssey,我们邀请独立研究员 Ray 和 Leo 一起聊了聊 AI inference 背后的基础设施生意。Ray 主要关注 AI Infra 和 Corporate Software,此前曾任职于硅谷早期 VC 及大型科技公司的战略投资团队,管理资产规模超过 10 亿美元。
从 Nebius 收购 Eigen AI、引入 Clarifai 团队,到 Crux 对开放生态的选择;从 CoreWeave 的收入和经营利润,到 Fireworks、Together 等推理平台的价格战;最后又从陆地上的 power land,聊到了海洋和太空中的数据中心。
这场对话真正想回答的是:当 GPU、软件和模型都越来越容易买到,一家 AI 基建公司的利润到底还能留在哪里?
本期嘉宾
Ray:独立研究员,主要关注 AI Infra 和 Corporate Software。此前曾任职于硅谷早期 VC 及大型科技公司的战略投资团队,管理资产规模超过 10 亿美元。X:@RuuuuuiX。
主播
Leo:硅谷大厂高级机器学习工程师,GenAI、LLM 发烧友。
收听方式
欢迎在常用播客平台搜索「AI Odyssey」收听完整节目。
以下是经编辑后的对谈。
本文看点
01
优化能力变得可购买后,利润还能留在哪里
02
收入翻倍,为什么不等于生意更赚钱
03
电力、土地和资产负债表成为新门槛
01
INFRA SHIFT
两年前比 kernel,今天比谁敢签合同
Leo
2026 年的 AI inference,和 2024 年相比,最大的变化是什么?
Ray
2024 年大家做推理,主要比谁的 kernel 更快。到了 2026 年,大家比的可能是谁有能力、也有胆量签下别人不敢签的合同。
因为“快”这件事已经在被开源,也被完整地商业化。
像 vLLM、SGLang 这样的项目,把很多过去只有少数团队掌握的优化能力变成了公共基础设施。新的公司也在围绕这些项目快速商业化。长期看,推理软件之间的性能差距仍然存在,但已经很难永远维持在一个不可追赶的状态。
与此同时,真正稀缺的东西变了。
过去大家说 GPU 不够,现在更难快速补齐的,可能是电、并网许可、已经具备建设条件的土地,以及公司的资产负债表。
Jensen Huang 在 CES 2026 提到,现在每四个生成的 Token 里,大约有一个来自开源模型。开源模型的用量继续增长,意味着越来越多公司都会进入推理这一层。
于是我们看到一个很有意思的现象:算力公司向下买软件,芯片公司向上做全栈,推理平台又在向上触碰模型。
三个不同起点的公司都往中间挤,通常说明一件事:中间这一层原本存在的利润,正在被快速压薄。
02
MOAT
一条可以买到的护城河,还算护城河吗?
Leo
Nebius 本来拥有大量 GPU,为什么还要花高价收购推理优化公司?
Ray
表面的原因很好理解。
GPU 是成本,Token 是收入。从 GPU 到 Token 的转换效率,直接决定了公司的毛利。
2026 年 5 月,Nebius 宣布以现金加股票、总价值约 6.43 亿美元的方式收购 Eigen AI。Eigen AI 提供模型层面的优化;与此同时,Clarifai 的核心团队和推理技术被引入 Nebius,补上系统层面的优化。两部分拼起来,才是一套更完整的端到端推理栈。
但我觉得这笔交易真正购买的,可能不是一项永远领先的技术,而是时间。
如果 Nebius 自己从头完成同样的栈,可能需要 18 到 24 个月。但 GPU 的折旧不会等它。两年以后,软件也许做出来了,一批卡的经济价值却已经下降了。
换一个更尖锐的角度:如果推理优化真是一条无法逾越的护城河,它就不应该存在一个明确价格。现在一家云公司可以用钱买到团队、技术和整套栈,说明这项能力很重要,但并不是别人永远买不到。
Leo
Crux 走的路线不太一样。它没有把所有能力都买下来,而是选择和 NVIDIA 的生态深度整合。这两种选择的差别是什么?
Ray
Nebius 做的更像买断,Crux 做的更像接入。
Nebius 希望把 Token Factory 从上到下掌握在自己手里。Crux 则把部分优化能力接入开放生态,希望自己站在标准形成的中心,而不是独占每一层技术。
Crux 相当于主动公开了一部分差异化能力。
在我看来,这背后的判断是:如果这一层迟早守不住,与其花很大成本防守,不如站到标准形成的中心。
两家公司赌的是相反的命题。
Nebius 赌优化能力可以被私有化,毛利可以留在自己手里;Crux 赌优化会逐渐变成公共商品,占据生态位置比独占技术更重要。
我更偏向后一个判断。但也要替 Nebius 说句公道话:它花的钱可能买到了两年窗口。两年后技术也许会普及,但市场份额不会停下来等它。
03
POWER
真正稀缺的,是“今天就能用”的电
Leo
对 neocloud 来说,真正稀缺的是 GPU、电力,还是把算力高效转成 Token 的能力?
Ray
站在今天看,后两者可能都不是完整答案。
GPU 稀缺,但只要愿意支付更高价格,还是可以买到。推理效率也重要,但它能够被开源、被收购,平台之间的差距会在一段时间后被追近。
更难买到的是立刻可以使用的电,以及已经具备并网许可、变电设施和其他建设条件的 power land。
还有一个容易被忽视的稀缺能力:承担利用率风险。
一批 GPU 的更新换代可能以一两年为单位,但数据中心、电力设备和厂房的折旧周期可能超过十年。你是在用一种快速贬值的设备,填充一个极慢折旧的物理空间。
这要求公司不只是会买卡,还要能把这批卡运营好,在它们经济价值下降之前,尽可能提高利用率。
当软件、芯片和优化能力都能购买时,公司的区别最后会落到资产负债表上:谁能更早锁定电力和土地,谁能拿到更低的资金成本,谁敢签下更长的合同,谁又能承受需求暂时没有跟上的空置。
所以 neocloud 的终极形态,可能不完全是一家科技公司。
它更像一家穿着 Cloud 外衣的基础设施运营商,甚至是一家基础设施金融公司。它赚的未必是不可复制的技术溢价,而是承担风险和组织资产的收益。
04
ECONOMICS
收入翻倍,不代表生意更赚钱
Leo
2026 年是 AI 基建投入很大的一年。很多 neocloud 的收入增长非常快,但亏损也在扩大。收入增长能说明什么,又不能说明什么?
Ray
它至少说明两件事:需求是真实的,新增产能也确实卖得掉。
但它不能自动证明这个生意赚钱。
在这个模式里,收入增长很大程度上是资本开支的函数。多买一批卡,再把它们租出去,收入自然会上升。问题在于,为了获得这些收入,公司付出了多少折旧、融资成本和长期合同风险。
以 CoreWeave 2026 年第二季度财报为例。
它的收入为 25.75 亿美元,同比增长 112%;调整后 EBITDA 为 15.1 亿美元,利润率达到 59%。只看这些数字,它像是世界上最好的生意之一。
25.75 亿美元
季度收入,同比增长 112%
15.1 亿美元
调整后 EBITDA,利润率 59%
但同一个季度,CoreWeave 的净亏损为 6.26 亿美元,净利息支出为 6.4 亿美元。调整后经营利润只有 1.28 亿美元,利润率为 5%;上一年同期,这个数字还是 2 亿美元和 16%。
6.26 亿美元
季度净亏损
1.28 亿美元
调整后经营利润,利润率 5%
这就是重资产生意里很容易被忽略的部分。
EBITDA 剔除了利息、税项、折旧和摊销。这个指标本身不是错的,但对 AI 数据中心来说,折旧和利息恰恰是这门生意无法绕开的成本。
如果把最重的两项成本暂时拿开,当然会得到一个很漂亮的数字。但投资者真正需要问的是:卡在持续贬值,钱在持续计息,公司最后还剩下多少经营利润?
所以我会用一句话总结:
「收入增长证明的是它买了多少 GPU,而不是它赚了多少钱。」
05
RISK
GPU hour 是收租,Token 更像大宗商品
Leo
有些公司会用长期合同锁定算力需求,另一些公司则保留部分容量,自己做 Token Factory。这两条路线分别承担什么风险?
Ray
这可以理解成两种完全不同的风险配置。
长期合同的逻辑,是提前把未来几年的产能卖出去。供应商把利用率风险转移给客户,自己获得稳定收入,但也放弃了价格上涨的空间。
另一种做法,是保留一部分没有被长期合同锁定的算力,等待短期需求或更高的现货价格。
用大宗商品的语言说,这相当于供应商主动持有一个净多头敞口。它今天明明可以提前卖掉未来产能,却选择先放在手里,赌未来 Token 的需求和价格会更好。
如果赌对了,它可以在客户突然缺少算力时,以更高价格提供容量;如果赌错了,GPU 每空置一秒,都在消耗自己的钱。
从 GPU hour 转向 Token,公司的财务结构也会发生变化。
卖 GPU hour,像收租。收入来自较长期的合约,赚的是资金成本、资产成本与租金之间的差价。
卖 Token,更像零售一种大宗商品。今天有人调用就有收入,没人调用,机器就闲着。它的毛利上限可能更高,但收入久期更短,价格和利用率风险重新回到了供应商身上。
还有一个麻烦:AI inference 的切换成本很低。
行业普遍兼容 OpenAI API。很多时候,客户更换供应商,只需要修改一行 base_url。相同模型在不同平台上的输入、输出价格又可以直接比较。
这意味着客户面对的不是一套很难迁移的企业软件,而是一项可以快速比价、快速切换的服务。
房东可以用租约留住租客,但卖 Token 的平台,很难只靠接口留住客户。
06
SUPPLY CHAIN
开源模型的发布,正在变成一次供应链事件
Leo
如果切换成本接近于零,Fireworks、Together、Baseten 这类第三方推理平台的护城河在哪里?
Ray
我最近也一直在想这个问题。
它可能已经不是 kernel 优化,也不是谁能更早拿到模型。
今天一个重要开源模型发布,主流推理平台往往会在很短时间内同时上线。没有哪一家还能长期享有明显的分发时间差。
从这个角度看,开源模型的发布已经不只是研究事件,也是一场供应链事件:模型一出现,平台立刻完成优化、部署、定价和分发。
真正可能留下来的能力,大致有三类。
第一,post-training 的工作流和数据飞轮。平台不只是帮客户调用通用模型,而是让客户把专有数据、微调流程和业务反馈沉淀下来。
第二,和大客户建立更深的绑定。接口可以换,但如果训练流程、数据管理和内部工作流都在平台上,迁移就没有那么轻松。
第三,采购云资源和硬件时的议价能力。谁能以更低成本获得 GPU 和电力,谁就能在价格战中活得更久。
Fireworks 创始人 Lin Qiao 曾经公开谈到,post-training 会成为应用公司建立持久护城河的一种方式。
但这里有一个很反直觉的地方:这个护城河首先是客户的,不一定是 Fireworks 自己的。
Fireworks 要等客户把数据和模型训练流程放进平台,等客户成长,它的粘性才会出现。可客户足够大以后,也可能选择自建或者离开。
所以这类平台的护城河有一点像“租来的”。它建立在客户的成长和留存上,而不是建立在一项别人永远做不出来的技术上。
如果平台只提供统一模型 API,天花板会很低。价格透明,切换容易,最后很容易进入一场没有出口的价格战。
这也是为什么很多推理平台拿到融资后,没有只把钱投入更多产能,而是继续向上游走,做 post-training、fine-tuning 和企业专有模型。
这不一定是某一家公司的选择,更像这一层的结构性宿命。
07
DISTRIBUTION
当模型公司自己卖模型,平台还剩什么?
Leo
如果有一天,开源模型公司也具备完整的分发和服务能力,Fireworks、Together 这些平台的空间会不会被压缩?
Ray
非常有可能。
闭源模型公司已经给出了一个直接例子。OpenAI 和 Anthropic 有自己的 API 和分发渠道,不需要第三方平台帮它们完成最核心的分发。
如果开源模型公司也能自己托管、自己提供稳定服务,第三方平台单纯做 API service 的价值会继续下降。
当然,不同市场的情况不完全一样。
在中国,开源模型可以由模型公司自己服务,也可以接入阿里、字节等云平台,还可以通过硅基流动这类第三方平台触达用户。分发渠道相对多元。
在美国,中国开源模型会受到地理、安全和合规因素影响,第三方托管平台仍然承担重要的连接作用。
但长期看,如果模型公司补齐服务能力,平台就必须证明自己在 post-training、企业工作流或成本优化上的额外价值。
这也反过来解释了为什么 gateway 仍然可能是一门有价值的生意。
网关不一定负责深度优化每个模型,它提供的是一个中立入口:帮客户在不同模型、不同供应商之间完成路由、成本管理和稳定性选择。
Stripe 在 2026 年宣布收购 OpenRouter,某种程度上说明了这一层的价值。模型和推理服务越多,企业越需要一个中立的路由与结算入口。
当每个平台都想把客户锁在自己的栈里时,“我不属于任何一家”本身也可以成为一种产品能力。
08
PHYSICAL LIMITS
GPU 可以量产,并网许可不行
Leo
当推理软件继续优化,AI 基建最后会卡在哪里?最值钱的资产会不会从 GPU 变成电力和土地?
Ray
我觉得更准确的说法不是“缺电”,而是缺可以立即使用的电。
电力总量和能够在一个具体地点、具体时间接入数据中心的电,不是同一件事。
Power land 指的是已经获得或接近获得并网许可,有变电设施、水资源和其他配套条件,可以快速建设数据中心的土地。
GPU 可以量产,也会持续更新。买下一批 GPU,18 个月以后,它可能就因为新一代产品出现而贬值。
但并网许可无法像芯片一样从生产线上滚下来。适合建设数据中心的土地、输电能力和审批资源,只会因为需求上升变得更紧张。
这也是为什么 AI 基建开始把想象力移向陆地之外。
Panthalassa 正在探索海上数据中心:利用海浪发电,在海上的节点里直接运行 AI 计算,再通过卫星网络把计算结果传回陆地。
它解决问题的方式很有意思。
传统海洋能源需要通过海底电缆把电送回用电地点,这个过程昂贵,也很难维护。Panthalassa 的思路不是把电送回去,而是在海上把电直接变成 Token,只把结果传回来。
同样,Starcloud 等公司也在探索太空数据中心,希望利用太空中的太阳能和散热条件运行计算。
这些方向当然还面对巨大的工程成本。海上设备要对抗腐蚀、风浪和维护难题;太空数据中心还要承担发射、通信和设备寿命问题。
至少在短期,它们很难比陆地上的成熟数据中心更便宜。
但它们说明了一件事:当 AI 的瓶颈从软件走向能源,人们开始重新寻找“计算应该发生在哪里”。
过去十年里,一些无法成立的能源方案,也可能因为 AI 给每度电带来了更高的经济价值,重新找到商业路径。
09
TURNING POINT
这轮 AI 基建热潮,会在什么时候结束?
Leo
最后一个问题。你觉得这一轮 AI 基建热潮结束的标志会是什么?
Ray
我会关注两个信号。
第一个,是那些主动保留未分配算力的公司,什么时候开始把未来容量提前锁给客户。
如果一家公司原本愿意持有 Token 价格上涨的敞口,后来选择提前卖掉,说明管理层对未来价格和需求的判断发生了变化。它不再相信等待可以换来更高收益,而是开始优先落袋为安。
第二个信号更加直接:当一个成熟团队运营的数据中心,生产出来的 Token 收入已经无法覆盖运维、折旧和融资成本,这一轮热潮就到了结构性拐点。
热潮结束不意味着 AI 没人用了,也不意味着 Token 需求消失。
它意味着资本终于不能再用更大的投入,掩盖低利用率和不成立的单位经济模型。
到那个时候,市场会重新区分两件事:谁只是拥有很多 GPU,谁真正经营出了一门生意。
∞







