
现在,CSP和大模型厂商都在自研AI芯片。除了保障供应、针对自身模型优化之外,一个最直接的原因就是降低成本。
但自研芯片究竟能省多少钱?
SemiAnalysis创始人Dylan Patel最近给出了一个很有冲击力的数字:建设1GW算力的市场成本,已经从2024年的约400亿美元升至600亿美元以上;但如果剔除NVIDIA、Broadcom和Marvell等芯片设计公司的利润,底层成本可能只有约200亿美元。
与此同时,Dylan还透露,Anthropic已经启动自研芯片项目,并希望用OpenAI一半的时间完成。
但自研ASIC真的能把600亿美元的数据中心压缩到200亿美元吗?
1GW AI数据中心究竟要多少钱
Dylan所说的600亿美元,不只是GPU采购金额,而是一套1GW AI算力集群的完整资本开支,包括芯片、内存、服务器、网络、供配电、制冷、土地和建筑。
随着AI系统从Hopper进入Blackwell,再走向Rubin,单个机柜需要更多HBM、更复杂的封装、更高速的网络,以及更高规格的供电和液冷系统。因此,新一代系统的每GW建设成本持续上升。
不过,Bernstein也专门测算过1GW数据中心的成本,给出了相对保守的测算:
架构 | 服务器及Pod成本 | 机房基础设施 | 1GW总资本开支 |
|---|---|---|---|
Nvidia GB200 | 245亿美元 | 120亿美元 | 365亿美元 |
Nvidia Vera Rubin | 268亿美元 | 127亿美元 | 395亿美元 |
AMD MI455X | 230亿美元 | 127亿美元 | 357亿美元 |
Google TPU v7 | 263亿美元 | 127亿美元 | 390亿美元 |
OpenAI Jalapeño | 219亿美元 | 127亿美元 | 346亿美元 |
按照Bernstein的现实采购模型,建设1GW AI数据中心大约需要350亿至400亿美元。
其中,Nvidia Rubin方案约为395亿美元,OpenAI自研Jalapeño方案约为346亿美元。
也就是说,自研ASIC确实更便宜,但节省的是约49亿美元,总资本开支下降约12%,并不是下降三分之二。
200亿美元是理论成本底线
Dylan所说的200亿美元,可以理解为完全垂直整合后的理论成本,而不是Anthropic未来的实际采购预算。
他的前提是:把Nvidia、Broadcom和Marvell等芯片设计公司的利润全部拿掉。
这比“设计一颗ASIC”激进得多。
按照Bernstein的模型,OpenAI Jalapeño的总成本约为346亿美元,其中机房基础设施已经达到127亿美元。如果总成本要降到200亿美元,服务器和芯片部分只能剩下73亿美元。
而Bernstein目前对Jalapeño服务器部分的估算是219亿美元。这意味着,要达到200亿美元的目标,服务器硬件成本还要再下降约三分之二。
仅仅换成自研芯片,显然不够。
Anthropic如何把时间缩短一半
这里首先需要区分两种时间口径。OpenAI和Broadcom官方披露的是:Jalapeño从初始设计到制造流片只用了9个月。SemiAnalysis则采用了更宽的项目口径,从最初组建团队算到流片大约为16个月。两个数字并不矛盾,区别主要在于起点不同。
Dylan没有说明Anthropic所说的“一半时间”采用哪一种口径。如果对应OpenAI公开强调的9个月,Anthropic的目标可能只有四五个月;如果对应从组建团队开始计算的16个月,则大约是8个月。无论采用哪种口径,这都是一个非常激进的目标。Anthropic可能从几个方向压缩周期。
首先,它不需要从零发明一套通用GPU。Anthropic最清楚Claude在推理过程中的计算结构、内存访问和通信模式,可以围绕相对明确的工作负载设计ASIC。目标越聚焦,架构选择和验证范围就越容易收敛。
其次,OpenAI已经证明,第一代自研芯片不一定只能做成实验品。Jalapeño采用了更大的Scale-up域,把更多数据留在HBM和DRAM中,同时降低对传统Scale-out网络和NAND的依赖。Anthropic可以借鉴已经得到验证的设计方向,不需要重新探索所有路线。
第三,真正被AI大幅压缩的可能不只是芯片设计,还有验证和软件开发。Dylan特别提到,OpenAI在芯片设计和编程过程中大量使用了AI。模型可以辅助生成RTL和测试代码、分析验证结果、定位错误,也可以加快编译器、算子和运行时软件的开发。
芯片设计中最耗时的环节之一,并不是提出架构,而是反复验证设计是否正确。与很多物理世界的问题相比,代码和数字电路具有更明确的反馈:能否编译、仿真是否通过、性能是否达到目标,都可以快速验证。这正是AI编码工具最容易发挥作用的场景。
关于AI对EDA行业的影响,星球很多朋友都在问了,等下周四直播的时候讲一下。
知识星球
AI产业交流







