谷歌于当地时间11月9日宣布,在其第八代张量处理单元(TPU)产品线中新增TPU 8tx与TPU 8i Max两款系统。这是谷歌首次在同一个自然年内推出四款TPU系统,标志着其自研AI芯片策略从“一代两芯”转向针对智能体(Agentic)时代不同负载的精细化切割。

需要指出的是,这两款新品并非全新设计的芯片,而是基于今年4月发布的TPU 8t与TPU 8i进行的系统级重构。谷歌AI与基础设施首席技术官Amin Vahdat对此的解释是,芯片流片周期长达数年,而AI软件迭代速度远快于此,因此谷歌选择以模块化硅片为基础,通过调整封装、内存、网络与安全配置,在数月内交付针对特定负载的系统。
TPU 8tx:把机密计算做进硬件层
TPU 8tx 是谷歌第八代TPU系统的第三款,针对安全机密推理进行了优化,同时也非常适合小规模训练。它为受监管的企业和政府机构而打造,这些机构需要在处理最敏感数据的同时运行前沿或专有模型及自主智能体。
通常情况下,数据在存储或通过网络传输时会加密,但在计算机处理时必须在内存中解密。TPU 8tx 采用与 TPU 8t 相同的硅芯片,搭配第五代 AMD EPYC CPU 主机,将安全机制直接构建在硬件层,使敏感数据和模型权重即使在活跃使用状态下也能保持受保护与隔离。通过采用谷歌为实时推理打造的低延迟 Boardfly 网络,TPU 8tx 能让多步骤智能体保持运转,相比 TPU 8t 最高可降低 2 倍延迟,且性能损耗接近于零。
将训练级算力与高速推理网络相结合,也意味着企业可以在单一系统上同时运行和定制自己的模型。TPU 8tx 使团队能够使用私有数据微调模型、将大模型蒸馏为小模型、通过强化学习训练智能体,全程无需在独立集群之间迁移敏感数据。
TPU 8i Max:用双芯片封装撞开内存墙
TPU 8i Max是第八代TPU系统的第四款 ,主要是为解决另一个问题而打造:内存墙。
当数十个 AI 智能体同时在整个软件代码库或数小时视频上协同工作时,内存带宽很快成为瓶颈。因此,谷歌将两颗低延迟 TPU 8i 芯片组合到单一封装中。
这也使得谷歌TPU 8i Max的HBM容量从单颗8i的288GB提升至384GB,内存带宽从8.6TB/s翻倍至17.2TB/s,SRAM容量同步翻倍至768MB,算力亦为8i的两倍,可确保大型工作负载不会停滞。
此外,由于 TPU 8i Max 在现有单机柜空间内集成了两倍硅片面积,数据中心每平方英尺和每瓦功耗所能部署的算力显著提升。
TPU的外部客户已接近100家
据介绍,这两款新系统预计于2027年对外上线交付。届时,谷歌第八代TPU将形成四款定位清晰的矩阵:8t负责大规模训练,8i负责低延迟推理,8tx守机密计算,8i Max攻超大上下文与高密度算力。这一布局的核心判断在于:智能体时代的AI基础设施,不再是一颗芯片打天下的局面,而是需要针对安全、内存、延迟、吞吐分别优化的系统组合。

谷歌披露,目前使用TPU的外部客户已接近100家,涵盖交易机构、前沿研究实验室、大学与零售商,负载覆盖模型训练、Gemini内部服务、智能体工作流以及在客户自有数据中心内部署专有硬件。
据彭博社报道,苹果、Meta与甲骨文均在TPU客户之列。彭博行业研究估算,包含相关软硬件在内,TPU销售额有望从今年的约120亿美元增长至2028年的1350亿美元以上。
编辑:芯智讯-浪客剑







