该图片疑似使用了AI生成技术,请谨慎甄别
虽然芯片产能依旧有些许供不应求,但已不是制约AI算力发展的最大阻碍。如今,很多数据中心中,芯片有了,电力供应也充足,但集群却跑不满。
中国信通院的数据显示,大规模分布式训练中,网络通信耗时占比高达30%到50%。换句话说,企业花大价钱买来的GPU,有将近一半的时间在等数据。华为副总裁王雷在2026中国互联网大会上说得更直接:当前国内Token实际流通效率仅60%,剩余40%因为丢包、时延抖动、数据损耗被白白消耗掉了。
芯片越多,通道越窄
众星微副总经理兼总工程师宁佐林告诉我们,“整个集群真正让算力释放出来的,大部分不超过50%,有些好的可能是60%~70%。”这意味着超过一半的算力投资,事实上处于低效运转状态。
这一切的问题出在了数据传输的通道上。过去几年,聚光灯一直打在算力芯片上,谁的制程更先进、谁的浮点算力更高,是发布会上永远的主角。但当集群从千卡走向万卡、十万卡,芯片之间的数据交换量呈指数级攀升,负责调度这些数据的互连芯片,开始从幕后走到台前。
有数据显示,AI数据中心网络市场规模预计从2025年的103.1亿美元增长到2026年的128亿美元,复合年增长率达24.2%。Marvell在投资者日上更是明确将互连列为未来数据中心投资中增速最快的方向。
AI对芯片的需求,正从单一的算力,走向算、存、传、电、冷、感的系统性创新。互连层级的版图也随之展开,芯片内部的Die-to-Die走UCIe这类协议;服务器内部节点和超节点之间,是PCIe、CXL、NVLink、UALink的天下;到了机架和机架之间、万卡集群的Scale-out层面,则是IB、RoCE、UEC等协议竞争的主战场。
英伟达的壁垒从来不只在GPU本身,NVLink互连、NVSwitch乃至自有的IB标准构成了一个完整的封闭生态。而国内厂商要与这样的生态竞争,必须把PCIe、CXL、UCIe、UALink等开放标准组织起来,支撑更多的节点,因为GPU上的代差,往往要靠互连去补充和弥合。
互连芯片到底在整台服务器里占多大分量?无锡众星微系统技术有限公司总经理郭二辉拆解了两款国际上的超级节点产品GB300和VR200:互连芯片在其整体价值中的占比约为8%到9%,而且从GB300到VR200,互连价值上升的斜率比整机价值上升的斜率更高。以这个口径估算,国内互连芯片的年市场规模约在1000亿元量级。这块蛋糕过去几乎完全被海外厂商占据——RAID、SAS Expander、PCIe Switch这些配套芯片,长期没有国产选项。
互连的问题之所以在2026年集中爆发,和AI集群本身的形态变化直接相关。以当前主流的超节点为例,英伟达的GB200 NVL72把72颗GPU连成一个计算整体。节点规模越大,卡间通信的带宽需求就从数百GB/s跃升到TB/s级别,时延被压缩到微秒级。
这就像一个城市,原本只有几条主干道的时候,红绿灯调一调还能凑合。但当城市扩张到十倍规模,道路设计本身的缺陷就会被放大到无法忽视的程度。宁佐林用一个通俗的比喻说明了这个变化:“五个城市之间的高速公路和十个城市之间并不是倍数关系,在算法层面是指数级的关系。当某一个点发生拥塞,就会明显形成一个倒灌,让各个地方都有拥塞。”
互连也要智能化
面对堵车的问题,人们第一直觉是修更宽的路,但就像摩尔定律也有尽头一样,更宽的路并不能彻底解决拥堵的问题,芯片互连还需要一个更智能化的“交通指挥官”。
对此,宁佐林表示,从400G到800G,速率翻倍当然重要,但另一个层面的变化更为重要,那就是将拥塞控制、多路径选择、选择性重传这些原本跑在软件层面的网络功能,直接做进了芯片里。
传统网卡的逻辑是尽力而为,数据包发出去了,会不会堵、会不会丢包,交给上层的软件协议去处理。但在AI训练场景下,这种方式代价太高。上万张卡需要在同一时间高度协同工作,任何一个节点的网络抖动、拥塞或丢包,都可能导致成百上千张卡进入等待状态。软件处理拥塞的延迟,在微秒级的同步需求面前显得力不从心。
把拥塞控制“硬化”到芯片里,相当于把交通指挥从事后调度,变成了实时预判。芯片可以在数据发出的瞬间就决定走哪条路径、是否需要重传、如何避免和其他节点的数据流“撞车”。这也就是完成不仅是让数据跑得快,更在芯片层面就让数据知道该怎么跑。
日前,众星微发布了三款互连芯片产品,在众多产品中,值得一提的是,与其他国产芯片有一个不同——他们把PCIe Switch直接集成进了网卡。PCIe Switch是服务器内部负责CPU、GPU、网卡、硬盘之间数据调度的“交通枢纽”芯片,传统方案中它是一颗独立的芯片,网卡是另一颗。集成之后,整板少了一颗芯片,链路缩短,插损降低,信号质量改善,时延也随之下降。
更值得关注的是定制化的部分。互连芯片在服务器里的位置很尴尬,它一头连着CPU,另一头连着硬盘、网卡或者GPU,两头都要适配,哪头适配不好都不行。宁佐林表示,海外巨头的新产品推向市场时,产业链会主动去适配它;而国产新芯片推出去时,得反过来主动适配别人。不过,国产互连芯片也正在从可用,走向好用的过程中,据宁佐林透露,800G AI NIC针对国内某个头部大客户做了协议层面的定制开发。这个信息说明国产互连芯片已经不只是能用的替代品,而是能够深入到客户的特定场景中,做一些国际厂商不愿意或者很难做到的事情。
而这些在现实中已经有不少案例落地,比如,郭二辉与我们分享了一家互联网客户的案例。这家客户需要做存储机柜,原本用的是某国外厂商的定制HBA卡加Expander芯片,合作过程中“磕磕绊绊”。众星微当时的产品列表上并没有这个产品,“但是因为客户有需求,我们就帮助客户做了这张卡”郭二辉表示,做完之后,从性能到稳定性完全实现了对进口产品的平替。郭二辉把优势归结为两个字:本地化。
宁佐林在谈到客户选型标准变化时,把“面效比”放在了第一位。所谓面效比,就是单个网络平面能承载多少算力卡。网络层数每增加一层,收敛比就会恶化,成本随之急剧上升。一位客户如果发现两层网络和一层网络之间的差别不是多一跳,而是多好几跳,他关注的就不再只是芯片的标称带宽,而是整个网络拓扑的效率。
此外,在成本敏感的当下,功耗也已经成为了用户选型过程中一个重要的指标。宁佐林给了一个具体的数字:下一代交换芯片的功耗要做到2000瓦左右。“各位家里的电磁炉就是这样的功率,基本上可以烧开水,那么小的芯片怎么散热?”这个问题不是靠简单的风扇就能解决的,芯片内部的热分布不均匀,某些局部区域可能达到90度甚至100度以上,解决芯片级的互连效率问题,同时也就是在解决系统级的散热和能效问题。
800G时代已到来
如今,AI时代需要的算力网络已经从400G迈向800G,为什么必须是800G?答案写在AI集群的账本里。腾讯云开发者社区发布的技术分析显示,网络通信在AI集群的整体部署成本中只占8%到10%,却决定了高达90%的GPU训练效率,一旦网络拥塞,昂贵的GPU只能空转等待。
而随着模型从千亿参数走向万亿级,MoE架构带来了All-to-All这类新的通信模式,长上下文推高了KV-Cache的搬运量,分布式训练中“算一阵、传一阵”的节奏,让每一次通信延迟都被成千上万张卡共同放大。中国信通院在一份高性能网络趋势研究中同样指出,混合专家模型与长序列建模对Scale-out网络的灵活性、对动态拓扑与细粒度流量调度都提出了更高要求。
当单卡带宽停留在400G时,万卡集群的总带宽需要堆叠成倍的交换机和光模块才能撑住;把端口速率翻到800G,同样的集群规模可以省下一半的链路数量,带宽翻倍,意味着时延、成本、功耗同时被压缩。这也是为什么Dell等整机厂商在技术博客中判断,当前一代AI集群正在把800G网卡从旗舰配置,变成标配。
但翻倍这件事,做起来远比说起来难。第一道关是SerDes。800G单端口依赖112Gbps每通道的PAM4调制,信号在PCB上的衰减和串扰成倍恶化,新华三在800G以太网白皮书里专门提到,要在不增加PHY中继芯片的前提下跑通链路,必须把通道损耗和串扰控制到工程极限。第二道关是功耗。新华三的白皮书援引行业统计,单个800G光模块功耗可达30W,光模块已经占到设备总功耗的40%甚至更多;英伟达官网的技术博客给出的对比是,传统可插拔方案下每个接口功耗通常约30W,而采用CPO共封装光学后全通道功耗降至9W,整机功耗约降至原来的三分之一。第三道关更隐蔽。800G网卡要真正跑满,必须搭配PCIe Gen6平台才能不被主机侧带宽卡住脖子。
这些要求传统AI网卡就显得“力不从心”了,对此,宁佐林与我们分享了未来AI网卡的三条发展路径。一是协议硬件化,把拥塞控制、多路径、选择性重传这些原本靠软件协商的逻辑直接固化到芯片里,宁佐林强调,这是专门针对AI做定制的核心;二是形态集成化,把PCIe Switch直接整合进网卡,整板少一颗芯片,插损、时延、信号质量一起受益;三是接口多元化,同时兼容IB与以太网两套生态,为UEC标准化时代预留空间。
再往后看,DPU类产品正在把网络、存储、安全的处理从CPU身上卸下来,而随着SerDes迈向224G、448G,光引擎与芯片共封装的光电融合会成为大带宽时代的标配。
说到底,AI集群的竞赛已经从比谁卡多,变成谁能将现有卡的性能发挥到最大,这个过程中800G不是终点,而是互连芯片从配角走向舞台中央的一个路标。真正决定算力能跑多远的,不再是单颗芯片的峰值数字,而是数据在芯片之间、机柜之间、集群之间流动时的每一微秒。
更多精彩内容,关注钛媒体微信号(ID:taimeiti),或者下载钛媒体App







