Token导航 LogoToken导航

AI 资讯 · 半导体产业纵横

东方算芯128卡3D芯片集群实现大模型稳定训练

更新 2026-10-21半导体产业纵横正文 4515字阅读约 15分钟4 张图片

图片

10月的上海,工博会首次设立的“国芯展”上,东方算芯展台的三张数据卡被不少人拍了下来:全球首次验证3D芯片集群系统、7天完成主流大模型训练适配、24个月跑通芯片—软件—集群全链路。

图片

单看,每一个都是典型的发布会数字。连起来看,三个数字分别指向三种能力:系统级验证能力、软件适配速度、产业化交付效率。三种能力共同的落点,是这家公司在国芯展上宣布的另一件事:128卡集群系统稳定运行,已实现大规模训练集群交付,年底实现千卡级集群交付。

纵观整个行业,过去两年,国产算力芯片发布密集,单卡参数不断逼近海外旗舰,但从参数发布到规模交付之间,隔着漫长的工程周期。魏少军教授深度洞察到,当下AI应用以周为单位快速更新,大模型算法以月为单位迭代升级,但芯片研发迭代以年为周期,系统部署后更是可以稳定运行5至10年。这种迭代节奏的严重失衡,对芯片设计、系统适配提出了极高要求。

01

首次、7天、24个月:一场交付的三个侧面

东方算芯正是带着解决这个落差的目标出现的。这家公司2024年5月在上海张江成立;今年4月底完成A+轮融资,投后估值122.75亿元,国家人工智能产业基金位列股东;9月完成股份制改造,并计划四季度启动B轮融资。董事长魏少军是清华大学长聘教授、中国半导体行业协会副理事长,团队脱胎于清华在可重构计算方向近二十年的研究积累。成立两年半,东方算芯便完成了从芯片研发、全栈软件适配到百卡级训练集群规模化部署的完整闭环,并把整个过程压缩进了24个月。这场交付是怎么跑出来的?三个数字里藏着答案。

首先是全球首次验证3D芯片集群系统。单卡点亮和规模部署之间,隔着的不仅是量的差别,更是工程难度质的差别。在此之前,3D堆叠大算力芯片一直停留在论文和样片阶段。作为3D堆叠的关键技术之一,混合键合工艺2016年前后由索尼用于图像传感器,2018年长江存储将其用于3DNAND,此后近十年,这项工艺的主要应用场景始终是传感器和闪存。把同样的工艺用在DRAM与AI逻辑芯片之间、再组成集群连续进行大模型训练,此前却没有人做到过。

更关键的是,当大算力芯片组成集群后,问题还将被放大。数百颗芯片协同训练,任何一颗的链路稳定性、显存可靠性、温度控制问题,都会在长时间连续运行中暴露出来。对训练集群而言,72小时是一道公认的门槛。只有在足够长的连续负载下,系统的薄弱环节才无处藏身。据东方算芯在国芯展披露,128卡DF1000训练集群连续训练72小时无中断,训练精度达标,已承载Llama2-70B、Step 130B等多个大模型训练任务。

在供应链方面,DF1000从芯片设计、14nm晶圆制造、3D混合键合封装到封测,全部在本土产业链上完成闭环,集群侧的交换机、网卡直接选用成熟的国产产品。DF1000最重要的价值在于实现了全国产供应链,而非单项性能指标领先。在先进制程和HBM供应都存在不确定性的现实下,全本土闭环本身就是一项需要验证的能力。这次验证的对象不仅是芯片,还有整条国产供应链支撑大规模训练的成色。

其次是7天完成主流大模型训练适配。客户真正关心的问题只有一个:自己的模型能不能跑,要付出多大代价。国芯展上披露的数字是:千亿参数级的Step 130B大模型,仅用7天完成训练适配。过去,国产算力迁移的团队进行跨平台适配时,往往需要数月的人力投入,涉及算子重写、精度对齐、通信调优和回归测试,是客户选型国产芯片时最大的隐性成本。7天适配,把“迁移”从项目变成了工序。

最后是24个月跑通芯片—软件—集群全链路。行业常规节奏下,从芯片流片、软件适配到集群搭建,往往需要三到四年。东方算芯的路径是三线并行:芯片设计、编译器与算子库开发、集群系统架构同步推进、协同验证,而不是等芯片流片成功再启动软件、等软件适配完成再搭建集群。从公司2024年5月成立,到首个全国产大规模训练集群交付,全程24个月。

并行能够成立,前提是各环节的确定性足够高。DF1000加速卡回片后,算力、显存带宽、通信带宽、功耗温度等全项规格测试一次完成,11项BF16算子测试全部一次性通过。软硬件协同设计在硅片上的有效性,减少了后续环节的返工。集群侧形成了“部署—联调—压测—试训—验收”的标准化交付流程,从基建适配到具备大模型训练能力全流程可控。

02

效率从哪来:架构、研发、运维、供应链

这套效率在工程组织层面可以找到部分解释,但更根本的答案在技术路线的选择里。对关注国产算力的从业者来说,看一家算力公司的真实水位,主要看三样东西:总体拥有成本(TCO)、交付能力、软件生态。而东方算芯通过近存计算加软件定义这条技术路线在支撑着这三者。

在架构方面,3D堆叠近存计算突破“内存墙”瓶颈。传统高端AI芯片采用“计算核心+外置HBM”的分离架构,带宽瓶颈要靠先进制程和更复杂的封装来弥补,数据在计算单元与存储单元之间长距离搬运,功耗和成本水涨船高。DF1000的选择是从根上改变存储与计算的连接方式:把DRAM晶圆直接键合在逻辑晶圆上方,铜焊盘对准直连,中间没有凸点,也没有中介层,互连间距从数十微米压缩到亚微米级,单芯片访存带宽做到6.4TB/s。这个带宽水平高于采用HBM显存方案的主流AI芯片的官方规格:H100为3.35TB/s,H200为4.8TB/s,MI300X为5.3TB/s。DF1000在14nm工艺上做到了HBM3E级别的带宽,而没有使用HBM。带宽优势在路线图里继续放大:按计划今年四季度推出的DF2000,访存带宽将提升至15TB/s,超过B200的8TB/s。

在研发模式方面,统一技术栈实现跨代复用,降低适配成本。传统模式中,芯片、基础软件、集群系统往往分属不同厂商,跨架构、跨平台的适配要重复投入,每一代硬件升级都意味着全链路的重新适配。东方算芯的做法是从芯片架构到编译器、算子库、集合通信库、分布式训练框架再到集群调度与运维工具全部自研。资料显示,东方算芯全套自研了全栈自主CAAP软件栈,覆盖编译器、算子库、分布式通信库、训练框架与一站式开发工具,全面兼容主流深度学习框架,DeepSeek、千问、STEP等开源大模型可快速迁移部署,降低国产算力芯片落地适配成本。由于芯片、软件、集群出自同一支团队,每一代迭代不需要跨厂商重新适配,上一代积累的算子优化与调度策略可以直接复用到下一代产品。软件定义的架构属性放大了这种优势。传统AI芯片是硬件功能固化的,芯片流片时,支持哪些算子、什么数据通路就已经烧死在硅片里。而软件定义芯片硬件的Tile阵列和数据通路可以由软件配置,同一颗芯片通过不同的软件配置执行不同的计算结构。于是适配的重心从硬件挪到了软件层,对于新模型的适配,CAAP编译器只需把它映射成数据流图,在Tile阵列上展开执行,核心算子已被算子库覆盖,只需做增量优化。芯片换代后,硬件执行模式保持一致,上一代打磨的编译器优化、算子实现、调度策略可以直接沿用,不需要围绕新硬件重建。

图片

在运维方面,“全栈同构+智能运维”降低集群运维成本。异构硬件、混合架构的集群,排错、调优、兼容性维护的工作量随规模线性增长。东方算芯全栈同构的技术体系叠加集群搭载的智能调度、故障自愈、全维度监控体系,使有限的运维团队即可支撑128卡集群的稳定运行,运维人效的差距,在集群规模上千之后会进一步放大。

在供应链方面,全国产供应链解决可交付性。依赖先进制程与海外高端器件的路线,扩产周期受制于外部产能与管制清单。DF1000依托全国产成熟制程供应链,不受海外技术管制约束,产能扩张速度快,交付周期可控,供应链安全自主,能够快速响应市场算力建设需求。年底冲刺千卡级集群的底气正来源于此。

当然,这条路线有自己的代价。3D堆叠的良率随层数增加呈乘积衰减,层数越多、容量越大,成本压力越明显,成品率是3D堆叠的天花板。用成熟制程换性能窗口,本质是用工程复杂度对冲工艺代差,这个交换在当前的产业链条件下是划算的,但它不是免费午餐。

03

需求就位,近存算力进入规模化交付窗口

路线优势最终要放到市场里检验,而市场给出的信号足够清晰。据中国信通院数据,2026年一季度国内AI算力需求同比上涨417%,供给增速为128%,高端芯片进入卖方市场,一卡难求。

需求端,主要来自两股力量拉动。首先是信创的深化,随着算力自主化的要求延伸到金融、电信、能源等行业核心系统,对算力底座的要求从“能用”升级为“规模化能用”;其次是行业AI的加速落地,大模型从互联网厂商向行业场景渗透,出于数据安全和业务时延的考虑,行业客户的训练与推理负载越来越多地要求私有化部署。这些需求使高性价比、可规模交付的国产算力成为刚需。更关键的是,负载结构也在发生变化。预训练集中在头部大模型厂商和国家级算力中心,更大的增量在行业模型的微调与推理,这些负载对单卡峰值参数不敏感,对总拥有成本、交付周期和长期稳定运行更敏感,恰好落在近存计算方案的长项上。

图片

供给端,东方算芯的产品层级覆盖从单卡到整集群的不同规模需求。巅峯DF1000加速卡是最小交付单元,擎元QY100是单机8卡服务器,拓域TY64是64卡液冷超节点、单节点算力33 PFLOPS(BF16),慧算系列覆盖128卡、256卡与512卡集群、整体交付。128卡集群系统稳定运行,已实现大规模训练集群交付,年底实现千卡级集群交付。迭代节奏也已排定:DF2000计划今年四季度推出,BF16算力约1000 TFLOPS、访存带宽15TB/s;DF3000计划2027年四季度推出,指标在此基础上再翻一倍。

对国产算力产业而言,这条路线的价值不止于一家公司。它提供了一种可复制的范式:不依赖最先进制程和HBM,立足全国产供应链,以架构创新换取系统效率,低投入、快落地、可迭代。当越来越多的行业负载需要在自主可控的底座上运行,这种范式的产业空间会被进一步打开。

04

结语

回头来看,24个月跑通芯片到集群的全链路,是近存计算技术路线的一次完整自证:系统级验证、软件适配、产业化交付三个环节的效率优势,最终汇成了“全国产训练集群交付”这个结果。国产算力由此跨过从参数发布到产业化验证的关键节点。

这条路线究竟能走多远,魏少军教授自己给出了克制的答案,整套软件定义近存计算路线的长期天花板仍是制程工艺。他坦言,若未来国内先进制程取得突破,公司会第一时间引入更先进工艺。这条路线的意义,是为国产算力争取到一个时间窗口,而不是宣布制程不再重要。

验证之后的规模化应用才是真正的考验。128卡到千卡,规模每上一个台阶,稳定性、良率、运维、交付组织的压力都会换一种量级出现;真实客户的业务负载,比试训阶段的模型组合更加芜杂;而这条路线能否在长期演进中持续兑现性能承诺,还需要时间回答。

过去几十年,国产芯片产业回答的核心问题一直是“能不能造出来”;三个数字提示,行业命题已经换成了“能不能交付、能不能用起来”。芯片与算法之间以年对周的时间落差,靠单点参数追不平。而东方算芯这条路线第一次证明,它可以用系统效率来填。当芯片的迭代速度开始跟上应用更新的速度,国产算力与 AI 产业演进之间的错配,才真正第一次看到了弥合的可能。

文章标签算力应用落地

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。