10月28日,在上海举行的天数智芯媒体开放日上,国产GPU天垓300与英伟达H200展开了一场性能较量。
从大语言模型到文生图、文生视频,天数智芯首次开放天垓300实机演示。第三方测试及企业实验室的测试结果显示,在特定模型和部署条件下,天垓300的部分性能指标已经达到H200水平。
这一突破的意义不止于跑分。H200采用的Hopper架构是当前高端AI算力的重要参照,天垓300在部分任务中达到相近水平,意味着过去国产GPU可以胜任一些复杂模型应用。
值得一提的是,天数智芯还将目光投向数据中心之外。此次同步展示的彤央TY1200,在部分大模型任务中取得了优于英伟达Thor T5000的测试成绩。
两条产品线背后是AI算力的分层。大规模训练和高并发推理仍需要云端支撑,而实时感知、本地推理及设备控制等任务则催生出新的边端需求。
从与H200级产品正面较量,到提前进入机器人、工业AI等新兴场景,天数智芯正试图通过云端与边端的双线布局,覆盖不同客户日益分化的算力需求。

与H200过招
此次天垓300与英伟达H200的性能较量,覆盖了大语言模型、文生图、文生视频等多个应用场景。
根据第三方权威机构评测开展的第三方测试,在特定PD分离部署条件下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍。
在更复杂的模型任务中,天垓300也展现出一定优势。
天数智芯性能实验室的测试显示,在GLM-5.3模型、64K上下文条件下,保障同等用户体验时,天垓300的MoE推理吞吐达到H200的1.15倍;在8K至128K长上下文场景中,Agent首字延迟较H200降低约10%至30%。
训练方面,天数智芯还展示了基于Qwen3-32B模型的8卡整机FP8精度训练演示,天垓300每卡有效吞吐达到英伟达H100的1.33倍。
整体来看,天垓300此次展示的性能优势,主要集中在复杂MoE模型、长上下文处理等当前AI应用快速发展的领域。
这一优化方向,一方面来自天数智芯对AI前沿技术发展趋势的判断。随着Agent应用不断深入,大模型开始承担越来越多长链条任务,从代码编写、文档处理到复杂业务流程执行,模型需要反复调用工具、处理长上下文,并在多个步骤之间完成推理。
相比传统对话应用,这类任务不仅需要更强的计算能力,也对GPU的数据传输效率、显存访问和响应速度提出了更高要求。但AI应用的迭代速度远快于芯片研发周期,GPU厂商也需要提前判断未来的共性计算需求。
为此,天数智芯通过与客户共同开发,将具体应用需求逐层拆解,再转化为芯片架构的优化方向。例如PD分离对数据通信提出的要求,可以进一步转化为GPU底层通信能力的优化,从而服务于更多计算场景。
另一方面,推理也正在成为AI算力市场最明确的增量方向之一。
花旗分析师Atif Malik预计,全球AI推理芯片市场将从2025年的1130亿美元增长至2030年的6490亿美元,年复合增长率约42%;到2026年底,推理工作负载将占AI计算支出的60%以上。
中国市场同样展现出强劲的增长预期。摩根大通预测,中国AI推理Token消耗量将从2025年的约10千万亿增长至2030年的约3900千万亿,五年间增长约370倍。
推理需求的快速增长也意味着GPU厂商的竞争正在从单卡性能向整个计算系统的运行效率延伸。
为了提高多卡协同效率、降低单位Token成本,天数智芯还推出了天垓300 IXL144超节点方案,在单个机柜内集成144颗GPU和18颗CPU,整机共享显存约10.1TB,通过高速互联提高多卡协同计算效率。
据天数智芯测算,IXL144每百万有效Token成本较国际主流方案降低约40%。
从单卡性能到超节点,天数智芯正在尝试将芯片层面的优化延伸至整个计算系统,在高端推理市场争取更多成本优势。
除了性能和成本,CUDA兼容与DSL开发能力也是天数智芯争取客户的重要筹码。
对于长期使用英伟达GPU的企业而言,原有代码、模型框架和开发经验能否复用,直接关系到迁移成本。
天数智芯坚持自研通用GPU架构,同时支持CUDA相关开发语义、适配主流AI框架,希望减少客户迁移过程中的代码修改和重复开发工作。据了解,部分客户应用迁移甚至可在小时级完成,进一步的性能优化通常需要数天至一周。其软件栈也会持续跟踪主流模型的更新,客户可以通过官网获取新版软件。
原生支持CUDA生态的同时,天数智芯在GPU编程领域还有另一项重要布局——DSL(领域专用语言)。
DSL通过更高层次的编程抽象,让开发者能够以相对简洁的方式表达计算逻辑、开发和优化GPU算子,减少对复杂底层代码的依赖,也为AI编程Agent参与算子开发与性能优化提供了更有利的技术基础。
在已经支持Triton、Tilelang等主流DSL语言的基础上,此次天数智芯宣布深度接入FlyDSL,通过Agent与DSL协同,让AI参与算子代码生成、编译、性能测试和持续优化。据天数智芯提供的特定模型适配测试,过去需要10人数天完成的工作,现在可由1人在小时级完成,显著提升模型适配与优化效率。
从单卡性能突破,到超节点系统降本,再到软件生态的持续完善,天数智芯正在形成一套覆盖芯片性能、部署成本和开发效率的竞争方案。
如今天数智芯已在互联网、AI大模型、金融服务、医疗及科研等领域实现规模化落地,累计服务客户超过380家。
对于天数智芯而言,与H200同台竞技只是开始。性能突破让国产GPU有了正面竞争的底气,而成本优势与生态的持续完善则有望让国产GPU从测试中的竞争者成为客户机柜里的新选择。

提前落子
天垓300在部分测试中达到H200水平,让天数智芯有机会进入过去国产GPU难以覆盖的高端算力应用场景。
与此同时,随着AI应用不断深入,算力正在形成新的分层,新的市场也在缓缓打开。
尽管大规模模型训练、高并发推理等任务依然需要集中式云端算力支撑,而对实时响应、数据本地化及设备自主运行要求较高的计算任务,显然更适合在边缘和终端完成。例如机器人可以在云端完成模型训练,再通过本地算力实现实时感知和动作控制;工业企业则可以直接在生产现场完成视觉检测,减少数据往返远端数据中心带来的延迟。
这都为边端AI芯片打开了新的市场空间。据杰富瑞预测,2025年全球边缘AI半导体市场规模约800亿美元,到2028年有望增长至1200亿美元。
天数智芯早已落子。今年1月,天数智芯正式发布彤央系列边端产品,将算力布局从数据中心延伸至边缘和终端,推出算力模组、算力终端等不同产品形态。
此次媒体开放日上,天数智芯进一步展示了边端设备彤央TY1200的性能进展。
据天数智芯披露的数据,TY1200的稠密算力达到300 TOPS,在部分大模型任务中的性能达到英伟达Thor T5000的1.2倍;在Cosmos-R2-2B和Cosmos-R2-8B模型测试中,TY1200的实测性能分别达到Thor T5000的1.58倍和1.8倍。
比跑分更直观的,是现场一段由两只猫引发的视频生成演示。
现场一位观众提出了简单的要求:让两只猫打架,尽可能还原真实场景。
工作人员先通过部署在TY1200上的千问MoE模型优化提示词,将原本简单的描述扩展成两个镜头:两只猫在阳台边追逐打闹,其中一只猫撞倒花盆,花盆坠地摔碎。
随后,这段提示词被导入本地视频生成模型。整个过程在TY1200上完成,设备没有联网,也没有连接外部计算主机。
经过约6分10秒的计算,一段5秒钟、分辨率为1056×608的视频最终生成。
虽然生成效果仍有瑕疵,视频甚至将部分场景描述直接念成了旁白,但这场演示展示了一个新的可能性:过去需要借助云端算力完成的视频生成任务,如今已经可以在桌面大小的端侧设备上独立运行。
除了内容生成,TY1200还在现场展示了物理AI任务的本地训练能力。
一只名为MicroDuck的双足机器鸭被搬到现场。这是一台通过3D打印和手工组装制作的“手搓版”机器人。
围绕这只机器鸭,工作人员通过TY1200运行基于MuJoCo-Warp的GPU加速物理仿真,在本地完成机器人动作策略训练,并在虚拟环境中验证行走、转身、跌倒后起身等动作。
随后,工作人员将训练成果应用到实体机器鸭上。经过现场调试,这只机器鸭成功站立,摇摇晃晃地迈出了几步,随后又摔倒在地。
值得关注的是,这场演示与英伟达近日在GTC Berlin展示的MicroDuck训练方案有所不同。
在英伟达的演示中,机器人训练任务被提交至云端,利用大型计算系统完成训练后,再将策略带回本地设备验证。而据天数智芯介绍,此次MicroDuck的物理仿真和策略训练全部在离线的TY1200上完成,没有调用云端算力。
这意味着,过去通常需要依赖云端计算资源的部分机器人动作学习任务,已经能够在边端设备上独立完成,为机器人在本地开展模型训练和动作优化提供了新的技术选择。
事实上,彤央系列已经开始进入多家客户的具体业务场景。
在储能电芯研究场景中,TY1200支持科研智能体自动采集、治理实验数据,并可在约2分钟内生成报告;在文旅活动中,同一台TY1200,白天提供智能导览、夜间训练CV小模型;搭载TY1200的陪诊机器人,则已在上海市阳光康复中心服务视障人士,负责导诊、分诊与带路。
不仅如此,本地部署也开始进入传统企业的业务流程。部分对数据较为敏感的客户可以通过TY1200在离线环境下运行大模型,完成投资材料分析、合同审核等。
当然,对于边端芯片而言,能否进入具体设备,一方面取决于其与整机设计、软件系统及实际业务需求的匹配程度。越早参与客户的产品开发,越有机会在后续产品迭代中形成持续合作;另一方面,边端市场的发展仍然取决于下游应用的成熟程度。尤其是机器人等物理AI场景,整机成本、产品可靠性及商业化进展,仍会影响算力需求的释放速度。
不过,随着本地大模型、智能终端和物理AI持续发展,未来五到十年边端有望成为AI算力需求增长的重要来源已然是行业共识。
彤央系列的提前布局,意味着天数智芯有机会在客户尚处于产品设计和应用开发阶段时,就进入其技术体系。未来,当越来越多设备开始独立运行AI,今天的技术适配与客户合作也可能逐渐转化为持续的算力订单。
市场有理由相信,AI算力的下一轮增长不仅会发生在数据中心的机柜里,也将发生在工厂产线、商业门店和机器人等各种场景之中。
*以上内容不构成投资建议,不代表刊登平台之观点,市场有风险,投资需谨慎,请独立判断和决策。







