太初元碁乔梁：芯片竞争重点转向有效吞吐

11月12日，由中国电子信息产业发展研究院、中国半导体行业协会共同主办的第二十三届中国国际半导体博览会（IC China 2026）在北京国家会议中心开幕，同期举办第八届IC企业家大会（以下简称“企业家大会”）。太初（杭州）集成电路有限公司（以下简称“太初元碁”）联合创始人、首席运营官乔梁在企业家大会上发表主旨演讲，他表示，智能体发展推动推理侧算力需求增加，芯片竞争重点正从单卡性能转向有效吞吐。

推理侧需求增加，半导体产业迎来新机遇

近年来，模型规模加速扩大，多个万亿参数级别的大模型涌现，头部厂商开始押注10T超大规模，这对训练算力规模、高质量数据投入与资本投入提出了更高的要求。与此同时，随着AI应用加速落地，乔梁表示，推理侧算力的需求也迎来了爆发期，训练与推理算力比例已从80:20转变至30:70。

乔梁指出，这一趋势背后主要有三大驱动力。其一，AI与大厂业务深度融合，部分功能转移至AI服务器，以Google为例，月均Token消耗量达960万亿。其二，Agent与深度推理结合，带来了远超Chatbox对话模式的消耗，乔梁指出，Agent具备多模型协同、任务分解、工具调用等能力，单次指令可触发数千次推理调用，单次交互算力消耗较Chatbot增长约100万倍。其三，多模态加速渗透，直观体现为近期以影视为代表的推理算力需求激增。

乔梁表示，行业正迈入“后算力时代”。此前，算力主要由头部玩家使用，基本集中于互联网大厂或大模型公司；如今，生产制造、消费服务等各行各业对算力的使用需求都日趋扩大，影视、科学计算等场景均已涌现出差异化的芯片产品。他表示，“中国各个产业拥抱AI（的速度）相对于国际更为迅速，这对国产芯片公司以及中国半导体行业而言是很好的发展机会。”

应用需求的变化，也正革新芯片的竞争标准。有效吞吐成为重要标准。“过去大家关注的是单卡的性能。”乔梁指出，“现在关注的是在业务侧性价比高不高、输出的Token单价做到多低，业务推理速度、吞吐效率能否达到需求。”这意味着，芯片公司不仅要获得应用侧的价值认可，还要在生产制造环节寻找降低成本的空间，确保业务产出价值覆盖算力投入。

超节点成趋势，太初探索异构众核解决方案

算力需求变化，也推动基础设施持续演进。乔梁关注到，后算力时代，多家厂商聚焦超节点产品，“未来这一定是整个行业关注的重点”。从芯片内部制程到外部互联技术，乔梁表示，各厂商的探索归根结底都是为了解决算力时代的三大核心命题，如何高效发挥集群性能、提高并行效率、降低并行成本。

太初元碁的解决方案是异构众核芯片架构，即融合CPU和GPU的功能在一颗芯片中，通过高速互联和带宽，数据流能在芯片内部进行高效传输。乔梁表示，Agent时代的竞争，不只是比“GPU更快”，而是让CPU、GPU、内存和数据通路在系统级别协同，更好解决传统分离架构的痛点。与此同时，基于下一代芯片，太初元碁也布局了超节点产品，通过一层网络互联技术实现百卡以上的高速互联技术。

在应用层，乔梁尤其看好HPC与AI融合的发展方向。他表示，太初已在AI for Science、量子力学、气象预测、化学材料等场景形成较为完善的软件栈解决方案。针对中小企业及边缘侧终端算力需求，乔梁认为，一体机加分布式集装箱方案大有可为；分布式集装箱方案有助于降低建设成本、缩短建设周期，既能满足业务场景算力需求，又能保障数据安全。

面向庞大的中国市场，乔梁希望芯片设计企业、硬件制造厂商与行业服务商积极交流、加强合作，共同完善产业链生态。