Token导航 LogoToken导航

AI 资讯 · 环球网

中科曙光加快系统化布局应对高通量推理新需求

更新 2026-10-23环球网正文 2728字阅读约 9分钟

【环球网科技报道 记者 李文瑶】10月22日,2026中国计算机大会(CNCC 2026)在成都举行。会议期间,中科曙光高级副总裁李斌对推理负载变化作出判断:随着人工智能从内容生成走向任务执行,推理不再是偶发、短时的请求,而是长期运行、持续交互的生产型进程;算力系统需要从单机峰值能力转向系统有效算力,围绕Token产出效率重构。

这一判断的背景是,Agent规模化应用正在推动Token需求快速增长,高通量推理正成为算力产业的新变量。算力市场的关注点也随之从“建多少资源”转向“产出多少有效Token”,系统效率、调度能力和运营水平被推到台前。

同日,中科曙光展示面向Token经济的智算基础设施方案,集中展出超节点、AI存储、高速网络、超集群等产品及AI推理优化服务方案,并发布可管控百万量级设备的FabricView智算网络管理平台。从产品展示到平台发布,这一系列举动指向同一趋势:算力产业正从“建算力”向“用好算力”调整方向,算力企业也需要在系统交付、跨域调度和持续运营上重新组织能力。

Token需求被Agent重新定义

过去,生成式AI的典型负载是短时、偶发、单轮的内容生成请求,算力系统更关注峰值性能和资源供给。但当AI进入“执行”阶段,Agent需要持续交互、调用工具、拆解任务并与其他智能体协同,推理负载随之呈现高并发、长文本、持续运行等特征。Token不再只是模型调用的计量单位,而成为衡量成本与产出的核心指标。

IDC中国区副总裁周震刚在CNCC 2026期间展示的行业观察指向同一趋势:全球活跃Agent数量将从2026年的7940万个增至2030年的22.16亿个;中国市场2026年活跃Agent数量为495万个,2030年将达2亿个,Agent部署渗透率高于全球领先水平。Agent数量增长与任务复杂度提升叠加,使Token消耗由任务执行次数、单任务Token消耗和多智能体协同放大系数共同推高。

这意味着,算力市场的关注重点正在从“拥有多少资源”转向“资源能产出多少有效Token”。竞争焦点也从芯片峰值算力转向系统有效算力,即算、存、网的低损耗协同;运行重心从资源供给转向调度、数据供给和Token运营;部署形态从集中式智算中心走向云边端协同;价值实现方式从购买模型能力转向场景化智能能力服务。

李斌在大会演讲中进一步指出,围绕“超节点+超集群”开展一体化系统工程创新,构建训推一体、极致高效、绿色节能、稳定可靠的算力系统,成为发展AI基础设施、提升Token生产效率的重要方向。

异构计算系统需求上升

负载性质的变化,正在改变算力系统的内部结构。传统AI服务器CPU与GPU配比通常为1:8至1:4,但在Agent场景中,CPU需要承担工作流编排、工具调用和状态管理,通算智能化成为新趋势。与此同时,“超节点+PD分离”成为系统级计算能力优化方向。IDC数据显示,94.3%的企业认为超节点与PD分离是重要能力。

中科曙光此次展示的scaleX40超节点,通过一层组网实现全交换scale-up,形成内存语义的百纳秒级低延迟网络,并通过无线缆正交结构与全电互连,大幅提高系统可用性,是构建高通量推理基础设施的标准单元。在更大规模扩展上,scaleFabric原生无损RDMA高速网络可将多个计算节点互连形成千卡、万卡、十万卡规模的超集群;ParaStor不仅为AI全流程提供统一存储池,还针对模型训推进行了算存传深度协同优化。网络运维侧,首次发布的高速网络智能运维管理平台FabricView专为scaleFabric大规模集群网络定制研发,具备自动化配置管理、主动性能压测筛查、业务拓扑感知调度、故障诊断自愈、全栈多维度可观测和智能运维管理等功能,可集中纳管百万量级设备、端口与光模块。其意义在于,大规模网络环境下的故障定位与恢复由人工驱动转向AI代理驱动,显著提升了超大规模集群的运维效率与可靠性。

从产业逻辑看,异构计算系统需求上升并非简单的硬件升级,而是系统化协同的结果。芯片、超节点、网络、存储、液冷和调度软件需要围绕Token产出效率重新匹配,系统交付能力将直接影响推理成本和长期运行稳定性。

算力网络与持续运营服务走到台前

算力供需缺口长期存在,进一步强化了系统化布局的必要性。IDC数据显示,全球AI算力供需缺口绝对值将从2024年的389亿美元扩大至2030年的3809亿美元;97.3%的企业计划扩大投入,37.7%的企业增加推理投入,价格信号和产能、能源约束同时存在。

中科曙光工程师分享的全栈推理优化方案,针对算力空转、通信等待、访存搬运、调度排队等阻碍Token高效产出的四堵墙,围绕“算、传、存、调” 进行全链路软硬协同优化,贯穿应用、框架、算子、运行时、系统和芯片六个层级,大幅提升有效Token吞吐。PD分离架构优化方案,针对解耦预填充与解码阶段,通过资源独立配置、智能调度与KV Cache高效传输,在minimax2.5 PD分离测试中,实现P性能提升237.5%,D性能提升228.57%。ParaCache缓存管理方案,采用曙光ParaStor分布式存储和FlashNexus集中式存储,构建高性价比的生产级L4 KV Cache池,实现TTFT降低95%+,Token吞吐性能提升15~25倍,64K上下文并发数提升16倍等目标,并可将单TB成本降至内存方案的四十分之一。

这些优化表明,算力交付不再只是“卖设备”,而是交付可运行、可治理、可持续优化的任务级服务。

中科曙光加快系统化布局

在这一趋势下,中科曙光正加快系统化布局。CNCC 2026期间,中科曙光方面透露,公司正围绕“超节点+超集群”开展布局,并依托国家超算互联网,强化异构资源统一调度、任务级服务交付和持续运营能力。

从算存网产品到推理优化服务,中科曙光将系统研发、工程实施与持续运营连接起来,使智算基础设施既能承接更大的业务规模,也能在长期使用中保持效率与稳定性,持续支撑模型迭代和应用发展。

这一布局的产业含义在于,算力企业正由单一设备供应向系统建设和算力服务拓展。超节点、超集群和国家超算互联网分别对应系统级协同、资源池化调度和跨域服务网络,背后是算力供给方式从“卖硬件”转向“建系统、做服务”。

竞争焦点转向交付与效率

未来算力市场的争夺,不再只是单点硬件性能的比拼,而是系统交付能力和长期运行效率的较量。谁能把计算、存储、网络、供电、冷却等子系统组织成稳定高效的整体,在Token吞吐、可用性和成本控制上形成优势,谁就更有机会在竞争中占据主动。

正如李斌在大会演讲中所言,系统建设需统筹芯、算、存、网、电、冷等各环节之间的配合,将设备性能充分转化为实际可用的算力。

文章标签算力智能体

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。