IT时报记者 林斐
AI行业发展初期，算力规模一度是企业比拼的核心指标，大规模GPU集群几乎成为AI公司的标配。而随着行业逐步成熟，算力投入的性价比开始成为企业关注的核心。2026云栖大会期间，阿里云、AWS等企业持续加码AI基础设施的同时，行业关注点正从“抢算力”转向“算得值不值”。中国企业的算力投入也从规模焦虑转向成本理性，投资回报率（ROI）与总体拥有成本（TCO），成为技术负责人最关心的核心问题。
Akamai大中华区副总裁张珂提出，AI算力布局正在从单纯追求规模，转向更加关注不同场景下的成本和效率。“训练靠集中，推理靠分布”，是其对这一变化的概括。
算力需求各有侧重过去几年，大规模GPU集群主要服务于AI模型训练。集中部署能够提高资源调度效率，也是大型模型训练的重要基础。但AI应用进入推理阶段后，算力需求发生了变化。
推理请求往往来自不同地区和不同用户，需要持续响应。对于企业而言，如果所有请求都回到少数几个大型数据中心处理，虽然可以获得集中式算力，但网络传输和访问延迟也可能随之增加。
这意味着，训练阶段形成的集中式算力架构，并不一定适合直接复制到推理业务中。
张珂认为，对于同时面向全球市场和本地用户的企业，训练和推理可以采用不同的算力布局。训练阶段更适合集中使用大规模算力资源，而推理则可以根据用户分布，把部分算力部署到更靠近用户的位置。
Akamai分享的GoVeda案例显示，在业务发展早期，部分基础推理任务使用CPU即可满足需求。随着业务规模扩大，再逐步迁移到GPU架构。按照其披露的数据，这一调整在提升性能的同时，也降低了相关成本。
不同AI应用对算力的需求也不完全相同。例如，合同摘要等输入密集型任务，与交互式代码生成等生成密集型任务相比，在内存、计算能力等方面的要求并不一样。如果采用完全相同的资源配置方式，可能出现部分资源利用率不足的情况。
因此，对企业而言，算力采购已经不只是“买多少GPU”的问题，还涉及不同业务应该使用什么类型的算力，以及这些算力应该部署在哪里。
进入“算账”阶段算力需求发生变化后，多云架构的意义也在变化。
过去企业谈多云，更多是为了避免对单一云厂商形成过度依赖，或者根据不同业务选择不同云服务。但随着AI推理业务增多，多云也开始被用于解决算力分布和成本控制问题。
Akamai希望在其中扮演的，就是分布式算力和大型云厂商之间的补充角色。
按照Akamai披露的数据，其全球网络包括1200多家运营商、超过44万个边缘节点以及26个核心云节点。其思路并不是替代大型云厂商，而是把不同类型的计算资源放到不同位置，再根据业务需求进行调度。
在算力资源选择上，Akamai也提供CPU、GPU以及VPU等不同类型的计算资源。对于企业而言，这意味着并非所有AI任务都需要使用最高规格的GPU，而可以根据任务特点进行匹配。
算力调度则是另一个关键环节。Akamai正在推进与NVIDIA等厂商的软硬件集成，并通过AIGrid等技术，根据工作负载对算力资源进行调度。同时结合缓存、推测解码、意图路由等技术，减少高端GPU资源被低复杂度任务长期占用的情况。
这些技术最终解决的，仍然是一个相对实际的问题：已经投入的算力，能不能被更充分地使用。
AI基础设施投入快速增长后，企业对ROI和TCO的关注也在上升。
过去企业可能需要在“自建算力”和“使用公有云”之间进行选择。随着多云和边缘计算的发展，算力部署开始有了更多组合方式：集中式云算力负责规模化计算，分布式节点负责靠近用户的推理需求，不同区域则根据业务量和成本进行调整。
这也意味着，AI基础设施的竞争正在从单纯比拼算力规模，逐渐进入比拼资源利用效率的阶段。
对于企业来说，真正需要计算的已经不只是“需要多少算力”，还包括“什么业务需要什么算力”“算力应该放在哪里”以及“投入的算力能够产生多少实际业务价值”。
从这个角度看，多云并不是简单地增加几个云平台，而是让企业有更多空间重新安排自己的算力成本和业务需求。
