
如果一家企业准备部署1000个智能体,除了购买GPU,还需要准备什么?
答案可能比想象中复杂。每个智能体都需要执行环境,需要内存保存运行状态,需要存储记录上下文,还需要CPU协调任务、调用工具。随着智能体数量增加,原本不太起眼的资源消耗,也可能成为数据中心的一笔大开支。这也是AI产业正在发生的一个变化。过去两年,行业的竞争焦点主要集中在大模型和GPU算力上,但当AI开始从回答问题走向自主执行任务,基础设施面临的压力也从单纯的模型计算扩展到了执行环境、内存管理、数据存储和传输等环节。
10月29日,在2026腾讯全球数字生态大会英特尔专场上,英特尔与腾讯云展示了围绕至强处理器、智能体沙箱、内存压缩和KV Cache存储展开的多项合作。值得注意的是,英特尔发布这些技术的同一天,还公布了2026年第三季度财报。公司营收达到165亿美元,同比增长21%;其中数据中心和人工智能事业部(DCAI)营收达到73亿美元,同比增长78%,成为增长最明显的业务板块。

此次大会上,英特尔至强6+处理器首次在腾讯云新一代云实例中落地。

至强6+属于英特尔Clearwater Forest产品线,基于18A制程,最高拥有288个能效核(E-core),更加注重高密度计算和能效表现。腾讯云基于该处理器推出新一代CVM云实例,根据现场披露的数据,综合性能相比上一代提升30%以上,主要面向云原生、高并发以及智能体任务编排等场景。
除了处理器性能,英特尔与腾讯云此次更值得关注的合作是CubeSandbox。智能体与传统聊天机器人不同,它不仅需要生成内容,还需要执行代码、调用工具和访问文件。这些操作存在潜在安全风险,因此需要通过独立的执行环境进行隔离。腾讯云开源的CubeSandbox正是针对这一需求设计的弹性智能体沙箱计算平台。它采用MicroVM微型虚拟机,并结合快照和资源复用技术,使多个沙箱能够共享基础镜像、未修改的内存页面和文件缓存,只为发生变化的部分额外占用资源。
例如,基于同一个镜像创建3000个虚拟机,如果每个虚拟机只修改2MB内存,那么在基础资源充分共享的情况下,新增内存占用只需要约6GB。这种方式可以减少传统执行环境中的资源冗余,提高单机部署密度。在此基础上,双方还针对Cgroup、网卡资源池以及OpenCloudOS内核执行路径进行了联合优化。根据现场公布的测试结果,在满足200毫秒SLA要求的情况下,搭载至强6+的CubeSandbox单机可以支持350个沙箱并发创建请求,较对照平台提升约46%。同时,即使在高负载条件下,沙箱创建的P99时延仍然比较稳定,随着并发密度增加,时延也没有出现明显恶化。所以价值并不只是增加CPU核心数量,而是通过处理器、操作系统和沙箱软件的联合调优,提高实际业务中的执行效率。对于需要大规模部署智能体的云服务商来说,执行环境能否快速创建、稳定运行,直接关系到服务器利用率和部署成本。
02IAA与QAT各司其职,内存和KV Cache成为新瓶颈如果说沙箱解决的是智能体在哪里工作,那么内存和存储解决的就是它工作过程中产生的数据放在哪里。智能体运行时间越长,保留的上下文和任务状态就越多。尤其是在多个智能体同时执行任务时,内存容量很容易成为服务器部署密度的限制因素。针对这一问题,英特尔与腾讯云展示了基于IAA的内存压缩方案。
IAA即英特尔内存分析加速器,是集成在至强处理器内部的专用硬件加速单元,能够承担特定压缩和解压缩任务,减少通用CPU的计算负担。腾讯此次采用操作系统Zswap机制,对不活跃的内存页面进行压缩,测试对象为2MB大页。此前使用LZ4、ZSTD等软件方案时,多路并发解压容易出现内存带宽争抢,造成时延增加。最终,双方选择IAA-batch-8配置,并对驱动和内核路径进行了轻量化适配。根据公布的数据,相比软件压缩方案,IAA平均耗时提升16倍,最大耗时提升9倍。在256路并发综合压力测试中,IAA方案平均耗时为56微秒,最大耗时为564微秒。这说明它可以在提高内存利用率的同时,尽可能减少解压缩对业务响应的影响。对于需要同时运行大量智能体的云平台来说,内存压缩不仅是节省空间的问题,也是能否维持业务时延的问题。
另一个值得关注的方向是KV Cache。KV Cache是大模型推理过程中保存上下文计算结果的重要机制。传统问答场景中,模型回答完问题,一次交互基本结束。但智能体可能持续执行多个步骤,反复搜索、读取文件和调用工具,上下文不断积累,KV Cache也会越来越大。
如果所有缓存都放在GPU显存中,容量和成本都会面临压力。因此,将KV Cache在GPU显存、CPU内存和SSD之间进行分层管理,正在成为推理系统优化的重要方向。英特尔此次展示的方案采用存算分离架构,通过RDMA连接GPU、CPU和后端存储,结合自研KV Shrink分层KV软件,以及至强处理器内置的QAT加速器,实现缓存数据的分层存储、传输和压缩。这里需要区分IAA与QAT。IAA主要面向内存页面压缩,而QAT主要承担数据压缩、解压缩等加速任务,两者并不是同一种技术。
在测试中,采用Qwen2.5-32B-Instruct模型,输入8000 Token、输出128 Token,并在64GB DDR内存限制下进行测试。当KV Cache能够100%命中后端高性能存储时,相比不进行缓存复用的原生vLLM方案,TTFT下降90%;在并发数为8、16和32的情况下,吞吐量分别提升超过5倍、6倍和8倍。此外,开启QAT压缩后,整体吞吐量没有明显变化,但可用容量提高了近20%。
03GPU、软件生态与端侧智能:英特尔的下一张牌是什么?除了至强处理器和内置加速器,此次英特尔还介绍了面向智能体推理的GPU产品布局。其中值得关注的是GPU D系列,代号Crescent Island。这款产品基于Xe3P架构,最高支持480GB LPDDR5X内存,内存带宽达到1.5TB/s,FP8算力最高为1.3PFLOPS,功耗约350W。与传统强调峰值算力的GPU不同,Crescent Island更加注重显存容量和能效表现。大容量内存能够容纳更多模型参数和KV Cache,适合长上下文、多用户并发以及持续运行的推理工作负载。英特尔公布的产品定位是,单卡最高支持3000亿参数模型运行,八卡系统支持超过1万亿参数模型运行。目前,该产品已经进入客户送样阶段。
这反映出英特尔在GPU市场上的另一种思路:在竞争激烈的算力市场中,通过大显存、相对较低功耗和现有数据中心的风冷部署条件,寻找差异化市场。不过,GPU市场的竞争不仅取决于硬件规格,软件生态同样重要。英特尔正在通过SYCL、SYCL-TLA等开放软件技术,以及AI Agent辅助代码迁移工具,降低CUDA项目向英特尔平台迁移的成本。其现场展示的实验中,10个不同项目通过大模型和专用Skill完成了初步迁移,随后仍需要进一步进行算子优化。
在终端市场,英特尔也在推进端云混合智能。此次大会展示了与腾讯合作的WorkBuddy、Marvis本地智能体方案。Marvis提供近20个本地技能,WorkBuddy则集成30多个本地或混合专家,部分任务可以通过本地模型和OpenVINO加速完成。因此,英特尔的AI布局并不局限于数据中心,还希望将模型推理、任务执行和隐私保护能力延伸至AI PC。云端负责复杂推理,终端负责部分低时延、高隐私需求的任务,这种混合模式也为PC处理器、集成GPU和端侧AI软件带来了新的应用空间。
04英伟达与AMD,也在加码英特尔并不是唯一看到这一市场变化的厂商。英伟达和AMD近期也在围绕智能体重新调整产品布局,而且两家公司的方向已经从单一GPU产品延伸至CPU、存储和系统架构。

除了英特尔,英伟达在本届大会上也专门围绕AI基础设施进行了分享。英伟达介绍了面向AI工厂的五大网络基础设施:Scale-Up、Scale-Out、Scale-Across、Context Memory和Scale-In,分别对应GPU高速互联、服务器集群扩展、跨数据中心连接、上下文存储以及基础设施管理。其中,Context Memory尤其值得关注。随着智能体任务不断积累上下文,KV Cache规模持续增长,英伟达希望通过网络和存储架构,让不同计算节点能够共享和访问缓存数据,减少重复计算。这与英特尔通过QAT和KV Shrink优化KV Cache的方向不谋而合,只是英伟达更加侧重网络互联和集群级资源管理。BlueField-4、DOCA等技术的引入,也说明DPU正在从传统的数据传输和卸载工具,进一步参与AI基础设施的数据访问、安全和管理。
AMD则带来了另一个值得关注的方向:端侧AI与存储协同。其与江波龙、六联智能等合作伙伴展示了基于锐龙AI Max+ 395的智能体主机方案,并结合江波龙的AIDIMM高带宽内存、iSA存储智能体和AISSD,解决本地运行大模型时的内存容量和数据调度问题。其中,AIDIMM采用LPDDR5X颗粒和256bit位宽设计,iSA则通过MoE专家动态卸载、缓存分层和数据预取等方式,协调DRAM与SSD之间的数据流动。江波龙公布的联合测试显示,64GB AIDIMM配置可支持70B、80B及122B级别模型的本地运行,相关方案还延伸至搭载AISSD和iSA的AMD锐龙AI Halo开发者平台。这种设计的意义在于,不再要求所有模型数据都驻留在DRAM中,而是根据运行需求,将数据分配到不同存储层级。对于内存容量有限的端侧设备来说,这为运行更大规模的模型提供了新的思路。
从云端的KV Cache管理,到端侧的内存与SSD协同,可以看到存储正在从传统的配套硬件,变成影响AI推理效率的重要组成部分。英伟达关注的是数据中心内部的高速连接和缓存共享,AMD及其生态伙伴则在探索如何通过存储分层突破端侧设备的内存限制。两种不同的路径,实际上都指向同一个趋势:AI基础设施的竞争,正在从计算芯片本身向内存、存储和数据流转等环节扩展。
05结语从此次腾讯全球数字生态大会的展示,到英特尔最新的第三季度财报,可以看到一个值得关注的变化:数据中心正在重新成为英特尔的重要增长来源,而智能体可能进一步扩大服务器CPU、内存和存储等基础设施的需求。
对整个半导体产业而言,智能体带来的变化可能比一轮单纯的GPU升级更加深远。当AI开始持续执行任务,决定基础设施成本的就不再只是模型每秒能生成多少Token,还包括执行环境的创建速度、上下文的存储成本、数据的传输效率,以及整个系统的能源利用率。
过去,半导体产业竞争的是谁能提供更强的计算能力;而智能体时代,竞争正在转向谁能以更低的系统成本,把计算能力转化为更多真实的工作成果。







