Token导航 LogoToken导航

AI 资讯 · 未尽研究

Meta发布Muse模型 普罗米修斯集群支撑AI算力网

更新 2026-10-21未尽研究正文 3807字阅读约 12分钟2 张图片

Meta最近发布Muse Wonder与Muse Wonder Full,标志着它重返前沿AI之列,并为个人智能体战略提供技术支撑。

Meta介绍,两款模型都在超级算力集群普罗米修斯(Prometheus)上完成训练。理解它们的能力,不能只看算法,还要看背后那套支撑预训练和强化学习的生产系统。

Meta进一步公开了普罗米修斯的建设进展和重要细节,与它此前介绍的BAG网络、MAST调度系统放在一起,一种总体构想逐渐清晰:AI工厂正在突破单一建筑和园区的边界,成为由高性能互联、全球调度和分布式训练共同组织起来的计算网络。 从这个意义上说,Meta正在建设一张“企业级算力网”,并且把下一代大模型的竞争门槛,向百万卡级基础设施提升。

图片

(来源:Meta Engineering)

普罗米修斯,向百万卡扩展

位于俄亥俄州新奥尔巴尼的普罗米修斯,正在从服务互联网流量的数据中心,改造为吉瓦级AI超级集群。Meta披露,一期已经完成,目前数十万GPU分布于多座互联建筑,继续向约100万GPU扩展。

规模越大,芯片充分发挥作用难度越大。GPU之间要交换数据,故障后要恢复训练,供电与冷却也必须跟上。为加快建设,Meta结合既有建筑、快速部署结构和邻近托管设施,并同步改进软件,以支持跨地点训练。这不是等待一座完美的新园区全部建成,而是把不同地点、不同交付阶段的资源组织起来。

系统的稳定性和可靠性, 决定了Muse Wonder的有效训练效率(goodput),预训练吞吐量提升至 85% 以上,强化学习 (RL) 吞吐量提升至 90% 以上。训练过程还实现了约 4.7 万 GPU 小时的平均中断间隔时间 (MTBI)。此后,整个系统进一步改进,包括固件修复,MTBI 提升至 5.4 万 GPU 小时以上,这一指标还在优化之中。通过与英伟达联合解决NVLink、HBM、网络及固件故障,训练中断事件较最严重时期下降约99%。

Meta透露,在一个需要32768张GPU实际工作的训练任务中,为实现容错,必须配置37656张GPU,即额外冗余接近4900张。这比实际参与训练的GPU数量多出的近15%,要从整个系统所获得稳定性的提升弥补。

AI工厂的边界由此不再完全由所在的厂区决定,而越来越由一个问题决定:分散的设备能否高效地共同推进计算任务?普罗米修斯提供物理载体,网络和软件则决定这些资产能否合成生产能力。

BAG:跨建筑跨区域互联

承担跨建筑、跨区域互联的关键技术是BAG(Backend Aggregation),即后端网络聚合层。它是基于以太网的“超级脊骨层”,向下连接不同建筑的GPU网络,横向连接其他聚合节点。普通网络让机器彼此可达,BAG则要让大量GPU高效交换训练数据。Meta披露,区域对之间的互联容量可达16-48Pbps;不过,它并不是一个所有方向都拥有等量带宽的无阻塞网络,而是按训练需求分层配置带宽。在普罗米修斯中,这种互联跨越约2公里至100多公里。

网络可以扩大带宽,却不能取消光传播的时间。Meta采取的方法,是让训练方式适应网络:需要频繁交换数据的紧耦合计算尽量留在同一建筑或近距离区域;不同的数据并行副本则可以部署在不同数据中心。各副本处理不同批次的样本,再交换梯度,共同改进模型。这仍然可以是同一个训练任务,但不要求每次细粒度计算都跨越百公里同步。

故障处理也要遵循这种分组。Meta的FT-HSDP研究以数据并行副本为恢复单位,一个副本出故障时让它退出、恢复,其他副本继续训练。据Meta公布的研究报告,在约十万GPU规模下,有效训练时间占比由44%提高到80%。扩大集群的关键,不只是增加设备,也包括减少整个系统的等待和停顿。

图片

(来源:Meta Engineering)

MAST:决定任务和数据的去向

BAG解决怎样连起来一起算,却不负责决定具体任务去哪里算。后一个问题,属于MAST——Meta的全球机器学习训练调度系统。

Meta在2024年的论文中描述,过去用户先选数据中心区域,再上传数据、申请当地GPU。选择一旦固化,就可能出现一个区域排长队,另一个区域却有空闲资源。MAST改变了这个流程:研究者提交任务,系统综合资源与需求,安排训练任务及所需数据的落点。

数据搬迁比任务分配慢,因此MAST还把调度分为不同时间尺度:较慢的后台过程持续优化数据放置与资源安排,较快的过程处理任务启动。它不是每来一个任务,就临时把海量数据搬过半个大陆。

其效果被证明是显著的。论文披露,优化前,最拥挤区域高优先级任务的GPU需求与供给之比为2.63;优化后降至0.98。这不是GPU性能提高了2.7倍,而是原本错配的需求与设备被重新组织起来。

两者因此互补,MAST在更大范围内匹配任务、数据与资源,BAG让选定的计算资源能够紧密协作。 全球任务调度与跨数据中心联合训练,不是二选一,也不意味着所有地点都必须参加同一个同步作业。

跨芯片系统、跨供电系统协同

把这些能力放在一起,Meta的总体方向可以概括为,把分布于不同地点的计算设施,组织成一个可分配、可协作、可恢复的生产体系。BAG只是其中的网络层,不是整张算力网。

这里也不能忽略异构。普罗米修斯目前披露的主要是NVIDIA GB200、GB300平台,也正在部署Vera Rubin;但Meta整体还使用AMD GPU与自研MTIA加速器。其KernelEvolve系统会为不同硬件生成、验证和优化计算内核,以降低模型适配成本。拥有多种芯片、模型能高效迁移,与不同架构在同一个任务中高效混训,是不同层次的异构能力,不能互相替代。

电力同样在进入计算控制。Meta今年一篇关于150MW、约8.3万颗GB200集群的研究,介绍了动态功率管理系统Dimmer:接近供电设备容量上限时,结合任务信息调整GPU功率,避免局部限功率拖慢整个重要作业。研究还提出,下一步应把供电拓扑与网络拓扑共同纳入任务布局。

由此看来,Meta建设的不是一条只会扩容的硬件流水线,而是一套持续动态调整的生产组织,有些任务应该集中,有些可以分散;有些数据应提前复制,有些应就地处理;有些局部性能可以适度让步,以换取整体运行效率。

企业级与国家级算力网

Meta这条路径,与中国全国一体化算力网确有共同逻辑,都不满足于建设更多机房,而要把分散资源变成可调度、可使用的计算能力。国家数据局特别解释,算力调度并非像输电那样“输送算力”,而是通过网络,把数据与计算任务安排到算力中心。这个定义与MAST处理的问题相当接近。

真正的差异,是中国政策所说的“异属、异构、异地”同时存在。国家算力网需要跨越资源所有权、硬件架构和地理位置,还要统筹通用计算、智能计算与超级计算,建立计量计费、交易结算、安全和绿电协同机制。

Meta可以在企业内部协调采购、软件、模型需求与资源分配;国家级体系面对的则是许多拥有独立利益和技术选择的参与者。一家企业能以内部规则解决的问题,跨企业后往往需要公共标准、契约和市场机制。统一调度也不应理解为一个中央调度器接管全国每颗芯片,更合理的方向是分层管理、跨域协作。

因此,在对比企业级算力网与国家级算力网时,不宜把二者简单分成前者做同步训练,后者做任务交易。工信部的算力互联互通政策也包括高性能互联及异构智算集群混训,只是这些是需要逐项实现的目标,不代表所有资源已经可以无差别组合。反过来,Meta也早已在做跨区域资源匹配,而不只建设紧耦合超级集群。

两者共同的,是这种分层思想:近距离资源承担高频通信的大任务,远距离资源更多通过任务和数据调度共享;异构平台先做到可用和高效迁移,再判断混训是否划算;电力条件进入部署与运行决策,而不是最后才补上的限制。算力网的目标,不是让所有芯片任何时候都一起工作,而是让合适的资源以合适的方式协作。

从Muse Wonder回望普罗米修斯,AI竞争的单位正在变化:不只是一个模型、一颗芯片或一座数据中心,而是一套能够持续产出有效智能的系统。企业级算力网首先回答“怎样把自己的资源用好”;国家级算力网还要回答“怎样让不同主体的资源彼此好用”。 两者共同的衡量尺度,不应只是接入多少GPU、建成多少兆瓦,而是这些资源最终完成了多少有价值的计算。

--

主要参考:

https://engineering.fb.com/2026/10/19/data-center-engineering/inside-prometheus-meta-gigawatt-scale-supercluster/?utm_source=chatgpt.com

https://engineering.fb.com/2026/02/09/data-center-engineering/building-prometheus-how-backend-aggregation-enables-gigawatt-scale-ai-clusters/

https://www.usenix.org/system/files/osdi24-choudhury.pdf

https://www.ndrc.gov.cn/xxgk/zcfb/tz/202312/t20231229_1363000.html

https://www.nda.gov.cn/sjj/jgsz/jld/llh/llhldhd/0323/20260323202204680553721_pc.html

文章标签Meta算力

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。