Meta 的 Prometheus 超集群一期已经建成，并训出了 Muse 系列基础模型。2026 年 10 月 19 日，Meta 工程团队发布技术长文，披露这座位于美国俄亥俄州 New Albany 的吉瓦级超集群：两年前这里还是跑网页流量的普通数据中心，如今已部署数十万张 GPU，目标是扩展到约 100 万张；主打个人与专业智能体任务的 Muse Wonder 等前沿模型，就是在这里完成训练的。
先看它跑大型训练的成色
规模之外，Meta 给出的运行指标更能说明问题。Prometheus 上的预训练有效产出率（goodput）超过 85%，Muse Wonder 的强化学习训练超过 90%；预训练期间平均中断间隔约 4.7 万 GPU 小时，经过固件等修复后已提升到 5.4 万 GPU 小时以上。在数十万张 GPU 必须步调一致的训练里，单台主机出问题就可能拖停整个任务，能把有效产出率维持在这个水平，靠的是把稳定性当成一等指标来做。集群还采用闭环液冷来压住能耗与散热。
三代硬件同场，机柜就是最小单元
Prometheus 目前部署了两代 NVIDIA 平台，第三代已在路上。第一代 Catalina 用 GB200 NVL72，72 张 GPU 互联成一个域，每张配 192GB HBM3e，Meta 采用双机柜的 Ariel 变体，把每张 GPU 的对外带宽提前做到 800G。第二代 Clemente 换到 GB300 NVL72，单张显存升到 288GB，整个 72 卡域收进单个机柜，FP4 峰值算力超过 1 exaFLOP。第三代基于 NVIDIA Vera Rubin NVL72，即将进场。建筑之间由专用以太网后端网络连成一台机器，跨度从 2 公里到 100 公里以上。
72 张 GPU 绑在一起，故障半径也放大了 9 倍
NVL72 把紧密耦合的规模从 8 张卡扩到 72 张，带宽优势的另一面是故障影响面同步放大。Meta 的解法是留冗余：每个 72 卡域实际只用 64 张跑训练，剩下 8 张作机柜内备件，某张卡坏了立刻顶上，任务从最近的检查点重启而不是等修硬件；整柜级故障另留约 2% 的备用机柜。这样算下来，一次 32768 张 GPU 的训练要备 37656 张卡，多出约 13%。再叠加能隔离单个数据并行副本的容错机制和异步检查点，目标都是把整场停机变成局部降速。
接下来盯什么
Prometheus 的后续扩容是为 Meta Superintelligence Labs 的下一代前沿模型准备的。头部实验室的竞赛已经不只是模型参数，而是谁能把百万级 GPU、液冷、跨建筑网络和故障恢复做成稳定产出。等 Vera Rubin 进场、扩容有新披露时，这座集群的真实上限才会更清楚。
