Meta、百万GPU規模のAIスパコン「プロメテウス」の内部を公開

Metaは19日、オハイオ州ニューアルバニーにあるギガワット級スーパークラスタ「プロメテウス」の内部構成を公式技術ブログで明らかにした。数百棟の建物に分散して設置された数十万基のGPUを、1台の巨大なコンピューターとして協調動作させているという。

Metaによると、プロメテウスは最終規模で約100万基のGPUが連携する予定。現在はNVIDIAのGB200とGB300システムを採用し、GB300のラックあたり72基のGPUを搭載する。GPU同士は数万基のネットワークスイッチと数百万個の光学部品で接続されている。

MetaはNVIDIAと約1年間協力し、トレーニングの中断を99%削減した。また、予備のGPUをフェイルオーバー用に活用し、液冷を導入している。最近公開されたMuse Wonderモデルはプロメテウスでトレーニングされた。

Metaは今後、NVIDIAの次世代システム「Vera Rubin」でプロメテウスを拡張し、その経験をルイジアナ州の別のスーパークラスタ「Hyperion」にも適用する計画だ。

ニューアルバニーの転換

この記事の2年前、ニューアルバニーのデータセンターは大規模なAIトレーニング拠点に転換される前、通常のウェブサービスを処理していた。Metaはプロメテウスの第1フェーズを完了している。