Tesla、SpaceXのCEOであり、Twitterを買収しXと改名したElon Musk氏は、自身が創設したAI企業「xAI」によるAGI（汎用人工知能）開発を支援するため、「Gigafactory of Compute」と名付けられた巨大なAIスーパーコンピューターを構築する計画であると、The Information誌は伝えている。
NVIDIA H100を10万個を搭載するAIスーパーコンピューター
「Gigafactory of Compute」は10万個のNVIDIA製H100 チップを搭載し、2025年秋までの稼働を計画しているという。Teslaの「Gigafactory」にちなんで、同様にその名称が用いられたようだ。
Musk氏は今月投資家向けに行われたプレゼンテーションにおいて、「現在存在する最大のGPUクラスターの少なくとも4倍の規模になる」と豪語していたようだ。
Musk氏は自らこのスーパーコンピューターの計画通りの構築に「個人的な責任を負う」と述べているとも伝えられている。ちなみに、Gigafactory of Computeがどこに建設されるのかは現時点では不明だ。
ただし、この規模が圧倒的かと言われると答えは難しい。比較としてMetaは2024年1月時点でCEOのMark Zuckerberg氏が語ったところでは、年末までに34万個のNVIDIA H100 GPUと約60万枚のグラフィックボードを使用することを計画していると述べていたようだ。これが単一のクラスターで用いられるということはないだろうが、全体的な規模で言えばMetaの方がまだ圧倒的だ。
ちなみに、Musk氏のAIスタートアップであるxAIは、Oracleと提携する可能性もありそうだ。Oracleはすでに、Musk氏の「X」プラットフォーム上で現在のAIチャットボット「Grok」の訓練と推論をサポートしている。The Informationによると、xAIはGrokのために16,000個のH100チップを搭載したOracleのクラスターを持っており、合計20,000個のGPUで訓練を行っているという。また、NVIDIAは新しいAI GPU “Blackwell”の出荷優先権をxAI与えたとも報じられている。
xAIは、4月末に60億ドルの資金を調達し、プレマネー評価額は180億ドルだったとも報じられている。この資金調達ラウンドは数週間以内に終了する見込みだ。
Musk氏は4月上旬、GPT-4よりも優れていると主張するGrokの新モデルを5月に発表した。彼はまた、十分な計算能力とエネルギーがあれば、2年以内にAIの能力は人間の知能を凌駕すると考えている。
AIデータセンター開発は過熱しており、MicrosoftとOpenAIは、「Stargate」と呼ばれる新しいスーパーコンピューターの建設を計画しているとも報じられている。「フェーズ4」と呼ばれる小型のスパコンは、早ければ2026年にも稼働する可能性がある。プロジェクトの本格的な拡大は、OpenAIが超知能に向けたAI研究を大きく進展させられるかどうかにかかっている。
Source
- The Information: Musk Plans xAI Supercomputer, Dubbed ‘Gigafactory of Compute’
