テクノロジー
AIバブル崩壊の引き金は「電力」か? 米国を襲う“老朽化した電力網”とOpenAI・Microsoftの存亡を賭けたエネルギー戦争
シリコンバレーはいま、かつてないほどのジレンマに直面している。NVIDIAの最新鋭GPU「Blackwell」の確保に血眼になり、数千億ドルもの資金をデータセンター建設に注ぎ込んでいる巨大テック企業たちだが、彼らの野望を […]
別名: Scaling Laws
大規模言語モデル(LLM)などのAI開発において、モデルのパラメータ数、訓練データ量、および計算資源(コンピューティングパワー)の3つの要素を拡大させることで、モデルの性能(テスト誤差)がべき乗則に従って改善するという経験則。2020年にOpenAIの研究者らによって定式化され、現在の巨大なAIモデル開発の理論的根拠となっている。
シリコンバレーはいま、かつてないほどのジレンマに直面している。NVIDIAの最新鋭GPU「Blackwell」の確保に血眼になり、数千億ドルもの資金をデータセンター建設に注ぎ込んでいる巨大テック企業たちだが、彼らの野望を […]
OpenAIの共同創設者であり、GPT-3やGPT-4の開発を主導した「AI界の予言者」Ilya Sutskever氏。彼が長期間の沈黙を破り、自身の新会社Safe Superintelligence Inc. (SSI […]
OpenAIの最高経営責任者であるSam Altman――2022年のChatGPT立ち上げで加速した人工知能(AI)ブームにおいて、おそらく最も著名な顔――は、スケーリング則を愛している。 AIモデルの規模とその能力を […]