大手AI企業3社が次世代モデルの開発で期待通りの性能向上を実現できていないことが、Bloomberg Newsの取材により明らかになった。OpenAIの新モデル「Orion」、GoogleのGemini改良版、Anthropicの「Claude 3.5 Opus」が、いずれも開発目標に到達できていない状況だ。この事態は、生成AI開発が技術的な転換点を迎えている可能性を示唆している。
期待外れのパフォーマンスが示す技術的限界
Bloombergの報道によれば、OpenAIは2023年9月に次世代AIモデル「Orion」の初期トレーニングを完了したが、社内で期待されていた性能に達していないことが関係者の証言で判明した。特にコーディング関連のタスクにおいて、未学習の問題に対する解決能力が不十分だったという。同社の匿名の関係者によれば、GPT-3.5からGPT-4への進化と比較して、性能向上の度合いが大幅に低下しているとされる。
Googleも同様の課題に直面している。同社の次期モデル「Gemini」は、社内で設定された性能目標を下回っていることが、Bloombergの取材に応じた3名の関係者により明らかになった。また、Anthropicは待望の「Claude 3.5 Opus」について、当初掲げていた「今年中」というリリース目標を事実上撤回。同社のWebサイトからは関連する記述が削除されている。
データ品質の壁が示す構造的課題
AI開発の停滞には、複数の構造的要因が存在するようだ。最も深刻な課題は、高品質な学習データの枯渇にある。New Enterprise AssociatesのLila Tretikov AI戦略責任者は、Bloombergの取材に対し「量的な課題は人工的なデータ生成で解決できるが、言語モデルの質的向上には、人間の専門知識に基づく独自のデータセットが不可欠」と指摘している。
この課題に対し、OpenAIはすでに出版社との提携を通じて高品質データの確保を試みているが、著作権問題という新たな壁に直面している。同社のCEO Sam Altman氏は、著作権で保護されたコンテンツなしでChatGPTのような製品を開発することは「事実上不可能」との見方を示している。
深刻化する開発コストの圧力
開発の停滞は、巨額の投資を続けるAI企業の経営基盤も揺るがしている。AnthropicのCEO Dario Amodeiは、最新のポッドキャスト出演で、最先端モデルの学習には今年だけで1億ドルのコストが必要で、この金額は数年以内に1,000億ドル規模まで膨らむ可能性があると警告している。
OpenAIの経営状況も楽観視できない。同社は直近でMicrosoft、NVIDIA他から66億ドルの資金調達に成功したものの、市場アナリストらは2029年までに累積440億ドルの損失が発生する可能性を指摘している。これは主にMicrosoftとの大規模なパートナーシップに起因するものだと、Bloomberg Newsは分析している。
Xenospectrum’s Take
今回の一連の開発停滞は、「スケーリング則」と呼ばれる、計算能力とデータ量の増大が必然的にAIの性能向上をもたらすという、シリコンバレーで支配的だった信念に重大な疑問を投げかけている。
Hugging FaceのMargaret Mitchell主席倫理科学者がBloombergに語ったように、「AGIバブルが少し弾けている」という現状認識は、業界の方向性を考える上で示唆に富む。より多くのデータと計算リソースを投入する従来の手法は、すでに限界に近づいているのかもしれない。
今後、AI企業には創造的な技術革新が求められるだろう。Bentley UniversityのNoah Giansiracusa准教授が指摘するように、AI開発の進歩は継続するものの、そのペースは「持続不可能なほど急速な進歩の時期」を経て、より現実的なものになっていく可能性が高い。
Source
コメント