「GPUだけではAIは速くならない」Intelが示した新戦略、AIエージェント時代にCPUが重要になる理由

Intelは2026年10月12日、OCP Global Summitにおいて、AI推論向けGPU「D-series」の詳細仕様と、Xeonプロセッサーを採用した新たなラック設計を発表した。GPUがAIモデルの推論を担い、CPUがデータ処理や外部ツールの実行を支えるという構想を、ハードウェアとオープンソースソフトウェアの両面から具体化したものだ。2025年に予告していたGPUは顧客向けサンプルの提供段階に進み、既存のデータセンターでAI推論環境を構築するための選択肢も広がりつつある。

ただし、AIモデルが文章を生成する速度と、AIエージェントが業務全体を完了するまでの時間は同じではない。Intelの提案を正しく評価するには、CPUとGPUの役割分担だけでなく、データの検索や転送、外部サービスの応答待ちなど、処理全体で発生する遅延も考慮する必要がある。

AIエージェントの処理を分解すると、CPUの重要性が見えてくる

Intelのデータセンター部門でシステムを担当するコーポレート・バイスプレジデントのNicolas Dubé氏は、今回の公式発表で、「すべてのプロンプトを適切な場所へ」と表現した。企業が必要とするAIの能力に応じて適切な計算資源を選び、コストを最適化するという考え方だ。

ここには、二つの異なる判断が含まれている。一つは、どのAIモデルに処理を任せるかという判断。もう一つは、AIエージェントが業務を完了するまでの各工程を、どのプロセッサーで処理するかという判断だ。AIモデルの選択だけを最適化しても、その前後の処理が遅ければ、業務全体の所要時間は短くならない。

例えば、社内規程を検索して従業員からの問い合わせに回答するAIエージェントを考えてみよう。これは仕組みを説明するための仮想的な例だが、問い合わせを受け付けた後には、関連文書の検索やアクセス権限の確認が必要になる。AIモデルが回答を生成した後には、業務システムへの記録も発生する。AIモデルの推論計算を得意とするGPUと、検索や外部ツールの呼び出しを処理するCPUでは、求められる役割が異なる。

Intelもソフトウェア戦略に関する解説で、こうした役割分担を重視している。CPUはデータの準備や転送、非同期リクエストの処理、外部ツールの実行管理などを担当する。AIモデルが次に実行する処理を判断し、外部サービスを呼び出す場合、その応答が返ってくるまで次の推論に進めないこともある。

このような環境でCPUを強化する意義は、GPUの処理を肩代わりすることだけではない。データの準備やツールの実行を円滑に進め、GPUが処理待ちで停止する時間を減らすことにもある。

ただし、ボトルネックがネットワークや外部サービスにある場合、CPUを増強するだけでは問題を解消できない。重要なのはGPUやCPUの単体性能ではなく、AIエージェントの処理全体を測定し、どこに時間がかかっているのかを把握することだ。

350Wの空冷GPU「D-series」と、4万6000コア超のXeonラック

Intelが今回詳細を明らかにしたD-seriesは、開発コード名「Crescent Island」として知られていたAI推論向けGPUだ。

2025年10月の発表では、Xe3Pアーキテクチャと160GBのLPDDR5Xメモリを採用し、2026年下半期に顧客向けサンプルの提供を開始する計画が示されていた。今回の発表では、すでにサンプル提供中であることが明記されており、製品開発が顧客による評価段階に進んだことになる。

今回公開された主な仕様は、FP8演算性能が1.3PFLOPS、メモリ帯域幅が1.5TB/s、消費電力の上限が350Wというものだ。標準的なPCIeカード形状と空冷方式を採用しており、既存のデータセンター設備にも導入しやすい設計となっている。

メモリ容量はIntel純正カードが160GBで、パートナー企業が設計するODMカードでは最大480GBに対応する。ただし、480GBはパートナー製カードで想定される最大容量であり、すべてのD-series製品に搭載されるわけではない。

大容量メモリを搭載することで、規模の大きなAIモデルや長いコンテキストを扱いやすくなる。一方、350WというGPU単体の電力仕様だけでは、実際の業務における電力効率は判断できない。処理を完了するまでの時間に加え、CPUやメモリなどを含むサーバー全体の消費電力も考慮する必要があるためだ。

今回の仕様公開によってD-seriesの位置づけは明確になったものの、価格や実際の推論性能を競合製品と比較できる段階には至っていない。

一方、Xeonを中心としたシステムでは、さらに大規模な構成が示された。Intelがパートナー企業と開発したラック設計の多くは、Open Rack v3（ORv3）規格を採用している。一部のXeon 6+構成では、ラック当たりのCPUコア数が4万6000を超え、ラック全体の消費電力は133.45kWに達するという。

これは、多数のAIエージェントを並行して動かすために、汎用計算能力を高密度に集約する構想だ。

ただし、350Wの空冷GPUカードと133.45kWのCPUラックでは、システムの規模も消費電力の測定対象も大きく異なる。既存サーバーにD-seriesを追加する場合と、高密度Xeonラックを新たに導入する場合では、設備や電力供給に求められる条件も違ってくる。

Intelが掲げる「適切な処理を適切な場所で実行する」という方針は、あらゆるAIシステムを小規模な空冷設備だけで運用できるという意味ではない。用途や処理規模に応じて、適切な構成を選ぶことが前提となる。

オープンソースのAgent Toolkitは、どこまで実用化されているのか

Intelはハードウェアだけでなく、AIエージェントを企業システムに導入するためのソフトウェア基盤も整備している。ただし、現時点では製品や機能によって提供状況が異なる。

10月12日の公式発表と、10月14日時点の「AI for Enterprise Agent Toolkit」公式READMEを整理すると、次のようになる。

対象	公開されている提供状況	導入時の注意点
Intel GPU D-series	顧客向けサンプルを提供中	一般販売や量産出荷の開始を意味するものではない
AI for Enterprise Agent Toolkit	Xeon向けに最適化され、導入可能	実際の業務での性能は別途検証が必要
同ToolkitのIntel GPU対応	GPUへの対応拡張を想定した設計	D-seriesですべての機能が動作する保証ではない
GPUやクラウド上のAIモデルとの接続	共通のインターフェースから接続先を追加可能	外部モデルとのAPI接続と、特定GPU向けの最適化は異なる

この表は公開資料に記載された対応状況を整理したものであり、実機で互換性を検証した結果ではない。特に、外部GPU上で動作するAIモデルを呼び出せることと、D-seriesを含むシステム全体の動作が検証済みであることは区別する必要がある。

企業は既存のXeon環境でAgent Toolkitの機能を評価しながら、GPU側の対応状況を個別に確認していくことになる。

では、このToolkitは具体的に何を提供するのだろうか。

GitHubで公開されているREADMEによると、APIゲートウェイにはLiteLLMを採用し、認証やアクセス制御、リクエストの振り分けを一元的に扱う構成となっている。タスクの内容に応じてAIモデルの推論先を選択する機能も備え、複雑な推論をGPUやクラウドに任せながら、Xeonに適した処理と組み合わせる設計だ。

さらに、外部ツールとの連携機能や、AIエージェントが生成したコードを隔離環境で実行する仕組みも用意されている。状態管理にはRedisやPostgreSQLを使用し、Langfuseなどを通じて処理状況を追跡する。Kubernetesを利用した運用にも対応し、機能ごとの実装を入れ替えられる柔軟な構成を採用している。

こうした機能は、単にAIモデルを動かすだけでは実現できない、企業システムとの接続や運用管理を支えるものだ。

ただし、推論先を柔軟に切り替えられるからといって、常に最適なモデルが自動的に選ばれるとは限らない。モデルごとに回答品質や処理速度が異なるほか、社内データをどこまで外部に送信できるかという問題もある。

そのため、READMEに機能が記載されていることと、実際の業務で求められる品質やセキュリティ要件を満たせることは分けて考える必要がある。公開ソフトウェアによって利用できる機能を確認した上で、自社環境で検証すべき条件を明確にすることが重要だ。

AIインフラの評価基準は、単純な推論速度から業務の処理能力へ

Intelが重視しているのは、単体のCPUやGPUの性能だけではなく、AIエージェントが実際にどれだけの仕事を完了できるかという指標だ。

同社は2026年8月20日付の論考で、求められる応答時間や回答品質を維持しながら、ラック全体で完了できるAIエージェントの処理量を評価する考え方を示していた。

これは、CPUのコア数や単発の推論速度だけでなく、同時実行するAIエージェントの数を増やした際に、どれだけの処理を安定して完了できるかを測るというものだ。今回発表された高密度Xeonラックについても、このような条件で評価して初めて、実際の業務における処理能力が明らかになる。

Intelは、実際のAIエージェントの実行記録を用い、p99遅延の目標を設定した上でラックの処理能力を報告する方針も示している。

p99遅延とは、処理時間を短い順に並べたとき、99％の要求が完了するまでに収まる時間を指す。平均応答時間が短くても、一部の要求で極端な遅延が発生すれば、業務全体に支障をきたす可能性がある。

ただし、現時点では測定方法に関する方針と、同じ条件で競合製品を上回ったことを示す実測結果を区別する必要がある。

推論処理の分担にも通信の負担がある

Intelのソフトウェア戦略では、AIモデルの推論処理そのものを複数の設備に分担させる構成も取り上げている。

例えば、入力されたプロンプトやコンテキストを処理する「プリフィル」と、トークンを順番に生成する「デコード」を異なる設備で実行する方式だ。

この二つの処理では、必要とされる演算性能やメモリ帯域が異なる。そのため、用途に適した計算資源へ処理を振り分けることで、大規模な推論環境では設備の稼働率を改善できる可能性がある。

ただし、処理を分割することで新たな負担も生じる。

プリフィルとデコードを別々の設備で行う場合、推論の途中状態を保持する「KVキャッシュ」を設備間で転送する必要がある。このデータ転送に時間がかかったり、一部のサーバーに要求が集中したりすれば、処理を分担したことによる利点が失われかねない。

つまり、AIモデルの振り分けだけでなく、モデル内部の処理を分割する場合にも、通信性能や状態管理がシステム全体の処理能力を左右することになる。

IntelのAI基盤は何を基準に比較すべきか

企業がIntelの新しいAIインフラを評価する場合、まずは実際の業務に近い条件を用意し、回答品質や許容する遅延をそろえて比較する必要がある。

具体的には、同じAIモデルや入力条件を使用し、同時実行するエージェントの数を増やしながら、一定時間内に完了した仕事の件数と応答時間を測定する。その際、AIモデルの推論にかかった時間と、外部ツールやデータの取得を待っていた時間を分けて記録することが重要だ。

さらに、CPUやGPUだけでなく、サーバー全体の消費電力も測定すれば、処理能力に対する電力効率を比較しやすくなる。

こうした評価によって、処理性能を改善するためにGPUを追加すべきなのか、CPUを増強すべきなのか、それともネットワークや外部サービスの応答時間を改善すべきなのかを判断できる。

今後はD-seriesの一般販売時期や価格、ソフトウェアの対応状況に加え、条件を統一した性能測定の結果が重要になる。これらの情報がそろえば、Intelの提案を導入コストと実際の業務処理能力の両面から比較できるようになるだろう。

Intelが目指しているのは、単に高性能なGPUや高密度なCPUラックを提供することではない。AIモデルの推論からデータ処理、外部ツールの実行までを含め、システム全体の効率を高めることにある。

その戦略が成功したかどうかを判断するには、同じ回答品質と応答時間を維持しながら、企業がより多くの業務を完了できるようになるかを確かめる必要がある。