AMDは、AI推論を汎用GPUだけで処理する前提に、別の演算層を加えようとしている。8月6日に発表したTaalas買収の最終契約は、モデルの重みとデータフローをシリコンへ固定する技術を、Instinct GPUやHeliosを含むAI基盤へ統合する方針を示した。取引は通常のクロージング条件と規制当局の承認を必要とし、まだ完了していない。公表されたのは契約と統合方針である。速度を求める処理ほど専用化が有効になり得る一方で、モデルを更新する自由度は狭まる。AMDがどこまでをGPUに残し、どこからをモデル専用シリコンへ渡すかが、今回の契約を読む軸になる。
AMDは推論の専用層をInstinct構成へ足す
AMDはTaalasを、専用AI推論シリコンの先駆者と説明する。買収後には同社技術をアクセラレータのロードマップへ統合し、AMD Instinct GPUと組み合わせたシステムレベルのソリューションを開発する方針だ。Taalasは2023年創業、カナダ・トロント本社である。
AMDが挙げる統合先には、Heliosラックスケール・ソリューション、Instinct GPU、EPYC CPU、ROCmソフトウェアがある。これはGPUをTaalasのチップへ置き換える発表ではない。AMDは、汎用アーキテクチャで生じる計算とメモリのボトルネックを減らす技術としてTaalasを扱い、自社のフルスタックAI基盤を補完させる考えを示した。
Taalasが目指すのは、未知のモデルを受け取ってから専用ハードウェアへ変換する経路である。同社はこの「モデルからシリコンへ」の変換を2か月で実現できると主張する。ただし、これは同社の技術説明であり、買収後のAMD製品をいつ提供できるかを示す約束ではない。
HC1はすでにチャットボットのデモと推論APIサービスとして公開されているが、AMDの製品として提供されているわけではない。買収で動いたのは、実証チップの性能値ではなく、この方式をAMDの顧客向けシステムへ持ち込む事業上の経路である。
ただし、現時点で公表されたのは統合方針までである。買収価格、完了予定日、人員やIP、製品をどう統合するかは明らかにしていない。Heliosへの実装、顧客への出荷、特定モデルでの性能向上も発表されていない。
17,000トークン/秒を生む、モデルと計算の一体化
TaalasのHC1 Technology Demonstratorは、MetaのLlama 3.1 8Bを実行する。公式製品ページによる仕様はTSMC 6nm、815mm²、530億トランジスタで、サーバー消費電力は2.5kWである。実行時に汎用アクセラレータへモデルを読み込むのではなく、モデルの重みを製造段階のシリコンへ組み込む設計を取る。
Taalasが掲げるHC1の値は、Llama 3.1 8Bでユーザーあたり毎秒17,000トークンである。入力と出力の系列長を1k/1kとした条件での値で、測定主体も混在する。H200はNVIDIAの基準値、B200はTaalas測定である。Groq、SambaNova、Cerebrasの数値はArtificial Analysis由来で、HC1自体もTaalas研究所の測定だ。汎用モデル全般や別条件の推論性能を表す数字ではない。
狙いは、重みを計算回路の近くへ固定して移動を減らし、推論のデータフローを短くすることにある。Taalasはストレージと計算を単一チップに統合し、外付けHBMを使わない構成を目指すと説明する。先端パッケージングと3Dスタッキングも想定しない。液冷と高速I/Oも不要にする考えだ。HC1の速度、約10倍の速度、20倍低い製造コスト、10倍低い消費電力という比較は、いずれもTaalasの主張であって、同一条件の第三者比較ではない。
Taalas自身もHC1を最先端モデル向けの完成品とはせず、低遅延・低コストの推論を開発者が試すベータサービスとして公開している。したがって、17,000という値は専用化の実証点であり、AMDが今後の顧客システムで達成すると約束した性能値ではない。モデルを選び、重みを固定する交換条件を受け入れたときに、どの程度の速度と電力効率を得られるかを示す数字である。
速さの代償は、モデルを固定すること
HC1が速さを狙えるのは、Llama 3.1 8Bのモデル本体を回路へ固定するためだ。Taalasはコンテキストウィンドウ長の設定と、LoRA（Low-Rank Adaptation）による追加学習をサポートするとする。しかし、可変にできる部分があっても、基盤モデル自体を任意に読み替えるGPUほどの柔軟性は持たない。固定したモデルを長く提供する用途では利点を活かしやすいが、基盤モデルを頻繁に更新したり、多数のモデルを同居させたりする用途では設計上の制約になる。
品質面の条件も残る。HC1の初代プラットフォームは独自の3ビット基本データ型を使い、3ビットと6ビットのパラメーターを混在させる。TaalasはGPUベンチマークと比べて品質の低下があると明記しており、速度から回答品質やモデル能力を推定することはできない。第2世代では標準的な4ビット浮動小数点形式を採用するとしている。
モデルを更新したときに、どこまで短い設計変更で追随できるかも差になる。EE TimesによるTaalas CEO Ljubisa Bajicらへのインタビューでは、モデルごとのカスタマイズでは2枚のマスクを変更してモデルの重みとデータフローを変えると説明した。HC1ではmask-ROMベースの記憶・演算回路がモデルと重みを保持し、プログラム可能なSRAMが追加学習済みの重みや推論中のKVキャッシュを保持するという。
Heliosで見るべきは、どの処理を誰に任せるか
AMDはTaalas買収前から、推論の段階でエンジンを分ける構成を公表していた。7月23日のCerebrasとの協業では、Heliosをプロンプト処理と長いコンテキストウィンドウに、Cerebras Wafer-Scale Engineをデコードとトークン生成に使う、推論処理を分離したワークフローを発表した。共同ソリューションは最大5倍のトークン毎秒・ワットを見込み、Cerebras Cloudで2026年下半期に先行提供する予定である。
AMDの説明では、コード開発、リアルタイムのコパイロット、ライブエージェント、エージェント型ワークフローは応答時間を重視し、高負荷の処理は単位時間あたりの処理量を重視する。推論を一つのアクセラレータへ均一に載せるのではなく、工程の性質で担当を変える考え方だ。Taalasは、そこに固定モデル向けの候補を追加する技術になる。
Heliosは72基のInstinct MI455X GPU、EPYC CPU、Pensandoネットワークを統合するラックスケールのリファレンス設計で、AMDは31TBのHBM4容量と2026年下半期の量産導入見込みを示している。ただし、これらはTaalas統合後の確定仕様ではない。規制承認を経た後、AMDがTaalasをどの推論段階へ接続するかを示す必要がある。対応モデルと接続方式に加え、提供時期、性能、電力のAMD測定値が出て初めて、専用化がシステムとして成立する範囲を判断できる。