テクノロジー
Google、第8世代TPU「8t / 8i」を発表：「エージェントAI時代」に向けた学習・推論アーキテクチャの分離戦略
Googleは、AIエージェントの台頭によるインフラ要求の変化に対応するため、第8世代TPUで学習特化の「TPU 8t」と推論特化の「TPU 8i」という2つの独立したチップを導入した。これにより、フロンティアモデルの学習時間短縮と低遅延推論を実現し、用途特化によるパフォーマンスと電力効率の最大化を追求している。
Tech Product
TPU 8t
別名: TPU 8t
Overview
Googleが発表した第8世代のTensor Processor Unit。大規模な事前学習やエンベディングを多用するワークロード向けに設計されており、チップ間帯域幅の拡張やFP4演算のサポートにより、前世代比で大幅な演算性能向上と学習時間の短縮を実現している。