Google、Broadcom継続下で推論向けTPUを分岐か Marvellと2チップ構成を協議と報道
GoogleはBroadcomとの長期契約を継続しつつ、推論向けAIチップの最適化を進めている。Marvellとの協議は、推論専用TPUとメモリ処理ユニットの2チップ構成により、演算とメモリ階層の分業で推論性能とコスト効率を改善する狙いがある。これは、推論のボトルネックが演算性能だけでなくメモリ帯域やデータ移動にあるという認識に基づき、推論向け半導体競争が単なる演算性能から総合的な効率へと移行していることを示唆している。