Neural Accelerator

AppleのM5 ProおよびM5 Maxチップにおいて、AIワークロードを高速化するために導入された専用のハードウェアコンポーネント。従来のNeural Engineとは異なり、個々のGPUコアに対して個別に配置される分散型のアーキテクチャを採用している。これにより、グラフィックス処理とAIモデルの並列計算を同時に、かつ極めて高い効率で実行できる。この設計変更により、オンデバイスでの大規模言語モデルの推論や生成AIの処理能力が、前世代のチップと比較して数倍に向上している。