
テクノロジー
NVIDIAのGPUに頼らないAI開発が加速? GoogleとAWSがPyTorch向け新基盤を相次ぎ公開
GoogleとAWSが自社AIチップをPyTorchから扱う仕組みを拡充した。ライブラリを共有しやすくなる一方、入力形状による再コンパイルや未対応演算の実行先など、性能を確かめる条件は残る。
機械学習フレームワーク「PyTorch」に搭載されているコンパイル機能。Pythonで記述されたモデルの計算グラフを解析し、カーネルフュージョンやレイアウト最適化などの手法を用いて、GPU上で高速に実行可能なコードを自動生成する。ルールベースの静的コンパイラとして動作し、ユーザーが複雑なCUDAコードを書くことなく、既存のモデルを数行の追加コードで高速化できる標準的な手段として広く普及している。

GoogleとAWSが自社AIチップをPyTorchから扱う仕組みを拡充した。ライブラリを共有しやすくなる一方、入力形状による再コンパイルや未対応演算の実行先など、性能を確かめる条件は残る。

現代のディープラーニングインフラストラクチャは、事実上NVIDIAのCUDAアーキテクチャの上に構築されている。GPUの演算能力を限界まで引き出すCUDAカーネルの最適化は、AI開発における最重要課題の一つだ。しかし、高 […]