Tech Product

torch.compile

Overview

機械学習フレームワーク「PyTorch」に搭載されているコンパイル機能。Pythonで記述されたモデルの計算グラフを解析し、カーネルフュージョンやレイアウト最適化などの手法を用いて、GPU上で高速に実行可能なコードを自動生成する。ルールベースの静的コンパイラとして動作し、ユーザーが複雑なCUDAコードを書くことなく、既存のモデルを数行の追加コードで高速化できる標準的な手段として広く普及している。

Mentioned Articles

1 件