Tech Product

CUDA Agent

Overview

ByteDance Seedと清華大学の研究チームによって発表された、GPUカーネルの自動生成および最適化を行うAIエージェントシステム。大規模言語モデル(LLM)に自律的な環境探索と強化学習(RL)を行わせることで、実際のGPU環境でのコンパイル、実行、プロファイリング結果をフィードバックとして受け取り、反復的にコードを改善する。標準的なコンパイラであるtorch.compileを上回る実行速度のカーネルを生成できることが特徴。

Mentioned Articles

1 件

External Mentions

6 件