TensorRT

NVIDIAが提供する、ディープラーニング推論を高速化するためのSDKおよびランタイム。学習済みモデルを最適化し、NVIDIA製GPUの性能を最大限に引き出すことで、低レイテンシーかつ高スループットな推論を実現する。