
テクノロジー
クラウドGPUの「不都合な真実」:2万基を運用してわかったAWS・GCP・Azureの性能差と監視の鉄則
生成AI革命の裏側には、華々しいモデルの性能向上とは対照的な、泥臭く、過酷なハードウェアの現実が存在する。NVIDIA H100をはじめとする最新鋭GPUは、驚異的な演算能力を持つ反面、その運用は極めて不安定だ。 サーバ […]
SXM (Server PCI Express Module) は、NVIDIAが開発したハイパフォーマンスコンピューティング(HPC)向けのGPU接続規格です。標準的なPCIeスロットを使用せず、専用のソケットを介してマザーボードに直接接続します。これにより、NVLinkによるGPU間の超高速通信や、PCIe版を上回る電力供給と冷却効率、高い演算性能(FLOPS)を実現します。