
MetaはLlama 3トレーニング中の障害の半数がNVIDIA H100 GPUの頻繁な故障が原因と報告している
MetaがLlama 3の大規模言語モデルのトレーニングを行う中で、NVIDIA H100 GPUの頻繁な故障に悩まされていたことが明らかになった。Metaが最近公開した研究によると、16,384基のNVIDIA H10 […]
Term
NVLinkとは、NVIDIAが開発したGPU間を直接接続する高速インターコネクト技術である。複数のGPUを束ねてメモリとデータを共有させる大規模AIクラスタの構築に用いられ、PCI Expressより高速な通信を実現する用途で採用されている。
全 17 件 / 2 ページ

MetaがLlama 3の大規模言語モデルのトレーニングを行う中で、NVIDIA H100 GPUの頻繁な故障に悩まされていたことが明らかになった。Metaが最近公開した研究によると、16,384基のNVIDIA H10 […]

AIアクセラレータ領域において、NVIDIAの支配は圧倒的だ。これに少しでも対抗しようと、先日Intel、Googleらは、CUDAプラットフォームからの脱却を目指したオープンソースのソフトウェア・スイートを開発する団体 […]

NVIDIAと言えば昔はゲーミングGPU、今はAI向けGPUでその名を轟かせているが、GPUのみならず、CPUとGPUを組み合わせた高性能コンピューティング(HPC)向けのスーパーコンチップも製造している。この、NVID […]

チップ設計の巨人であり現在はTenstorrentのCEOであるJim Keller氏は、NVIDIAが最近発表したBlackwell GPUアーキテクチャの研究開発費が100億ドルにも及んだことに対し、単に相互接続方式 […]

NVIDIAは、現行世代であるHopperアーキテクチャGPU「H100」と比較して最大5倍の性能向上を誇るという、次世代「Blackwell」アーキテクチャGPUと、それに基づくAIアクセラレータ「B200」GPUを正 […]