テクノロジー
Term
FP64
別名: 64ビット浮動小数点演算, 倍精度浮動小数点演算
Overview
最終更新: 2026年7月9日FP64（64ビット浮動小数点演算）は、IEEE 754規格で定義された倍精度浮動小数点数の演算形式である。1つの数値を64ビットで表現し、高い精度と広い動的レンジを持つ。AIの学習や推論ではFP16やFP8といった低精度演算が主流だが、気候変動予測、核物理シミュレーション、構造解析などの科学計算（HPC）領域では、計算誤差の累積を防ぎ、物理現象を正確に再現するためにFP64が不可欠である。近年、NVIDIAなどの主要GPUメーカーがAI向け低精度演算にリソースを集中させる一方で、HPC専用のFP64性能を求める需要との間に乖離が生じている。
Mentioned Articles
2 件External Mentions
10 件- arXiv Optimizing Semiconductor Device Simulations through Low-Precision Arithmetic
- arXiv The Correctness Illusion in LLM-Generated GPU Kernels
- arXiv Numerically Stable Cholesky-QR on GPU via Mixed-Precision Randomized Preconditioning
- arXiv Curvature-aware dynamic precision approach for physics-informed neural networks
- arXiv FP8 is All You Need (Part 2): Efficient Ozaki-Bailey Style FFT Through Tensor-core Garner Reformulation and Kulisch Escape Route
- arXiv FP8 is All You Need (Part 1): Debunking Hardware FP64 as the HPC Holy Grail
- arXiv GPU-accelerated finite-temperature Lanczos method for spin Hamiltonians
- arXiv Uncovering multi-channel magnetic hopfion annihilation via a single-node, billion-spin-scale atomistic framework
- arXiv Eradicating Negative Transfer in Multi-Physics Foundation Models via Sparse Mixture-of-Experts Routing
- arXiv Reduced-Precision Stochastic Simulation for Mathematical Biology