Term

FP16

別名: 半精度浮動小数点数

Overview

コンピュータにおける数値表現形式の一つで、符号部1ビット、指数部5ビット、仮数部10ビットの計16ビットで構成される。32ビットの単精度(FP32)に比べ精度は低いが、メモリ帯域と計算リソースの消費を抑えられるため、近年のディープラーニングや大規模言語モデル(LLM)の推論において標準的に利用されている。

Mentioned Articles

3 件

External Mentions

10 件