混合精度計算

FP32 (単精度浮動小数点)

1ビットの符号部、8ビットの指数部、23ビットの仮数部を持つ32ビットの標準数値表現フォーマットで、ほとんどのAIモデルの訓練における精度の基準となっている。

← 戻る