混合精度計算

TF32 (TensorFloat-32)

FP16の8ビット指数部とFP32の10ビット仮数部を組み合わせた19ビットのNVIDIA独自ハイブリッドフォーマット。AmpereおよびHopper GPUのTensor Coresでの行列演算用に最適化されています。

← 戻る