テンサーコア最適化

TensorFloat-32 (TF32)

NVIDIAのハイブリッド数値形式で、FP32と同じ8ビットの指数部とFP16と同じ10ビットの仮数部を使用し、Ampere Tensor Coresのための動的範囲と精度の最適なトレードオフを提供します。

← 戻る