混合精度計算
Dynamic Range
正規化された最小数と最大浮動小数点数との間の表現可能な値の範囲。FP16はFP32(3.4×10³⁸)と比較して動的範囲が限定的(65504)であるため、精度の選択において重要です。
← 戻る正規化された最小数と最大浮動小数点数との間の表現可能な値の範囲。FP16はFP32(3.4×10³⁸)と比較して動的範囲が限定的(65504)であるため、精度の選択において重要です。
← 戻る