混合量子化

量子化スケール

式 Q = round(R/S + Z) に従って、浮動小数点値を量子化された整数に変換する乗算パラメータ。スケールは、量子化された値の精度と表現範囲を決定します。

← 戻る