混合量子化

量子化ノイズ

高精度の数値を低ビット表現に変換する際に生じるエラーであり、情報の損失として現れます。量子化ノイズの解析は、高精度で維持すべき層の選択を指針とします。

← 戻る