AI用語集
人工知能の完全辞典
236
カテゴリ
3,245
サブカテゴリ
39,334
用語
用語
キャリブレーションデータセット
静的量子化において最適な値の範囲を決定するために使用される、訓練データの代表的なサブセット。スケール係数とゼロ点を計算するために不可欠です。
用語
逆量子化
推論中により高い精度が必要な計算のために、低精度の整数値を浮動小数点数に戻す量子化の逆プロセス。
用語
混合精度量子化
量子化に対する感度に基づいて、モデルの異なる層に異なる精度レベル（8ビット、4ビット、2ビット）を適用するハイブリッド戦略。
用語
チャネルごとの量子化
畳み込み層の各出力チャネルに対して個別のスケール係数を適用する量子化手法。CNNの精度を大幅に向上させます。
用語
テンソルごとの量子化
テンソル全体に対して単一のスケール係数とゼロ点を使用する、より単純なアプローチ。チャネルごとの量子化よりも精度は劣りますが、計算は高速です。
用語
クリッピング範囲
量子化前に極端な値を制限するために、キャリブレーション中に定義される値の範囲。外れ値を除外することで量子化誤差を最小限に抑えるために不可欠です。
用語
レイヤーごとの量子化
各層の分布の特性を考慮し、ネットワークの各層の量子化パラメータを独立して最適化する手法。
用語
量子化誤差
元の浮動小数点値と量子化された表現との差。量子化の品質を評価するために、MSEやKLダイバージェンスなどの指標で測定されます。
用語
整数のみの推論
モデルのすべての演算が整数演算で行われる実行パラダイムであり、最大のパフォーマンスのために浮動小数点への変換を完全に排除します。
🔍