AI用語集
人工知能の完全辞典
236
カテゴリ
3,245
サブカテゴリ
39,334
用語
用語
量子化を意識したトレーニング (QAT)
ディープラーニングモデルの学習プロセス中に量子化をシミュレートし、量子化後のパフォーマンスを最適化するためのトレーニング手法。
用語
擬似量子化
値を丸めて量子化の効果をシミュレートしつつ、逆伝播のための勾配を維持する、学習時の操作。
用語
量子化範囲
浮動小数点数を量子化された整数にマッピングするために使用される値の範囲[min, max]で、表現の精度を決定する。
用語
対称量子化
範囲がゼロを中心にしている量子化手法。計算は簡略化されるが、非対称分布では効率が低下する可能性がある。
用語
非対称量子化
ゼロ点がゼロではない値を使用する量子化手法で、中心にない分布に対して動的範囲の利用を最適化する。
用語
動的範囲量子化
実行時に量子化範囲を動的に調整し、利用可能なビットの使用を最適化する手法。
用語
テンソル単位の量子化
テンソル全体に単一の量子化パラメータセットを適用する手法で、実装を簡素化する。
用語
整数のみの量子化
浮動小数点演算を完全に排除するアプローチで、モデルの精度を維持するために専門的な技術が必要となる。
用語
レイヤーごとの量子化
各層の特性や感度に応じて、個別に量子化を最適化する戦略。
用語
量子化感度分析
モデルの各コンポーネントに対する量子化の影響を評価し、特別な注意が必要な層を特定するプロセス。
用語
量子化を意識した学習ループ
順伝播および逆伝播の各パスで量子化シミュレーション操作を統合した修正された学習サイクル。
用語
バッチフォールディング
量子化の前に、バッチ正規化のパラメータを畳み込み層の重みと統合する最適化手法。
用語
QATにおける勾配クリッピング
近似が行われている間も収束を安定させるために、量子化された学習中に勾配の振幅を制限する手法。
用語
段階的量子化
モデルの適応を容易にするために、学習中に量子化レベルを徐々に高めていく漸進的なアプローチ。
🔍