AI用語集
人工知能の完全辞典
量子化オートエンコーダ
潜在空間に量子化層を組み込んだニューラルネットワークアーキテクチャで、連続表現を離散値に圧縮し、品質劣化を制御しながら効率的な圧縮を実現する。
残差量子化
前段階の残差誤差を逐次量子化する反復的量子化手法で、圧縮率を制御しながら再構成精度を段階的に向上させる。
バイナリ量子化
連続値をバイナリ表現(0または1)に変換するプロセスで、精度を犠牲にしてストレージと計算の高性能を実現するために頻繁に使用される。
コードブック学習
量子化辞書内の代表ベクトルを最適化するプロセスで、通常は勾配降下法を用いて全体の再構成誤差を最小化する。
コミットメント損失
量子化オートエンコーダで使用される正則化項で、エンコーディングがコードブックベクトルに近く保たれるように促し、学習を安定させ量子化品質を向上させる。
レート歪みトレードオフ
情報理論における圧縮率(ビット数)と歪み(再構成誤差)の基本的なバランスで、量子化オートエンコーダでは潜在次元と量子化レベルの調整によって最適化される。
スカラー量子化
ベクトルの各次元を事前定義された閾値を用いて独立に量子化する基本的な量子化形式で、単純さはあるがベクトル量子化よりも効率が劣る。
K-means量子化
K-meansアルゴリズムを応用して量子化コードブックを構築する手法で、クラスタのセントロイドが各空間領域の代表的な量子化ベクトルとなる。
エントロピー符号化
量子化されたシンボルの統計を利用して必要なビット数を削減する最終的な圧縮ステップで、ハフマン符号化や算術符号化などの手法がよく使用される。
離散潜在空間
有限の離散値の集合に制約された表現空間で、量子化によって得られ、より単純な確率モデリングと優れた解釈可能性を可能にする。
ガンベル-ソフトマックストリック
離散サンプリング操作を近似的に微分可能にする技術で、量子化オートエンコーダのような離散潜在変数を持つネットワークの学習に不可欠。
アニーリングスケジュール
学習中にパラメータ(通常は温度)を徐々に減少させる戦略で、連続から離散への段階的な移行により量子化オートエンコーダの学習を安定化させるために使用される。
圧縮率
元のデータサイズと量子化オートエンコーダによる圧縮後のサイズの比率として計算される指標で、次元削減の効率を示す。
量子化ノイズ
元の連続値とその離散近似値の差を表す量子化プロセスによって導入される誤差で、高度な量子化アーキテクチャにおいて特性評価とモデリングが行われる。