AI用語集
人工知能の完全辞典
エンコーダ (Encoder)
オートエンコーダの一部で、非線形圧縮関数を学習することにより、入力データを潜在空間またはコードと呼ばれる低次元表現に変換します。
デコーダ (Decoder)
潜在空間の圧縮表現を受け取り、元の入力データを再構築しようとするオートエンコーダの一部で、これにより展開関数を学習します。
潜在空間
オートエンコーダ内の最も低次元の表現層で、入力データの最も本質的で圧縮された特徴を捕捉します。
ボトルネック (Bottleneck)
エンコーダとデコーダの間に位置するオートエンコーダアーキテクチャの最も狭い層で、ネットワークがデータの簡潔な表現を学習するように強制します。
再構成損失
元の入力データとデコーダによる再構築の差を測定する目的関数で、通常は平均二乗誤差(MSE)または交差エントロピーが使用されます。
対称オートエンコーダ
エンコーダとデコーダの構造が互いに鏡像であり、圧縮と展開のための対応する層の次元を持つオートエンコーダアーキテクチャ。
未完成性 (Undercompleteness)
オートエンコーダの潜在空間の次元が入力データの次元より低くなければならないという原則で、これによりネットワークは単純なコピーではなく最も関連性の高い特徴を学習するように強制されます。
結合重み (Tied Weights)
デコーダの重み行列がエンコーダの重み行列の転置である手法で、パラメータ数を削減し、対称的な再構成を促進します。
ユニット数の決定
オートエンコーダーの各層におけるニューロン数を決定するプロセス。エンコーダーを通じてユニット数が段階的に減少し、ボトルネックに到達する。
非線形次元削減
オートエンコーダーの主な応用。PCAなどの線形手法を超えて、複雑なデータ多様体を学習し、高次元データを低次元空間に射影する。
表現学習
教師なしラベリングなしで、データに内在する抽象的な特徴や構造を自動的に発見するオートエンコーダーの能力。
単一層オートエンコーダー
ボトルネックとして機能する単一の隠れ層を持つ最も単純なオートエンコーダーの形式。非線形主成分分析に相当する。
深層オートエンコーダー
エンコーダーとデコーダーの両方に複数の隠れ層を持つオートエンコーダー構造。複雑な特徴の階層を学習し、より良い圧縮を可能にする。
再構成ノイズ
オートエンコーダーによって再構成されたデータに導入されるアーティファクトや誤差。モデルが学習した表現の限界を理解するために分析できる。
エンコーダーの活性化関数
エンコーダーの層で適用される非線形関数(ReLU、シグモイド、tanhなど)。入力データの複雑な変換を学習することを可能にする。
デコーダーの活性化関数
デコーダーの層で適用される関数。入力データの分布に合わせて選択されることが多い(例:0から1の間に正規化されたデータの場合はシグモイド)。
過剰完全性 (Overcompleteness)
潜在空間の次元が入力データの次元よりも大きい状態で、単なる恒等写像の学習を避けるために正則化などの追加制約が必要となる条件。
量子化誤差
オートエンコーダにおける再構成誤差の一部で、連続情報を有限次元の潜在空間に圧縮することに起因する誤差。