AI用語集
人工知能の完全辞典
オートエンコーダ
入力データを低次元の潜在空間に圧縮し、その圧縮された表現から元のデータを再構築することを学習する教師なしニューラルネットワーク。
ノイズ除去オートエンコーダ
ノイズによって破損したバージョンから元のデータを再構築するように訓練されたオートエンコーダの変種であり、それによってモデルに堅牢で不変な表現を学習させる。
再構成損失関数
元の入力とその再構成との差を測定する指標。通常、二乗平均誤差やバイナリクロスエントロピー（二値画像の場合）などが使用される。
ボトルネック
オートエンコーダにおける最小次元の中間層で、情報の圧縮と入力データから最も関連性の高い特徴の抽出を強制する。
変分オートエンコーダ
決定論的な表現ではなく潜在空間における確率分布を学習する生成的オートエンコーダであり、サンプリングによる新しいデータの生成を可能にする。
ガウスノイズ
再構築前に、入力データにガウス分布に従うランダムなノイズを追加する手法。モデルの堅牢性と汎化性能を向上させるために一般的に用いられる。
スパースオートエンコーダ
隠れ層の活性化に対してスパース性（疎性）の制約を課したオートエンコーダで、各入力を表現するためにニューロンのサブセットのみを使用するようモデルに促す。
縮約オートエンコーダ
入力のわずかな変動に対する表現の感度にペナルティを課すオートエンコーダで、不変で安定した特徴の学習を促進する。
畳み込みオートエンコーダ
畳み込み層を用いて画像のような構造化データを効率的に処理し、圧縮と再構成の際に局所的な空間的関係を維持するオートエンコーダ。
分散表現
各概念が複数のニューロンの結合された活性化によって表される情報のエンコードであり、潜在空間において豊かで意味のある表現を可能にする。
暗黙的デノイジング
ボトルネックの圧縮制約により、明示的な破損がなくてもオートエンコーダがデータからノイズを自動的に除去することを学ぶ、創発的な特性。
再構成によるファインチューニング
事前学習済みのオートエンコーダを、再構成損失を最適化シグナルとして用いて特定のタスクに対して微調整する二次的なトレーニング段階。
深層オートエンコーダ
複数の隠れ層を持つオートエンコーダのアーキテクチャで、入力データからより抽象的な特徴を階層的に抽出することを可能にする。
再構成の過学習
汎化可能な表現を学習する代わりに、モデルが訓練例を暗記してしまう現象。再構成誤差は低いが、新しいデータではパフォーマンスが低いことで検出される。