AI用語集
人工知能の完全辞典
エネルギーベースモデル (EBM)
エネルギー関数を介して確率分布を定義する生成フレームワーク。低エネルギー構成が高い確率を持つ。
ボルツマンマシン
2進ユニットがボルツマン分布に従う確率的ニューラルネットワーク。エネルギーを使用して変数間の依存関係をモデリングする。
制約付きボルツマンマシン (RBM)
同じレイヤーのニューロン間に接続が存在しない二部グラフアーキテクチャを持つボルツマンマシンの変種。
エネルギー関数
各データ構成にエネルギー値を割り当てるスカラー関数。ボルツマン分布を介して確率を定義するために使用される。
分割関数
エネルギーベースモデルで確率の合計が1になることを保証する正規化定数Z。解析的に計算できないことが多い。
コントラスティブダイバージェンス
エネルギーベースモデルのトレーニングのための近似アルゴリズム。正確な対数尤度勾配の計算を回避する。
ランジュバン力学
エネルギーの勾配を使用してモデルの分布に従ってサンプルを生成する確率的サンプリングプロセス。
デノイジングスコアマッチング
モデルがノイズの多いデータ分布のスコアを推定することでデータのデノイズを学習するスコアマッチングの拡張。
Noise-Contrastive Estimation (NCE)
ノイズ対比推定 (NCE) - 密度推定問題を、実データとノイズサンプル間の二値分類問題に変換する推定手法
Energy Landscape
エネルギーランドスケープ - データ分布のモードに対応する吸引域を示すエネルギー関数の多次元表現
Gibbs Sampling
ギブスサンプリング - 各変数を他の変数に条件付けて逐次的にサンプリングし、平衡分布を近似するMCMCアルゴリズム
Free Energy
自由エネルギー - RBMやその他のエネルギーベースモデルの学習で使用される負の対数尤度の計算可能な近似
Deep Boltzmann Machines
ディープボルツマンマシン - 複数の隠れ層を持つRBMの拡張で、より複雑なデータ構造をモデル化できる
Implicit Models
暗黙的モデル - EBMのように、明示的な解析的フォームなしに確率分布を暗黙的に定義する生成モデル
Potential Function
ポテンシャル関数 - マルコフ場の文脈でのエネルギー関数の同義語で、変数間の局所的な相互作用を定義する
Thermodynamic Interpretation
熱力学的解釈 - データが微視的状態に対応する、エネルギーベースモデルと物理的システム間のアナロジー
平衡分布
MCMCプロセスが収束した後に達成される定常分布で、モデルによって定義される分布に対応します。