AI用語集
人工知能の完全辞典
ギブスサンプリング
複雑なベイジアンネットワークにおける推論を容易にするために、他の変数が与えられた条件下で各変数を条件付きサンプリングすることにより、多変量分布からのサンプルを生成するMCMCアルゴリズム。
メトロポリス・ヘイスティングス法
受理比を使用して提案を保持するか棄却するかを決定し、目標の定常分布を持つマルコフ連鎖を生成するMCMCサンプリング手法。
マルコフ連鎖モンテカルロ法（MCMC）
正確な手法が計算的に不可能な場合に、複雑な確率分布を近似するためにマルコフ連鎖を構築するサンプリングアルゴリズムのクラス。
重点サンプリング
バイアスを補正するための重点重みを用いて提案分布からのサンプルを使用し、目標分布の下での期待値を推定するモンテカルロ手法。
平均場近似
事後分布を独立な単変量分布の積に因数分解し、相関の損失を代償として計算を劇的に簡略化する変分法。
カルバック・ライブラー情報量
変分推論において近似と目標の間の乖離を定量化するために目的関数として使用される、2つの確率分布間の非対称な非類似度の尺度。
棄却サンプリング
より簡単にサンプリングできる包絡分布からのサンプルを選択的に棄却することにより、目標分布からの点を生成する直接サンプリング手法。
ハミルトニアンモンテカルロ法
ハミルトン力学と勾配を使用して高い受理確率で遠方の状態を提案し、サンプルの自己相関を低減する高度なMCMCアルゴリズム。
ルーピー信念伝播
ループを持つグラフ上でメッセージパッシングを適用する反復アルゴリズム。理論的な保証はないが、多くの場合、周辺分布の良好な近似に収束する。
確率的変分推論
データのミニバッチと勾配のモンテカルロ推定を用いた変分推論の拡張。大規模なデータセットを扱うことを可能にする。
スライスサンプリング
変数の部分集合（スライス）を条件付きでサンプリングし、他の変数を固定したままにするMCMC手法。高次元モデルでの効率を向上させる。
ラプラス近似
複雑な分布を最頻値を中心としたガウス分布で近似する方法。最頻値におけるヘッセ行列を用いて局所的な形状を捉える。
No-U-Turn Sampler (NUTS)
Uターンを検出することでハミルトニアン軌道の最適な長さを自動的に決定する適応型MCMCアルゴリズム。手動調整を不要にする。
信念伝播
木構造のベイジアンネットワークにおける厳密推論アルゴリズム。局所的なメッセージパッシングを用いて、隠れ変数の周辺分布を効率的に計算する。
重点サンプリング
パラメータ化された提案分布の族を使用する重点サンプリングの変種。推定量の分散を最小化するように最適化される。
構造化変分近似
近似分布内の変数間の特定の依存構造を保持する変分推論の拡張。精度と複雑さの間の妥協点を提供する。
逐次サンプリング推論
リサンプリングと変異技術を用いて、事後分布の近似を段階的に洗練させる適応的モンテカルロ法。