AI用語集
人工知能の完全辞典
ギブスサンプラー
Metropolis-Hastings法の特殊なケースで、他のすべての変数の現在の値を条件として、各変数の新しい値を完全条件付き分布からサンプリングするもの。
バーンイン (Burn-in)
MCMCシミュレーションの初期段階において、チェーンが定常分布に達し、初期値の影響を取り除くためにサンプルを破棄する期間。
ハミルトニアン・モンテカルロ法 (HMC)
ハミルトニアン力学を利用して、高い受容率で遠くへの移動を提案する高度なMCMCアルゴリズム。ランダムウォーク法と比較して自己相関を低減できる。
ランダムウォーク (Random Walk)
Metropolis-Hastingsにおける提案戦略の一つで、新しい状態を現在の状態にランダムな摂動を加えたものとする手法。高次元の分布では非効率的となることが多い。
収束診断
1つまたは複数のMCMCチェーンが定常分布に達したかどうかを評価するための、統計的および視覚的な手法の集合(例:Gelman-Rubinの$\bar{R}$、トレースプロット)。
有効サンプルサイズ (ESS)
自己相関のあるMCMCチェーンにおいて、独立したサンプルと等価なサンプルの数。総反復回数を自己相関係数で割ることで計算される。
提案分布
Metropolis-Hastingsアルゴリズムにおいて、現在の状態$x$から候補を生成するために使用される条件付き分布$q(x'|x)$。その選択は探索効率に影響を与える。
受容基準
Metropolis-Hastingsにおいて、提案された状態を受け入れるか拒否するかを決定する確率的ルール。目的分布と提案分布の密度比に基づいている。
非周期性
マルコフ連鎖が決定論的なサイクルに閉じ込められないことを保証する性質であり、一意の定常分布への収束を保証するための必要条件です。
既約性
状態空間の任意の状態から、有限のステップ数で非ゼロの確率で他の任意の状態に到達できることを保証するマルコフ連鎖の性質です。
シニング(間引き)
自己相関とストレージ負荷を低減するために、$k$ 個のサンプルごとに 1 つだけを保持するシミュレーション後の手法ですが、その有用性はしばしば議論の対象となります。
スライスサンプリング
補助変数(「スライス」)を導入し、そのスライスで定義される部分空間を一様に探索することで、ターゲット分布からサンプリングを行う MCMC 手法です。
積分時間
HMC において、メトロポリスの提案前にハミルトン系のシミュレーションを継続する時間を制御するパラメータであり、パラメータ空間内で移動する距離に影響を与えます。
質量行列
HMC において運動空間の計量を定義する行列であり、その設定(多くの場合、事後共分散行列の対角成分に設定されます)はアルゴリズムの効率にとって重要です。
アンサンブルサンプリング
空間を探索するために複数のウォーカーを並列に使用する MCMC アルゴリズムのファミリー(例:アフィン不変)であり、多峰性分布や強い相関を持つ分布におけるパフォーマンスを向上させます。