AI用語集
人工知能の完全辞典
メトロポリス・ヘイスティングス法
目標分布からサンプルを生成するMCMCアルゴリズムで、定常分布が目標分布となるマルコフ連鎖を構築する。受容率を用いて新しいサンプルを受容するか棄却するかを決定する。
棄却法
提案分布から点を抽出し、目標密度と提案密度の比に比例する確率で受容するサンプリング手法。複雑な分布のサンプリングに特に効果的である。
ロビンス・モンロー法
観測値にノイズしか得られない場合の方程式の根を見つける確率的近似法。適応的に減少するステップサイズにより、ほぼ確実に収束する。
準モンテカルロ法
純粋な乱数の代わりに低食い違い量列を使用するモンテカルロ法の決定論的変種。中程度の次元でより速い収束を提供し、均一性の特性を保持する。
ポアソン過程
独立な稀な事象の発生を一定のレートでモデル化する計数確率過程。到着現象のシミュレーションと確率的最適化の基礎となる。
確率的勾配最適化
勾配のノイズ付き推定を使用して最適解に向かって反復的に進む最適化法。正確な勾配計算が高コストな高次元問題に特に適している。
分散低減法
モンテカルロ推定量の分散をサンプル数を増やさずに減少させる技術群。対称変数法、制御変数法、層化抽出法を含み、計算効率を向上させる。
対称変数法
負の相関を持つサンプルのペアを使用して変動を部分的に相殺する分散低減技術。単調関数や対称積分に特に効果的である。
残差サンプリング
重要度重みを保ちながらサンプルの正確なカーディナリティを保証する重み付きサンプリング手法。最小分散を実現するために系統的サンプリングと残差割り当てを組み合わせる。
確率的ネルダー・ミード法
局所最小値からの脱出を可能にするランダムな摂動を組み込んだネルダー・ミードシンプレックスアルゴリズムの確率的適応版。シンプレックスの効率性とランダム探索の頑健性を組み合わせる。
確率的遺伝的アルゴリズム
探索空間を調査するために確率的遺伝子操作（選択、交叉、突然変異）を使用する進化的最適化手法。確率的選択は遺伝的多様性を維持し、早期収束を回避する。