AI用語集
人工知能の完全辞典
射影勾配降下法
最適化の反復アルゴリズムで、各反復で勾配降下ステップを実行した後、制約集合への射影を行い、実行可能性を保証する。
実行可能集合
最適化問題の制約によって定義される探索空間の部分集合で、課されたすべての条件を満たす解を含む。
凸集合への射影
指定されたノルム（通常はユークリッド）に従って、空間の任意の点を与えられた凸集合の最も近い点に対応させる数学的操作。
不等式制約
g(x) ≤ 0 の形の制約で、解が有効な探索空間の領域を定義し、最適化のための実行可能集合に変換される。
適応的ステップサイズ
降下アルゴリズムにおける学習率の動的調整戦略で、問題の局所幾何学に応じてステップ長を適応させることで収束を最適化する。
制約下での収束
最適化アルゴリズムが元の問題で課されたすべての制約を満たす定常点への収束を保証する性質。
信頼領域法
目的関数の局所モデルが信頼できると見なされる領域に各反復を制限し、この領域のサイズを動的に調整する最適化技術。
凸最適化問題
目的関数が凸であり、実行可能集合も凸である最適化のクラスで、一意の大域最小値の存在とアルゴリズムの収束を保証する。
確率射影勾配法
射影勾配降下法の変種で、大規模データセットでの計算を高速化するために、ランダムなデータサブセットから計算されたノイズの多い勾配推定値を使用します。
バンドル法
過去の勾配に関する情報を蓄積して区分的線形モデルを構築し、各反復で探索方向を改善する滑らかでない最適化アルゴリズムです。
実行可能方向
実行可能な点からの移動方向で、小さな距離で制約の満足を維持し、反復の実行可能性を保証するために基本的です。
バリア関数
実行可能領域の境界に近づくと無限大に近づくペナルティ関数で、反復が厳密に実行可能領域内に留まることを強制します。
最適化における双対性
主最適化問題とその双対問題の間に関係を確立する数学的原理で、代替アプローチと最適値に対する境界を可能にします。
フランク・ウォルフ法
実行可能な集合上で各反復で線形最適化問題を解くことで、高価な射影を避ける制約付き最適化法です。
近接写像
射影を一般化する演算子で、目的関数と近接正則化項の組み合わせを最小化し、滑らかでない最適化に不可欠です。