AI用語集
人工知能の完全辞典
236
カテゴリ
3,245
サブカテゴリ
39,334
用語
サブカテゴリ
勾配降下法
関数を最小化するために、勾配の逆方向に従う反復最適化アルゴリズム。
3 用語
サブカテゴリ
確率的勾配降下法
各反復で単一のランダムサンプルを使用する勾配降下法の変種
2 用語
サブカテゴリ
ミニバッチ勾配降下法
GDとSGDの中間的な手法で、小さなデータサンプルのバッチを使用してパラメータを更新する。
2 用語
サブカテゴリ
モメンタム
勾配更新に慣性成分を追加することにより収束を加速する技術。
14 用語
サブカテゴリ
ネステロフ加速勾配法
将来の位置を予測してより正確な更新を行うモーメンタムの変種
10 用語
サブカテゴリ
Adagrad
勾配の二乗和の履歴に基づく学習率の適応的調整
10 用語
サブカテゴリ
RMSprop
勾配の二乗の移動平均を使用して更新を正規化する適応的メソッド。
3 用語
サブカテゴリ
Adamオプティマイザ
適応的な一次および二次モーメントの推定を伴うモーメンタムとRMSpropの組み合わせ
6 用語
サブカテゴリ
AdamW
L2正則化を分離したAdamの変種で、より良い性能を実現します。
10 用語
サブカテゴリ
AdaDelta
Adagradの拡張版で、履歴の蓄積を制限し、安定した学習率を保つように設計されたもの。
8 用語
サブカテゴリ
ニュートン法
ヘッセ行列を用いた局所二次収束アルゴリズム
16 用語
サブカテゴリ
BFGSとL-BFGS
ヘッシアンを有限メモリで近似する準ニュートン法（L-BFGS）
13 用語
サブカテゴリ
共役勾配法
大規模線形システムと非線形最適化のための効率的な反復法
10 用語
サブカテゴリ
射影勾配降下法
制約付き最適化において、許容集合上に射影する手法。
15 用語
サブカテゴリ
Proximal Gradient法
滑らかでない関数に対する、勾配降下法と近接作用素を組み合わせたアルゴリズム
14 用語
🔍