AI用語集
人工知能の完全辞典
236
カテゴリ
3,245
サブカテゴリ
39,334
用語
用語
自動微分
プログラムで定義された関数の微分を効率的に計算するためのアルゴリズム技術。連鎖律と演算の計算グラフに基づいている。
用語
計算グラフ
モデル内の数学的演算間の依存関係を表すデータ構造。順伝播と逆伝播による勾配の自動計算を可能にする。
用語
分散削減手法
SVRG（確率的分散削減勾配法）やSAGAなどの手法。勾配推定の分散を削減し、計算効率を維持しながら収束を加速する。
用語
確率的ニュートン法
ニュートン法を確率的枠組みに適応させた二次最適化アルゴリズム。ヘッセ行列の近似を用いてより情報量の多い降下方向を計算する。
用語
ヘッセ行列-ベクトル積
完全なヘッセ行列を明示的に計算せずに、ヘッセ行列とベクトルの積を効率的に計算する手法。大規模な二次最適化法において重要。
🔍