確率的勾配法

Adagrad

各パラメータの学習率を蓄積された勾配の履歴に基づいて動的に調整する適応最適化アルゴリズム。頻度の低いパラメータには大きな更新を、頻度の高いパラメータには小さな更新を可能にする。

← 戻る