確率的勾配法

RMSprop

Adagradの学習率の過剰な減衰問題を解決する最適化手法で、勾配の二乗の指数移動平均を使用する。RMSpropは学習率を劇的に減衰させることなく適応的な学習率を維持する。

← 戻る