モメンタム

勾配速度

前の反復の重み付き勾配を蓄積するベクトルで、パラメータ空間での降下の方向と速度を表します。速度は現在の勾配と前の速度の線形結合によって各反復で更新されます。

← 戻る