モメンタム

クラシックモーメンタム

減衰係数と共に過去の勾配を蓄積し、重みの更新に慣性を作り出す最適化手法。このアプローチにより、一定方向での収束を加速させると同時に振動を減衰させます。

← 戻る