モメンタム

モーメンタムウォームアップ

最初のイテレーションの不安定性を避けるために、モーメンタム係数をゼロから徐々に増加させる学習の初期段階。この技術により、深層ネットワークでの最適化が段階的に安定化する。

← 戻る