モメンタム

ミニバッチごとのモーメンタム

各サンプル個別ではなく、各ミニバッチ後に速度を更新する戦略。安定性と計算コストの間のトレードオフを提供する。このアプローチは、モーメンタムの利点を維持しながら、より良い汎化を可能にする。

← 戻る