モメンタム

勾配履歴

現在の更新方向を計算するために使用される過去の勾配のメモリで、降下の長期的な傾向を捕捉します。指数重み付き履歴は、前の反復の情報を保持しながら最近の勾配を優先します。

← 戻る