Nesterov Accelerated Gradient

Adaptive Momentum Estimation

Extension des méthodes momentum qui adapte dynamiquement les taux d'apprentissage pour chaque paramètre en combinant les avantages de NAG avec la normalisation adaptative des gradients.

← Terug