Nesterov Accelerated Gradient

Loss Landscape Smoothing

Effet bénéfique de NAG qui modifie implicitement la surface de la fonction de perte pour créer des bassins d'attraction plus larges autour des minima, facilitant l'optimisation.

← Terug