Momentum

Vélocité de gradient

Vecteur accumulant les gradients pondérés des itérations précédentes, représentant la direction et la vitesse de descente dans l'espace des paramètres. La vélocité est mise à jour à chaque itération par une combinaison linéaire du gradient actuel et de la vélocité précédente.

← Terug