Momentum

Momentum par mini-batch

Stratégie où la vélocité est mise à jour après chaque mini-batch plutôt qu'après chaque échantillon individuel, offrant un compromis entre stabilité et coût computationnel. Cette approche permet une meilleure généralisation tout en maintenant les bénéfices du momentum.

← Geri