Variance Reduction Techniques

Memory complexity

Espace mémoire requis par l'algorithme pour stocker les informations nécessaires aux calculs. SAG et SAGA nécessitent O(n) mémoire pour stocker les gradients historiques, tandis que SVRG ne nécessite que O(1) mémoire supplémentaire.

← Zurück