Variance Reduction Techniques

Linear convergence

Taux de convergence où l'erreur décroît exponentiellement avec le nombre d'itérations pour les problèmes convexes forts. Les méthodes de réduction de variance comme SVRG et SAGA atteignent une convergence linéaire sous certaines conditions.

← Geri