Методы снижения дисперсии

Gradient variance

Мера изменчивости оценок стохастического градиента, обусловленная случайной выборкой данных. Уменьшение этой дисперсии является основной целью методов SVRG и SAGA для улучшения сходимости.

← Назад