Técnicas de Redução de Variância

Gradient variance

Medida da variabilidade das estimativas de gradiente estocásticas devido à amostragem aleatória dos dados. A redução dessa variância é o objetivo principal das técnicas SVRG e SAGA para melhorar a convergência.

← Voltar