Técnicas de Redução de Variância

Complexidade de memória

Espaço de memória exigido pelo algoritmo para armazenar as informações necessárias para os cálculos. SAG e SAGA requerem O(n) de memória para armazenar os gradientes históricos, enquanto SVRG requer apenas O(1) de memória adicional.

← Voltar