Técnicas de Redução de Variância

Mini-batch

Subconjunto de tamanho intermediário do conjunto de dados completo usado para calcular estimativas de gradiente a cada iteração. Os mini-batches reduzem a variância em comparação com o SGD puro, sendo mais eficientes do que os gradientes completos.

← Voltar