Momentum

Momentum por Mini-Batch

Estratégia onde a velocidade é atualizada após cada mini-batch em vez de após cada amostra individual, oferecendo um compromisso entre estabilidade e custo computacional. Esta abordagem permite uma melhor generalização, mantendo os benefícios do momentum.

← Voltar