Otimização baseada em Momentum

Adagrad

Algoritmo de otimização adaptativo que ajusta a taxa de aprendizado de cada parâmetro acumulando os quadrados dos gradientes históricos, favorecendo parâmetros pouco frequentes.

← Voltar