Adagrad

Norma do gradiente

Medida da magnitude do vetor gradiente, utilizada no Adagrad para determinar se um parâmetro sofreu atualizações significativas historicamente e, portanto, requer um ajuste adaptativo da taxa de aprendizado.

← Voltar