Adagrad

Norma del gradiente

Medida de la magnitud del vector gradiente, utilizada en Adagrad para determinar si un parámetro ha sufrido actualizaciones significativas históricamente y, por lo tanto, requiere un ajuste de tasa de aprendizaje adaptativo.

← Volver