Adagrad

Математическое ожидание квадрата градиента

Статистическая оценка долгосрочного среднего квадратов градиентов, служащая основой для вычисления адаптивных масштабирующих множителей в оптимизаторах семейства Adagrad.

← Назад