RMSprop

Экспоненциальное скользящее среднее

Техника сглаживания во времени, которая придает больший вес недавним наблюдениям, сохраняя при этом память о прошлых наблюдениях. В RMSprop она используется для оценки среднего квадрата градиентов за последние итерации.

← Назад