AdaDelta
Состояние оптимизации
Дополнительная информация, хранящаяся адаптивными алгоритмами для вычисления будущих обновлений. AdaDelta поддерживает два состояния: скользящее среднее квадратов градиентов и скользящее среднее квадратов обновлений.
← Назад