AdaDelta

Коэффициент затухания

Параметр (обычно между 0.9 и 0.999), контролирующий скорость, с которой влияние прошлых градиентов экспоненциально уменьшается. Этот фактор определяет эффективный размер скользящего окна в адаптивных алгоритмах, таких как AdaDelta.

← Назад