Моментум

Фактор импульса (beta)

Гиперметрический параметр, контролирующий влияние предыдущих градиентов на текущее обновление, обычно устанавливаемый между 0.9 и 0.99. Более высокое значение увеличивает инерцию и стабилизирует траекторию оптимизации в узких долинах.

← Назад