Оптимизатор Adam

Beta1

Гиперпараметр Adam, контролирующий скорость экспоненциального затухания для скользящего среднего первого момента (градиента), обычно устанавливается на 0.9 для балансировки между новизной и историей.

← Назад