Стохастические методы второго порядка

LAMB (построчно-адаптивный оптимизатор моментов)

Адаптивный оптимизатор, который настраивает скорость обучения по слоям, используя нормы весов и градиентов, сочетая преимущества Adam с адаптацией к структуре сети.

← Назад