Стохастические методы второго порядка

Оптимизатор Sophia

Метод оптимизации второго порядка, который сочетает оценки диагональной матрицы Гессе со стохастическим управлением импульсом, динамически адаптируя направление обновления в зависимости от локальной кривизны.

← Назад