Стохастические методы второго порядка

K-FAC (Кронекеровская аппроксимация кривизны)

Метод оптимизации второго порядка, который аппроксимирует матрицу Фишера произведением Кронекера меньших матриц, обеспечивая эффективность вычислений для глубоких нейронных сетей.

← Назад