Контрактивные автоэнкодеры

Затухание градиента

Потенциальная проблема при вычислении якобиан штрафа в глубоких сетях, где градиенты могут становиться крайне малыми, что затрудняет оптимизацию.

← Назад