Глоссарий ИИ
Полный словарь искусственного интеллекта
Стохастическое латентное пространство
Пространство представлений пониженной размерности, в котором латентные переменные следуют вероятностному распределению, что позволяет генерировать новые данные и моделировать неопределенности.
Трюк репараметризации
Математическая техника, которая выносит случайность за пределы вычислительного графа путем повторной выборки из фиксированного распределения, позволяя выполнять обратное распространение через стохастические слои.
Распознающая функция
Нейронная модель, обучающаяся отображать наблюдения на параметры приближенного апостериорного распределения, реализующая вычислительную амортизацию вывода.
Вариационная оптимизация
Процесс настройки параметров кодировщика и декодировщика путем максимизации ELBO, использующий стохастические градиенты, оцененные с помощью выборки Монте-Карло.
Взвешенное по важности сэмплирование
Расширение ELBO, использующее несколько выборок Монте-Карло для получения более жесткой нижней границы, что улучшает качество вариационного приближения.
Факторизованное апостериорное распределение
Упрощающее предположение, при котором приближенное апостериорное распределение разлагается на произведение независимых распределений, что снижает количество оцениваемых параметров.
Вариационный стохастический градиент
Несмещенная оценка градиента ELBO, полученная путем выборки Монте-Карло в сочетании с трюком репараметризации, позволяющая выполнять оптимизацию на больших наборах данных.
Ожидаемое логарифмическое правдоподобие
Первый член ELBO, представляющий качество реконструкции, вычисляемый как математическое ожидание логарифма правдоподобия относительно приближенного апостериорного распределения.
Вычислительная амортизация
Преимущество амортизированного вариационного вывода, при котором затраты на вывод распределяются по всему набору данных, что позволяет выполнять быстрый вывод для новых наблюдений.
Нормализующие потоки
Расширение вариационных автоэнкодеров, использующее биективные преобразования для моделирования апостериорных распределений более сложных, чем факторизованные гауссианы.