Глоссарий ИИ
Полный словарь искусственного интеллекта
Нормализующий поток
Архитектура генеративной модели, использующая последовательность обратимых биективных преобразований для отображения простого распределения на сложное, позволяющая точную оценку плотности вероятности и эффективное семплирование.
Биекция
Обратимая математическая функция, где каждый элемент в образе имеет ровно один прообраз в области определения, фундаментальное свойство нормализующих потоков, гарантирующее обратимость преобразований.
Якобиан
Матрица частных производных векторного преобразования, определитель которой важен в нормализующих потоках для вычисления изменения объёма при преобразованиях и поддержания нормализации распределения.
RealNVP
Real-valued Non-Volume Preserving, архитектура нормализующего потока, вводящая связующие слои с маскированными аффинными преобразованиями, позволяющая эффективное вычисление определителя якобиана и быстрые обратимые преобразования.
Связующий слой
Основной элемент архитектур RealNVP и Glow, разделяющий измерения на два блока, где один преобразуется параметризованными функциями, зависящими от другого блока, сохраняя биективность при выполнении сложных преобразований.
Плоский поток
Тип преобразования потока, использующий функции вида f(z) = z + u·h(wᵀz + b), где h - нелинейная функция, создающая плоские деформации в латентном пространстве для моделирования многомодальных распределений.
Радиальный поток
Архитектура потока, применяющая радиальные преобразования вокруг определённых точек в пространстве, использующая функции вида f(z) = z + β/(α + ||z - z₀||)(z - z₀) для создания целевых локальных деформаций.
Маскированный авторегрессионный поток (MAF)
Нормализующий поток, комбинирующий авторегрессию и маскирование для построения треугольных преобразований, где каждое измерение зависит только от предыдущих измерений, позволяющий точную оценку плотности, но последовательное семплирование.
Inverse Autoregressive Flow (IAF)
Вариант MAF, инвертирующий направление зависимости для эффективного параллельного семплирования ценой последовательной оценки плотности, особенно подходящий для вариационных моделей и генеративных приложений в реальном времени.
Glow
Архитектура генеративного нормализующего потока, вводящая обратимую свёртку 1×1 для замены перестановок, в сочетании с улучшенными слоями связывания и активационной нормализацией для высококачественного моделирования изображений.
Invertible 1×1 Convolution
Операция свёртки с ядром 1×1, параметризованная как обратимая матрица, используемая в Glow для выполнения обучаемых перестановок между каналами с сохранением биективности и возможностью эффективного вычисления якобиана.
Change of Variables Formula
Фундаментальный математический принцип нормализующих потоков, устанавливающий связь между плотностями вероятности до и после преобразования через определитель якобиана, позволяющий точную оценку правдоподобия.
Neural Spline Flow
Архитектура потока, использующая рациональные квадратичные сплайн-функции в качестве элементарных преобразований, обеспечивающая высокую выразительность с аналитическим вычислением якобиана и улучшенной числовой стабильностью.
Base Distribution
Простое распределение (обычно изотропное гауссово или равномерное) в латентном пространстве, служащее отправной точкой для последовательных преобразований потока, выбираемое за лёгкость семплирования и вычисления плотности.
Exact Likelihood Computation
Главное преимущество нормализующих потоков, позволяющее точное аналитическое вычисление логарифма правдоподобия данных, в отличие от других генеративных моделей, требующих аппроксимаций, таких как семплирование или вариационные границы.
Freivalds-Gaussian Flow
Архитектура потока, использующая преобразования на основе структурированных матриц вращения и масштабирования, гарантирующая числовую стабильность и эффективное вычисление определителя якобиана для высоких размерностей.
Треугольное преобразование
Тип треугольного якобианского преобразования, используемый в авторегрессивных потоках, где треугольная структура гарантирует биективность и упрощает вычисление определителя как произведение диагональных элементов.