Глоссарий ИИ
Полный словарь искусственного интеллекта
Процесс прямой диффузии
Марковский процесс, который постепенно добавляет гауссовский шум к входным данным на нескольких временных шагах, преобразуя сложное распределение в нормальное.
Процесс обратной диффузии
Обратный процесс, который постепенно учится удалять шум из данных, оценивая градиент логарифмической вероятности распределения данных на каждом временном шаге.
Подгонка оценки
Техника оптимизации, позволяющая оценить градиент логарифмического правдоподобия (оценку) без необходимости вычисления константы нормализации распределения.
Параметр шума
Функция, определяющая дисперсию гауссовского шума, добавляемого на каждом этапе прямого процесса, варьирующаяся линейно или по косинусу для контроля прогресса зашумления.
Временной шаг
Дискретная переменная, представляющая временной шаг в процессе диффузии, варьирующаяся от 0 (исходные данные) до T (чистый шум) для прямого процесса.
Энкодер шума
Нейронная сеть, обученная предсказывать шум, добавленный к данным на заданном временном шаге, позволяющая восстановить исходные данные путем вычитания предсказанного шума.
Условное удаление шума
Расширение процесса диффузии, где модель генерирует данные, обусловленные дополнительной информацией, такой как текст, изображения или определенные классы.
Латентное пространство диффузии
Вариант моделей диффузии, работающий в сжатом латентном пространстве с использованием автоэнкодера, значительно снижая вычислительные затраты при сохранении качества генерации.
Механизм перекрёстного внимания
Модуль внимания, позволяющий условным диффузионным моделям интегрировать внешнюю информацию (текстовые промпты) в процесс генерации посредством межмодальных взаимодействий.
Оценщик скоринга
Нейронная модель, обученная аппроксимировать градиент логарифма правдоподобия распределения данных, необходимая для направления процесса генерации в диффузионных моделях.
Сэмплирование DDPM
Оригинальный стохастический метод сэмплирования для диффузионных моделей, использующий марковский процесс с гауссовским шумом на каждом шаге дешуминга.
Сэмплирование DDIM
Более быстрая детерминированная разновидность сэмплирования DDPM, позволяющая генерировать высококачественные сэмплы с гораздо меньшим количеством шагов дешуминга.
Классификационная навигация
Техника, использующая предварительно обученный классификатор для направления процесса генерации к определённым классам путём изменения градиента дешуминга в соответствии с вероятностями классов.
Навигация без классификатора
Альтернативный метод классификационной навигации, избегающий отдельного обучения классификатора, использующий условную и безусловную модели одновременно для навигации.
Шаг дешуминга
Отдельная итерация обратного процесса, в ходе которой модель применяет преобразование дешуминга для перехода от зашумлённого состояния к менее зашумлённому.
Время вывода
Продолжительность, необходимая для генерации полного сэмпла, зависящая в основном от количества шагов дешуминга, используемых в обратном диффузионном процессе.
Частота Найквиста в диффузии
Теоретическая концепция, связанная с сохранением высоких частот в диффузионных моделях, имеющая ключевое значение для сохранения мелких деталей в процессе генерации изображений.