Глоссарий ИИ
Полный словарь искусственного интеллекта
Метрическое пространство эмбеддингов
Низкоразмерное векторное пространство, где расстояния между точками отражают семантические сходства между классами, оптимизированное для задач классификации few-shot.
Прототип класса
Центральное векторное представление класса, вычисляемое как среднее значение эмбеддингов примеров поддержки этого класса в метрическом пространстве.
Набор поддержки
Подмножество обучающих данных, используемое для вычисления прототипов классов во время эпизода мета-обучения, содержащее ограниченное количество примеров для каждого класса.
Набор запросов
Набор примеров для классификации, используемых для оценки и обновления производительности модели во время обучения, без участия в вычислении прототипов.
N-way K-shot
Парадигма обучения few-shot, где N представляет количество классов для различения и K - количество доступных примеров для каждого класса в наборе поддержки.
Евклидово расстояние в эмбеддинге
Мера сходства, используемая для классификации примеров запросов путем вычисления их расстояния до прототипов классов в изученном пространстве эмбеддингов.
Softmax по расстояниям
Функция активации, преобразующая отрицательные расстояния до прототипов в вероятности распределения по классам, используемая для классификации примеров запросов.
Эпизод мета-обучения
Единица обучения, имитирующая полную задачу few-shot, включающая построение прототипов из набора поддержки и классификацию набора запросов.
Функция кодирования
Параметризованная нейронная сеть, преобразующая необработанные входы в векторы вложения, оптимизированная для минимизации внутриклассовых расстояний и максимизации межклассовых расстояний.
Потеря перекрестной энтропии на расстояниях
Целевая функция, минимизирующая расхождение между предсказанным распределением, основанным на расстояниях до прототипов, и истинными метками примеров запросов.
Инициализация прототипов
Процесс начального вычисления представлений классов перед обучением, часто выполняемый путем случайного усреднения или предварительного обучения на более обильных данных.
Обучение без примеров (zero-shot)
Способность Prototypical Networks обобщать на классы, не виденные во время обучения, используя только семантические описания или атрибуты.
Онлайн-обновление прототипов
Динамическая адаптация представлений классов во время вывода путем постепенного включения новых примеров для уточнения границ принятия решений.
Взвешенное агрегирование примеров
Усовершенствованный вариант вычисления прототипов, использующий веса для каждого опорного примера, основанные на их качестве или релевантности для представления класса.
Метрическое латентное пространство
Изученное промежуточное представление, где геометрическая структура сохраняет отношения сходства между классами, облегчая линейное разделение в пространстве прототипов.
Регуляризация прототипов
Техника, предотвращающая переобучение путем ограничения прототипов для оставания в определенных областях пространства вложения или путем штрафования их избыточной дисперсии.
Обучение по эпизодам
Стратегия обучения, где каждый батч содержит несколько независимых few-shot эпизодов, позволяющая модели быстро адаптироваться к новым задачам.
Адаптивное расстояние Махаланобиса
Расширение прототипных сетей, использующее изученную метрику расстояния, учитывающую ковариацию данных в каждом классе для лучшего разделения.
Динамический прототип
Вариант, где прототипы не фиксированы, а адаптируются в зависимости от контекста или специфических особенностей каждого примера запроса для классификации.