Глоссарий ИИ
Полный словарь искусственного интеллекта
Обучение с контролируемым контрастным сравнением (SupCon)
Метод глубокого обучения, который сочетает контрастное обучение и метки классов для улучшения разделения представлений в пространстве вложений путем группировки экземпляров одного класса.
Пространство вложений
Пространство векторов высокой размерности, куда проецируются данные для фиксации их семантических характеристик, позволяя измерять сходство между экземплярами.
Контрастные потери
Функция потерь, которая минимизирует расстояние между позитивными парами и максимизирует его между негативными парами в пространстве вложений.
Параметр температуры
Скалярный гиперпараметр, который контролирует концентрацию распределения сходств, влияя на штраф за сложные образцы в контрастном обучении.
Проекция признаков
Нелинейное преобразование, применяемое к признакам, извлеченным кодировщиком перед вычислением контрастных потерь.
Нормализация по пакету
Техника регуляризации, которая нормализует активации в каждом минибатче для стабилизации обучения и улучшения сходимости.
Обучение представлениям
Процесс автоматического извлечения релевантных признаков из необработанных данных для формирования компактных и информативных представлений.
Дискриминация экземпляров
Предварительная задача, состоящая в различении разных экземпляров в пакете, являющаяся основой контрастного обучения.
Проекционная головка
Дополнительная нейронная сеть, применяемая после основного энкодера для отображения признаков в пространство, где вычисляется контрастивная потеря.
Сбалансированная по классам выборка
Стратегия выборки, обеспечивающая баланс классов в каждом пакете для оптимизации контролируемого контрастивного обучения.
Отбор сложных отрицательных примеров
Техника, которая специально выбирает наиболее похожие на якорь отрицательные примеры для улучшения качества разделяющей границы.
Аугментация признаков
Применение стохастических преобразований к входным данным для создания различных представлений одного и того же экземпляра, что является ключевым для контрастивного обучения.
Метрическое обучение
Парадигма обучения, направленная на изучение функции расстояния, в которой похожие экземпляры находятся близко, а непохожие — далеко.