Глоссарий ИИ
Полный словарь искусственного интеллекта
Выбор модели
Систематический процесс идентификации и выбора наиболее производительных моделей в рамках обучающего ансамбля. Этот выбор основывается на критериях производительности, разнообразия и взаимодополняемости между моделями.
Отбор на основе разнообразия
Метод отбора, который отдает приоритет выбору моделей с разнообразными и взаимодополняющими предсказаниями. Цель - максимизировать разнообразие финального ансамбля для улучшения устойчивости предсказаний.
Жадный отбор
Итеративный алгоритм отбора, который выбирает или исключает модели по одной в соответствии с локальным критерием оптимизации. Этот метод ищет субоптимальное, но вычислительно эффективное решение.
Генетический отбор
Подход к отбору, вдохновленный генетическими алгоритмами, который использует операторы селекции, скрещивания и мутации для оптимизации состава ансамбля. Этот метод исследует пространство решений более исчерпывающим образом.
Отбор на основе кластеризации
Техника отбора, которая группирует похожие модели в кластеры, а затем выбирает представителей из каждого кластера. Этот метод обеспечивает хорошее покрытие пространства предсказаний при одновременном сокращении избыточности.
Выбор ансамбля
Процесс оптимального выбора подмножества моделей из более широкого ансамбля для максимизации производительности предсказания. Этот выбор может быть сформулирован как задача комбинаторной оптимизации.
Ранжирование моделей
Установление порядка приоритета моделей ансамбля на основе метрик производительности и вклада. Это ранжирование направляет процесс отбора, идентифицируя наиболее релевантные модели.
Сокращение ансамбля
Контролируемое уменьшение размера обучающего ансамбля при сохранении его способностей к обобщению. Это сокращение направлено на поиск оптимального компромисса между производительностью и вычислительной сложностью.
Стратегия обрезки
Набор правил и алгоритмов, определяющих, как модели оцениваются и исключаются в процессе обрезки. Стратегия определяет критерии отбора и порядок исключения моделей.
Выбор подмножества
Проблема оптимизации, заключающаяся в определении наилучшего подмножества моделей, максимизирующего заданную целевую функцию. Этот выбор может быть решен точными или эвристическими методами.
Оптимизация ансамбля
Процесс улучшения состава и структуры ансамбля для достижения оптимальной производительности. Оптимизация включает обрезку, взвешивание и отбор членов ансамбля.
Порог обрезки
Критическое значение, используемое в качестве критерия решения для исключения моделей в процессе обрезки. Этот порог может быть основан на метриках производительности, разнообразия или маржинального вклада.
Сжатие ансамбля
Уменьшение размера ансамбля при сохранении его прогностических способностей с помощью методов дистилляции или обрезки. Это сжатие облегчает развертывание и вывод в производственной среде.
Прямой отбор
Конструктивный метод обрезки, который постепенно добавляет наиболее полезные модели в ансамбль. Этот подход гарантирует, что каждая добавленная модель положительно влияет на общую производительность.
Обратное исключение
Стратегия обрезки, которая начинается с полного ансамбля и итеративно исключает наименее полезные модели. Этот метод позволяет оценить влияние каждой модели на производительность ансамбля.
Критерии обрезки
Набор метрик и правил, используемых для оценки полезности каждой модели в ансамбле. Эти критерии обычно объединяют меры производительности, разнообразия и сложности.
Упрощение Ансамбля
Процесс снижения структурной сложности ансамбля при сохранении его прогностических способностей. Это упрощение может включать обрезку, объединение похожих моделей и сокращение параметров.