Глоссарий ИИ
Полный словарь искусственного интеллекта
Схема взвешивания
Механизм присвоения весов обучающим примерам и моделям в бустинге, где веса увеличиваются для неправильно классифицированных примеров на каждой итерации.
Последовательное обучение
Парадигма обучения, где каждая модель обучается последовательно с учетом производительности предыдущих моделей для исправления их систематических ошибок.
Подгонка остатков
Техника градиентного бустинга, где каждая новая модель обучается предсказывать остатки (ошибки) предыдущей ансамблевой модели вместо исходной целевой переменной.
Бустинг деревьев
Специфическое применение бустинга с использованием деревьев решений в качестве слабых обучающихся, особенно эффективное для нелинейных задач регрессии и классификации.
Регуляризация в бустинге
Совокупность техник (shrinkage, субдискретизация, штрафы L1/L2), контролирующих сложность модели бустинга для предотвращения переобучения и улучшения обобщающей способности.
Оптимизация функции потерь
Математический процесс итеративной минимизации специфической функции потерь (экспоненциальная, логистическая, Хубера) для направления последовательного обучения моделей бустинга.
Оценка вне пакета
Метод оценки модели бустинга, использующий примеры, не выбранные при стохастической субдискретизации, в качестве внутреннего валидационного набора.