Глоссарий ИИ
Полный словарь искусственного интеллекта
Бэггинг
Ансамблевая техника, создающая множественные модели на бутстрап-выборках для уменьшения дисперсии
Бустинг
Последовательный метод, в котором каждая модель исправляет ошибки предыдущей для уменьшения смещения
Стекинг
Комбинирование моделей с помощью метамодели, которая учится взвешивать их предсказания
Случайный лес
Ансамбль деревьев решений, использующий бэггинг и случайный отбор признаков
Градиентный бустинг
Бустинг, оптимизирующий функцию потерь градиентным спуском в пространстве функций
AdaBoost
Адаптивный алгоритм бустинга, взвешивающий примеры в соответствии с предыдущими ошибками
XGBoost
Оптимизированная реализация градиентного бустинга с регуляризацией и параллелизацией
LightGBM
Градиентный бустинг, использующий листовой рост и бининг признаков для скорости
CatBoost
Градиентный бустинг, специализирующийся на автоматической обработке категориальных переменных
Ансамбли голосования
Агрегирование предсказаний путем мажоритарного голосования (hard voting) или усреднения вероятностей (soft voting)
Блендинг
Техника, аналогичная стекингу, использующая hold-out валидацию для обучения метамодели
Динамический выбор ансамбля
Динамический выбор подмножеств моделей в соответствии с характеристиками каждого экземпляра
Ансамблевое прореживание
Сокращение размера ансамбля путем выбора наиболее релевантных моделей
Байесовское усреднение моделей
Байесовский подход, комбинирующий модели в соответствии с их апостериорными вероятностями
Смесь экспертов
Архитектура, в которой экспертные сети активируются шлюзовой сетью