Глоссарий ИИ
Полный словарь искусственного интеллекта
Бэггинг Bootstrap Aggregating
Ансамблевая техника, создающая множество моделей на bootstrap-выборках и объединяющая их предсказания путем голосования большинства или усреднения.
Случайный лес
Алгоритм бэггинга, использующий деревья решений со случайным выбором признаков на каждом разбиении для уменьшения корреляции между моделями.
Дополнительные деревья (Extra Trees) Экстремально рандомизированные деревья
Вариант Random Forest, добавляющий дополнительную рандомизацию при выборе порогов разделения для еще большего уменьшения дисперсии.
Ансамбль Pasting
Метод ансамбля, аналогичный бэггингу, но использующий подмножества обучающих данных без замены.
Классификаторы голосования
Техника, объединяющая несколько разнородных классификаторов с использованием жесткого большинства голосов или взвешенного среднего для окончательного прогнозирования.
Stacking Stacked Generalization
Ансамблевый метод, обучающий метамодель для комбинирования прогнозов нескольких базовых моделей, использующий перекрестную проверку.
Блендинг
Упрощенный вариант стекинга, использующий отложенную выборку для обучения метамодели вместо кросс-валидации.
Оценка ошибки out-of-bag
Внутренний метод оценки методов бэггинга, использующий невыбранные образцы (out-of-bag) для оценки ошибки обобщения.
Важность признаков в ансамблях
Методы оценки важности переменных в ансамблевых моделях, основанные на уменьшении нечистоты или перестановке.
Методы бутстрап-выборки
Продвинутые методы бутстрап-выборки, включая сбалансированный бутстрап, стратифицированный бутстрап и взвешенный бутстрап для наборов.
Изоляционный лес
Алгоритм обнаружения аномалий на основе случайного леса, использующий среднюю длину пути в деревьях для измерения изоляции точек.
Лес вращений
Расширение Random Forest, применяющее PCA-преобразования к подмножествам признаков перед обучением каждого дерева.
Бутстреп-агрегирование регрессоров
Применение беггинга к задачам регрессии, объединение предсказаний путем усреднения или вычисления медианы для снижения дисперсии.
Сбалансированный случайный лес
Вариант случайного леса, обрабатывающий несбалансированные классы посредством сбалансированного бутстреп-выборки для каждого дерева.
Регрессионный лес квантилей
Расширение случайного леса для оценки условных квантилей распределения целевой переменной в регрессии.