Глоссарий ИИ
Полный словарь искусственного интеллекта
Мера разнообразия
Количественная метрика, оценивающая степень несходства между прогнозами базовых моделей в ансамбле, необходимая для предотвращения корреляции ошибок.
Q-статистика
Статистический коэффициент, измеряющий зависимость между двумя бинарными классификаторами, варьирующийся от -1 (максимальное разнообразие) до 1 (идеальная корреляция) с 0, указывающим на независимость.
Коэффициент корреляции
Статистическая метрика, оценивающая линейную связь между прогнозами двух классификаторов, где значения, близкие к 0, указывают на сильное полезное разнообразие.
Мера расхождения
Доля экземпляров, где два классификатора дают разные прогнозы, вычисляемая как отношение расхождений к общему количеству наблюдений.
Статистика каппа
Мера согласия, скорректированная на случайность, между классификаторами, где отрицательные значения указывают на разнообразие превышающее ожидаемое случайностью.
Мера энтропии
Метрика на основе энтропии Шеннона, оценивающая разнообразие через распределение прогнозов ансамбля, где высокие значения указывают на максимальное разнообразие.
Дисперсия Кохави-Вольперта
Мера разнообразия, основанная на дисперсии бинарных прогнозов ансамбля, напрямую связанная с оптимальной частотой ошибок Байеса и разложением смещение-дисперсия.
Мера двойной ошибки
Доля экземпляров, где два классификатора одновременно совершают одну и ту же ошибку, где низкие значения указывают на полезную дополнительность моделей.
Мера сложности
Метрика, оценивающая легкость, с которой экземпляры правильно классифицируются ансамблем, используемая для идентификации проблемных образцов, требующих большего разнообразия.
Разнообразие на основе отступов
Подход, измеряющий разнообразие через распределение отступов классификации, где широкое разбросание отступов указывает на повышенную устойчивость ансамбля.
Разложение неоднозначности
Математическое разложение, разделяющее ошибку ансамбля на среднюю ошибку базовых моделей плюс член неоднозначности, количественно оценивающий их разнообразие.
Корреляция ошибок
Коэффициент корреляции, вычисленный на векторах ошибок базовых моделей, где отрицательные значения особенно выгодны для производительности ансамбля.
Обучение с отрицательной корреляцией
Техника обучения, интегрирующая член штрафа, который явно поощряет отрицательную корреляцию между ошибками базовых моделей во время обучения.
Регуляризация, способствующая разнообразию
Член регуляризации, добавленный к функции потерь для активного поощрения разнообразия между предсказаниями моделей во время обучения ансамбля.
Ортогональное обучение ансамбля
Метод, заставляющий базовые модели изучать ортогональные представления в пространстве признаков, математически гарантирующий их разнообразие.
Разнообразие гетерогенного ансамбля
Изучение разнообразия, естественным образом возникающего из комбинации алгоритмов разных типов (деревья, нейронные сети, SVM), использующих их дополняющие смещения.