Глоссарий ИИ
Полный словарь искусственного интеллекта
Точность суррогатной модели
Метрика, оценивающая, насколько точно суррогатная модель воспроизводит прогнозы исходной сложной модели на заданном наборе данных. Высокая точность необходима для того, чтобы гарантировать, что интерпретации суррогатной модели правильно отражают поведение лежащей в основе модели.
Глобальная суррогатная модель
Суррогатная модель, обученная на всем наборе данных для выявления общих тенденций и глобальных зависимостей сложной модели. Она дает общее представление о поведении модели, но может упускать важные локальные нюансы.
Локальная суррогатная модель
Суррогатная модель, обученная в ограниченном окружении вокруг конкретного прогноза для объяснения локального поведения сложной модели. Этот подход позволяет уловить мелкие вариации и взаимодействия, специфичные для определенной области пространства признаков.
Потеря интерпретируемости
Неизбежный компромисс между сложностью суррогатной модели и ее способностью точно воспроизводить поведение исходной модели. Слишком простая модель рискует потерять важную информацию, в то время как слишком сложная модель теряет свою интерпретируемость.
Суррогатное дерево решений
Суррогатная модель, использующая структуру дерева решений для аппроксимации поведения сложной модели, что обеспечивает интуитивно понятную визуальную интерпретацию. Сгенерированные правила принятия решений позволяют легко понять важные пороговые значения и взаимодействия в исходной модели.
Суррогатная линейная регрессия
Суррогатная модель, основанная на линейной регрессии для локальной аппроксимации поведения сложной нелинейной модели. Коэффициенты регрессии дают прямую оценку важности и влияния каждого признака на прогноз.
Окрестность возмущения
Набор образцов, созданных путем возмущения конкретного экземпляра для формирования локального набора данных, на котором обучается суррогатная модель. Размер и стратегия возмущения напрямую влияют на качество полученной локальной интерпретации.
Веса близости
Коэффициенты, присваиваемые возмущенным образцам в зависимости от их расстояния до интересующего экземпляра при обучении локальной суррогатной модели. Эти веса обеспечивают фокусировку суррогатной модели на поведении сложной модели в соответствующей области.
Глобальный анализ чувствительности
Использование глобальных суррогатных моделей для оценки глобального влияния каждого признака на прогнозы сложной модели. Этот подход выявляет наиболее влиятельные переменные по всему набору данных.
Метрика R² суррогатной модели
Коэффициент детерминации, используемый для количественной оценки точности суррогатной модели путем измерения доли объясненной дисперсии прогнозов исходной модели. Значение R², близкое к 1, указывает на отличное приближение поведения сложной модели.