Глоссарий ИИ
Полный словарь искусственного интеллекта
Оценка точности (Fidelity Score)
Количественная метрика, вычисляемая как разница в производительности между исходной моделью и аппроксимирующей моделью (суррогатом) на тестовом наборе данных.
Устойчивость объяснения
Способность объяснения выдерживать небольшие возмущения во входных данных или в модели без значительных изменений.
Ошибка прогнозирования суррогатной модели (Surrogate Model Error)
Разница между прогнозами исходной модели и прогнозами интерпретируемой модели (суррогата), обученной для имитации поведения исходной модели.
R² объяснения (Explanation R-squared)
Коэффициент детерминации, измеряющий долю дисперсии прогнозов исходной модели, которая объясняется суррогатной моделью.
Точность по классам (Class Fidelity)
Мера, специфичная для задач классификации, которая оценивает, сохраняет ли объяснение тот же класс прогноза, что и исходная модель для данного экземпляра.
Точность регрессии (Regression Fidelity)
Для моделей регрессии оценивает численную близость между прогнозом исходной модели и прогнозом объяснения, часто через среднеквадратичную ошибку.
Локальная и глобальная точность (Local vs Global Fidelity)
Различие между способностью объяснения точно представлять модель для одного прогноза (локальная) или для всего пространства прогнозов (глобальная).
Компромисс между сложностью и точностью (Complexity-Fidelity Trade-off)
Анализ соотношения между сложностью объяснения (например, количеством правил) и его точностью, направленный на поиск оптимального баланса между интерпретируемостью и точностью.
Точность контрфактуальных объяснений
Оценивает, остается ли контрфактуальное объяснение, которое показывает, как изменить прогноз, верным поведению модели в окрестности измененного экземпляра.
Точность атрибуции признаков
Для методов, таких как SHAP или LIME, измеряет, насколько близка сумма важностей признаков к разнице между прогнозом и ожидаемым базовым значением.
Нормализованная ошибка точности
Масштабированная версия ошибки точности, позволяющая проводить справедливые сравнения между различными моделями или наборами данных.
Концептуальная точность объяснения
Измеряет, насколько точно объяснение, основанное на концепциях высокого уровня (например, 'полосатый', 'шерсть'), отражает рассуждения модели.
Точность объяснения правилами
Оценивает точность набора извлеченных правил для объяснения модели, измеряя долю экземпляров, в которых правила и модель согласуются.