Глоссарий ИИ
Полный словарь искусственного интеллекта
Локальная интерпретируемость
Уровень интерпретации, направленный на объяснение прогноза модели для конкретного наблюдения, изолируя влияние каждого признака для этого конкретного случая.
Глобальная интерпретируемость
Уровень интерпретации, который агрегирует локальные объяснения на наборе данных для понимания общего поведения модели и средней важности признаков.
Базовое значение (Base Value)
В SHAP, среднее предсказание модели на обучающем наборе, служащее отправной точкой, к которой добавляются вклады признаков для получения окончательного прогноза.
Аддитивность
Фундаментальное свойство SHAP, гарантирующее, что сумма значений SHAP всех признаков, добавленная к базовому значению, точно равна предсказанию модели для наблюдения.
Эффективность (Efficiency)
Аксиома значения Шепли, утверждающая, что вклады всех признаков должны суммироваться, чтобы равняться разнице между прогнозом модели и базовым значением.
Симметрия
Аксиома значения Шепли, которая обеспечивает, что два признака, вносящие идентичный вклад во все возможные коалиции, получают одинаковое значение важности.
Фиктивность (Dummy)
Аксиома значения Шепли, которая гарантирует, что признак, не вносящий никакого предельного вклада в любую коалицию, получит нулевое значение важности.
Значение взаимодействия
Расширение значений SHAP, которое количественно оценивает эффект взаимодействия между парой признаков, измеряя, как их совокупное влияние отличается от суммы их индивидуальных воздействий.