Глоссарий ИИ
Полный словарь искусственного интеллекта
Якоря (Anchors)
Метод, который идентифицирует простые и достаточные правила принятия решений (якоря), объясняющие с высокой точностью предсказание модели для конкретного экземпляра.
Значение Шепли
Концепция из теории игр, измеряющая средний предельный вклад игрока (признака) по всем возможным коалициям, служащая основой для SHAP.
Возмущение входных данных
Процесс создания незначительных вариаций во входных данных для наблюдения за эффектом на предсказание модели, используемый такими методами, как LIME, для построения локальной окрестности.
Точность (Fidelity)
Метрика, оценивающая, насколько точно локальное объяснение (например, простая модель LIME) имитирует поведение сложной модели в её окрестности.
Агностичное к модели объяснение
Подход к интерпретируемости, который рассматривает предиктивную модель как чёрный ящик, взаимодействуя только с её входами и выходами для генерации объяснений.
Карта значимости (Saliency Map)
Визуализация, которая выделяет пиксели или признаки входных данных, оказавшие наибольшее влияние на предсказание модели, часто получаемая путём вычисления градиента.
Ядерная окрестность
В LIME, функция, определяющая близость между исходным экземпляром и возмущёнными экземплярами, взвешивающая их влияние в локальной объясняющей модели.
Правило объяснения
Простое логическое условие (например: ЕСЛИ признак_A > X И признак_B < Y), которое отражает основную причину конкретного предсказания, типичное для таких методов, как Anchors.
Пост-хок интерпретируемость
Анализ модели после её обучения для понимания её решений, в отличие от моделей, изначально интерпретируемых.
SHAP Kernel Explainer
Реализация SHAP, использующая взвешивание типа kernel для оценки значений Шепли, что делает её агностичной к модели, но потенциально более медленной.
SHAP Tree Explainer
Оптимизированный алгоритм SHAP, который вычисляет точные значения Шепли для моделей на основе деревьев (таких как XGBoost, LightGBM) очень эффективно.
Локальное объяснение через суррогат
Основной принцип LIME, заключающийся в обучении простой и интерпретируемой модели (суррогатной) для аппроксимации поведения сложной модели локально.