Глоссарий ИИ
Полный словарь искусственного интеллекта
Якоря
Локальный подход объяснения, который идентифицирует высокоточные правила ЕСЛИ-ТО (якоря), которые локально закрепляют предсказание, гарантируя, что изменения непокрытых признаков не влияют на предсказание.
Контрфактуальные объяснения
Метод, генерирующий минимальные гипотетические сценарии, которые показывают, как изменить входные признаки для получения другого предсказания, тем самым объясняя границы принятия решений модели.
Локальные суррогатные модели
Упрощенные модели, обученные для аппроксимации поведения сложной модели только в окрестности конкретного предсказания, предоставляющие локально интерпретируемые объяснения.
LRP (Послойное распространение релевантности)
Техника обратного распространения, которая перераспределяет итоговое предсказание нейронной сети через ее слои до входных признаков, количественно оценивая их индивидуальный вклад.
DeepLIFT
Метод атрибуции релевантности для глубоких нейронных сетей, который сравнивает активацию каждого нейрона с его референсным состоянием, вычисляя вклады через разность, а не через градиенты.
Интегрированные градиенты
Техника атрибуции, которая интегрирует градиенты вдоль пути от базовой ссылки до текущего входа, гарантируя свойства аксиом, такие как чувствительность и инвариантность реализации.
Чувствительность к окклюзии
Локальный подход объяснения, который систематически маскирует области входа и наблюдает влияние на предсказание, идентифицируя критические зоны для решения модели.
Функции влияния
Аналитическая техника, оценивающая, как параметры модели и ее предсказания изменились бы, если бы конкретная точка обучения была модифицирована, идентифицируя влиятельные данные для предсказания.
ICE (Индивидуальное Условное Математическое Ожидание)
Метод визуализации того, как меняется прогноз модели для отдельного наблюдения при изменении значения характеристики, раскрывающий гетерогенные эффекты и взаимодействия.
Kernel SHAP
Вариант SHAP, использующий ядерный подход для оценки значений Шепли без перечисления всех коалиций, применимый к любой модели машинного обучения.
Tree SHAP
Оптимизированная реализация SHAP, специально разработанная для моделей на основе деревьев, вычисляющая точные значения Шепли за полиномиальное время благодаря древовидной структуре.
Локальная Верность
Мера, оценивающая точность, с которой модель локального объяснения воспроизводит прогнозы исходной модели в окрестности конкретного экземпляра, критически важная для доверия к объяснению.
Возмущение Признаков
Техника локального анализа, систематически изменяющая входные характеристики для наблюдения изменений прогноза, идентифицирующая наиболее чувствительные характеристики для данного решения.
Локальное Приписывание Признаков
Процесс количественной оценки вклада каждой характеристики в конкретный прогноз, отличающийся от глобальной важности, которая рассматривает весь набор данных.
Визуализация Границы Решений
Графический метод, показывающий, как модель разделяет классы вокруг конкретного прогноза, помогающий понять локальные механизмы принятия решений и устойчивость прогноза.
Локальная Линейная Аппроксимация
Техника локального приближения нелинейной модели простой линейной моделью вокруг точки прогноза, облегчающая интерпретацию сложных решений.
Локальная Важность Перестановки
Вариант важности перестановки, оценивающий влияние рандомизации каждого признака на конкретный прогноз, а не на весь набор данных.