Глоссарий ИИ
Полный словарь искусственного интеллекта
График индивидуальной условной зависимости (ICE)
Графическое представление, которое отслеживает прогноз для каждого отдельного наблюдения в зависимости от характеристики, выявляя неоднородность эффектов, которые скрывает PDP.
Диаграмма Шепли
Визуализация вклада каждой характеристики в конкретный прогноз, основанная на значениях Шепли из теории игр для обеспечения справедливого распределения влияния.
График глобальной важности SHAP
Гистограмма, которая ранжирует характеристики по их среднему влиянию на величину прогноза модели, вычисленная путем взятия среднего абсолютного значения значений SHAP.
Диаграмма роя SHAP (SHAP Beeswarm)
Визуализация, объединяющая важность характеристик и их влияние, где каждая точка - это значение SHAP для прогноза, расположенная на оси характеристики и окрашенная в соответствии со значением характеристики.
График взаимодействия SHAP
Визуализация, которая выявляет эффекты взаимодействия между характеристиками, показывая, как влияние одной характеристики на прогноз зависит от значения другой.
Тепловая карта LIME
Визуальное наложение на входные данные (например, изображение или текст), которое выделяет сегменты или слова, внесшие наибольший вклад в локальный прогноз модели, согласно методу LIME.
Суррогатное дерево решений
Визуализация простого дерева решений, обученного для имитации поведения сложной модели (черного ящика), обеспечивающая приблизительную глобальную интерпретацию правил принятия решений модели.
График контуров ALE
Двумерная визуализация локального накопленного эффекта (ALE) для пары характеристик, использующая контуры для демонстрации изменения прогноза в пространстве этих двух характеристик.
Диаграмма важности перестановок
Столбчатая диаграмма, которая измеряет и отображает снижение производительности модели, когда значения одной характеристики случайным образом переставляются, указывая на ее предсказательную важность.
Кривая обучения интерпретируемости
График, который отслеживает производительность модели интерпретируемости (например, суррогатной) в зависимости от количества данных или разрешенной сложности, помогая оценить компромисс между точностью и интерпретируемостью.
Визуализация контрфактуалов
Графическое представление, которое сравнивает исходный экземпляр с его измененной версией (контрфактуалом), которая меняет предсказание модели, выделяя измененные характеристики.
График точности суррогатной модели
Диаграмма рассеяния или кривая, которая сравнивает предсказания суррогатной модели (интерпретируемой) с предсказаниями исходной модели (черного ящика) для оценки качества аппроксимации.
Диаграмма правил якорей (Anchors)
Визуализация, которая представляет набор условий (якорь), которые с достаточной гарантией обеспечивают предсказание, часто в виде иерархического списка или блок-схемы для локального объяснения.
Карта значимости по градиенту
Тепловая карта, которая накладывается на пиксели входного изображения, где интенсивность каждого пикселя пропорциональна величине градиента выхода модели по отношению к этому пикселю, указывая на его влияние.
График глубины дерева (Tree Depth Plot)
Гистограмма или столбчатая диаграмма, показывающая распределение глубины листьев в модели на основе деревьев (например, Random Forest или XGBoost), дающая представление о сложности и структуре модели.
Визуализация пути принятия решений
Графическое представление конкретного пути, который наблюдение проходит через узлы дерева принятия решений или леса деревьев для достижения своего окончательного предсказания.
График вклада по узлам (Node Contribution Plot)
Для моделей градиентного бустинга, визуализация, которая разлагает финальное предсказание на вклады каждого листа каждого дерева, показывая, как каждый узел корректирует предсказание.