Глоссарий ИИ
Полный словарь искусственного интеллекта
График частичной зависимости
Визуализация, показывающая маргинальную связь между одной или двумя характеристиками и прогнозом модели, усредняя эффекты всех других характеристик для выявления скрытых тенденций. Эта техника помогает понять, как изменения в конкретных переменных влияют на общие прогнозы модели.
Тепловая карта характеристик
Двумерное графическое представление, использующее цвета для визуализации важности или влияния различных характеристик на прогнозы модели. Интенсивность цвета указывает на степень воздействия, позволяя быстро идентифицировать наиболее влиятельные переменные.
Диаграмма SHAP
Визуализация на основе значений SHAP (SHapley Additive exPlanations), показывающая, как каждая характеристика способствует смещению прогноза от базового значения к конечному прогнозу. Эти графики позволяют интерпретировать каждый прогноз индивидуально, количественно оценивая положительное или отрицательное влияние каждой переменной.
График ICE (Individual Conditional Expectation)
Визуализация, которая отображает прогнозы модели для отдельных экземпляров при изменении конкретной характеристики, выявляя неоднородности в связях между переменными. В отличие от графиков PDP, которые показывают средние эффекты, графики ICE показывают вариации на индивидуальном уровне.
Карта решений LIME
Визуализация, созданная с помощью LIME (Local Interpretable Model-agnostic Explanations), которая объясняет индивидуальные прогнозы путем создания локально интерпретируемой модели и визуализации важных характеристик. Эта техника позволяет понять, почему модель принимает конкретное решение для отдельного случая.
Визуализация важности перестановки
Столбчатая диаграмма, представляющая важность характеристик, вычисленную путем измерения снижения производительности модели при случайной перестановке значений характеристики. Этот метод обеспечивает model-agnostic оценку важности переменных на основе их реального воздействия на прогнозы.
Кривая ROC и AUC
График, представляющий долю истинно положительных случаев в зависимости от доли ложноположительных случаев для различных порогов классификации, с AUC (Area Under Curve), количественно оценивающей общую производительность классификатора. Эта визуализация позволяет оценить и сравнить дискриминационную способность моделей независимо от выбранного порога.
Каскадная диаграмма
Последовательная визуализация, показывающая, как вклады различных характеристик накапливаются для достижения конечного прогноза модели, аналогично финансовой waterfall-диаграмме. Каждый столбец представляет положительное или отрицательное влияние характеристики на конечный прогноз.
Локальный график влияния
Визуальное представление, показывающее, как каждая характеристика толкает прогноз модели к более высокому или более низкому значению по сравнению с ожидаемым базовым значением. Влияния представлены стрелками или цветными полосами, указывающими направление и величину воздействия.
Настраиваемая визуализация решений
Интерактивный интерфейс, позволяющий динамически регулировать значения входных характеристик и наблюдать в реальном времени, как эти изменения влияют на прогнозы модели. Эти инструменты облегчают исследование сложных взаимосвязей и анализ чувствительности моделей.
Карта решений на основе анкеров
Визуализация, основанная на объяснениях через анкеры (Anchors), которая идентифицирует достаточные условия для того, чтобы модель сохраняла свой прогноз, представленные в виде правил if-then. Эти карты помогают понять локальные области решений, показывая критические характеристики, которые закрепляют прогноз.
Диаграмма зависимостей
Двумерный или трехмерный график, иллюстрирующий отношения и зависимости между входными характеристиками и прогнозами модели, часто комбинированный с плотностями точек. Эти диаграммы раскрывают нелинейные взаимодействия и сложные корреляции в данных.
График контуров решений
Визуализация в двух или трех измерениях, показывающая границы решений модели классификации через цветные линии или поверхности контура. Эти графики позволяют понять, как модель разделяет пространство характеристик для выполнения классификаций.
Визуализация контрфактуалов
Графическое представление, показывающее минимальные изменения, необходимые для входных характеристик, чтобы изменить прогноз модели на желаемый иной исход. Эти визуализации помогают понять предельные условия и исследовать гипотетические сценарии.
Дерево регрессии
Вариант дерева решений, специализированный для задач регрессии, визуализирующий, как модель разделяет пространство характеристик на регионы с постоянными целевыми значениями. Каждый лист представляет среднее значение целевых переменных в этом регионе, облегчая интерпретацию нелинейных отношений.
Диаграмма потока решений
Схематическое представление последовательного процесса принятия решений моделью, показывающее точки принятия решений, возможные действия и ожидаемые результаты в виде логического потока. Эти диаграммы преобразуют сложные алгоритмы в понятные пошаговые процессы.
Карта чувствительности
Визуализация в виде сетки или поверхности, показывающая, как систематически изменяются прогнозы модели при одновременном изменении двух характеристик. Эти карты раскрывают взаимодействия между переменными и идентифицируют области высокой чувствительности в пространстве характеристик.
Визуализация глобальной важности
Синтетический график, представляющий ранжирование характеристик по степени важности для всей модели, часто в виде горизонтальных столбцов с нормализованными оценками. Этот общий вид позволяет быстро идентифицировать наиболее влиятельные факторы в глобальных прогнозах модели.