Глоссарий ИИ
Полный словарь искусственного интеллекта
Визуализация дерева решений
Графическое древовидное представление решений модели, показывающее узлы принятия решений, ветви условий и листья результатов для интерпретации логического пути модели.
График важности признаков
Упорядоченная столбчатая диаграмма, количественно определяющая относительное влияние каждой входной переменной на прогнозы модели, облегчающая идентификацию определяющих факторов.
Сводный график SHAP
График, объединяющий значения SHAP и важность признаков для раскрытия направленного воздействия каждой характеристики на прогнозы по всему набору данных.
Карты активации классов
Взвешенные визуализации карт характеристик CNN, пространственно указывающие, где модель фокусируется для идентификации конкретного класса на изображении.
График взаимодействия признаков
3D-визуализация или тепловая карта, показывающая, как влияние характеристики на прогноз изменяется в зависимости от значений другой характеристики.
Контрфактическая визуализация
Графическое представление минимальных изменений, необходимых для входных данных, чтобы изменить прогноз модели, помогающее понять пороги принятия решений.
Агностические визуализации модели
Универсальные визуальные техники, работающие с любым типом модели без необходимости доступа к её внутренним параметрам, такие как PDP или LIME, для обобщённой интерпретируемости.
Визуализация внимания
Графики, показывающие веса внимания между различными частями входных данных (слова в предложении, области на изображении) для раскрытия отношений, изученных моделью.
Градиентные объяснения
Визуализации, использующие градиенты выхода по отношению к входам для количественной оценки и отображения влияния каждой характеристики на итоговый прогноз.
Диаграммы потоков решений
Диаграммы потоков, последовательно представляющие этапы принятия решений моделью со стандартизированными символами для процессов, решений и результатов.
Визуализация доверительных интервалов
Графики, показывающие доверительные интервалы вокруг прогнозов для представления неопределенности модели и надежности её решений.
Визуализация извлечения правил
Графическое представление логических правил, извлеченных из сложных моделей (черных ящиков) в виде интерпретируемых диаграмм или таблиц решений.
Объяснения на основе экземпляров
Персонализированные визуализации для конкретного прогноза, показывающие влиятельные характеристики и похожие примеры, приведшие к этому конкретному решению.
Глобальные vs локальные объяснения
Визуальное сравнение между глобальными объяснениями (общее поведение модели) и локальными (индивидуальные прогнозы) для выявления согласованностей и аномалий.
Интерпретатор деревьев
Инструмент визуализации, разлагающий каждый прогноз дерева решений на вклады индивидуальных характеристик, показывающий, как каждая переменная влияет на конечный результат.