Глоссарий ИИ
Полный словарь искусственного интеллекта
Частичная Зависимость (PDP)
График, иллюстрирующий предельный эффект одной или двух характеристик на предсказание модели, усредняя предсказания по всем остальным характеристикам для выявления функциональных отношений.
Условное Ожидание Зависимости (ALE)
Альтернатива PDP, которая вычисляет влияние характеристики на предсказание при условии значений других характеристик, избегая таким образом смещения из-за корреляций между переменными.
Правила Якорей (Anchors)
Система объяснений высокой точности, которая идентифицирует набор условий (якорь) на входных характеристиках, которые с достаточной гарантией обеспечивают предсказание модели, делая объяснение легко проверяемым оператором.
Карта Значимости (Saliency Map)
Техника визуализации, в основном для нейронных сетей, которая выделяет входные характеристики (пиксели, слова, сенсоры), имеющие наибольшее влияние на конечное предсказание путем вычисления градиентов.
Диаграмма Сил (Force Plot)
Визуализация, специфичная для SHAP, которая показывает, как каждая характеристика проталкивает предсказание от базового значения (среднее предсказаний) к конечному предсказанному значению, иллюстрируя положительные и отрицательные вклады.
Формальное Логическое Объяснение
Подход XAI, который извлекает логические правила (если-то) из модели черного ящика для предоставления символических и понятных объяснений, часто используемый для аудитов соответствия и безопасности.