Глоссарий ИИ
Полный словарь искусственного интеллекта
Методы, не зависящие от модели
Техники интерпретации, которые могут применяться к любому типу модели ИИ без необходимости знания её внутренней архитектуры.
Методы, специфичные для модели
Подходы интерпретации, разработанные для определённых типов моделей, использующие их внутреннюю структуру для предоставления более точных объяснений.
Возмущение входных данных
Техника, заключающаяся в лёгком изменении входных данных для наблюдения влияния на предсказания модели и выявления наиболее влиятельных признаков.
Атрибуция признаков
Процесс присвоения оценок важности каждой входной переменной для количественной оценки её вклада в конкретное предсказание модели.
Графики частичной зависимости
Визуализация, показывающая предельный эффект одного или двух признаков на предсказание модели, при маргинализации эффекта других переменных.
Карты значимости
Визуальные представления, выделяющие наиболее влиятельные области или пиксели во входных данных (особенно изображениях) для данного предсказания.
Правила извлечения
Техника извлечения понятных логических правил из сложных моделей, позволяющая аппроксимировать их поведение простыми условиями.
Общая важность признаков
Совокупная мера влияния каждой переменной на все предсказания модели, позволяющая выявить общие определяющие факторы.
Анализ критических путей
Идентификация последовательностей решений или признаков, которые приводят к конкретным прогнозам, особенно полезно в глубоких нейронных сетях.
Прокси-модели
Простые и интерпретируемые модели, обученные имитировать поведение сложной модели, служащие аппроксимацией для объяснения её решений.