Глоссарий ИИ
Полный словарь искусственного интеллекта
Локальная и глобальная атрибуция
Различие между методами, объясняющими индивидуальные предсказания (локальные), и методами, оценивающими важность характеристик на всем наборе данных (глобальные).
Агностическая атрибуция модели
Подходы к объяснению, работающие независимо от внутренней архитектуры модели, рассматривающие её как чёрный ящик для генерации атрибуций.
Специфическая атрибуция модели
Техники атрибуции, использующие специфическую внутреннюю структуру модели (деревья решений, нейронные сети) для предоставления более точных объяснений.
Механизмы внимания
Компоненты нейронных сетей, которые изучают веса важности для различных частей входа, естественным образом служащие механизмом атрибуции.
Послойное распространение релевантности
Техника, распространяющая предсказание назад через сеть, распределяя релевантность выхода к нейронам и входным характеристикам слой за слоем.
Абляция признаков
Систематическая техника удаления или маскирования характеристик для оценки их индивидуального влияния на производительность модели.
Атрибуция по пути
Метод атрибуции, отслеживающий пути активации в нейронной сети для присвоения кредитов входным характеристикам на основе их потоков вклада.
Градиентная атрибуция
Семейство методов, использующих градиенты выхода по отношению к входам для количественной оценки чувствительности и важности характеристик.
Взаимодействие признаков
Измерение комбинированного эффекта пар или групп признаков на прогноз модели, выходящего за рамки их индивидуальных вкладов.
Атрибуция входных данных
Процесс присвоения оценок важности конкретным элементам входных данных (пикселям, словам, переменным) для объяснения их роли в решении модели.