Глоссарий ИИ
Полный словарь искусственного интеллекта
Постфактумная объяснимость
Совокупность методов, применяемых после обучения модели для интерпретации её решений без изменения её внутренней структуры. Эти методы позволяют ретроспективно анализировать предсказания сложных моделей, таких как глубокие нейронные сети.
Важность глобальных характеристик
Метрика, количественно оценивающая среднее влияние каждой входной переменной на все предсказания модели. Позволяет определить наиболее влиятельные факторы в принятии решений всей системой ИИ.
Внутренне интерпретируемые модели
Категория алгоритмов, внутренняя структура которых естественным образом понятна людям, например, деревья решений или линейные регрессии. Эти модели обеспечивают естественную прозрачность без необходимости дополнительных методов объяснения.
Контрфактуальные контрпримеры
Генерация гипотетических примеров, показывающих, как минимальное изменение входных данных изменило бы предсказание модели. Предоставляют интуитивные объяснения в форме альтернативных сценариев, понятных неспециалистам.
Визуализация атрибуций
Графические представления, показывающие, какие части входных данных (пиксели, слова и т.д.) вносят наибольший вклад в конкретное предсказание. Позволяет получить немедленное визуальное понимание рассуждений модели.
Автоматическое извлечение правил
Методы, позволяющие автоматически генерировать простые логические правила (ЕСЛИ-ТО), которые аппроксимируют поведение сложной модели. Преобразует рассуждения ИИ в формат, легко понятный нетехническим специалистам.
Генерация объяснительных текстов
Процесс использования обработки естественного языка для автоматического создания последовательных и понятных текстовых объяснений на основе данных интерпретации модели. Преобразует технические метрики в доступное повествование.
Упрощение через абстракцию
Метод, заключающийся в снижении сложности объяснений путём группировки схожих характеристик или использования концепций более высокого уровня. Облегчает понимание, устраняя несущественные технические детали.