Глоссарий ИИ
Полный словарь искусственного интеллекта
Методы локальной интерпретируемости
Техники, объясняющие предсказания для отдельных экземпляров данных.
Методы глобальной интерпретируемости
Подходы, описывающие глобальное поведение модели на всем наборе данных.
Атрибуция характеристик
Методы, оценивающие важность и влияние каждой переменной на прогнозы модели.
Прозрачные модели по своей природе
Модели ИИ, структура которых изначально понятна без дополнительных методов.
Постфактумная объяснимость
Методы, применяемые после обучения для интерпретации сложных моделей (чёрных ящиков).
Визуализация моделей
Графические и визуальные представления, облегчающие понимание работы моделей.
Контрпримеры и пояснения по случаям
Генерация противоположных примеров для объяснения границ принятия решений модели.
Оценка объяснимости
Метрики и методы для измерения качества, достоверности и полезности генерируемых объяснений.
Каузальная объяснимость
Методы, определяющие причинно-следственные связи, а не простые корреляции.
Объяснения на естественном языке
Автоматическая генерация текстовых объяснений, понятных неспециалистам.
Человеко-машинное взаимодействие для объяснимости
Интерфейсы и интерактивные системы, позволяющие пользователям исследовать и понимать модели.
Робастность и доверие к объяснениям
Исследование стабильности и надежности объяснений при вариациях и атаках.