Глоссарий ИИ
Полный словарь искусственного интеллекта
Внутренне интерпретируемые модели
Алгоритмы, структура которых естественным образом понятна без дополнительных преобразований
Пост-хок техники
Методы, применяемые после обучения для объяснения сложных непрозрачных моделей
SHAP (SHapley Additive exPlanations)
Подход на основе теории игр для определения важности каждого признака
LIME (Локальные интерпретируемые объяснения, независимые от модели)
Агностический метод, объясняющий индивидуальные прогнозы посредством локальной аппроксимации
Общая важность признаков
Техники, количественно оценивающие общее влияние каждой переменной на производительность модели
Графики частичной зависимости
Визуализации, показывающие предельный эффект признака на прогнозы
Контрфактуальные объяснения
Генерация минимальных примеров, показывающих необходимые изменения для изменения прогноза
Интерпретируемость Нейронных Сетей
Специфические техники для визуализации и понимания внутренних механизмов глубокого обучения
Интерпретируемые правила ассоциации
Извлечение понятных логических правил из сложных моделей
Метрики оценки интерпретируемости
Количественные рамки для измерения качества и достоверности сгенерированных объяснений
Визуализация интерпретируемости
Графические инструменты, преобразующие метрики объяснения в интуитивно понятные представления
Каузальная интерпретируемость
Методы, различающие корреляцию и причинность в объяснениях модели