Глоссарий ИИ
Полный словарь искусственного интеллекта
Interprétabilité Globale vs Locale
Distinction entre les techniques expliquant le comportement global d'un modèle et celles analysant une prédiction spécifique
Методы, не зависящие от модели
Техники интерпретации, которые работают с любым типом модели, не завися от её архитектуры
Анализ важности признаков
Идентификация и количественная оценка относительного влияния каждой входной переменной на прогнозы модели
Интерпретируемые визуализации
Графические и визуальные представления, позволяющие понять внутреннюю работу и решения моделей
Методы, основанные на правилах
Извлечение и генерация простых логических правил из сложных моделей, чтобы сделать их понятными
Контрфактические объяснения
Генерация минимально измененных примеров для демонстрации того, как изменить прогноз, путем исследования границ принятия решений
Анализ чувствительности
Систематическое исследование того, как изменения во входных данных влияют на выходные данные модели для понимания её устойчивости
Суррогатные модели
Использование простых и интерпретируемых моделей для аппроксимации и объяснения поведения сложных моделей
Атрибуция признаков
Распределение ответственности за прогноз между различными входными признаками в соответствии с их вкладом
Interprétabilité des Réseaux de Neurones
Techniques spécifiques pour comprendre et visualiser le fonctionnement des modèles d'apprentissage profond
Справедливость и обнаружение предвзятости
Систематический анализ предвзятости и потенциальной дискриминации в решениях моделей ИИ
Причинная интерпретируемость
Идентификация причинно-следственных связей в моделях для выхода за рамки простых корреляций
Метрики интерпретируемости
Квантификация и объективная оценка степени интерпретируемости различных моделей и техник
Объяснения на основе прототипов
Использование репрезентативных примеров для объяснения решений модели путем сравнения с типичными случаями
Анализ путей принятия решений
Трассировка и визуализация логических путей, проходимых моделью для получения конкретного предсказания