Глоссарий ИИ
Полный словарь искусственного интеллекта
Методы локальной интерпретируемости
Техники, объясняющие индивидуальные прогнозы, такие как LIME, SHAP и LRP, для понимания решений в каждом отдельном случае.
Общая интерпретируемость моделей
Подходы, анализирующие общее поведение модели для понимания общих паттернов принятия решений.
Важность признаков и выбор
Методы количественной оценки относительной важности переменных в прогнозах модели
Визуализация моделей МЛ
Графические и визуальные техники для представления и понимания архитектуры и функционирования моделей.
Методы, не зависящие от модели
Техники интерпретации, работающие с любым типом модели без знания её внутренней архитектуры.
Интерпретируемость глубоких нейронных сетей
Специфические методы для понимания и визуализации решений сложных моделей глубокого обучения
Объяснения контрфактуальные
Генерация альтернативных примеров, показывающих, какие минимальные изменения изменят предсказание модели.
Обнаружение алгоритмических предубеждений
Техники определения и количественной оценки систематической дискриминации в прогнозах моделей ML.
Количественная оценка интерпретируемости
Метрики и протоколы для объективной оценки качества и достоверности генерируемых объяснений.
Интерпретируемость ансамблевых моделей
Специфические техники для анализа и объяснения работы случайных лесов, градиентного бустинга и других ансамблей.
Причинные объяснения в машинном обучении
Методы, устанавливающие причинно-следственные связи, а не простые корреляции в решениях моделей.
Интерпретируемость для временных моделей
Техники, адаптированные для объяснения прогнозов на временных рядах и последовательных данных
Метрики доверия и неопределенности
Инструменты для количественной оценки уровня доверия модели к своим прогнозам и связанной с ними неопределенности.
Интерактивные и разговорные объяснения
Системы, позволяющие пользователям взаимодействовать с моделью для получения персонализированных и адаптивных объяснений.