Глоссарий ИИ
Полный словарь искусственного интеллекта
Методы LIME
Техники локальной интерпретации, объясняющие индивидуальные предсказания с помощью локальной аппроксимации сложной модели.
Значения SHAP
Подход на основе теории игр для количественной оценки влияния каждой характеристики на прогнозы модели.
Важность Признаков
Методы, оценивающие относительное влияние каждой входной переменной на решения модели машинного обучения.
Визуализация моделей
Графические методы для представления и понимания архитектуры, весов и поведения моделей искусственного интеллекта.
Контрфактуальный анализ
Генерация минимально изменённых примеров для изменения предсказания, помогающая понять условия принятия решений.
Правила интерпретации
Извлечение понятных логических правил из сложных моделей для объяснения их поведения.
Методы Градиента
Техники, использующие градиенты для визуализации и интерпретации глубоких нейронных сетей.
Интерпретируемые деревья решений
Модели, основанные на иерархических структурах решений, обеспечивающие естественную прозрачность прогнозов.
Интерпретируемость причинно-следственных связей
Анализ причинно-следственных связей в моделях для понимания того, почему делаются определенные прогнозы.
Метрики интерпретируемости
Количественные меры для оценки качества и надежности объяснений, генерируемых моделями искусственного интеллекта.
Внутренняя интерпретируемость
Проектирование изначально прозрачных моделей, не требующих дополнительных объяснений после обучения.
Объяснения на Естественном Языке
Генерация текстовых описаний, понятных человеку, для обоснования решений моделей.
Мультимодальная интерпретируемость
Методы объяснения, адаптированные для моделей, одновременно обрабатывающих несколько типов данных (текст, изображение, аудио).
Аудит справедливости
Систематическая оценка потенциальных предубеждений и дискриминации в решениях моделей искусственного интеллекта.
Пост-хок интерпретируемость
Методы, применяемые после обучения для объяснения решений изначально непрозрачных моделей.