Глоссарий ИИ
Полный словарь искусственного интеллекта
Методы LIME
Локальная техника объяснения, которая аппроксимирует поведение сложной модели с помощью простой интерпретируемой модели вокруг конкретного прогноза.
SHAP значения
Подход на основе теории игр для количественной оценки влияния каждой характеристики на итоговый прогноз модели.
Атрибуция характеристик
Набор методов, которые присваивают оценку важности каждой входной переменной для объяснения её вклада в решение модели.
Анализ контрпримеров
Методы, которые генерируют модифицированные сценарии, показывающие, какие минимальные условия должны измениться, чтобы изменить предсказание модели.
Карты внимания
Техники визуализации, которые показывают области или элементы, на которых модель глубокого обучения фокусируется для принятия решения.
Суррогатные модели
Создание простых и интерпретируемых моделей, которые имитируют поведение сложных черных ящиков, оставаясь при этом понятными.
Извлечение правил
Процесс, который преобразует решения сложных моделей в наборы логических правил, легко интерпретируемых людьми.
Каузальная интерпретация
Методы, которые различают причинно-следственные связи от простых корреляций, чтобы обеспечить более глубокие и надежные объяснения.
Анализ чувствительности
Систематическая оценка влияния изменений входных переменных на прогнозы модели.
Метрики оценки объяснимости
Количественные показатели для измерения качества, достоверности и полезности объяснений, генерируемых моделями искусственного интеллекта.
Объяснения через прототипы
Подход, который объясняет предсказания, идентифицируя наиболее репрезентативные примеры или прототипы в пространстве данных.
Визуализация решений
Графические методы, которые визуально представляют процесс принятия решений моделью для облегчения человеческого понимания.