Глоссарий ИИ
Полный словарь искусственного интеллекта
Когнитивная понятность
Качественная оценка лёгкости, с которой люди могут интерпретировать и усваивать сгенерированные объяснения, основанная на принципах когнитивной психологии и эргономики.
Рейтинг соответствия признаков
Количественная мера адекватности между характеристиками, выделенными в объяснении, и теми, которые действительно влияют на процесс принятия решений моделью.
Внутренняя согласованность объяснения
Проверка отсутствия логических противоречий в рамках одного объяснения, обеспечивающая согласованное и взаимно совместимое сочетание различных элементов.
Объяснительная специфичность
Степень точности объяснения в идентификации уникальных факторов для конкретного прогноза, избегая чрезмерных обобщений или универсальных объяснений.
Аксиомы объяснимости
Совокупность фундаментальных математических принципов, которым должен соответствовать любой метод объяснения, таких как чувствительность, инвариантность или монотонность объяснений.
Объяснительный показатель достоверности
Метрика, количественно определяющая степень уверенности, связанную с конкретным объяснением, независимо от уверенности модели в исходном прогнозе.
Интерпретируемая матрица ошибок
Расширение традиционной матрицы ошибок, включающее метрики интерпретируемости для одновременной оценки прогнозной производительности и объяснительного качества модели.
Семантическое сходство объяснений
Мера, оценивающая концептуальную близость между различными объяснениями одного прогноза, позволяющая количественно оценить сходимость или расхождение методов объяснения.
Многосторонняя оценка
Методология оценки объяснений с участием различных заинтересованных сторон (экспертов в предметной области, конечных пользователей, регуляторов) для измерения практической полезности с разных точек зрения.
Тест функциональной адекватности
Экспериментальный протокол, проверяющий, позволяет ли объяснение пользователю действительно выполнить конкретную задачу (обнаружение смещений, исправление ошибок, принятие решений).
Метрика действенности
Показатель, количественно оценивающий способность объяснения предлагать конкретные и реализуемые действия для изменения или улучшения результата модели, выходящие за рамки простого пассивного описания.
Валидация методом объяснительного моделирования
Метод оценки, заключающийся в систематическом изменении характеристик, выявленных объяснением, для эмпирической проверки прогностического влияния на решения модели.