Глоссарий ИИ
Полный словарь искусственного интеллекта
Полнота (Completeness)
Показатель, измеряющий долю действительно влияющих факторов модели, которые фактически захвачены и представлены в сгенерированном объяснении.
Специфичность (Specificity)
Метрика, оценивающая способность объяснения точно определять уникальные характеристики рассматриваемого экземпляра без излишнего обобщения на нерелевантные случаи.
Чувствительность (Sensitivity)
Количественный критерий, измеряющий, как объяснения систематически изменяются в ответ на контролируемые изменения входных данных, отражая реактивность к изменениям.
Согласованность (Coherence)
Критерий, измеряющий логическое соответствие между сгенерированными объяснениями и знаниями в предметной области или установленными причинными принципами, обеспечивая правдоподобность интерпретаций.
Гранулярность (Granularity)
Метрика, количественно определяющая уровень детализации объяснений, от абстрактного уровня (глобальные признаки) до мелкого уровня (индивидуальные значения), адаптированный к потребностям пользователя.
Простота (Parsimony)
Принцип оценки, отдающий предпочтение объяснениям, использующим минимальное количество концепций или переменных, необходимых для захвата существенного поведения модели.
Актуальность (Relevance)
Метрика, количественно определяющая относительную важность объясняемых характеристик по сравнению с их реальным воздействием на прогноз модели, часто нормализованная между 0 и 1.
Возможность действия (Actionability)
Критерий, оценивающий, в какой степени объяснения предоставляют полезную информацию, позволяющую пользователям конкретно действовать для изменения прогнозов.
Осуществимость (Feasibility)
Критерий, оценивающий практическую реалистичность предложенных объяснений, особенно в контрфактических сценариях, проверяя, что предложенные изменения осуществимы.
Различимость (Discriminability)
Метрика, измеряющая способность объяснений эффективно различать между положительными и отрицательными прогнозами, обеспечивая чёткое разделение случаев.
Вычислительная сложность (Computational Complexity)
Количественный критерий, оценивающий вычислительные ресурсы, необходимые для генерации объяснений, важный для масштабируемого применения методов XAI.
Покрытие дисперсии (Variance Coverage)
Метрика, измеряющая долю общей дисперсии прогнозов модели, которая объясняется характеристиками, выявленными в локальном объяснении.
Монотонность (Monotonicity)
Критерий, оценивающий, соблюдают ли объяснения ожидаемые монотонные отношения между признаками и прогнозами, обеспечивая направленную согласованность интерпретаций.