Глоссарий ИИ
Полный словарь искусственного интеллекта
Верность
Мера, количественно оценивающая способность объяснения точно отражать реальное поведение базовой модели, оцениваемая по корреляции между предсказаниями объяснения и предсказаниями исходной модели.
Стабильность
Индикатор, измеряющий согласованность генерируемых объяснений для схожих или слегка измененных входных данных, обеспечивающий устойчивость интерпретаций к незначительным вариациям данных.
Понятность
Метрика, оценивающая легкость, с которой человек может интерпретировать и понимать объяснение, часто измеряемая через лингвистическую или структурную сложность объяснительного представления.
Релевантность
Оценка, количественно определяющая степень соответствия характеристик, выделенных в объяснении, предсказанию модели, оцениваемая по важности, приписываемой влиятельным переменным.
Полнота
Мера, оценивающая, охватывает ли объяснение все релевантные факторы, повлиявшие на решение модели, без пропуска crucialной информации для полной интерпретации.
Согласованность
Индикатор, количественно оценивающий логическую последовательность между различными объяснениями, генерируемыми одной и той же моделью, обеспечивающий отсутствие противоречий в интерпретациях схожих предсказаний.
Чувствительность
Оценка, определяющая, как объяснения варьируются в зависимости от изменений во входных характеристиках, измеряющая реактивность объяснительных методов к модификациям данных.
Устойчивость
Мера, количественно оценивающая сопротивляемость объяснений злонамеренным возмущениям или атакам противника, гарантирующая надежность интерпретаций в ухудшенных условиях.
Оценка доверия
Числовой показатель, оценивающий степень уверенности, связанной с объяснением, отражающий надежность интерпретации, предоставленной моделью ИИ.
Глубина объяснения
Метрика, измеряющая уровень детализации и гранулярности объяснения, количественно определяющая глубину, на которой раскрываются внутренние механизмы модели.
Покрытие
Оценка, определяющая долю экземпляров или характеристик модели, которые фактически объясняются методом интерпретируемости, измеряющая степень применимости.
Время вычисления
Количественная метрика, измеряющая временную сложность, необходимую для генерации объяснений, непосредственно влияющая на практичность и масштабируемость объяснительных методов.
Объяснительная точность
Показатель, оценивающий количественную правильность объяснений, измеряющий соответствие между назначенными весами важности и реальным влиянием характеристик на прогноз.
Гранулярность
Метрика, определяющая уровень детализации объяснений, от глобальных интерпретаций модели до локальных объяснений, специфичных для каждого индивидуального прогноза.
Локальная точность
Специфическая метрика, измеряющая точность объяснения для индивидуального прогноза, оценивающая соответствие между локальным поведением модели и его объяснительной аппроксимацией.
Глобальная точность
Показатель, количественно определяющий способность объяснения достоверно представлять глобальное поведение модели на всем множестве прогнозов, измеряющий точность глобальной аппроксимации.