Глоссарий ИИ
Полный словарь искусственного интеллекта
Контрфактический пример
Гипотетический случай, который минимально изменяет входные характеристики для изменения предсказания модели ИИ, предоставляя интуитивное объяснение поведения модели.
Пространство контрфактических примеров
Математическая область, содержащая все возможные изменения входных характеристик, которые могут изменить решение модели, часто исследуемая алгоритмами оптимизации.
Дистанция контрфактического примера
Метрика, количественно определяющая разницу между исходным экземпляром и его контрфактической версией, необходимая для обеспечения правдоподобных и интерпретируемых объяснений для пользователей.
Валидность контрфактического примера
Фундаментальный критерий, проверяющий, что сгенерированный контрфактический сценарий действительно производит желаемое предсказание модели, гарантируя надежность объяснения.
Близость контрфактического примера
Принцип, согласно которому контрфактический пример должен быть как можно ближе к исходному экземпляру, чтобы считаться релевантным и понятным объяснением.
Правдоподобность контрфактического примера
Оценка реалистичности контрфактического сценария в реальном мире, критически важная для того, чтобы объяснения были приемлемыми и полезными для лиц, принимающих решения.
Действенность контрфактического примера
Мера того, насколько изменения, предлагаемые контрфактическим примером, являются выполнимыми и контролируемыми пользователем, определяющая его практическую ценность как инструмента принятия решений.
Минимальный контрфактический пример
Контрфактическое объяснение, которое изменяет минимально возможное количество характеристик при изменении предсказания модели, оптимизируя простоту и интерпретируемость.
Генерация контрфактуальных объяснений
Алгоритмический процесс создания гипотетических сценариев, которые меняют решение модели, часто с использованием методов оптимизации с ограничениями.
Оптимизация контрфактуальных объяснений
Математический подход, направленный на поиск оптимального контрфактуального объяснения путем минимизации компромисса между расстоянием, валидностью и правдоподобием в соответствии с заданными целями.
Робастность контрфактуального объяснения
Способность контрфактуального объяснения оставаться валидным при небольших изменениях модели или данных, обеспечивая стабильность генерируемых рекомендаций.
Множественные контрфактуальные объяснения
Набор нескольких контрфактуальных сценариев, предлагающих различные пути изменения предсказания модели, позволяя пользователям выбирать среди различных вариантов действий.
Критичность контрфактуального объяснения
Анализ относительной важности измененных характеристик в контрфактуальном объяснении, идентифицирующий наиболее влиятельные факторы для изменения решения модели.
Минимальное возмущение
Фундаментальный принцип в генерации контрфактуальных объяснений, направленный на минимальное изменение входных данных при получении желаемого изменения предсказания.
Ограничение реалистичности
Набор правил, накладываемых при генерации контрфактуальных объяснений для гарантии того, что созданные сценарии соответствуют физическим, логическим или предметным законам проблемы.
Пространство характеристик
Многомерная область, в которой существуют входные данные, служащая основой для исследования и генерации валидных и релевантных контрфактуальных объяснений.
Пост-фактум объяснение
Метод интерпретации, применяемый после обучения модели, к которому относится генерация контрфактов, для объяснения решений без изменения алгоритма.
Метрика схожести
Математическая функция, используемая для количественной оценки сходства между исходным экземпляром и его контрфактом, необходимая для оценки релевантности генерируемых объяснений.