Глоссарий ИИ
Полный словарь искусственного интеллекта
Контрпример (Контрфактуал)
Минимальный и измененный экземпляр данных по сравнению с исходным случаем, который изменяет предсказание модели на желаемый результат, служащий для объяснения граничного решения модели.
Контрфактуальное объяснение
Метод интерпретируемости, который объясняет предсказание, представляя гипотетический сценарий (контрпример), в котором решение модели было бы иным, таким образом уточняя критерии принятия решения.
Контрфактуальная валидность
Критерий, гарантирующий, что сгенерированный контрпример действительно производит ожидаемое альтернативное предсказание модели, обеспечивая надежность и релевантность предоставленного объяснения.
Контрфактуальная близость
Мера расстояния между исходным экземпляром и контрпримером, часто количественно определяемая нормой (например: L1, L2), направленная на обеспечение того, чтобы объяснение было правдоподобным и легко интерпретируемым.
Контрфактуальная разреженность
Принцип, согласно которому контрпример должен изменять наименьшее возможное количество характеристик исходного экземпляра для максимизации ясности и применимости объяснения.
Контрфактуальная правдоподобность
Оценка достоверности контрпримера в реальном мире, обеспечивающая, что предложенные изменения выполнимы и не соответствуют аномальному или невозможному экземпляру.
Контрфактуальное разнообразие
Цель генерации набора контрпримеров, которые не избыточны, предлагая несколько различных альтернативных путей для достижения другого предсказания и тем самым обогащая понимание модели.
Контрфактуальная стоимость
Функция, взвешивающая изменения характеристик в контрпримере, отражающая сложность или стоимость (денежную, временную и т.д.) осуществления этих изменений в реальности.
Каузальность контрфактуальная (Causal Counterfactuals)
Продвинутый подход, при котором контрпримеры генерируются с соблюдением каузальных отношений между переменными, гарантируя, что предложенные сценарии не нарушают ограничений реального мира.
Устойчивость контрфактуальная (Counterfactual Robustness)
Способность контрпримера сохранять свою альтернативную предсказание при незначительных изменениях или шумах, что указывает на стабильность границы принятия решений модели в этой области.
Генерация контрпримеров состязательных (Adversarial Counterfactual Generation)
Использование техник состязательного обучения для создания контрпримеров, часто в целях безопасности или аудита, для проверки уязвимостей и слабых мест модели.
Латентное пространство контрфактуальное (Counterfactual Latent Space)
Метод, который ищет контрпримеры в пространстве представления меньшей размерности (латентном пространстве) для улучшения вычислительной эффективности и согласованности сгенерированных экземпляров.
Методы оптимизации контрфактуальные (Counterfactual Optimization Methods)
Набор алгоритмов (например, программирование с ограничениями, градиентный спуск), используемых для решения задачи поиска оптимального контрпримера путем минимизации функции потерь, объединяющей близость и действительность.
Контрфактуальные объяснения для многоклассовых задач (Multi-class Counterfactual Explanations)
Расширение контрпримеров на задачи классификации с более чем двумя классами, где генерируются экземпляры для перехода к любому другому целевому классу, а не только к противоположному классу.