Глоссарий ИИ
Полный словарь искусственного интеллекта
Proximité Contrefactuelle
Principe selon lequel un contrefactuel doit être aussi proche que possible de l'instance originale dans l'espace des caractéristiques, assurant que l'explication soit pertinente et actionnable pour l'utilisateur.
Plausibilité Contrefactuelle
Évaluation de la vraisemblance d'un scénario contrefactuel par rapport à la distribution des données réelles, évitant la génération d'explications irréalistes ou impossibles dans le monde réel.
Méthodes basées sur les gradients
Techniques de génération contrefactuelle qui utilisent les gradients du modèle pour identifier les directions de modification les plus efficaces des caractéristiques afin d'inverser la prédiction.
Robustesse Contrefactuelle
Mesure de la stabilité des explications contrefactuelles face à de petites variations du modèle ou des données, évaluant la fiabilité et la reproductibilité des explications générées.
Contrefactuels Adversariaux
Exemples contrefactuels spécifiquement conçus pour exploiter les vulnérabilités d'un modèle, différant des contrefactuels explicatifs par leur intention de tromper plutôt que d'expliquer.
Causal Contrefactuel
Approche avancée intégrant des relations de cause à effet dans la génération contrefactuelle, produisant des explications qui respectent les contraintes causales du domaine pour une meilleure pertinence.
Contrefactuel de Groupe
Extension du concept contrefactuel à un ensemble d'instances, identifiant les modifications communes nécessaires pour changer collectivement les prédictions d'un sous-groupe de données.
Coût de Modification
Fonction quantifiant l'effort ou l'impact requis pour passer de l'instance originale au contrefactuel, pondérant différemment les caractéristiques selon leur difficulté ou coût de changement.
Контрфактуальный текст
Применение контрфактуальных методов к обработке естественного языка, генерирующих минимальные изменения текста (слова, фразы) для инвертирования прогноза модели классификации.
Контрфактуал изображения
Генерация визуальных альтернатив, минимально изменяющих пиксели или области изображения для изменения прогноза модели компьютерного зрения, часто используемая для отладки.
Методы управляемого поиска
Алгоритмы, сочетающие эвристический поиск и знания о предметной области для эффективной навигации в пространстве признаков и быстрой идентификации действительных контрфактуалов.
Временной контрфактуал
Специализация для последовательных данных, где изменения должны соблюдать временную структуру, идентифицируя минимальные точки изменения во временном ряде для изменения его прогноза.
Специфическая для области выполнимость
Интеграция ограничений и бизнес-правил в процесс генерации контрфактуалов для обеспечения того, чтобы созданные объяснения были не только математически обоснованными, но и практически применимыми в прикладном контексте.