Glossario IA
Il dizionario completo dell'Intelligenza Artificiale
Proximité Contrefactuelle
Principe selon lequel un contrefactuel doit être aussi proche que possible de l'instance originale dans l'espace des caractéristiques, assurant que l'explication soit pertinente et actionnable pour l'utilisateur.
Plausibilité Contrefactuelle
Évaluation de la vraisemblance d'un scénario contrefactuel par rapport à la distribution des données réelles, évitant la génération d'explications irréalistes ou impossibles dans le monde réel.
Méthodes basées sur les gradients
Techniques de génération contrefactuelle qui utilisent les gradients du modèle pour identifier les directions de modification les plus efficaces des caractéristiques afin d'inverser la prédiction.
Robustesse Contrefactuelle
Mesure de la stabilité des explications contrefactuelles face à de petites variations du modèle ou des données, évaluant la fiabilité et la reproductibilité des explications générées.
Contrefactuels Adversariaux
Exemples contrefactuels spécifiquement conçus pour exploiter les vulnérabilités d'un modèle, différant des contrefactuels explicatifs par leur intention de tromper plutôt que d'expliquer.
Causal Contrefactuel
Approche avancée intégrant des relations de cause à effet dans la génération contrefactuelle, produisant des explications qui respectent les contraintes causales du domaine pour une meilleure pertinence.
Contrefactuel de Groupe
Extension du concept contrefactuel à un ensemble d'instances, identifiant les modifications communes nécessaires pour changer collectivement les prédictions d'un sous-groupe de données.
Coût de Modification
Fonction quantifiant l'effort ou l'impact requis pour passer de l'instance originale au contrefactuel, pondérant différemment les caractéristiques selon leur difficulté ou coût de changement.
Contrefactuel Textuel
Application des méthodes contrefactuelles au traitement du langage naturel, générant des modifications minimales de texte (mots, phrases) pour inverser la prédiction d'un modèle de classification.
Contrefactuel d'Image
Génération d'alternatives visuelles modifiant minimalement les pixels ou régions d'une image pour changer la prédiction d'un modèle de vision par ordinateur, souvent utilisée pour le débogage.
Méthodes de Recherche Guidée
Algorithmes combinant recherche heuristique et connaissances du domaine pour naviguer efficacement dans l'espace des caractéristiques et identifier rapidement des contrefactuels valides.
Contrefactuel Temporel
Spécialisation pour les données séquentielles où les modifications doivent respecter la structure temporelle, identifiant les points de changement minimaux dans une série temporelle pour altérer sa prédiction.
Faisabilité Domaine-spécifique
Intégration de contraintes et règles métier dans le processus de génération contrefactuelle pour garantir que les explications produites soient non seulement mathématiquement valides mais aussi praticables dans le contexte applicatif.