Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Analyse Contrefactuelle
Méthode d'interprétabilité qui identifie les modifications minimales à apporter aux caractéristiques d'une instance pour que la prédiction du modèle change vers une sortie désirée, en créant des scénarios hypothétiques 'et si'.
Explication par Opposition
Technique qui explique une prédiction en la contrastant avec une autre prédiction plausible, en mettant en évidence les caractéristiques qui justifient pourquoi le modèle a choisi une option plutôt qu'une autre.
Règles d'Ancreur (Anchors)
Explications locales sous forme de règles conditionnelles qui 'ancrent' la prédiction d'un modèle autour d'une instance spécifique, garantissant que la prédiction reste inchangée dans un voisinage défini par ces règles.
Explication Contrastive par Paire
Approche qui génère des explications en comparant directement deux instances distinctes, souvent une prédiction correcte et une incorrecte, pour isoler les facteurs décisifs de la décision du modèle.
Scénarios Contrefactuels Multiples
Génération d'un ensemble d'explications contrefactuelles variées pour une seule prédiction, offrant une vision plus riche des chemins alternatifs et des différentes manières d'atteindre un résultat différent.
Espace Contrefactuel Actionnable
Ensemble des modifications possibles sur les caractéristiques d'une instance qui sont à la fois réalisables dans le monde réel et pertinentes pour l'utilisateur, contraignant la génération d'explications contrefactuelles à des scénarios plausibles.
Diagnostique par Différence
Méthode qui analyse les écarts de comportement d'un modèle entre deux contextes ou ensembles de données (ex: avant et après un drift) pour comprendre les changements dans sa logique de décision.
Explication par Cas Prototypique
Technique qui explique une prédiction en la contrastant avec le cas le plus représentatif (prototype) de la classe prédite, mettant en évidence les caractéristiques qui rapprochent ou éloignent l'instance de ce prototype.
Analyse de Sensibilité Comparative
Évaluation qui mesure comment la prédiction d'un modèle pour une instance donnée réagit à des variations de ses caractéristiques, en comparant cette réaction à celle d'autres instances ou à un cas de référence.
Explication par Substitution de Modèle
Approche qui interprète une décision d'un modèle complexe (boîte noire) en la comparant à la décision d'un modèle plus simple et interprétable (ex: arbre de décision) entraîné sur le même voisinage local.
Carte de Déviation par Rapport à la Norme
Visualisation qui met en évidence les caractéristiques d'une instance qui s'écartent significativement de la distribution 'normale' ou attendue des données, expliquant ainsi pourquoi sa prédiction est atypique.
Raisonnement par Cas Contrastif
Méthodologie d'explication inspirée du raisonnement juridique, où une décision est justifiée en la comparant à des cas passés similaires mais avec des issues différentes, pour isoler l'élément 'facteur décisif'.
Explication par Critère d'Exclusion
Technique qui explique pourquoi un modèle n'a pas choisi une certaine classe en identifiant les caractéristiques qui ont activement conduit à l'exclusion de cette option dans le processus de décision.
Analyse de Frontière de Décision Contrastive
Examen des caractéristiques qui définissent la frontière entre deux classes prédites par le modèle, en se concentrant sur les instances proches de cette limite pour comprendre les facteurs de bascule.
Explication par Inversion de Prédiction
Processus qui consiste à inverser la prédiction d'un modèle (par exemple, passer de 'rejeté' à 'accepté') et à analyser les changements de caractéristiques nécessaires, fournissant une explication sur ce qui manque à l'instance originale.
Comparaison de Profils d'Attribution
Méthode qui compare les profils d'importance des caractéristiques (générés par SHAP, LIME, etc.) entre deux instances ou groupes d'instances pour révéler les différences subtiles dans la logique du modèle.
Explication par Scénario Adverse
Génération d'un scénario 'pire des cas' qui, bien que proche de l'instance originale, conduit à une prédiction très défavorable, aidant à comprendre la robustesse et les points de faiblesse de la décision du modèle.