Glosario IA
El diccionario completo de la Inteligencia Artificial
Contre-exemple
Instance générée qui diffère minimalement de l'entrée originale tout en produisant une prédiction différente du modèle, permettant d'expliquer les conditions de changement de décision.
Distance de Hamming
Métrique mesurant le nombre minimal de caractéristiques à modifier pour transformer une instance en contre-exemple, essentielle pour évaluer la parcimonie des explications.
Validité de contre-exemple
Critère fondamental assurant que le contre-exemple généré produit effectivement la prédiction désirée et différente de celle de l'instance originale.
Proximité spatiale
Mesure de similarité entre l'instance originale et son contre-exemple dans l'espace des caractéristiques, cruciale pour garantir la pertinence et la crédibilité de l'explication.
Actionabilité
Capacité d'un contre-exemple à suggérer des modifications réalisables et pertinentes pour l'utilisateur, transformant l'explication en recommandations pratiques.
Diversité de contre-exemples
Génération d'ensembles de contre-exemples couvrant différentes voies alternatives pour modifier la prédiction, offrant une vision complète des possibilités d'intervention.
Robustesse du modèle
Analyse de la stabilité des prédictions face aux contre-exemples, révélant les points faibles du modèle et ses zones de sensibilité aux variations d'entrée.
Interface homme-machine
Système interactif permettant aux utilisateurs de générer et explorer des contre-exemples, facilitant la compréhension intuitive des mécanismes de décision du modèle.
Interprétation causale
Extension des contre-exemples pour identifier les relations de cause à effet entre les caractéristiques et les prédictions, au-delà des simples corrélations statistiques.
Ensemble de contre-exemples
Collection organisée de contre-exemples explorant différentes dimensions de modification, offrant une compréhension multidimensionnelle des frontières de décision.
Régularisation de la pénalité
Mécanisme contrôlant l'ampleur des modifications autorisées lors de la génération de contre-exemples, évitant les changements irréalistes ou excessifs.
Contraintes d'appartenance
Règles garantissant que les contre-exemples restent dans des domaines valides et plausibles, respectant les limites physiques ou logiques du problème.
Méthode d'exploration
Algorithme systématique pour découvrir efficacement des contre-exemples pertinents dans l'espace de haute dimension des caractéristiques du modèle.
Fonction de coût
Expression mathématique combinant plusieurs critères pour évaluer la qualité d'un contre-exemple, guidant l'optimisation vers les solutions les plus pertinentes.