Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Stabilité (Stability)
Mesure de la cohérence des explications générées pour des instances similaires ou pour la même instance avec de légères variations de données. Une faible stabilité peut indiquer une explication non robuste ou un modèle instable.
Infidélité (Infidelity)
Métrique quantifiant l'écart entre le gradient du modèle d'explication et le gradient du modèle de boîte noire. Elle mesure la capacité d'une explication à capturer correctement la sensibilité du modèle aux variations d'entrée.
Complexité de l'explication (Explanation Complexity)
Mesure de la simplicité ou de la concision d'une explication, souvent évaluée par le nombre de règles, de features ou de termes non nuls. Une faible complexité favorise une meilleure compréhension humaine.
Score de Robustesse (Robustness Score)
Évaluation quantitative de la variation des explications face à des perturbations adverses sur les données d'entrée. Un score élevé signifie que les explications résistent bien aux attaques et aux bruits.
Aire sous la Courbe de Fidélité (AUC-Fidelity)
Métrique agrégée calculant l'aire sous la courbe de la fidélité en fonction de la taille du voisinage ou du nombre de features utilisées. Elle permet de comparer la performance globale des méthodes d'explication.
Écart de Prédiction Local (Local Prediction Gap)
Différence absolue entre la prédiction du modèle de boîte noire et celle du modèle d'explication pour une instance spécifique. Cette métrique évalue la précision de l'approximation locale.
Taux de Compression (Compression Rate)
Ratio entre le nombre de features dans le modèle original et le nombre de features dans l'explication simplifiée. Il quantifie le degré de simplification de l'explication par rapport au modèle complet.
Coherence des Explications (Explanation Coherence)
Mesure de la cohérence logique entre les explications générées pour différentes instances d'une même classe ou pour des instances voisines. Elle évalue la cohérence globale du système d'explication.
Fonction de Perte d'Explication (Explanation Loss Function)
Fonction objectif mathématique utilisée pour optimiser les paramètres d'un modèle d'explication. Elle équilibre généralement la fidélité au modèle original et la complexité de l'explication.
Sensibilité au Bruit (Noise Sensitivity)
Métrique quantifiant la variation des explications lorsque des bruits aléatoires sont ajoutés aux données d'entrée. Une faible sensibilité au bruit est souhaitable pour des explications fiables.
Monotonicité de l'Explication (Explanation Monotonicity)
Propriété mesurant si les importances des features dans l'explication varient de manière cohérente avec les changements monotones des valeurs d'entrée. Elle assure la cohérence directionnelle des explications.
Erreur de Reconstruction (Reconstruction Error)
Métrique évaluant la capacité d'une explication à reconstruire le comportement du modèle original, souvent mesurée par l'erreur quadratique moyenne entre les prédictions. Elle est cruciale pour les méthodes basées sur la distillation de modèle.
Indice de Sélectivité (Selectivity Index)
Mesure quantifiant la capacité d'une méthode d'explication à se concentrer sur les features les plus pertinentes pour une prédiction donnée. Un indice élevé indique une meilleure identification des variables clés.
Score de Fidélité Normalisé (Normalized Fidelity Score)
Métrique de fidélité mise à l'échelle entre 0 et 1 pour faciliter la comparaison entre différents modèles et méthodes d'explication. Elle permet une évaluation standardisée de la qualité des explications.
Protocole d'Évaluation par Soustraction de Feature (Feature Ablation Evaluation Protocol)
Méthodologie systématique évaluant la qualité d'une explication en mesurant l'impact sur la performance du modèle lorsque les features identifiées comme importantes sont retirées ou masquées.
Métrique de Complétude (Completeness Metric)
Évaluation quantitative mesurant si une explication capture tous les facteurs pertinents ayant contribué à une prédiction spécifique. Elle s'oppose aux explications partielles ou incomplètes.
Variance de l'Explication (Explanation Variance)
Mesure statistique de la dispersion des explications générées sur plusieurs exécutions pour la même instance. Une faible variance est essentielle pour la reproductibilité et la fiabilité des explications.