Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Sélectivité (Selectivity)
Mesure la capacité d'une explication à se concentrer sur les features les plus pertinentes pour une prédiction spécifique, en ignorant le bruit ou les variables non informatives. Elle quantifie le degré de parcimonie de l'explication.
Score de Fidélité R² (R-squared Fidelity Score)
Coefficient de détermination utilisé pour évaluer la fidélité d'un modèle d'explication linéaire en mesurant la proportion de la variance des prédictions du modèle de boîte noire qui est expliquée par le modèle d'explication.
Aire sous la Courbe de Précision-Rappel (AUPRC) pour l'Interprétabilité
Adaptation de la métrique AUPRC pour évaluer la qualité des explications basées sur les features, en traitant la sélection des features les plus importantes comme un problème de classement binaire.
Coût de Calcul de l'Explication (Explanation Computational Cost)
Quantifie les ressources temporelles et matérielles nécessaires pour générer une explication. C'est un critère pratique essentiel pour le déploiement de méthodes d'interprétabilité à grande échelle.
Taux de Discontinuité (Discontinuity Rate)
Métrique évaluant la variation soudaine et non linéaire des explications pour des instances de données très proches les unes des autres. Un taux élevé indique une explication instable et potentiellement non intuitive.
Score de Sensibilité (Sensitivity Score)
Quantifie comment les explications changent en réponse à des modifications du modèle sous-jacent (par exemple, après un réentraînement). Une faible sensibilité est souhaitable pour des explications cohérentes.
Métrique de Cohérence (Coherence Metric)
Évalue si les explications pour différentes prédictions sont logiquement cohérentes entre elles, par exemple, si les features identifiées comme importantes pour une classe le sont de manière opposée pour une classe antagoniste.
Perte de Fidélité (Fidelity Loss)
Fonction objectif utilisée lors de l'entraînement de modèles interprétables qui pénalise l'écart entre les prédictions du modèle interprétable et celles du modèle de boîte noire qu'il cherche à expliquer.
Indice de Parcimonie (Sparsity Index)
Mesure le ratio de features ou de coefficients non nuls dans une explication par rapport au nombre total de features possibles. Un indice élevé indique une explication plus simple et potentiellement plus facile à interpréter.