Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Score de fidélité (Fidelity Score)
Métrique quantitative calculée comme la différence de performance entre le modèle original et le modèle approximatif (surrogate) sur un jeu de données de test.
Robustesse de l'explication
Capacité d'une explication à résister à de petites perturbations dans les données d'entrée ou dans le modèle, sans changer de manière significative.
Erreur de prédiction du modèle substitut (Surrogate Model Error)
Différence entre les prédictions du modèle original et celles d'un modèle interprétable (substitut) entraîné pour imiter le comportement du premier.
R² de l'explication (Explanation R-squared)
Coefficient de détermination mesurant la proportion de la variance des prédictions du modèle original qui est expliquée par le modèle substitut.
Fidélité de classe (Class Fidelity)
Mesure spécifique aux problèmes de classification qui évalue si l'explication préserve la même classe de prédiction que le modèle original pour une instance donnée.
Fidélité de régression (Regression Fidelity)
Pour les modèles de régression, évalue la proximité numérique entre la prédiction du modèle original et celle de l'explication, souvent via l'erreur quadratique moyenne.
Fidélité locale vs globale (Local vs Global Fidelity)
Distinction entre la capacité d'une explication à représenter précisément le modèle pour une seule prédiction (locale) ou pour l'ensemble de son espace de prédiction (globale).
Complexité-Fidélité (Complexity-Fidelity Trade-off)
Analyse de la relation entre la complexité d'une explication (ex: nombre de règles) et sa fidélité, cherchant un équilibre optimal entre interprétabilité et précision.
Fidélité sur les contre-exemples (Counterfactual Fidelity)
Évalue si une explication contre-factuelle, qui montre comment changer une prédiction, reste fidèle au comportement du modèle dans le voisinage de l'instance modifiée.
Fidélité d'attribution de caractéristiques (Feature Attribution Fidelity)
Pour les méthodes comme SHAP ou LIME, mesure si la somme des importances de caractéristiques se rapproche de la différence entre la prédiction et la valeur de base attendue.
Erreur de fidélité normalisée (Normalized Fidelity Error)
Version de l'erreur de fidélité mise à l'échelle pour permettre des comparaisons équitables entre différents modèles ou ensembles de données.
Fidélité de l'explication conceptuelle (Concept Fidelity)
Mesure dans quelle mesure une explication basée sur des concepts de haut niveau (ex: 'rayé', 'poil') capture fidèlement le raisonnement du modèle.
Fidélité de l'explication par règles (Rule Fidelity)
Évalue la précision d'un ensemble de règles extraites pour expliquer un modèle, en mesurant la proportion d'instances où les règles et le modèle sont d'accord.