AI-woordenlijst
Het complete woordenboek van kunstmatige intelligentie
Score de fidélité (Fidelity Score)
Métrique quantitative calculée comme la différence de performance entre le modèle original et le modèle approximatif (surrogate) sur un jeu de données de test.
Robustesse de l'explication
Capacité d'une explication à résister à de petites perturbations dans les données d'entrée ou dans le modèle, sans changer de manière significative.
Erreur de prédiction du modèle substitut (Surrogate Model Error)
Différence entre les prédictions du modèle original et celles d'un modèle interprétable (substitut) entraîné pour imiter le comportement du premier.
R² de l'explication (Explanation R-squared)
Coefficient de détermination mesurant la proportion de la variance des prédictions du modèle original qui est expliquée par le modèle substitut.
Fidélité de classe (Class Fidelity)
Mesure spécifique aux problèmes de classification qui évalue si l'explication préserve la même classe de prédiction que le modèle original pour une instance donnée.
Fidélité de régression (Regression Fidelity)
Pour les modèles de régression, évalue la proximité numérique entre la prédiction du modèle original et celle de l'explication, souvent via l'erreur quadratique moyenne.
Fidélité locale vs globale (Local vs Global Fidelity)
Distinction entre la capacité d'une explication à représenter précisément le modèle pour une seule prédiction (locale) ou pour l'ensemble de son espace de prédiction (globale).
Complexité-Fidélité (Complexity-Fidelity Trade-off)
Analyse de la relation entre la complexité d'une explication (ex: nombre de règles) et sa fidélité, cherchant un équilibre optimal entre interprétabilité et précision.
Counterfactual Fidelity
Evaluates whether a counterfactual explanation, which shows how to change a prediction, remains faithful to the model's behavior in the neighborhood of the modified instance.
Feature Attribution Fidelity
For methods like SHAP or LIME, measures whether the sum of feature importances approaches the difference between the prediction and the expected baseline value.
Normalized Fidelity Error
A scaled version of fidelity error to enable fair comparisons between different models or datasets.
Concept Fidelity
Measures how well a high-level concept-based explanation (e.g., 'striped', 'furry') faithfully captures the model's reasoning.
Rule Fidelity
Evaluates the accuracy of a set of extracted rules used to explain a model, by measuring the proportion of instances where the rules and the model agree.