Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Anchors
Approche d'explication locale qui identifie des règles IF-THEN de haute précision (ancres) qui ancrent la prédiction localement, garantissant que les modifications des caractéristiques non couvertes n'affectent pas la prédiction.
Counterfactual Explanations
Méthode générant des scénarios hypothétiques minimaux qui montrent comment changer les caractéristiques d'entrée pour obtenir une prédiction différente, expliquant ainsi les frontières de décision du modèle.
Local Surrogate Models
Modèles simplifiés entraînés pour approximer le comportement d'un modèle complexe uniquement dans le voisinage d'une prédiction spécifique, fournissant des explications interprétables localement.
LRP (Layer-wise Relevance Propagation)
Technique de propagation arrière qui redistribue la prédiction finale du réseau de neurones à travers ses couches jusqu'aux caractéristiques d'entrée, quantifiant leur contribution individuelle.
DeepLIFT
Méthode d'attribution de pertinence pour réseaux de neurones profonds qui compare l'activation de chaque neurone à son état de référence, calculant les contributions par différence plutôt que par gradients.
Integrated Gradients
Technique d'attribution qui intègre les gradients le long d'un chemin depuis une référence de base jusqu'à l'entrée actuelle, garantissant des propriétés d'axiomes comme la sensibilité et l'invariance d'implémentation.
Occlusion Sensitivity
Approche d'explication locale qui systématiquement masque des régions de l'entrée et observe l'impact sur la prédiction, identifiant les zones critiques pour la décision du modèle.
Influence Functions
Technique analytique estimant comment les paramètres du modèle et ses prédictions changeraient si un point d'entraînement spécifique était modifié, identifiant les données influentes pour une prédiction.
ICE (Individual Conditional Expectation)
Méthode visualisant comment la prédiction d'un modèle change pour une observation individuelle lorsque la valeur d'une caractéristique varie, révélation des effets hétérogènes et interactions.
Kernel SHAP
Variante de SHAP utilisant une approche kernel pour estimer les valeurs de Shapley sans énumérer toutes les coalitions, applicable à n'importe quel modèle de machine learning.
Tree SHAP
Implémentation optimisée de SHAP spécifiquement conçue pour les modèles basés sur arbres, calculant les valeurs exactes de Shapley en temps polynomial grâce à la structure arborescente.
Local Fidelity
Mesure évaluant la précision avec laquelle un modèle d'explication locale reproduit les prédictions du modèle original dans le voisinage d'une instance spécifique, cruciale pour la confiance en l'explication.
Feature Perturbation
Technique d'analyse locale modifiant systématiquement les caractéristiques d'entrée pour observer les changements de prédiction, identifiant les caractéristiques les plus sensibles pour une décision donnée.
Local Feature Attribution
Processus quantifiant la contribution de chaque caractéristique à une prédiction spécifique, différent de l'importance globale qui considère l'ensemble du jeu de données.
Decision Boundary Visualization
Méthode graphique montrant comment le modèle sépare les classes autour d'une prédiction spécifique, aidant à comprendre les mécanismes de décision locaux et la robustesse de la prédiction.
Local Linear Approximation
Technique approximant localement un modèle non-linéaire par un modèle linéaire simple autour d'un point de prédiction, facilitant l'interprétation des décisions complexes.
Permutation Importance Locale
Variante de l'importance par permutation évaluant l'impact de la randomisation de chaque caractéristique sur une prédiction spécifique plutôt que sur l'ensemble du jeu de données.