Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Local vs Global Attribution
Distinction entre les méthodes expliquant des prédictions individuelles (local) et celles évaluant l'importance des caractéristiques sur l'ensemble du jeu de données (global).
Model-agnostic Attribution
Approches d'explication fonctionnant indépendamment de l'architecture interne du modèle, traitant celui-ci comme une boîte noire pour générer des attributions.
Model-specific Attribution
Techniques d'attribution exploitant la structure interne spécifique d'un modèle (arbres de décision, réseaux de neurones) pour fournir des explications plus précises.
Attention Mechanisms
Composants de réseaux de neurones qui apprennent des poids d'importance pour différentes parties de l'entrée, servant naturellement de mécanisme d'attribution.
Layer-wise Relevance Propagation
Technique propageant la prédiction en arrière à travers le réseau, distribuant la pertinence de sortie aux neurones et caractéristiques d'entrée couche par couche.
Feature Ablation
Technique systématique de suppression ou de masquage de caractéristiques pour évaluer leur impact individuel sur la performance du modèle.
Path Attribution
Méthode d'attribution suivant les chemins d'activation dans le réseau de neurones pour assigner des crédits aux caractéristiques d'entrée basé sur leurs flux de contribution.
Gradient-based Attribution
Famille de méthodes utilisant les gradients de la sortie par rapport aux entrées pour quantifier la sensibilité et l'importance des caractéristiques.
Feature Interaction
Mesure de l'effet combiné de paires ou de groupes de caractéristiques sur la prédiction du modèle, au-delà de leurs contributions individuelles.
Input Attribution
Processus d'assignation de scores d'importance aux éléments spécifiques de l'entrée (pixels, mots, variables) pour expliquer leur rôle dans la décision du modèle.