Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Carte de Pertinence (Saliency Map)
Une carte de chaleur qui visualise les pixels ou les caractéristiques d'une entrée ayant le plus grand impact sur la prédiction d'un modèle de deep learning.
Gradient de la Sortie
Méthode qui calcule le gradient de la sortie du modèle par rapport à chaque pixel d'entrée pour quantifier son influence sur la prédiction finale.
Score-CAM
Variante de Grad-CAM qui n'utilise pas de gradients, mais évalue l'importance de chaque carte d'activation en passant son upscaling à travers le réseau.
FullGrad
Méthode d'attribution qui décompose la sortie d'un réseau de neurones en contributions de chaque neurone et biais, fournissant une explication complète et sensible au gradient.
Input-Gradient
Méthode d'explicabilité qui utilise le gradient de la sortie par rapport à l'entrée comme mesure directe de la pertinence de chaque pixel ou caractéristique.
Perturbation-based Analysis
Famille de techniques qui évaluent l'importance des caractéristiques en introduisant des modifications systématiques dans les données d'entrée et en mesurant l'effet sur la sortie.
RISE (Randomized Input Sampling for Explanation)
Méthode qui génère des explications en masquant aléatoirement l'entrée avec plusieurs masques et en agrégeant les prédictions pour estimer l'importance de chaque région.