Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Mean Decrease in Impurity (MDI)
Méthode d'évaluation de l'importance des variables qui mesure la réduction moyenne de l'impureté (Gini ou entropie) apportée par chaque caractéristique lors de la construction des arbres dans un modèle d'ensemble.
Mean Decrease in Accuracy (MDA)
Technique d'importance par permutation qui évalue l'impact d'une variable en mesurant la baisse de performance du modèle lorsque les valeurs de cette variable sont aléatoirement permutées sur l'ensemble de test.
Gain Ratio Importance
Mesure d'importance basée sur le ratio de gain informationnel, qui normalise le gain d'information par l'entropie de la caractéristique pour pénaliser les variables avec un grand nombre de valeurs distinctes.
Out-of-Bag (OOB) Feature Importance
Technique d'évaluation de l'importance utilisant les échantillons OOB de chaque arbre dans une forêt aléatoire, mesurant l'augmentation de l'erreur OOB lorsque les valeurs d'une variable sont permutées dans ces échantillons.
Conditional Permutation Importance
Variante de l'importance par permutation qui respecte les dépendances entre caractéristiques en permutant les valeurs conditionnellement aux autres variables, réduisant le biais pour les caractéristiques corrélées.
Drop Column Importance
Méthode d'évaluation de l'importance qui mesure l'impact de la suppression complète d'une caractéristique en réentraînant le modèle sans cette variable et en comparant la performance avec le modèle complet.
Impurity-based Feature Importance
Classe de méthodes d'évaluation de l'importance basées sur la réduction de l'impureté des nœuds lors de la construction des arbres, incluant le MDI et le Gini Importance, mais pouvant être biaisées envers les caractéristiques à forte cardinalité.