Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Bagging Bootstrap Aggregating
Technique d'ensemble créant multiples modèles sur des échantillons bootstrap et combinant leurs prédictions par vote majoritaire ou moyenne.
Random Forest
Algorithme de bagging utilisant des arbres de décision avec sélection aléatoire des features à chaque split pour réduire la corrélation entre modèles.
Extra Trees Extremely Randomized Trees
Variante du Random Forest ajoutant randomisation supplémentaire dans la sélection des seuils de split pour réduire encore plus la variance.
Pasting Ensemble
Méthode d'ensemble similaire au bagging mais utilisant des sous-ensembles sans remplacement des données d'entraînement.
Voting Classifiers
Technique combinant plusieurs classificateurs hétérogènes en utilisant vote majoritaire hard ou moyenne pondérée soft pour la prédiction finale.
Stacking Stacked Generalization
Méthode d'ensemble entraînant un méta-modèle pour combiner les prédictions de plusieurs modèles de base en utilisant cross-validation.
Blending
Variante simplifiée du stacking utilisant un jeu de validation hold-out pour entraîner le méta-modèle au lieu de cross-validation.
Out-of-Bag Error Estimation
Méthode d'évaluation interne des méthodes de bagging utilisant les échantillons non sélectionnés (out-of-bag) pour estimer l'erreur de généralisation.
Feature Importance in Ensembles
Techniques d'évaluation de l'importance des variables dans les modèles d'ensemble basées sur la réduction d'impureté ou la permutation.
Bootstrap Sampling Methods
Techniques avancées d'échantillonnage bootstrap incluant balanced bootstrap, stratified bootstrap et weighted bootstrap pour les ensembles.
Isolation Forest
Algorithme de détection d'anomalies basé sur Random Forest utilisant le chemin moyen dans les arbres pour mesurer l'isolation des points.
Rotation Forest
Extension du Random Forest appliquant des transformations PCA sur des sous-ensembles de features avant d'entraîner chaque arbre.
Bootstrap Aggregating Regressors
Application du bagging aux problèmes de régression combinant les prédictions par moyenne ou médiane pour réduire la variance.
Balanced Random Forest
Variante du Random Forest traitant les classes déséquilibrées par échantillonnage bootstrap équilibré pour chaque arbre.
Quantile Regression Forest
Extension du Random Forest pour estimer les quantiles conditionnels de la distribution de la variable cible en régression.