Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Fuite d'Information (Blending)
Risque spécifique au blending où le méta-modèle peut sur-apprendre les prédictions des modèles de base si le hold-out set n'est pas suffisamment représentatif ou est trop petit.
Poids de Blending
Coefficients ou paramètres appris par le méta-modèle (souvent une régression linéaire simple) pour pondérer les prédictions de chaque modèle de base dans la combinaison finale.
Entraînement à Deux Niveaux
Processus séquentiel du blending où les modèles de base sont entraînés en premier, suivis par l'entraînement du méta-modèle sur leurs prédictions respectives.
Validation Croisée Empilée
Alternative au blending où les prédictions pour le méta-modèle sont générées via une validation croisée sur l'ensemble d'entraînement, réduisant le risque de sur-apprentissage mais augmentant la complexité.
Diversité des Modèles
Principe clé en blending consistant à utiliser des modèles de base aux algorithmes différents (ex: arbre de décision, SVM, réseau de neurones) pour capturer des patterns variés et améliorer la performance globale.
Prédictions Out-of-Fold
Prédictions générées par un modèle sur les données de validation de chaque pli d'une cross-validation, utilisées dans le stacking mais évitées dans le blending au profit d'un hold-out set.
Sur-apprentissage du Méta-modèle
Phénomène où le méta-modèle mémorise les prédictions des modèles de base sur le hold-out set au lieu de généraliser leur combinaison, souvent dû à un hold-out set trop petit ou à un méta-modèle trop complexe.
Blending Linéaire
Forme simplifiée de blending où le méta-modèle est une régression linéaire, se contentant de trouver une combinaison linéaire optimale des prédictions des modèles de base.
Split Stratifié pour Blending
Technique de division du jeu de données en ensembles d'entraînement et de hold-out pour le blending, préservant la distribution des classes cibles pour éviter un biais dans les prédictions du méta-modèle.
Fusion de Prédictions
Action de combiner les sorties de plusieurs estimateurs, qui constitue le cœur du blending et d'autres méthodes d'ensemble pour produire une prédiction finale plus robuste.
Blending Pondéré
Variante du blending où les poids attribués aux prédictions des modèles de base sont définis manuellement ou par une heuristique, plutôt qu'appris par un méta-modèle.
Généralisation en Blending
Capacité du modèle de blending final à performer correctement sur de nouvelles données invisibles, dépendant de la robustesse des modèles de base et de la capacité du méta-modèle à généraliser leur combinaison.