Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Rotation Forest
Méthode d'ensemble qui construit des arbres de décision sur des ensembles de caractéristiques transformées par Analyse en Composantes Principales (ACP) pour maximiser la diversité entre les classifieurs de base.
ACP sur sous-ensembles
Application de l'Analyse en Composantes Principales à des partitions aléatoires de l'espace des caractéristiques, créant des axes de projection distincts pour chaque classifieur de la forêt.
Matrice de rotation
Matrice orthogonale issue de l'ACP, utilisée pour projeter les données dans un nouvel espace de caractéristiques, assurant la décorrélation et la diversité des prédictions des arbres.
Diversité de classifieur
Principe fondamental des méthodes d'ensemble visant à maximiser les différences de prédictions entre les modèles de base pour réduire la variance globale et améliorer la généralisation.
Bagging avec transformation
Extension du Bootstrap Aggregating où les échantillons bootstrapés subissent une transformation de l'espace des caractéristiques avant l'entraînement de chaque modèle de base.
Sélection de caractéristiques par groupe
Technique de partitionnement des variables en sous-ensembles disjoints sur lesquels des transformations indépendantes sont appliquées, augmentant l'hétérogénéité des classifieurs.
K-fold feature splitting
Stratégie de division des caractéristiques en K groupes pour la Rotation Forest, où chaque groupe est transformé séparément avant d'être recombiné pour former l'ensemble final de caractéristiques.
Espace de caractéristiques augmenté
Nouvel espace de représentation créé par la concaténation des composantes principales issues de chaque sous-ensemble de caractéristiques, préservant toute l'information originale tout en augmentant la diversité.
Arbre de décision sur données projetées
Classifieur de base dans la Rotation Forest entraîné sur des données préalablement projetées dans un espace transformé par ACP, où les noeuds de décision opèrent sur des combinaisons linéaires de caractéristiques originales.
Coefficients de rotation
Paramètres de la matrice de transformation orthogonale qui définissent comment chaque caractéristique originale contribue aux nouvelles composantes principales pour un arbre spécifique de la forêt.
Variance expliquée par composante
Métrique issue de l'ACP indiquant la proportion de la variance totale des données capturée par chaque composante principale, influençant la qualité de la transformation dans la Rotation Forest.
Orthogonalisation de caractéristiques
Processus mathématique garantissant l'indépendance linéaire entre les nouvelles caractéristiques créées, essentiel pour éviter la redondance et maximiser la diversité dans les ensembles.
Ensemble hétérogène
Collection de classifieurs de base opérant sur des espaces de caractéristiques différents, comme dans la Rotation Forest où chaque arbre voit une rotation unique des données d'entrée.
Réduction de covariance
Objectif de la Rotation Forest visant à minimiser la covariance entre les erreurs des différents classifieurs en les forçant à opérer sur des représentations décorrélées des données.
Projection linéaire locale
Transformation spécifique à chaque arbre de la forêt, appliquée uniquement à un sous-ensemble de caractéristiques, créant une perspective unique sur les données pour ce classifieur particulier.
Stabilité de l'ACP
Robustesse de la décomposition en composantes principales face aux variations dans les données d'entraînement, un facteur critique pour la performance et la cohérence de la Rotation Forest.
Hyperparamètre de groupe
Paramètre contrôlant le nombre de caractéristiques par groupe dans la Rotation Forest, influençant directement l'équilibre entre diversité des classifieurs et information préservée dans chaque transformation.