Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
CART (Classification and Regression Trees)
Algorithme d'arbre de décision qui peut être utilisé pour la classification et la régression. CART utilise l'indice de Gini comme critère de partitionnement pour la classification et l'erreur quadratique moyenne pour la régression.
ID3 (Iterative Dichotomiser 3)
Algorithme pionnier d'arbre de décision développé par Ross Quinlan qui utilise le gain d'information pour sélectionner les attributs de partitionnement. ID3 fonctionne uniquement avec des attributs catégoriels et des cibles de classification à classes multiples.
C4.5
Amélioration de l'algorithme ID3 qui peut gérer les attributs manquants et les attributs continus en les discrétisant. C4.5 utilise le ratio de gain plutôt que le gain d'information pour éviter le biais envers les attributs avec de nombreuses valeurs.
Feuille (ou nœud terminal)
Nœud final d'un arbre de décision qui ne se divise plus et contient la prédiction finale. Les feuilles représentent les classes de sortie pour la classification ou les valeurs continues pour la régression.
Critère de partitionnement
Méthode utilisée pour évaluer la qualité d'une division à un nœud interne de l'arbre. Les critères courants incluent le gain d'information, l'indice de Gini et la réduction de variance.
Élagage (pruning)
Technique de réduction de la complexité d'un arbre de décision en supprimant les branches qui ont peu de pouvoir prédictif. L'élagage aide à prévenir le surapprentissage et améliore la généralisation du modèle.
Variable de décision
Attribut ou caractéristique utilisé à un nœud interne de l'arbre pour partitionner les données. Les variables de décision peuvent être catégorielles (requérant une égalité) ou numériques (requérant une comparaison de seuil).
Ensemble de test
Sous-ensemble des données utilisé pour évaluer la performance d'un arbre de décision après son entraînement. L'ensemble de test ne doit pas être utilisé pendant la phase d'apprentissage pour garantir une évaluation impartiale du modèle.