Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Pre-pruning
Technique d'élagage qui arrête la croissance de l'arbre de décision avant qu'il n'atteigne sa taille maximale en appliquant des critères d'arrêt prédéfinis.
Post-pruning
Méthode d'élagage qui consiste à construire d'abord un arbre complet puis à réduire sa complexité en éliminant les branches non essentielles.
Cost complexity pruning
Technique d'élagage qui minimise une fonction de coût combinant l'erreur de classification et la complexité de l'arbre via un paramètre alpha.
Reduced error pruning
Méthode d'élagage qui supprime les nœuds si cela n'augmente pas l'erreur de classification sur un ensemble de validation séparé.
Minimum description length
Principe d'élagage basé sur la théorie de l'information qui favorise les modèles offrant le meilleur compromis entre simplicité et pouvoir prédictif.
Pessimistic error pruning
Technique qui estime l'erreur future en ajoutant une pénalité statistique à l'erreur observée pour éviter le surapprentissage.
Error-based pruning
Famille d'algorithmes d'élagage qui utilisent différentes mesures d'erreur pour décider quelles branches supprimer.
Minimum error pruning
Algorithme qui élimine récursivement les nœuds dont la suppression minimise l'erreur attendue sur les données de test.
Bottom-up pruning
Approche d'élagage qui commence par les feuilles de l'arbre et progresse vers la racine en évaluant chaque nœud pour une éventuelle suppression.
Top-down pruning
Méthode d'élagage qui évalue les nœuds en partant de la racine vers les feuilles, supprimant les sous-arbres entiers lorsque jugé nécessaire.
Alpha parameter
Paramètre de régularisation dans le cost complexity pruning qui contrôle le compromis entre la taille de l'arbre et son erreur de classification.
Pruning path
Séquence d'arbres de complexité décroissante générée lors du processus d'élagage, chaque arbre étant un sous-arbre du précédent.
Weakest link pruning
Variante du cost complexity pruning qui identifie et élimine itérativement les branches ayant le plus faible impact sur la performance globale.
Cross-validation pruning
Technique qui utilise la validation croisée pour déterminer le niveau optimal d'élagage et éviter le surapprentissage.
Critical value pruning
Méthode qui élimine les branches dont la statistique de test tombe en dessous d'un seuil critique prédéterminé.
Cost-sensitive pruning
Approche d'élagage qui prend en compte les coûts différents associés aux erreurs de classification pour optimiser la structure de l'arbre.
Optimal pruning
Processus qui garantit de trouver le sous-arbre optimal selon un critère donné, souvent implémenté par des algorithmes comme le CART.