Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Régularisation Elastic Net
Combination des régularisations L1 et L2 qui utilise un paramètre de mélange pour bénéficier simultanément de la sélection de variables (L1) et de la stabilisation des coefficients (L2).
Hyperparamètre de régularisation (λ)
Paramètre scalaire qui contrôle l'intensité de la pénalisation dans les méthodes de régularisation, équilibrant l'ajustement aux données et la complexité du modèle.
Facteur de régularisation
Coefficient multiplicatif appliqué au terme de régularisation dans la fonction objectif, déterminant le poids relatif de la pénalité par rapport à l'erreur d'approximation.
Biais de régularisation
Déformation systématique introduite par la régularisation dans les estimations des paramètres, nécessaire pour réduire la variance et améliorer la généralisation.
Pénalité de Frobenius
Terme de régularisation matricielle basé sur la norme de Frobenius, pénalisant la somme des carrés de tous les éléments d'une matrice pour contrôler sa complexité.
Régularisation nucléaire
Pénalisation basée sur la norme nucléaire (somme des valeurs singulières) qui favorise les matrices de rang faible, particulièrement utile en complétion de matrices.
Validation croisée pour λ
Procédure systématique d'évaluation utilisant différentes partitions des données pour sélectionner la valeur optimale de l'hyperparamètre de régularisation λ.
Dégénérescence des facteurs
Problème où les facteurs latents deviennent arbitrairement grands en amplitude sans améliorer la qualité de l'approximation, nécessitant une régularisation pour contraindre leur norme.
Régularisation trace
Terme de pénalisation basé sur la trace (somme des éléments diagonaux) d'une matrice, utilisé pour contrôler l'échelle globale des facteurs dans la décomposition.
Coefficient de parcimonie
Paramètre contrôlant l'intensité de la régularisation L1, déterminant le niveau de sparsité souhaité dans la représentation des facteurs latents.
Pénalité de Tikhonov
Forme généralisée de régularisation L2 appliquée aux problèmes inverses, stabilisant la solution en pénalisant la norme des paramètres selon une matrice de pondération prédéfinie.
Ajustement de régularisation adaptatif
Méthode où le paramètre de régularisation varie dynamiquement en fonction de la structure locale des données, appliquant une pénalisation différenciée selon les régions de l'espace.