Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Modèle Pré-entraîné
Réseau de neurones ayant déjà été entraîné sur un large jeu de données (comme ImageNet) pour une tâche générique, dont les poids et l'architecture sont ensuite réutilisés pour des tâches plus spécifiques.
Couches Congelées
Technique consistant à désactiver la mise à jour des poids (gradients) de certaines couches d'un modèle pré-entraîné lors du fine-tuning, afin de conserver les représentations apprises et de prévenir le sur-apprentissage.
Taux d'Apprentissage Différentiel
Méthode de fine-tuning appliquant des taux d'apprentissage distincts aux différentes couches du modèle, souvent plus élevés pour les couches supérieures (spécifiques) et plus faibles pour les couches inférieures (génériques).
Head Classifier
Dernières couches d'un modèle pré-entraîné, typiquement une ou plusieurs couches entièrement connectées, qui sont remplacées ou ré-entraînées pour s'adapter aux classes spécifiques de la nouvelle tâche.