Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Hard Parameter Sharing
Approche de Multi-Task Learning où les couches inférieures du réseau sont partagées entre toutes les tâches, tandis que seules les couches supérieures sont spécifiques à chaque tâche.
Soft Parameter Sharing
Technique où chaque tâche possède son propre modèle avec ses propres paramètres, mais une régularisation est appliquée pour encourager la similarité entre les paramètres des modèles de différentes tâches.
Cross-Task Regularization
Méthode de régularisation qui utilise les connaissances d'une tâche source pour contraindre et améliorer l'apprentissage sur une tâche cible, réduisant le surapprentissage.
Task-Specific Layers
Couches neuronales dédiées à une tâche particulière dans une architecture multi-tâches, permettant la spécialisation tout en bénéficiant des représentations partagées des couches inférieures.
Multi-Head Architecture
Structure de réseau neuronal avec un tronc commun partagé et plusieurs têtes de prédiction spécialisées, chacune optimisée pour une tâche différente dans un contexte multi-tâches.
Shared Representation Learning
Processus d'apprentissage de représentations latentes capturant des caractéristiques utiles simultanément pour plusieurs tâches, maximisant le transfert de connaissances inter-tâches.
Task Relationship Modeling
Technique visant à quantifier et exploiter explicitement les relations entre différentes tâches d'apprentissage pour optimiser le partage de représentations et améliorer les performances globales.
Progressive Neural Networks
Architecture où de nouvelles colonnes neuronales sont ajoutées pour de nouvelles tâches tout en conservant les connexions latérales vers les colonnes des tâches précédentes, évitant l'oubli catastrophique.
Transferability Analysis
Évaluation quantitative de la capacité des caractéristiques apprises sur une tâche source à être transférées efficacement vers une tâche cible différente mais connexe.
Task Uncertainty Weighting
Méthode d'optimisation multi-tâches qui pondère automatiquement la perte de chaque tâche en fonction de son incertitude homoscédastique, équilibrant l'apprentissage entre tâches.
Task Clustering
Approche regroupant les tâches similaires en clusters pour optimiser le partage de représentations, permettant un transfert plus efficace au sein de groupes de tâches connexes.
Multi-Modal Transfer Learning
Extension du transfert d'apprentissage où les connaissances sont transférées entre différentes modalités de données (texte, image, audio) pour enrichir les représentations partagées.