قاموس الذكاء الاصطناعي
القاموس الكامل للذكاء الاصطناعي
Matrice de Corrélation de Tâches
Une matrice symétrique où chaque élément (i, j) quantifie la corrélation ou la similarité entre les représentations latentes ou les gradients de la tâche i et de la tâche j, servant à guider le partage de paramètres.
Graphe de Dépendance de Tâches
Un modèle de graphe où les nœuds représentent les tâches et les arêtes orientées ou pondérées encodent des relations de dépendance causale ou d'influence, utilisé pour orchestrer l'ordre d'apprentissage ou le transfert de connaissances.
Espace de Tâches
Une représentation vectorielle de basse dimension où chaque tâche est un point, dont la distance géométrique reflète la similarité ou la dissimilarité de leurs difficultés d'apprentissage ou de leurs solutions optimales.
Transfert Négatif
Un phénomène où l'apprentissage conjoint de plusieurs tâches dégrade les performances d'au moins une d'entre elles par rapport à un apprentissage isolé, dû à des conflits de gradients ou à des représentations incompatibles.
Orthogonalité des Tâches
Une contrainte ou une propriété visant à rendre les sous-espaces de paramètres dédiés à chaque tâche linéairement indépendants, afin de minimiser l'interférence et de favoriser la spécialisation dans un modèle multi-tâches.
Paysage de Perte Multi-Tâches
La surface de perte complexe résultant de l'agrégation des fonctions de perte de plusieurs tâches, caractérisée par des points de selle et des conflits de gradients qui rendent l'optimisation ardue.
Similarité de Gradients
Une métrique, souvent le cosinus de l'angle, mesurant l'alignement entre les vecteurs de gradient de la perte de deux tâches différentes par rapport aux paramètres partagés, prédictive de la synergie ou du conflit entre elles.
Clustering de Tâches
Le processus de regroupement des tâches en clusters basés sur leur similarité intrinsèque (ex: données, objectifs) afin de créer des sous-modèles spécialisés qui améliorent la performance globale du système multi-tâches.
Curriculum Multi-Tâches
Une stratégie d'ordonnancement de l'apprentissage où les tâches sont présentées au modèle selon une séquence optimisée, souvent des plus simples aux plus complexes, en se basant sur leurs relations mutuelles.
Couche de Gating de Tâches
Un mécanisme, typiquement un réseau de neurones léger, qui apprend à pondérer ou à sélectionner dynamiquement les experts (sous-réseaux) les plus pertinents pour une tâche donnée au sein d'une architecture multi-tâches.
Analyse en Composantes Principales de Tâches (T-PCA)
L'application de l'ACP sur un ensemble de vecteurs caractérisant les tâches (ex: leurs gradients) pour identifier les directions principales de variation et révéler les relations latentes de similarité ou d'opposition.
Modélisation de la Relation Tâche-Tâche
L'approche qui consiste à apprendre explicitement une fonction ou une matrice décrivant comment la performance sur une tâche affecte ou est affectée par la performance sur une autre, souvent pour optimiser la pondération des pertes.
Espace de Paramètres Partagé
Le sous-ensemble de l'espace de paramètres total d'un modèle qui est utilisé conjointement par plusieurs tâches, dont la géométrie et la dimension sont dictées par les relations de similarité entre ces tâches.
Méta-Apprentissage des Relations de Tâches
Un processus de plus haut niveau où un algorithme apprend à découvrir et à exploiter les relations entre tâches (ex: comment les regrouper ou pondérer) afin d'améliorer l'efficacité et la performance de l'apprentissage multi-tâches sur de nouvelles tâches.
Divergence de Tâches
Une mesure de l'opposition ou de l'incompatibilité entre deux tâches, souvent quantifiée par la divergence de leurs distributions de gradients ou par le degré de transfert négatif qu'elles induisent mutuellement.
Affinité de Tâches
Un score quantifiant la propension de deux tâches à bénéficier mutuellement d'un apprentissage partagé, se basant sur des métriques comme la similarité de leurs données d'entrée ou de leurs représentations apprises.
Sélection de Tâches Basée sur les Relations
Une méthode qui consiste à choisir un sous-ensemble de tâches à apprendre conjointement en maximisant la synergie (affinité) et en minimisant le conflit (divergence) au sein de ce sous-ensemble, pour optimiser les ressources computationnelles.
Perte de Contraste de Tâches
Une fonction de perte qui pousse les représentations des tâches similaires à être plus proches dans un espace d'embedding et celles des tâches dissimilaires à être plus éloignées, modélisant ainsi explicitement leurs relations.