Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Tree-Structured Attention
Mécanisme d'attention qui opère sur des représentations organisées en structure arborescente, permettant de modéliser explicitement les relations syntaxiques ou sémantiques hiérarchiques dans les données.
Hierarchical Contextual Attention
Mécanisme d'attention qui intègre le contexte à plusieurs niveaux hiérarchiques, permettant à chaque unité de recevoir des informations contextuelles locales et globales de manière structurée.
Hierarchical Multi-Head Attention
Extension du multi-head attention où chaque tête peut se spécialiser sur différents niveaux hiérarchiques de la structure d'entrée, capturant des dépendances à différentes échelles.
Hierarchical Co-Attention
Mécanisme d'attention mutuelle appliqué entre deux modalités hiérarchiques, où l'attention est calculée à chaque niveau de la hiérarchie pour modéliser des interactions complexes.
Adaptive Hierarchical Attention
Système d'attention hiérarchique où la profondeur et la structure de la hiérarchie sont adaptées dynamiquement en fonction des caractéristiques des données d'entrée.
Hierarchical Sparse Attention
Variante d'attention hiérarchique utilisant des schémas de parcimonie pour réduire la complexité computationnelle, en ne calculant l'attention que sur les paires les plus pertinentes à chaque niveau hiérarchique.
Recurrent Hierarchical Attention
Architecture combinant des mécanismes récurrents avec l'attention hiérarchique, où les états cachés à chaque niveau sont mis à jour séquentiellement tout en maintenant une structure hiérarchique.
Hierarchical Attention with Memory
Système d'attention hiérarchique intégrant des mémoires externes à différents niveaux, permettant de stocker et récupérer des informations pertinentes à chaque échelle de la hiérarchie.
Dynamic Hierarchical Attention
Mécanisme où la structure hiérarchique de l'attention est modifiée dynamiquement pendant l'inférence en fonction des besoins du traitement, optimisant l'utilisation des ressources computationnelles.