Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
Diffusion Transformer
Architecture hybride intégrant des mécanismes d'attention multi-têtes dans le processus de diffusion itératif pour améliorer la cohérence globale des données générées.
U-ViT
Variante du Vision Transformer où les connexions U-Net sont intégrées pour combiner efficacement les caractéristiques multi-échelles dans les modèles de diffusion.
DiT (Diffusion Transformer)
Architecture remplaçant les convolutions U-Net traditionnelles par des blocs Transformer dans le processus de diffusion, utilisant des embeddings de temps pour la conditionnalité.
Latent Diffusion Transformer
Modèle appliquant des mécanismes Transformer dans l'espace latent compressé, réduisant la complexité computationnelle tout en préservant la qualité générative.
Cross-Attention Diffusion
Mécanisme permettant aux modèles de diffusion de s'aligner sur des conditions externes via des couches d'attention croisée entre le bruit et les embeddings conditionnels.
Transformer Denoiser
Module basé sur Transformer responsable de prédire le bruit à chaque étape de débruitage dans le processus de diffusion forward-backward.
Patch Diffusion
Technique où les données sont divisées en patches traités par des mécanismes d'attention Transformer avant le processus de diffusion itératif.
Adaptive Layer Normalization
Méthode de normalisation conditionnée par les embeddings de temps dans les architectures Diffusion-Transformer pour stabiliser l'entraînement.
Self-Attention Noise Prediction
Utilisation de l'auto-attention pour modéliser les dépendances à longue distance dans la prédiction du bruit lors du processus de diffusion.
Transformer Score Matching
Application des architectures Transformer pour estimer le gradient de la log-densité (score) dans les modèles de diffusion basés sur le score.
Multi-Scale Transformer Diffusion
Approche hiérarchique utilisant des Transformers à différentes échelles pour capturer à la fois les détails fins et la structure globale dans la génération.
Conditional Diffusion Transformer
Architecture intégrant des conditions (texte, images, classes) via des mécanismes d'attention dans le processus de diffusion Transformer.
Rotary Position Embedding in Diffusion
Technique d'encodage positionnel appliquée aux modèles de diffusion Transformer pour mieux capturer les relations spatiales dans les données structurées.
Diffusion-Guided Transformer
Modèle où le processus de diffusion guide l'attention du Transformer pour améliorer la cohérence et la qualité des générations structurées.
Sparse Transformer Diffusion
Variante utilisant des mécanismes d'attention creuse pour réduire la complexité computationnelle dans les modèles de diffusion haute résolution.
Transformer Latent Space Diffusion
Processus de diffusion appliqué dans l'espace latent appris par un auto-encodeur Transformer pour une génération efficace de données structurées.
Diffusion-Aware Self-Attention
Mécanisme d'auto-attention modifié pour tenir compte du niveau de bruit actuel dans le processus de diffusion itératif.
Hierarchical Transformer Diffusion
Architecture multi-niveaux où des Transformers génèrent progressivement des représentations de plus en plus raffinées via la diffusion.