एआई शब्दावली

📖

शब्द

Image Patches

Division d'une image en grilles régulières de petites sections carrées (typiquement 16x16 pixels) qui sont traitées comme des tokens séquentiels par le ViT.

📖

शब्द

Tokenization Visuelle

Processus de segmentation d'une image en séquence de tokens discrets, fondamental pour adapter l'architecture transformer conçue initialement pour le texte aux données visuelles.

📖

शब्द

DeiT (Data-efficient Image Transformer)

Variante de Vision Transformer entraînée avec des stratégies de distillation pour atteindre des performances compétitives avec moins de données d'entraînement.

📖

शब्द

Hierarchical Vision Transformers

Architectures transformer qui maintiennent des représentations multi-échelles de l'image, combinant les avantages des CNN traditionnels avec la flexibilité des transformers.

📖

शब्द

Layer Scaling

Technique de normalisation appliquée aux résidus dans les couches transformer pour stabiliser l'entraînement et améliorer la convergence des modèles profonds.

📖

शब्द

Cross-Attention Vision Transformer

Architecture utilisant des mécanismes d'attention croisée entre différentes modalités ou représentations, permettant des interactions plus riches entre features.

📖

शब्द

Window-based Self-Attention

Variante d'attention restreinte à des fenêtres locales而非 l'image complète, réduisant la complexité computationnelle tout en capturant les relations locales importantes.