एआई शब्दावली

📖

शब्द

Add & Norm Layer

Couche de normalisation résiduelle appliquée après le mécanisme d'attention, combinant la sortie de l'attention avec l'entrée d'origine (connexion résiduelle) avant de normaliser la somme.

📖

शब्द

Linear Projection in Attention

Transformation linéaire (multiplication par une matrice de poids) appliquée aux embeddings d'entrée pour générer les vecteurs de Query, Key et Value, permettant au modèle d'apprendre des espaces de représentation spécifiques à l'attention.