AI 용어집
인공지능 완전 사전
162
카테고리
2,032
하위 카테고리
23,060
용어
용어
QKV Projection
Transformation linéaire appliquée aux embeddings d'entrée pour générer les tenseurs Query, Key et Value nécessaires au calcul de l'attention.
용어
Head Dimension
Dimension de chaque tête d'attention dans l'attention multi-tête, calculée comme le quotient de la dimension du modèle par le nombre de têtes.
용어
Relative Position Attention
Extension du mécanisme d'attention intégrant explicitement les distances relatives entre positions pour améliorer la modélisation des dépendances séquentielles.
용어
Attention Head Pruning
Technique d'optimisation éliminant les têtes d'attention redondantes ou peu importantes pour réduire la complexité computationnelle.
🔍