Thuật ngữ AI
Từ điển đầy đủ về Trí tuệ nhân tạo
162
danh mục
2.032
danh mục con
23.060
thuật ngữ
thuật ngữ
Rotary Position Embedding
Technique d'encodage positionnel appliquant une rotation complexe aux embeddings en fonction de leur position relative. Conserve les propriétés d'invariance absolue tout en encodant efficacement les relations positionnelles.
thuật ngữ
Alibi Position Encoding
Méthode d'encodage positionnel ajoutant des biais linéaires aux scores d'attention en fonction de la distance entre tokens. Permet une meilleure extrapolation à des séquences plus longues sans réentraînement.
thuật ngữ
Attention Projection Matrices
Matrices de poids apprenables Wq, Wk, Wv et Wo transformant les embeddings en queries, keys, values et fusionnant les sorties multi-head. Ces projections linéaires sont les paramètres principaux du mécanisme d'attention.
🔍