Glosario IA
El diccionario completo de la Inteligencia Artificial
231
categorías
2.999
subcategorías
35.535
términos
términos
ALiBi (Attention with Linear Biases)
Alternative au positional encoding utilisant des biais linéaires directement dans les scores d'attention pour représenter les distances entre tokens.
términos
Disentangled Attention
Mécanisme d'attention séparant explicitement les contributions de contenu et de position dans le calcul des scores d'attention.
términos
Multi-scale Positional Encoding
Approche combinant plusieurs échelles de représentation positionnelle pour capturer à la fois les structures locales et globales des séquences.
términos
Position Dropout
Technique de régularisation appliquée spécifiquement aux embeddings de position pour éviter la surdépendance du modèle aux informations positionnelles.
🔍