Glosario IA
El diccionario completo de la Inteligencia Artificial
Atención por bloques
Enfoque que divide la secuencia en bloques y calcula la atención intra-bloques e inter-bloques de manera secuencial o jerárquica. Permite procesar secuencias muy largas intercambiando información entre bloques en lugar de entre tokens individuales.
Atención de patrón fijo
Esquema de atención dispersa donde las conexiones entre tokens siguen un patrón predeterminado y fijo, como patrones en bandas diagonales o en zigzag. Simplifica la implementación y garantiza una complejidad predecible mientras captura ciertas estructuras espaciales.
Atención con zancada
Variante de atención dispersa donde los tokens consultan otros tokens a intervalos regulares (zancadas), permitiendo capturar dependencias a diferentes escalas temporales o espaciales. Combina eficazmente la información local y global con una complejidad controlada.