Cross-Attention

Key-Query-Value (KQV)

Triple de vectores proyectados desde la entrada de un mecanismo de atención, donde las claves y las consultas calculan los pesos de atención y los valores se agregan según estos pesos.

← Volver