Glosario IA
El diccionario completo de la Inteligencia Artificial
Codificación Posicional Sinusoidal
Método original de codificación posicional que utiliza funciones sinusoidales de diferentes frecuencias para generar vectores de posición únicos y continuos.
Codificación Posicional Aprendida
Enfoque en el cual los vectores de posición son parámetros entrenados del modelo, permitiendo que la red aprenda las representaciones posicionales óptimas para la tarea.
Codificación Posicional Relativa
Variante de codificación que se centra en las distancias relativas entre los tokens en lugar de sus posiciones absolutas en la secuencia.
Sesgo Posicional
Técnica de codificación posicional donde la información de posición se añade como un sesgo en las puntuaciones de atención en lugar de en los embeddings de entrada.
Codificación Alibi (Atención con Sesgos Lineales)
Método de codificación posicional que penaliza la atención según la distancia entre los tokens, permitiendo una mejor extrapolación a secuencias más largas.
Codificación Posicional Rotacional (RoPE)
Técnica que integra la información posicional rotando los vectores de embedding en el espacio, preservando las relaciones geométricas entre los tokens.
Codificación Posicional Convolucional
Enfoque que utiliza capas convolucionales para generar representaciones posicionales, capturando patrones locales y globales en las secuencias.
Posicionamiento Absoluto
Estrategia de codificación en la cual cada token recibe un identificador de posición único basado en su índice absoluto en la secuencia.
Posicionamiento Relativo
Estrategia en la cual la atención entre los tokens depende de su distancia relativa en lugar de sus posiciones absolutas en la secuencia.
Codificación Posicional Jerárquica
Método que codifica la posición en múltiples niveles de granularidad, capturando tanto las posiciones locales como globales dentro de la estructura de la secuencia.
Incrustaciones de Posición
Vectores densos que representan la posición de cada token en una secuencia, añadidos a las incrustaciones de contenido para formar las entradas del Transformador.
Matriz de Posicionamiento
Estructura matemática que contiene las codificaciones posicionales para todas las posiciones posibles en una secuencia de longitud máxima.
Codificación Posicional Axial
Técnica de codificación posicional para datos 2D (como imágenes) que codifica por separado las posiciones en los ejes horizontal y vertical.
Codificación Posicional mediante Tensor
Método avanzado que utiliza productos tensoriales para capturar interacciones complejas entre diferentes dimensiones posicionales en las secuencias.
Posicionamiento por Periodicidad
Enfoque de codificación que utiliza patrones periódicos para representar las posiciones, particularmente eficaz para secuencias con estructuras repetitivas.
Codificación Posicional Adaptativa
Técnica en la cual las codificaciones posicionales se adaptan dinámicamente según el contenido y la longitud de la secuencia procesada.
Posicionamiento por Interpolación
Método que permite extender los codificadores posicionales a longitudes de secuencia no vistas durante el entrenamiento mediante interpolación de posiciones existentes.
Codificación Posicional Continua
Enfoque que trata la posición como una variable continua en lugar de discreta, permitiendo una representación más precisa de las posiciones intermedias.
Posicionamiento por Atención Relativa
Variante en la cual las puntuaciones de atención se modifican directamente por las distancias relativas entre los tokens, integrando el posicionamiento dentro del mecanismo de atención.