Glosario IA
El diccionario completo de la Inteligencia Artificial
Mecanismo de Atención
Algoritmo que permite a los modelos ponderar la importancia de diferentes elementos en una secuencia.
Auto-atención Multi-Cabeza
Extensión del mecanismo de atención que permite capturar diferentes relaciones en paralelo
Codificación Posicional
Técnica para inyectar información de posición en los modelos no recurrentes.
Arquitectura Codificador-Decodificador
Estructura fundamental de los transformers con dos componentes para procesar las secuencias.
BERT et ses Variantes
Famille de modèles pré-entraînés bidirectionnels pour la compréhension du langage.
GPT y Modelos Generativos
Transformadores auto-regresivos optimizados para la generación de texto.
Fine-Tuning et Adaptation de Domaine
Processus d'adaptation des modèles pré-entraînés à des tâches ou domaines spécifiques.
Tokenization Subword
Techniques de segmentation du texte en unités significatives pour les transformers.
Transformadores de Visión
Aplicación de la arquitectura transformer a las tareas de procesamiento de imágenes.
Transformers para Secuencias Largas
Arquitecturas optimizadas para gestionar secuencias que superan los límites estándar.
Destilación de Modelos
Compresión de grandes transformers en modelos más pequeños y eficientes.
Prompt Engineering et In-Context Learning
Techniques d'interaction avec les grands modèles sans fine-tuning explicite.
Transformers Multimodaux
Architectures combinant texte, images et autres modalités dans un unifié.
Optimisation et Scalabilité
Techniques pour entraîner efficacement des transformers à grande échelle.
Benchmarks y Evaluación
Métricas y datasets estándar para evaluar el rendimiento de los transformers.