Glosario IA
El diccionario completo de la Inteligencia Artificial
Regularización L1
Técnica de regularización que añade una penalización igual al valor absoluto de los coeficientes del modelo, favoreciendo la dispersión y eliminando automáticamente las características no relevantes.
Regularización L2
Método de penalización que añade un término proporcional al cuadrado de los coeficientes, reduciendo su magnitud sin anularlos completamente para contrarrestar el sobreajuste.
Elastic Net
Combinación lineal de las regularizaciones L1 y L2 que hereda las propiedades de selección de variables de Lasso y la estabilidad de Ridge, siendo particularmente eficaz en presencia de características correlacionadas.
Hiperparámetro lambda
Parámetro de regularización que controla la intensidad de la penalización aplicada a los coeficientes, donde lambda=0 corresponde a la ausencia de regularización y lambda elevado aumenta la restricción.
Norma L1
Norma vectorial calculada como la suma de los valores absolutos de las componentes, utilizada como término de penalización en la regularización L1 para inducir la dispersión.
Norma L2
Norma euclidiana calculada como la raíz cuadrada de la suma de los cuadrados de las componentes, empleada en la regularización L2 para penalizar los grandes coeficientes.
Encogimiento (Shrinkage)
Proceso de reducción sistemática de la magnitud de los coeficientes del modelo hacia cero para disminuir la complejidad y mejorar la generalización.
Dilema sesgo-varianza
Compromiso fundamental en aprendizaje automático entre la reducción del sesgo (error sistemático) y la reducción de la varianza (sensibilidad a las fluctuaciones de los datos).
Coeficiente alfa
Parámetro de mezcla en Elastic Net que varía entre 0 (regularización L2 pura) y 1 (regularización L1 pura) para ajustar la proporción relativa de las dos penalizaciones.
Ruta de regularización
Trajectoria de las soluciones del modelo cuando el parámetro de regularización varía, permitiendo analizar la evolución de los coeficientes y su selección progresiva.
Vector de pesos
Conjunto de coeficientes multiplicativos aplicados a las características en un modelo lineal, cuya magnitud es controlada por las técnicas de regularización.
Penalización de grupo
Extensión de la regularización L1/L2 que penaliza grupos de coeficientes simultáneamente, útil para gestionar variables categóricas o estructuradas.
Regularización adaptativa
Variante de la regularización donde cada coeficiente recibe una penalización individualizada basada en estimaciones preliminares, permitiendo una selección más fina de las variables.
Criterio de información
Métricas como AIC o BIC que equilibran el ajuste del modelo y su complejidad, a menudo utilizadas para seleccionar el parámetro de regularización óptimo.
Descenso de gradiente regularizado
Algoritmo de optimización que incorpora los términos de penalización L1/L2 directamente en la función objetivo para entrenar modelos regularizados eficientemente.
Descenso de coordenadas
Método de optimización particularmente eficiente para la regularización L1 que actualiza los coeficientes uno por uno de manera analítica.