Glosario IA
El diccionario completo de la Inteligencia Artificial
Descenso de gradiente funcional
Técnica de optimización que ajusta los parámetros del modelo en la dirección opuesta al gradiente de la función de pérdida en el espacio de funciones.
Máquinas de Potenciación de Gradiente (GBM)
Clase de algoritmos que implementan el método de potenciación de gradiente con diversas funciones de pérdida y weak learners.
Bagging vs Boosting
Distinción fundamental donde el bagging entrena modelos independientemente en paralelo mientras que el boosting los construye secuencialmente corrigiendo los errores.
Gradiente de función de pérdida
Derivada parcial de la función de pérdida con respecto a las predicciones, indicando la dirección de mayor mejora posible.
Regularización en GBM
Conjunto de técnicas (L1/L2, restricciones de árbol, shrinkage) que controlan la complejidad del modelo para prevenir el sobreajuste.
Método de Newton en GBM
Variante del potenciación de gradiente que utiliza la matriz hessiana (segunda derivada) para actualizaciones más óptimas de los parámetros.