Glosario IA
El diccionario completo de la Inteligencia Artificial
Diferenciación Automática
Técnica algorítmica para calcular eficientemente las derivadas de funciones definidas por programas informáticos, basada en la regla de la cadena de diferenciación y el grafo computacional de las operaciones.
Grafo Computacional
Estructura de datos que representa las dependencias entre las operaciones matemáticas en un modelo, permitiendo la propagación hacia adelante y el cálculo automático de gradientes mediante retropropagación.
Técnicas de Reducción de Varianza
Métodos como SVRG (Stochastic Variance Reduced Gradient) o SAGA que reducen la varianza de las estimaciones de gradiente para acelerar la convergencia manteniendo la eficiencia computacional.
Métodos Estocásticos de Newton
Algoritmos de optimización de segundo orden que adaptan el método de Newton al marco estocástico, utilizando aproximaciones de la matriz Hessiana para direcciones de descenso más informativas.
Productos Hessiano-vector
Cálculo eficiente del producto entre la matriz Hessiana y un vector sin explicitar la Hessiana completa, esencial para los métodos de optimización de segundo orden a gran escala.