Glosario IA
El diccionario completo de la Inteligencia Artificial
Media de Campo Variacional
Hipótesis de factorización simplificadora en inferencia variacional, donde la distribución a posteriori se aproxima por un producto de distribuciones independientes para cada grupo de parámetros, facilitando la optimización.
Actualización Coordenada por Coordenada (CCVI)
Algoritmo de optimización iterativo para la inferencia variacional, que actualiza secuencialmente cada factor de la distribución aproximada manteniendo los demás fijos, hasta la convergencia.
Inferencia Variacional Estocástica (SVI)
Extensión de la inferencia variacional que utiliza mini-lotes de datos y estimaciones de gradiente estocástico para escalar a grandes conjuntos de datos, haciendo la optimización de la ELBO más eficiente.
Inferencia Amortizada (Amortized VI)
Enfoque donde los parámetros de la distribución variacional son predichos por una red de neuronas (un 'codificador') a partir de los datos de observación, evitando una optimización para cada nueva observación.
Posterior Variacional
Distribución de probabilidad elegida dentro de una familia parametrizada para aproximar la verdadera distribución a posteriori en el marco de la inferencia variacional, optimizada para minimizar la divergencia KL.
Factorización Variacional
Principio que consiste en imponer una estructura de dependencia simplificada (a menudo la independencia) a la distribución variacional para hacer los cálculos y la optimización tratables.
Optimización de la ELBO
Proceso central de la inferencia variacional que consiste en maximizar el Límite Inferior Evidencial (ELBO) mediante métodos de descenso de gradiente, lo que acerca la distribución variacional a la posterior.
Variacional de Monte-Carlo
Método de inferencia variacional que no impone una restricción de forma a la distribución aproximada, utilizando muestras de Monte-Carlo para estimar y optimizar la ELBO, ofreciendo mayor flexibilidad.
Divergencia Inversa de KL
Variante de la divergencia KL donde el orden de las distribuciones es inverso (KL(q||p) vs KL(p||q)), conduciendo a aproximaciones posteriores diferentes, a menudo más 'cubiertas' (zero-forcing) en inferencia variacional.
Inferencia Variacional Estructurada
Generalización del mean-field donde la distribución variacional está restringida por una estructura de grafo más compleja que la independencia completa, capturando ciertas dependencias para una mejor aproximación.
VI de Caja Negra
Enfoque de inferencia variacional que solo requiere la capacidad de muestrear desde el modelo y calcular la log-verosimilitud, utilizando gradientes de Monte-Carlo para optimizar el ELBO sin derivaciones analíticas.