Glossário IA
O dicionário completo da Inteligência Artificial
Campo Médio Variacional
Hipótese de fatoração simplificadora na inferência variacional, onde a distribuição posterior é aproximada por um produto de distribuições independentes para cada grupo de parâmetros, facilitando a otimização.
Atualização Coordenada por Coordenada (CCVI)
Algoritmo de otimização iterativo para inferência variacional, que atualiza sequencialmente cada fator da distribuição aproximada enquanto mantém os outros fixos, até a convergência.
Inferência Variacional Estocástica (SVI)
Extensão da inferência variacional que utiliza mini-lotes de dados e estimativas de gradiente estocástico para escalar para grandes conjuntos de dados, tornando a otimização do ELBO mais eficiente.
Inferência Variacional Amortizada
Abordagem onde os parâmetros da distribuição variacional são previstos por uma rede neural (um 'encoder') a partir dos dados de observação, evitando uma otimização para cada nova observação.
Posterior Variacional
Distribuição de probabilidade escolhida em uma família parametrizada para aproximar a verdadeira distribuição posterior no contexto da inferência variacional, otimizada para minimizar a divergência KL.
Fatoração Variacional
Princípio que consiste em impor uma estrutura de dependência simplificada (muitas vezes a independência) à distribuição variacional para tornar os cálculos e a otimização tratáveis.
Otimização do ELBO
Processo central da inferência variacional que consiste em maximizar o Limite Inferior da Evidência (ELBO) através de métodos de descida de gradiente, o que aproxima a distribuição variacional da posterior.
Variacional de Monte Carlo
Método de inferência variacional que não impõe restrições de forma à distribuição aproximada, utilizando amostras de Monte Carlo para estimar e otimizar o ELBO, oferecendo mais flexibilidade.
Divergência KL Inversa
Variante da divergência KL onde a ordem das distribuições é invertida (KL(q||p) vs KL(p||q)), levando a diferentes aproximações posteriores, frequentemente mais 'abrangentes' (zero-forcing) em inferência variacional.
Inferência Variacional Estruturada
Generalização do campo médio onde a distribuição variacional é restringida por uma estrutura de grafo mais complexa do que a independência completa, capturando certas dependências para uma melhor aproximação.
VI de Caixa Preta
Abordagem de inferência variacional que requer apenas a capacidade de amostrar do modelo e calcular a log-verossimilhança, utilizando gradientes de Monte-Carlo para otimizar o ELBO sem derivações analíticas.