Glossário IA
O dicionário completo da Inteligência Artificial
Modelagem Generativa
Capacidade de uma DBN de aprender a distribuição de probabilidade subjacente dos dados de treinamento, permitindo-lhe gerar novas instâncias de dados plausíveis que nunca foram observadas.
Divergência Contrastiva (CD)
Algoritmo de aproximação do gradiente da log-verossimilhança para o treinamento de RBMs, que utiliza uma cadeia de Markov curta (muitas vezes de um único passo) para estimar as expectativas do modelo.
Fine-Tuning (Ajuste Fino)
Fase de treinamento supervisionado opcional que segue o pré-treinamento não supervisionado de uma DBN, onde os pesos são ajustados globalmente para otimizar uma tarefa específica como a classificação.
Cadeia de Markov Persistente (PCD)
Melhoria da Divergência Contrastiva onde o estado da cadeia de Markov utilizada para a amostragem não é reinicializado entre as atualizações de peso, acelerando a convergência e melhorando a qualidade do modelo generativo.
Colapso de Modo (Mode Collapse)
Fenômeno em modelos generativos, incluindo DBNs, onde o modelo aprende a gerar apenas um subconjunto limitado dos modos da distribuição real dos dados, produzindo amostras que carecem de diversidade.
Pré-treinamento Greedy em Camadas
Estratégia de treinamento para DBNs onde cada RBM é treinado sequencialmente, utilizando a saída da camada oculta anterior como entrada para a próxima, simplificando a otimização global do modelo profundo.
Amostragem a partir da Distribuição Aprendida
Processo de geração de novos dados por uma DBN, inicializando as unidades visíveis aleatoriamente e executando uma amostragem de Gibbs alternada nas camadas até a convergência, produzindo uma amostra da distribuição modelada.
Função de Partição (Z)
Constante de normalização na função de probabilidade de uma DBN, obtida somando a exponencial da energia negativa sobre todas as configurações possíveis, cujo cálculo exato é a principal dificuldade de treinamento.