Glossário IA
O dicionário completo da Inteligência Artificial
Restrição de Esparsidade
Penalidade adicionada à função de perda de um autoencoder para limitar o número de unidades ativas simultaneamente na camada oculta, promovendo assim representações esparsas e eficientes.
Esparsidade por Divergência KL
Método de restrição de esparsidade utilizando a divergência de Kullback-Leibler entre a distribuição de ativação média e uma distribuição alvo esparsa, tipicamente de Bernoulli.
Regularização de Atividade
Processo de penalização direta das ativações dos neurônios durante o treinamento para controlar seu nível de atividade médio e impor uma estrutura esparsa ao modelo.
Parâmetro de Esparsidade
Hiperparâmetro ρ que define a densidade alvo de ativação desejada para cada neurônio oculto, tipicamente fixada em um valor baixo como 0.05 para impor forte esparsidade.
Autoencoder Esparso Denoising
Variante de autoencoder esparso que reconstrói a entrada original a partir de uma versão corrompida por ruído, combinando robustez e esparsidade para melhores representações.
Esparsidade da Camada Oculta
Propriedade de uma camada oculta onde apenas uma pequena fração dos neurônios é ativada para qualquer entrada dada, promovendo representações distribuídas mas esparsas.
Ativação ReLU para Esparsidade
Utilização da função de ativação ReLU que naturalmente induz esparsidade pela saturação dos valores negativos a zero, complementando as restrições de regularização explícitas.
Gargalo Esparso
Camada de compressão de um autoencoder onde a esparsidade é aplicada para criar um gargalo informacional, preservando as características mais discriminantes.
Características Interpretáveis
Características aprendidas por um autoencoder esparso que correspondem a padrões discerníveis e significativos nos dados originais graças à restrição de parcimônia.
Eficiência de Compressão
Medida de desempenho que quantifica a razão entre o número de bits necessários para armazenar a representação esparsa e o da entrada original.
Seletividade de Características
Capacidade dos neurônios em um autoencoder esparso de responder seletivamente a padrões específicos nos dados, resultante da restrição de parcimônia.
Esparsidade Populacional
Tipo de parcimônia onde apenas uma pequena fração da população total de neurônios está ativa para uma dada entrada, ao contrário da parcimônia temporal.
Perda de Reconstrução com Esparsidade
Função objetivo que combina o erro de reconstrução padrão com um termo de penalidade de parcimônia para equilibrar a fidelidade de reconstrução e a parcimônia da representação.