Glossario IA
Il dizionario completo dell'Intelligenza Artificiale
Energy-Based Models (EBM)
Framework génératif définissant une distribution de probabilité via une fonction d'énergie où les configurations de faible énergie ont une probabilité élevée.
Boltzmann Machine
Réseau de neurones stochastique où les unités binaires suivent une distribution de Boltzmann, utilisant l'énergie pour modéliser les dépendances entre variables.
Restricted Boltzmann Machine (RBM)
Variante de la machine de Boltzmann avec une architecture bipartite où aucune connexion n'existe entre les neurones de la même couche.
Energy Function
Fonction scalaire assignant une valeur d'énergie à chaque configuration des données, utilisée pour définir la probabilité via la distribution de Boltzmann.
Partition Function
Constante de normalisation Z assurant que la somme des probabilités égale 1 dans les modèles basés sur l'énergie, souvent incalculable analytiquement.
Contrastive Divergence
Algorithme d'approximation pour l'entraînement des modèles à base d'énergie, évitant le calcul coûteux du gradient de log-vraisemblance exact.
Langevin Dynamics
Processus stochastique d'échantillonnage utilisant le gradient de l'énergie pour générer des échantillons selon la distribution du modèle.
Denoising Score Matching
Extension du score matching où le modèle apprend à débruiter les données en estimant le score de la distribution de données bruitées.
Noise-Contrastive Estimation (NCE)
Méthode d'estimation transformant le problème de densité en classification binaire entre données réelles et échantillons de bruit.
Energy Landscape
Représentation multidimensionnelle de la fonction d'énergie montrant les bassins d'attraction correspondant aux modes de la distribution de données.
Gibbs Sampling
Algorithme MCMC échantillonnant séquentiellement chaque variable conditionnellement aux autres pour approximer la distribution d'équilibre.
Free Energy
Approximation calculable de la log-vraisemblance négative utilisée dans l'entraînement des RBMs et autres modèles à base d'énergie.
Deep Boltzmann Machines
Extension des RBMs avec plusieurs couches cachées permettant de modéliser des structures de données plus complexes.
Implicit Models
Modèles génératifs définissant implicitement une distribution de probabilité sans forme analytique explicite, comme les EBMs.
Potential Function
Synonyme de fonction d'énergie dans le contexte des champs markoviens, définissant les interactions locales entre variables.
Thermodynamic Interpretation
Analogie entre les modèles à base d'énergie et les systèmes physiques où les données correspondent à des états microscopiques.
Equilibrium Distribution
Distribution stationnaire atteinte par les processus MCMC après convergence, correspondant à la distribution définie par le modèle.