Glossaire IA
Le dictionnaire complet de l'Intelligence Artificielle
MCMC (Markov Chain Monte Carlo)
Classe d'algorithmes d'échantillonnage qui construisent une chaîne de Markov ayant la distribution postérieure comme distribution stationnaire pour effectuer une inférence approximative dans les modèles graphiques complexes.
Algorithme de Metropolis-Hastings
Algorithme MCMC général qui utilise une distribution propositionnelle pour générer de nouveaux états et accepte/rejette ces propositions selon un critère de probabilité garantissant la convergence vers la distribution cible.
Burn-in
Période initiale d'échantillonnage MCMC pendant laquelle les échantillons sont ignorés car la chaîne n'a pas encore atteint sa distribution stationnaire, éliminant l'influence de l'état initial.
Temps de mélange
Nombre d'itérations nécessaires pour qu'une chaîne de Markov s'approche suffisamment de sa distribution stationnaire, mesurant la rapidité de convergence des algorithmes MCMC.
Échantillonnage par rejet
Technique d'échantillonnage direct qui génère des candidats depuis une distribution enveloppe et les accepte avec une probabilité proportionnelle au ratio des densités cible/enveloppe.
Échantillonnage d'importance
Méthode Monte Carlo utilisant des poids d'importance pour corriger le biais introduit par l'échantillonnage depuis une distribution propositionnelle différente de la distribution cible.
Monte Carlo séquentiel
Ensemble d'algorithmes (filtres à particules) pour l'inférence dans les modèles séquentiels, utilisant des ensembles de particules pondérées pour approximer les distributions séquentielles.
Hamiltonian Monte Carlo
Variante MCMC avancée utilisant la mécanique hamiltonienne pour proposer des états lointains avec haute probabilité d'acceptation, réduisant l'autocorrélation des échantillons.
Diagnostic de Gelman-Rubin
Méthode statistique évaluant la convergence des chaînes MCMC en comparant la variance intra-chaîne et inter-chaîne, avec une valeur proche de 1 indiquant la convergence.
Amincissement (Thinning)
Technique consistant à ne conserver qu'un sous-ensemble des échantillons MCMC pour réduire l'autocorrélation et le stockage, typiquement en gardant chaque k-ième échantillon.
Inférence par évidence approximative
Méthodes d'estimation de la vraisemblance marginale (evidence) dans les modèles graphiques, essentielles pour la sélection de modèles et le calcul bayésien.
Échantillonnage de tranche
Technique MCMC introduisant des variables auxiliaires pour simplifier l'échantillonnage de distributions complexes, particulièrement utile pour les distributions multimodales.
Variante de Blackwell-MacQueen
Algorithme d'échantillonnage séquentiel pour les processus de Dirichlet, générant des échantillons selon la distribution prédictive de Blackwell-MacQueen.
Échantillonnage antithétique
Technique de réduction de variance utilisant des paires d'échantillons négativement corrélés pour améliorer l'efficacité de l'estimation Monte Carlo.