Glossario IA
Il dizionario completo dell'Intelligenza Artificiale
Échantillonneur de Gibbs
Cas particulier de Metropolis-Hastings où chaque nouvelle valeur est échantillonnée à partir de la distribution conditionnelle complète d'une variable, étant donné les valeurs actuelles de toutes les autres variables.
Mélange (Burn-in)
Phase initiale d'une simulation MCMC où les échantillons sont ignorés pour permettre à la chaîne d'atteindre sa distribution stationnaire et s'affranchir de son point de départ.
Hamiltonian Monte Carlo (HMC)
Algorithme MCMC avancé utilisant la mécanique hamiltonienne pour proposer des sauts éloignés avec un taux d'acceptation élevé, réduisant l'autocorrélation par rapport aux méthodes de marche aléatoire.
Marche Aléatoire (Random Walk)
Stratégie de proposition dans Metropolis-Hastings où le nouvel état est l'état actuel plus une perturbation aléatoire, souvent inefficace pour des distributions de grande dimension.
Convergence Diagnostique
Ensemble de techniques statistiques et visuelles (ex: $ar{R}$ de Gelman-Rubin, tracés des trajectoires) pour évaluer si une ou plusieurs chaînes MCMC ont atteint leur distribution stationnaire.
Taille Effective d'Échantillon (ESS)
Nombre d'échantillons indépendants équivalents dans une chaîne MCMC autocorrélée, calculé en divisant le nombre total d'itérations par un facteur d'autocorrélation.
Distribution Proposée
Distribution conditionnelle $q(x'|x)$ utilisée pour générer un candidat à partir de l'état actuel $x$ dans les algorithmes Metropolis-Hastings, dont le choix influence l'efficacité de l'exploration.
Critère d'Acceptation
Règle probabiliste dans Metropolis-Hastings pour décider d'accepter ou de rejeter un état proposé, basée sur le rapport des densités de la distribution cible et de la proposition.
Aperiodicité
Propriété d'une chaîne de Markov garantissant qu'elle ne se retrouve pas piégée dans des cycles déterministes, condition nécessaire pour garantir la convergence vers une distribution stationnaire unique.
Irréductibilité
Propriété d'une chaîne de Markov assurant que tout état de l'espace peut être atteint depuis n'importe quel autre état avec une probabilité non nulle en un nombre fini d'étapes.
Thinning (Amincissement)
Technique post-simulation consistant à ne conserver qu'un échantillon sur $k$ pour réduire l'autocorrélation et la charge de stockage, bien que son utilité soit souvent débattue.
Échantillonnage par Tranchage (Slice Sampling)
Méthode MCMC qui échantillonne à partir de la distribution cible en introduisant une variable auxiliaire (la 'tranche') et en explorant uniformément le sous-espace défini par cette tranche.
Temps d'Intégration
Dans l'HMC, paramètre contrôlant la durée de la simulation du système hamiltonien avant une proposition de Metropolis, influençant la distance parcourue dans l'espace des paramètres.
Masse Matricielle
Dans l'HMC, matrice définissant la métrique de l'espace cinétique, dont le réglage (souvent à la diagonale de la matrice de covariance a posteriori) est crucial pour l'efficacité de l'algorithme.
Échantillonnage d'Ensemble
Famille d'algorithmes MCMC (ex: Affine Invariant) utilisant plusieurs marcheurs en parallèle pour explorer l'espace, améliorant les performances sur les distributions multimodales ou fortement corrélées.