AI Glossary
The complete dictionary of Artificial Intelligence
Échantillonnage de Metropolis-Hastings
Algorithme MCMC qui génère des échantillons à partir d'une distribution de probabilité en construisant une chaîne de Markov dont la distribution stationnaire est la distribution cible. Utilise un rapport d'acceptation pour décider si un nouvel échantillon est accepté ou rejeté.
Méthode de rejet
Technique d'échantillonnage où les points sont tirés d'une distribution de proposition et acceptés avec une probabilité proportionnelle au rapport entre la densité cible et la densité de proposition. Particulièrement efficace pour échantillonner des distributions complexes.
Algorithme de Robbins-Monro
Méthode d'approximation stochastique pour trouver les racines d'équations lorsque seul le bruit sur les observations est disponible. Converge vers la solution avec un pas adaptatif décroissant garantissant la convergence presque sûre.
Méthodes de quasi-Monte Carlo
Variantes déterministes des méthodes Monte Carlo utilisant des séquences à faible discrépance au lieu de nombres aléatoires purs. Offrent une convergence plus rapide en dimension modérée tout en préservant les propriétés d'uniformité.
Processus de Poisson
Processus stochastique de comptage modélisant l'occurrence d'événements rares indépendants avec un taux constant. Fondamental dans la simulation de phénomènes d'arrivée et en optimisation stochastique.
Optimisation stochastique par gradient
Méthode d'optimisation itérative utilisant des estimations bruitées du gradient pour progresser vers l'optimum. Particulièrement adaptée aux problèmes grande dimension où le calcul du gradient exact est coûteux.
Variance réduite
Ensemble de techniques visant à diminuer la variance des estimateurs Monte Carlo sans augmenter le nombre d'échantillons. Comprend l'échantillonnage antithétique, le contrôle et la stratification pour améliorer l'efficacité computationnelle.
Méthode de l'antithétique
Technique de réduction de variance utilisant des paires d'échantillons négativement corrélés pour annuler partiellement les variations. Particulièrement efficace pour les fonctions monotones et les intégrales symétriques.
Échantillonnage résiduel
Méthode d'échantillonnage pondéré garantissant une cardinalité exacte des échantillons tout en préservant les poids d'importance. Combine échantillonnage systématique et allocation résiduelle pour une variance minimale.
Méthode de Nelder-Mead stochastique
Adaptation stochastique de l'algorithme simplex de Nelder-Mead incorporant des perturbations aléatoires pour échapper aux minima locaux. Combine l'efficacité du simplex avec la robustesse de l'exploration aléatoire.
Algorithme génétique stochastique
Méthode d'optimisation évolutionnaire utilisant des opérateurs génétiques probabilistes (sélection, croisement, mutation) pour explorer l'espace de recherche. La sélection stochastique maintient la diversité génétique et évite la convergence prématurée.