Chaîne de Markov Monte Carlo (MCMC)
1953
- Nicholas Metropolis
- Arianna W. Rosenbluth
- Marshall N. Rosenbluth
- Augusta H. Teller
- Edward Teller
- W. Keith Hastings
Chaîne de Markov Monte Carlo Les méthodes MCMC (chaînes de Markov à chaînes de Markov) constituent une classe d'algorithmes d'échantillonnage d'une distribution de probabilité. Une chaîne de Markov est construite, dont la distribution d'équilibre (ou stationnaire) correspond à la distribution souhaitée. L'état de la chaîne après un grand nombre d'itérations est ensuite utilisé comme échantillon de la distribution souhaitée, permettant ainsi le calcul d'intégrales et d'espérances.
Les méthodes MCMC sont essentielles lorsque l'échantillonnage direct d'une distribution de probabilité complexe et de grande dimension [latex]P(x)[/latex] est impossible. Au lieu de générer des échantillons indépendants, les méthodes MCMC génèrent une séquence d'échantillons corrélés formant une chaîne de Markov. Une chaîne de Markov est un processus stochastique où la probabilité de transition vers l'état suivant dépend uniquement de l'état actuel, et non de la séquence d'événements précédents. L'enjeu principal est de concevoir les probabilités de transition de la chaîne de sorte que sa distribution stationnaire corresponde à la distribution cible [latex]P(x)[/latex].
The process starts at an arbitrary state [latex]x_0[/latex]. At each step [latex]t[/latex], a new state [latex]x_{t+1}[/latex] is generated based on the current state [latex]x_t[/latex] using a specific algorithm (like Metropolis-Hastings). After an initial “burn-in” period, during which the chain converges from its starting point to the high-probability regions of the target distribution, the subsequent states [latex]x_t, x_{t+1}, …[/latex] can be considered as (correlated) samples from [latex]P(x)[/latex]. These samples can then be used to estimate expectations of functions [latex]f(x)[/latex] with respect to [latex]P(x)[/latex] by averaging [latex]f(x_t)[/latex] over the samples. This is particularly useful in Bayesian inference, where [latex]P(x)[/latex] is a posterior distribution of model parameters, and direct calculation is often impossible due to a complex denominator (the evidence or marginal likelihood).
De plus: MCMC differs from the basic Monte Carlo method in how it generates samples to estimate a desired distribution or integral. While Monte Carlo methods rely on drawing independent and identically distributed random samples directly from a target distribution or a proposal distribution, MCMC generates samples through a correlated sequence (a Markov chain) where each sample depends on the previous one. This dependency allows MCMC to efficiently explore complex, high-dimensional distributions that are difficult to sample from directly, by constructing a chain that converges to the target distribution over time. In contrast, traditional Monte Carlo methods may struggle with such problems due to inefficiencies in sampling or requiring explicit knowledge of the distribution’s form. Thus, MCMC extends Monte Carlo by harnessing dependence between samples to facilitate sampling in challenging statistical and computational settings.
UNESCO Nomenclature: 1209
- Statistiques
Taper
Logiciel/Algorithme
Perturbation
Incrémentale
Usage
Utilisation généralisée
Précurseurs
- théorie des chaînes de Markov (Andrey Markov)
- fondements des statistiques bayésiennes (Thomas Bayes, Pierre-Simon Laplace)
- méthode originale de Monte Carlo (Ulam, Von Neumann)
- théorie ergodique
Applications
- statistiques bayésiennes pour l'estimation des paramètres
- biologie computationnelle pour l'inférence d'arbres phylogénétiques
- apprentissage automatique pour l'entraînement de modèles probabilistes
- physique computationnelle pour la simulation des systèmes moléculaires
- économétrie pour la modélisation de données financières complexes
Idées d'innovations potentielles
En raison du trafic généré par les robots de scraping, actuellement supérieur à 40 000 par jour, ce contenu est réservé aux membres de la communauté.
> Connexion < ou > Registre < (100% gratuit) pour y accéder, ainsi qu'à tous les autres contenus et outils à accès restreint.
En lien avec : MCMC, chaîne de Markov, inférence bayésienne, statistiques, échantillonnage, distribution stationnaire, Metropolis-Hastings, échantillonnage de Gibbs, statistiques computationnelles, distribution a posteriori.