Cadeia de Markov Monte Carlo (MCMC)
1953
- Nicholas Metropolis
- Arianna W. Rosenbluth
- Marshall N. Rosenbluth
- Augusta H. Teller
- Edward Teller
- W. Keith Hastings
Cadeia de Markov Monte Carlo Os métodos de Cadeia de Markov Monte Carlo (MCMC) são uma classe de algoritmos para amostragem de uma distribuição de probabilidade. Uma cadeia de Markov é construída tendo a distribuição desejada como sua distribuição de equilíbrio ou estacionária. O estado da cadeia após um grande número de passos é então usado como uma amostra da distribuição desejada, permitindo o cálculo de integrais e esperanças.
Os métodos MCMC são essenciais quando a amostragem direta de uma distribuição de probabilidade complexa e de alta dimensão [latex]P(x)[/latex] é inviável. Em vez de gerar amostras independentes, o MCMC gera uma sequência de amostras correlacionadas que formam uma cadeia de Markov. Uma cadeia de Markov é um processo estocástico onde a probabilidade de transição para o próximo estado depende apenas do estado atual, e não da sequência de eventos que o precederam. A chave é projetar as probabilidades de transição da cadeia de forma que sua distribuição estacionária seja a distribuição alvo [latex]P(x)[/latex].
The process starts at an arbitrary state [latex]x_0[/latex]. At each step [latex]t[/latex], a new state [latex]x_{t+1}[/latex] is generated based on the current state [latex]x_t[/latex] using a specific algorithm (like Metropolis-Hastings). After an initial “burn-in” period, during which the chain converges from its starting point to the high-probability regions of the target distribution, the subsequent states [latex]x_t, x_{t+1}, …[/latex] can be considered as (correlated) samples from [latex]P(x)[/latex]. These samples can then be used to estimate expectations of functions [latex]f(x)[/latex] with respect to [latex]P(x)[/latex] by averaging [latex]f(x_t)[/latex] over the samples. This is particularly useful in Bayesian inference, where [latex]P(x)[/latex] is a posterior distribution of model parameters, and direct calculation is often impossible due to a complex denominator (the evidence or marginal likelihood).
Além disso: MCMC differs from the basic Monte Carlo method in how it generates samples to estimate a desired distribution or integral. While Monte Carlo methods rely on drawing independent and identically distributed random samples directly from a target distribution or a proposal distribution, MCMC generates samples through a correlated sequence (a Markov chain) where each sample depends on the previous one. This dependency allows MCMC to efficiently explore complex, high-dimensional distributions that are difficult to sample from directly, by constructing a chain that converges to the target distribution over time. In contrast, traditional Monte Carlo methods may struggle with such problems due to inefficiencies in sampling or requiring explicit knowledge of the distribution’s form. Thus, MCMC extends Monte Carlo by harnessing dependence between samples to facilitate sampling in challenging statistical and computational settings.
UNESCO Nomenclature: 1209
Estatísticas
Precursores
- Teoria das cadeias de Markov (Andrey Markov)
- foundations of Bayesian statistics (Thomas Bayes, Pierre-Simon Laplace)
- método Monte Carlo original (Ulam, Von Neumann)
- Teoria ergódica
Aplicações
- Estatísticas Bayesianas para Estimação de Parâmetros
- Biologia computacional para inferência de árvores filogenéticas
- aprendizado de máquina para treinamento de modelos probabilísticos
- física computacional para simulação de sistemas moleculares
- Econometria para modelagem de dados financeiros complexos
Ideias de Inovação Potencial
Devido ao tráfego de bots de coleta de dados, atualmente superior a 40 mil por dia, este conteúdo é reservado aos membros da comunidade.
> Login < ou > Registrar < (100% gratuito) para acessar isso, assim como todo o restante do conteúdo e das ferramentas restritas.
Relacionado a: MCMC, cadeia de Markov, inferência Bayesiana, estatística, amostragem, distribuição estacionária, Metropolis-Hastings, amostragem de Gibbs, estatística computacional, distribuição posterior.