Product Design, Manufacturing & Innovation Resources
Lar » Cadeia de Markov Monte Carlo (MCMC)

Cadeia de Markov Monte Carlo (MCMC)

1953
  • Nicholas Metropolis
  • Arianna W. Rosenbluth
  • Marshall N. Rosenbluth
  • Augusta H. Teller
  • Edward Teller
  • W. Keith Hastings
Researcher analyzing Markov Chain Monte Carlo simulations in a statistical analysis office.

(Imagem gerada apenas para fins ilustrativos)

Cadeia de Markov Monte Carlo Os métodos de Cadeia de Markov Monte Carlo (MCMC) são uma classe de algoritmos para amostragem de uma distribuição de probabilidade. Uma cadeia de Markov é construída tendo a distribuição desejada como sua distribuição de equilíbrio ou estacionária. O estado da cadeia após um grande número de passos é então usado como uma amostra da distribuição desejada, permitindo o cálculo de integrais e esperanças.

Os métodos MCMC são essenciais quando a amostragem direta de uma distribuição de probabilidade complexa e de alta dimensão [latex]P(x)[/latex] é inviável. Em vez de gerar amostras independentes, o MCMC gera uma sequência de amostras correlacionadas que formam uma cadeia de Markov. Uma cadeia de Markov é um processo estocástico onde a probabilidade de transição para o próximo estado depende apenas do estado atual, e não da sequência de eventos que o precederam. A chave é projetar as probabilidades de transição da cadeia de forma que sua distribuição estacionária seja a distribuição alvo [latex]P(x)[/latex].

The process starts at an arbitrary state [latex]x_0[/latex]. At each step [latex]t[/latex], a new state [latex]x_{t+1}[/latex] is generated based on the current state [latex]x_t[/latex] using a specific algorithm (like Metropolis-Hastings). After an initial “burn-in” period, during which the chain converges from its starting point to the high-probability regions of the target distribution, the subsequent states [latex]x_t, x_{t+1}, …[/latex] can be considered as (correlated) samples from [latex]P(x)[/latex]. These samples can then be used to estimate expectations of functions [latex]f(x)[/latex] with respect to [latex]P(x)[/latex] by averaging [latex]f(x_t)[/latex] over the samples. This is particularly useful in Bayesian inference, where [latex]P(x)[/latex] is a posterior distribution of model parameters, and direct calculation is often impossible due to a complex denominator (the evidence or marginal likelihood).

Além disso: MCMC differs from the basic Monte Carlo method in how it generates samples to estimate a desired distribution or integral. While Monte Carlo methods rely on drawing independent and identically distributed random samples directly from a target distribution or a proposal distribution, MCMC generates samples through a correlated sequence (a Markov chain) where each sample depends on the previous one. This dependency allows MCMC to efficiently explore complex, high-dimensional distributions that are difficult to sample from directly, by constructing a chain that converges to the target distribution over time. In contrast, traditional Monte Carlo methods may struggle with such problems due to inefficiencies in sampling or requiring explicit knowledge of the distribution’s form. Thus, MCMC extends Monte Carlo by harnessing dependence between samples to facilitate sampling in challenging statistical and computational settings.

UNESCO Nomenclature: 1209
Estatísticas

Tipo

Software/Algoritmo

Interrupção

Incremental

Uso

Uso generalizado

Precursores

  • Teoria das cadeias de Markov (Andrey Markov)
  • foundations of Bayesian statistics (Thomas Bayes, Pierre-Simon Laplace)
  • método Monte Carlo original (Ulam, Von Neumann)
  • Teoria ergódica

Aplicações

  • Estatísticas Bayesianas para Estimação de Parâmetros
  • Biologia computacional para inferência de árvores filogenéticas
  • aprendizado de máquina para treinamento de modelos probabilísticos
  • física computacional para simulação de sistemas moleculares
  • Econometria para modelagem de dados financeiros complexos

Patentes:

NA

Ideias de Inovação Potencial

Devido ao tráfego de bots de coleta de dados, atualmente superior a 40 mil por dia, este conteúdo é reservado aos membros da comunidade.
> Login < ou > Registrar < (100% gratuito) para acessar isso, assim como todo o restante do conteúdo e das ferramentas restritas.

Relacionado a: MCMC, cadeia de Markov, inferência Bayesiana, estatística, amostragem, distribuição estacionária, Metropolis-Hastings, amostragem de Gibbs, estatística computacional, distribuição posterior.

Contexto histórico

Cadeia de Markov Monte Carlo (MCMC)

1943
1950
1950
1953
1960
1960
1967
1940
1950
1950
1952
1956
1960
1967
1967

(Caso a data seja desconhecida ou irrelevante, por exemplo, "mecânica dos fluidos", é fornecida uma estimativa aproximada de seu surgimento notável)

Princípios relacionados à invenção, inovação e tecnologia

Imagens em tamanho real e downloads estão disponíveis apenas, 100% gratuitos, para membros registrados.