Product Design, Manufacturing & Innovation Resources
Lar » Cadeia de Markov Monte Carlo (MCMC)

Cadeia de Markov Monte Carlo (MCMC)

1953
  • Nicholas Metropolis
  • Arianna W. Rosenbluth
  • Marshall N. Rosenbluth
  • Augusta H. Teller
  • Edward Teller
  • W. Keith Hastings
Researcher analyzing Markov Chain Monte Carlo simulations in a statistical analysis office.

(Imagem gerada apenas para fins ilustrativos)

Cadeia de Markov Monte Carlo Os métodos de Cadeia de Markov Monte Carlo (MCMC) são uma classe de algoritmos para amostragem de uma distribuição de probabilidade. Uma cadeia de Markov é construída tendo a distribuição desejada como sua distribuição de equilíbrio ou estacionária. O estado da cadeia após um grande número de passos é então usado como uma amostra da distribuição desejada, permitindo o cálculo de integrais e esperanças.

Os métodos MCMC são essenciais quando a amostragem direta de uma distribuição de probabilidade complexa e de alta dimensão [latex]P(x)[/latex] é inviável. Em vez de gerar amostras independentes, o MCMC gera uma sequência de amostras correlacionadas que formam uma cadeia de Markov. Uma cadeia de Markov é um processo estocástico onde a probabilidade de transição para o próximo estado depende apenas do estado atual, e não da sequência de eventos que o precederam. A chave é projetar as probabilidades de transição da cadeia de forma que sua distribuição estacionária seja a distribuição alvo [latex]P(x)[/latex].

O processo começa em um estado arbitrário [latex]x_0[/latex]. A cada passo [latex]t[/latex], um novo estado [latex]x_{t+1}[/latex] é gerado com base no estado atual [latex]x_t[/latex] usando um algoritmo específico (como Metrópole-Hastings). After an initial “burn-in” period, during which the chain converges from its starting point to the high-probability regions of the target distribution, the subsequent states [latex]x_t, x_{t+1}, …[/latex] can be considered as (correlated) samples from [latex]P(x)[/latex]. These samples can then be used to estimate expectations of functions [latex]f(x)[/latex] with respect to [latex]P(x)[/latex] by averaging [latex]f(x_t)[/latex] over the samples. This is particularly useful in Inferência Bayesiana, where [latex]P(x)[/latex] is a posterior distribution of model parameters, and direct calculation is often impossible due to a complex denominator (the evidence or marginal likelihood).

Além disso: MCMC differs from the basic Monte Carlo method in how it generates samples to estimate a desired distribution or integral. While Monte Carlo methods rely on drawing independent and identically distributed random samples directly from a target distribution or a proposal distribution, MCMC generates samples through a correlated sequence (a Markov chain) where each sample depends on the previous one. This dependency allows MCMC to efficiently explore complex, high-dimensional distributions that are difficult to sample from directly, by constructing a chain that converges to the target distribution over time. In contrast, traditional Monte Carlo methods may struggle with such problems due to inefficiencies in sampling or requiring explicit knowledge of the distribution’s form. Thus, MCMC extends Monte Carlo by harnessing dependence between samples to facilitate sampling in challenging statistical and computational settings.

UNESCO Nomenclature: 1209
Estatísticas

Tipo

Software/Algoritmo

Interrupção

Incremental

Uso

Uso generalizado

Precursores

  • Teoria das cadeias de Markov (Andrey Markov)
  • foundations of Bayesian statistics (Thomas Bayes, Pierre-Simon Laplace)
  • original Método de Monte Carlo (Ulam, Von Neumann)
  • Teoria ergódica

Aplicações

  • Estatísticas Bayesianas para Estimação de Parâmetros
  • Biologia computacional para inferência de árvores filogenéticas
  • aprendizado de máquina para treinamento de modelos probabilísticos
  • física computacional para simulação de sistemas moleculares
  • Econometria para modelagem de dados financeiros complexos

Patentes:

NA

Ideias de Inovação Potencial

  • automated probabilistic programming languages that use MCMC as a backend
  • real-time anomaly detection in streaming data using bayesian models
  • inferring cosmological parameters from cosmic microwave background data
  • reconstructing ancient languages and evolutionary trees
  • generative art and music composition based on learned probability distributions
  • drug discovery by exploring the conformational space of molecules
  • supply chain optimization by sampling from distributions of possible future demands
  • personalized financial advising based on probabilistic models of market behavior
  • processamento de linguagem natural for topic modeling and sentiment analysis
  • climate modeling to quantify uncertainty in future climate projections
Relacionado a: MCMC, cadeia de Markov, inferência Bayesiana, estatística, amostragem, distribuição estacionária, Metropolis-Hastings, amostragem de Gibbs, estatística computacional, distribuição posterior.

Contexto histórico

Cadeia de Markov Monte Carlo (MCMC)

1943
1950
1950
1953
1960
1960
1967
1940
1950
1950
1952
1956
1960
1967
1967

(Caso a data seja desconhecida ou irrelevante, por exemplo, "mecânica dos fluidos", é fornecida uma estimativa aproximada de seu surgimento notável)

10º ano aniversário

Imagens em tamanho real e downloads estão disponíveis apenas, 100% gratuitos, para membros registrados.