Product Design, Manufacturing & Innovation Resources

家 » 马尔可夫链蒙特卡罗（MCMC）

马尔可夫链蒙特卡罗（MCMC）

1953

Nicholas Metropolis
Arianna W. Rosenbluth
Marshall N. Rosenbluth
Augusta H. Teller
Edward Teller
W. Keith Hastings

（图片仅供参考）

马尔可夫链 Monte Carlo 马尔可夫链蒙特卡罗 (MCMC) 方法是一类用于从概率分布中采样的算法。它构建一个以目标分布为平衡分布或平稳分布的马尔可夫链。经过大量步骤后，链的状态被用作目标分布的样本，从而可以计算积分和期望值。

当直接从复杂的高维概率分布 P(x) 中采样变得困难时，MCMC 方法至关重要。MCMC 不生成独立样本，而是生成一系列相关的样本，这些样本构成马尔可夫链。马尔可夫链是一种随机过程，其中转移到下一状态的概率仅取决于当前状态，而与之前的事件序列无关。关键在于设计链的转移概率，使其平稳分布等于目标分布 P(x)。

该过程从任意状态 x_0 开始。在每个步骤 t，基于当前状态 x_t，使用特定算法（例如大都会-黑斯廷斯). After an initial “burn-in” period, during which the chain converges from its starting point to the high-probability regions of the target distribution, the subsequent states [latex]x_t, x_{t+1}, …[/latex] can be considered as (correlated) samples from [latex]P(x)[/latex]. These samples can then be used to estimate expectations of functions [latex]f(x)[/latex] with respect to [latex]P(x)[/latex] by averaging [latex]f(x_t)[/latex] over the samples. This is particularly useful in 贝叶斯推断, where [latex]P(x)[/latex] is a posterior distribution of model parameters, and direct calculation is often impossible due to a complex denominator (the evidence or marginal likelihood).

而且： MCMC differs from the basic Monte Carlo method in how it generates samples to estimate a desired distribution or integral. While Monte Carlo methods rely on drawing independent and identically distributed random samples directly from a target distribution or a proposal distribution, MCMC generates samples through a correlated sequence (a Markov chain) where each sample depends on the previous one. This dependency allows MCMC to efficiently explore complex, high-dimensional distributions that are difficult to sample from directly, by constructing a chain that converges to the target distribution over time. In contrast, traditional Monte Carlo methods may struggle with such problems due to inefficiencies in sampling or requiring explicit knowledge of the distribution’s form. Thus, MCMC extends Monte Carlo by harnessing dependence between samples to facilitate sampling in challenging statistical and computational settings.

Algorithms, 机器学习, 蒙特卡罗模拟, 流程优化, 统计分析

UNESCO Nomenclature: 1209

– Statistics

类型

Software/Algorithm

中断

Incremental

用法

广泛使用

前体

马尔可夫链理论（安德烈·马尔可夫）
foundations of Bayesian statistics (Thomas Bayes, Pierre-Simon Laplace)
original 蒙特卡罗方法 (Ulam, Von Neumann)
遍历理论

应用程序

贝叶斯统计用于参数估计
计算生物学在系统发育树推断中的应用
用于训练概率模型的机器学习
计算物理学在模拟分子系统中的应用
计量经济学在复杂金融数据建模中的应用

专利：

潜在创新理念

automated probabilistic programming languages that use MCMC as a backend
基于贝叶斯模型的流数据实时异常检测
利用宇宙微波背景辐射数据推断宇宙学参数
重建古代语言和进化树
基于学习到的概率分布的生成式艺术和音乐创作
通过探索分子构象空间进行药物发现
通过对未来可能需求分布进行抽样来优化供应链
基于市场行为概率模型的个性化财务建议
natural language processing for topic modeling and sentiment analysis
利用气候模型量化未来气候预测的不确定性

相关术语：MCMC、马尔可夫链、贝叶斯推断、统计学、抽样、平稳分布、Metropolis-Hastings算法、吉布斯抽样、计算统计学、后验分布。

历史背景

Finite Element Method applied in structural analysis within an engineering office.

有限元方法

有限元法 (FEM) 是一种强大的数值方法，用于求解由偏微分方程描述的复杂工程和物理问题。它的工作原理是将连续域离散化为一组更小、更简单的子域，这些子域被称为“有限元”。这可以用于结构分析、传热、流体流动和电磁学等问题的近似数值解。

CNC machine executing motion interpolation for complex geometries in applied mathematics.

CNC运动插补

插补是 CNC 控制器内的计算过程，它生成一系列中间坐标点，以在编程的端点之间创建平滑路径。最基本的插补类型是用于直线的线性插补 (G01) 和用于圆弧的圆弧插补 (G02/G03)。这使得可以通过 G 代码程序中的简单几何命令来加工复杂的轮廓。

Aerospace control room with three parallel computer modules for fault tolerance.

三重模块冗余（TMR）

三重模块冗余（TMR）是一种硬件容错技术，它使用三个相同的模块并行执行相同的操作。它们的输出被送入一个多数投票电路。如果一个模块发生故障并产生错误输出，投票电路仍然能够根据其他两个模块的输出确定正确的输出，从而掩盖故障并确保系统持续运行。

马尔可夫链蒙特卡罗（MCMC）

CNC machine with G-code programming in a modern workshop setting.

G-code：标准CNC编程语言

G 代码（正式名称为 RS-274）是用于控制 CNC 机床的最常用编程语言。它由一系列顺序命令组成，用于指示机床的定位、速度和特定操作。命令以字母地址开头；“G”表示运动准备命令（例如，G01 表示线性进给），而“M”表示辅助功能（例如，M03 表示主轴启动）。

Computer scientist conducting automated theorem proving in a 1960s office.

自动定理证明（ATP）

自动定理证明（ATP）是计算机科学和数理逻辑的一个子领域，致力于使用计算机程序证明数学定理。ATP系统（或称证明器）运用逻辑推理，从一组公理和假设中推导出新的定理。它们与需要更多人工指导的证明辅助工具不同，尽管这两个领域存在显著的重叠。

Programmer coding inheritance in object-oriented programming at a modern office.

继承（OOP编程）

继承是面向对象编程 (OOP) 中的一种机制，新类（子类或派生类）基于现有类（超类或基类），继承其属性和方法。继承支持代码复用，并在类之间建立自然的层次结构。子类可以扩展或覆盖继承的行为，从而允许更具体的实现，同时保持通用接口。

1943

1950

1953

1960

1967

1940

1950

1952

1956

1960

1967

Statistician analyzing Bayesian credible interval data in an office.

可信区间

A credible interval is the Bayesian equivalent of a frequentist confidence interval. It is a range of values that contains a parameter with a particular probability, based on the posterior probability distribution. For example, a 95% credible interval for a parameter [latex]\theta[/latex] means there is a 95% probability that the true value of [latex]\theta[/latex] lies within that interval, given the data and the model.

Engineers analyzing reliability functions in a modern engineering office setting.

可靠性函数（生存函数）

The reliability function, R(t), defines the probability that a system or component will perform its required function without failure for a specified time 't'. For systems with a constant failure rate (λ), it is described by the exponential distribution: [latex]R(t) = e^{-\lambda t}[/latex]. This function is fundamental to predicting the longevity and performance of a product.

Classroom demonstration of Monte Carlo method for estimating Pi in numerical analysis.

蒙特卡罗估计 Pi

A classic illustration of the Monte Carlo method is estimating the value of [latex]\pi[/latex]. By inscribing a circle of radius [latex]r[/latex] within a square of side length [latex]2r[/latex], the ratio of their areas is [latex]\frac{\pi r^2}{(2r)^2} = \frac{\pi}{4}[/latex]. Randomly scattering points within the square and counting the fraction [latex]p[/latex] that fall inside the circle provides an estimate: [latex]\pi \approx 4p[/latex].

Grace Hopper working on the A-0 System compiler in a 1950s office.

第一个编译器：A-0系统

A-0 系统由 Grace Hopper 于 1952 年创建，被广泛认为是第一个编译器。它将一系列由数学符号指定的子程序和参数翻译成机器码。这是从低级汇编编程向更高级、更抽象的编程语言转变的奠基性一步，使繁琐的手动代码翻译过程自动化。

Quality control analyst monitoring Shewhart control chart for non-random patterns.

西部电气规则（控制图中的统计检验）

这是一套用于检测休哈特控制图上非随机模式的四条决策规则，即使没有数据点超出3σ限值，也能指示过程失控。这些规则可以识别数据点的异常运行、趋势或聚集，这些异常表明存在特殊原因造成的变异。它们提高了控制图的灵敏度。

Statistician analyzing logistic regression data for medical and financial applications.

逻辑回归

A regression model for a categorical, typically binary, dependent variable. Instead of modeling the outcome directly, it models the probability of the outcome using the logistic (sigmoid) function. The model predicts the log-odds of the event as a linear combination of the independent variables: [latex]\ln(\frac{p}{1-p}) = \beta_0 + \beta_1 x_1 + \dots + \beta_p x_p[/latex], where p is the probability of the event.