(설명을 위한 생성된 이미지입니다)
메트로폴리스-해스팅스 알고리즘은 널리 알려진 알고리즘입니다. MCMC method for obtaining a sequence of random samples from a probability distribution for which direct sampling is difficult. At each iteration, it generates a candidate for the next sample based on the current sample. This candidate is then accepted or rejected with a certain probability, ensuring the resulting chain converges to the desired distribution.
이 알고리즘은 다음을 구성함으로써 작동합니다. 마르코프 체인 정상 분포가 목표 분포 [latex]P(x)[/latex]인 경우를 생각해 보겠습니다. 현재 상태를 [latex]x_t[/latex]라고 합시다. 먼저, 제안 분포 [latex]Q(x’|x_t)[/latex]로부터 후보 상태 [latex]x'[/latex]를 생성합니다. 이 제안 분포는 샘플링하기 쉬운 임의의 분포(예: [latex]x_t[/latex]를 중심으로 하는 가우시안 분포)일 수 있습니다. 둘째, 수용 확률 [latex]alpha(x’, x_t)[/latex]를 다음과 같이 계산합니다. [latex]alpha(x’, x_t) = minleft(1, frac{P(x’)Q(x_t|x’)}{P(x_t)Q(x’|x_t)}right)[/latex]. [latex]u[/latex]는 [latex][0, 1][/latex]의 균일 분포에서 추출됩니다. [latex]u le alpha[/latex]이면 후보는 수락되고 다음 상태는 [latex]x_{t+1} = x'[/latex]로 설정됩니다. 그렇지 않으면 후보는 거부되고 체인은 현재 상태인 [latex]x_{t+1} = x_t[/latex]를 유지합니다.
이 수용 비율의 탁월함은 비례 상수까지만 알면 된다는 점입니다. 왜냐하면 모든 정규화 상수는 분수 [latex]frac{P(x’)}{P(x_t)}[/latex]에서 상쇄되기 때문입니다. 이는 사후 분포가 다루기 어려운 주변 가능도까지만 알려져 있는 경우가 많은 베이지안 통계에서 매우 중요합니다. 원래의 메트로폴리스 알고리즘(1953)은 제안 분포 [latex]Q[/latex]가 대칭인 특수한 경우, 즉 [latex]Q(x’|x_t) = Q(x_t|x’)[/latex]인 경우이며, 이 경우 수용 확률은 [latex]minleft(1, frac{P(x’)}{P(x_t)}right)[/latex]로 단순화됩니다. Hastings’ 1970년의 일반화는 비대칭 제안 분포를 허용하여 알고리즘의 적용 범위와 효율성을 크게 넓혔습니다.
메트로폴리스-헤이스팅스 알고리즘
(날짜를 알 수 없거나 관련이 없는 경우, 예를 들어 "유체역학"의 경우, 주목할 만한 등장 시기를 대략적으로 추정하여 제공합니다.)
고화질 이미지 및 다운로드는 등록된 회원에게만 100% 무료로 제공됩니다.
> 로그인 <
