Product Design, Manufacturing & Innovation Resources
بيت » خوارزمية متروبوليس-هاستينغز

خوارزمية متروبوليس-هاستينغز

1970
  • Nicholas Metropolis
  • Arianna W. Rosenbluth
  • Marshall N. Rosenbluth
  • Augusta H. Teller
  • Edward Teller
  • W. Keith Hastings
Statistician applying Metropolis-Hastings algorithm in a modern research lab.

(صورة توضيحية فقط)

تُعد خوارزمية متروبوليس-هاستينغز من أبرز الخوارزميات. MCMC method for obtaining a sequence of random samples from a probability distribution for which direct sampling is difficult. At each iteration, it generates a candidate for the next sample based on the current sample. This candidate is then accepted or rejected with a certain probability, ensuring the resulting chain converges to the desired distribution.

تعمل الخوارزمية عن طريق إنشاء سلسلة ماركوف حيث يكون التوزيع الثابت هو التوزيع المستهدف P(x). ولتكن الحالة الحالية x_t. أولًا، يتم توليد حالة مرشحة x' من توزيع اقتراح Q(x|x_t)، والذي يمكن أن يكون أي توزيع يسهل أخذ عينات منه (مثل التوزيع الغاوسي المتمركز عند x_t). ثانيًا، يتم حساب احتمال القبول α(x, x_t): α(x, x_t) = min(1, P(x)Q(x_t|x_t)}{P(x_t)Q(x|x_t)} يتم اختيار عدد عشوائي u من توزيع منتظم على الفترة [latex][0, 1][/latex]. إذا كان u ≤ α، يُقبل المرشح، وتُضبط الحالة التالية على x_{t+1} = x'. وإلا، يُرفض المرشح، وتبقى السلسلة في حالتها الحالية، x_{t+1} = x_t.

تكمن براعة نسبة القبول هذه في أنها لا تتطلب سوى معرفة [latex]P(x)[/latex] حتى ثابت تناسب، حيث يُلغى أي ثابت توحيد في الكسر [latex]frac{P(x’)}{P(x_t)}[/latex]. وهذا أمر بالغ الأهمية في الإحصاء البايزي، حيث غالبًا ما يكون التوزيع الاحتمالي اللاحق معروفًا فقط حتى الاحتمالية الحدية التي يصعب حسابها. تُعد خوارزمية متروبوليس الأصلية (1953) حالة خاصة يكون فيها توزيع الاقتراح [latex]Q[/latex] متناظرًا، أي [latex]Q(x’|x_t) = Q(x_t|x’)[/latex]، مما يُبسط احتمالية القبول إلى [latex]minleft(1, frac{P(x’)}{P(x_t)}right)[/latex]. هاستينغز سمح التعميم الذي تم إجراؤه عام 1970 بتوزيعات اقتراح غير متماثلة، مما أدى إلى توسيع نطاق تطبيق الخوارزمية وكفاءتها بشكل كبير.

UNESCO Nomenclature: 1209
– Statistics

يكتب

Software/Algorithm

خلل

Substantial

الاستخدام

استخدام واسع النطاق

مقدمات

  • خوارزمية متروبوليس (1953)
  • نظرية التوازن التفصيلي في سلاسل ماركوف
  • مونت كارلو اندماج
  • نظرية الاحتمالات البايزية

التطبيقات

  • محاكاة boltzmann distribution في الميكانيكا الإحصائية
  • الاستدلال البايزي في التعلم الآلي
  • حل مشاكل التحسين المعقدة عبر محاكاة التلدين
  • التمويل الحسابي لنمذجة المخاطر
  • معالجة الإشارات وإعادة بناء الصورة

براءات الاختراع:

NA

أفكار ابتكارية محتملة

  • خوارزميات MCMC التكيفية التي تضبط توزيع الاقتراح أثناء التنقل
  • hamiltonian monte carlo for more efficient exploration of the state space
  • MCMC للقفز العكسي للنماذج ذات عدد متغير من المعلمات
  • MCMC شبه الهامشي للنماذج ذات الاحتمالات المستعصية
  • التخفيف المتوازي للتغلب على التعثر في الأوضاع المحلية للتوزيع
  • اختيار النموذج الآلي في المشاكل الإحصائية المعقدة
  • الاستدلال في النماذج التوليدية العميقة مثل المشفرات التلقائية المتغيرة
  • probabilistic robotics for robot localization and mapping (SLAM)
  • تحليل الشفرات عن طريق أخذ العينات من توزيعات المفاتيح المحتملة
  • استراتيجيات التداول الخوارزمية القائمة على التنبؤ البايزي
ذات صلة بـ: متروبوليس-هاستينغز، سلسلة ماركوف مونت كارلو، الإحصاءات البايزية، القبول والرفض، توزيع الاقتراح، التوزيع الثابت، سلسلة ماركوف، أخذ العينات، الميكانيكا الإحصائية، التلدين المحاكي.

السياق التاريخي

خوارزمية متروبوليس-هاستينغز

1960
1967
1967
1970
1970
1970
1970-01-01
1960
1960
1967
1970
1970
1970
1970
1973

(إذا كان التاريخ غير معروف أو غير ذي صلة، على سبيل المثال "ميكانيكا الموائع"، يتم توفير تقدير تقريبي لظهوره الملحوظ)

أحدث الإضافات

أهم المنشورات والمقالات

أفضل الأدوات الأصلية

السنة العاشرة عيد

الصور والتنزيلات بالحجم الكامل متاحة فقط، ومجانية تمامًا، للأعضاء المسجلين.