Product Design, Manufacturing & Innovation Resources
بيت » خوارزمية متروبوليس-هاستينغز

خوارزمية متروبوليس-هاستينغز

1970
  • Nicholas Metropolis
  • Arianna W. Rosenbluth
  • Marshall N. Rosenbluth
  • Augusta H. Teller
  • Edward Teller
  • W. Keith Hastings
إحصائي يطبق خوارزمية متروبوليس-هاستينغز في مختبر أبحاث حديث.

(صورة تم إنشاؤها للتوضيح فقط)

تُعد خوارزمية متروبوليس-هاستينغز من أبرز الخوارزميات. MCMC طريقة للحصول على سلسلة من العينات العشوائية من توزيع احتمالي يصعب فيه أخذ العينات مباشرةً. في كل تكرار، يتم توليد مرشح للعينة التالية بناءً على العينة الحالية. ثم يتم قبول هذا المرشح أو رفضه باحتمالية معينة، مما يضمن تقارب السلسلة الناتجة نحو التوزيع المطلوب.

The algorithm works by constructing a Markov chain whose stationary distribution is the target distribution [latex]P(x)[/latex]. Let the current state be [latex]x_t[/latex]. First, a candidate state [latex]x'[/latex] is generated from a proposal distribution [latex]Q(x’|x_t)[/latex], which can be any distribution that is easy to sample from (e.g., a Gaussian centered at [latex]x_t[/latex]). Second, an acceptance probability [latex]\alpha(x’, x_t)[/latex] is calculated: [latex]\alpha(x’, x_t) = \min\left(1, \frac{P(x’)Q(x_t|x’)}{P(x_t)Q(x’|x_t)}\right)[/latex]. A random number [latex]u[/latex] is drawn from a uniform distribution on [latex][0, 1][/latex]. If [latex]u \le \alpha[/latex], the candidate is accepted, and the next state is set to [latex]x_{t+1} = x'[/latex]. Otherwise, the candidate is rejected, and the chain remains at the current state, [latex]x_{t+1} = x_t[/latex].

تكمن براعة نسبة القبول هذه في أنها لا تتطلب سوى معرفة [latex]P(x)[/latex] حتى ثابت تناسب، حيث يُلغى أي ثابت توحيد في الكسر [latex]frac{P(x’)}{P(x_t)}[/latex]. وهذا أمر بالغ الأهمية في الإحصاء البايزي، حيث غالبًا ما يكون التوزيع الاحتمالي اللاحق معروفًا فقط حتى الاحتمالية الحدية التي يصعب حسابها. تُعد خوارزمية متروبوليس الأصلية (1953) حالة خاصة يكون فيها توزيع الاقتراح [latex]Q[/latex] متناظرًا، أي [latex]Q(x’|x_t) = Q(x_t|x’)[/latex]، مما يُبسط احتمالية القبول إلى [latex]minleft(1, frac{P(x’)}{P(x_t)}right)[/latex]. هاستينغز سمح التعميم الذي تم إجراؤه عام 1970 بتوزيعات اقتراح غير متماثلة، مما أدى إلى توسيع نطاق تطبيق الخوارزمية وكفاءتها بشكل كبير.

UNESCO Nomenclature: 1209
- الإحصائيات

يكتب

البرنامج/الخوارزمية

الاضطراب

كبير

الاستخدام

الاستخدام الواسع النطاق

السلائف

  • خوارزمية متروبوليس (1953)
  • نظرية التوازن التفصيلي في سلاسل ماركوف
  • تكامل مونت كارلو
  • نظرية الاحتمالات البايزية

التطبيقات

  • محاكاة توزيع بولتزمان في الميكانيكا الإحصائية
  • الاستدلال البايزي في التعلم الآلي
  • حل مشاكل التحسين المعقدة عبر محاكاة التلدين
  • التمويل الحسابي لنمذجة المخاطر
  • معالجة الإشارات وإعادة بناء الصور

براءات الاختراع:

NA

أفكار ابتكارات محتملة

بسبب عمليات جمع البيانات من خلال برامج الروبوت، والتي تتجاوز حاليًا 40 ألفًا يوميًا، فإن هذا المحتوى مخصص لأعضاء المجتمع فقط.
> تسجيل الدخول < أو > سجل < (مجاني 100٪) للوصول إلى هذا، وكذلك جميع المحتويات والأدوات الأخرى المقيدة.

ذات صلة بـ: متروبوليس-هاستينغز، سلسلة ماركوف مونت كارلو، الإحصاءات البايزية، القبول والرفض، توزيع الاقتراح، التوزيع الثابت، سلسلة ماركوف، أخذ العينات، الميكانيكا الإحصائية، التلدين المحاكي.

السياق التاريخي

خوارزمية متروبوليس-هاستينغز

1960
1967
1967
1970
1970
1970
1970-01-01
1960
1960
1967
1970
1970
1970
1970
1973

(إذا كان التاريخ غير معروف أو غير ذي صلة، على سبيل المثال "ميكانيكا الموائع"، يتم توفير تقدير تقريبي لظهوره الملحوظ)

الاختراع والابتكار والمبادئ التقنية ذات الصلة

الصور بالحجم الكامل والتنزيلات متاحة فقط 100% مجاناً للأعضاء المسجلين.