Product Design, Manufacturing & Innovation Resources
بيت » طريقة المربعات الصغرى العادية (OLS)

طريقة المربعات الصغرى العادية (OLS)

1805
  • Adrien-Marie Legendre
  • Carl Friedrich Gauss
مشهد مكتبي تاريخي يصور طريقة المربعات الصغرى العادية في الإحصاء الرياضي.

(صورة تم إنشاؤها للتوضيح فقط)

نهج قياسي لتقريب الحلول للأنظمة المفرطة التحديد من خلال إيجاد معلمات النموذج التي تقلل مجموع الفروق التربيعية بين القيم المرصودة والمتوقعة. يُعرف هذا المجموع باسم مجموع المربعات المتبقية (SSR). والهدف هو إيجاد المعلمات [latex] \{{\beta}[/latex] التي تقلل الدالة [latex]T(\beta) = \sum_{i=1}^{n} (y_i - x_i^T \beta)^2[/latex].

تعد طريقة المربعات الصغرى العادية حجر الزاوية في تحليل الانحدار. وهي توفر طريقة مباشرة لتقدير المعلمات المجهولة في نموذج خطي. يتمثل المبدأ في إيجاد الخط (أو المستوى الفائق في الانحدار المتعدد) الأقرب إلى جميع نقاط البيانات في آنٍ واحد. يُعرَّف ‘الأقرب’ من حيث تقليل المسافات الرأسية من كل نقطة إلى الخط، وتحديدًا مجموع مربعات هذه المسافات (المتبقيات).

يمكن حل مشكلة التصغير هذه باستخدام حساب التفاضل والتكامل. من خلال أخذ مشتقة دالة مجموع البقايا التربيعية [latex](\\بيتا)[/latex] بالنسبة إلى متجه البارامتر [latex]\بيتا[/latex] وتعيينها إلى الصفر، نستنتج مجموعة من المعادلات المعروفة باسم ‘المعادلات الطبيعية’. في صورة مصفوفة، يُعبَّر عنها على الصورة [latex]X^T X \hat{\beta} = X^T y[/latex]، حيث [latex]X[/latex] هي مصفوفة المتغيرات المستقلة و[latex]y[/latex] هو متجه المتغير التابع.

ثم يتم إعطاء الحل لمتجه المعامل المقدر بواسطة [latex]\hat{\beta} = (X^TXT X)^{-1} X^T y[/latex]. هذا الحل المغلق فعال من الناحية الحسابية ويوفر تقديرًا فريدًا، شريطة أن تكون المصفوفة [latex]XT^T X[/latex] قابلة للعكس (أي أنه لا يوجد تعدد في الاستقامة بين المتغيرات المستقلة). هندسيًا، يتوافق حل OLS مع الإسقاط المتعامد لمتجه النتيجة [latex]y[/latex] على الفضاء الفرعي المتجه الذي تمتد عليه أعمدة مصفوفة المتنبئ [latex]X[/latex]. على الرغم من قوة طريقة OLS، إلا أنها حساسة للقيم المتطرفة، حيث أن تربيع المتبقي يعطي الأخطاء الكبيرة تأثيرًا كبيرًا بشكل غير متناسب على الملاءمة النهائية.

UNESCO Nomenclature: 1209
- الإحصائيات

يكتب

البرنامج/الخوارزمية

الاضطراب

كبير

الاستخدام

الاستخدام الواسع النطاق

السلائف

  • الجبر الخطي (عمليات المصفوفة)
  • حساب التفاضل (لإيجاد الحد الأدنى)
  • نظرية الأخطاء في الملاحظة (التي طورها علماء الفلك)
  • الهندسة التحليلية (ديكارت)

التطبيقات

  • تقدير المعاملات في نماذج الانحدار الخطي
  • معالجة الإشارات والتصفية الرقمية
  • نظرية التحكم لتحديد النظام
  • القياس الاقتصادي لنمذجة العلاقات الاقتصادية
  • الحسابات الفلكية للمدارات

براءات الاختراع:

NA

أفكار ابتكارات محتملة

بسبب عمليات جمع البيانات من خلال برامج الروبوت، والتي تتجاوز حاليًا 40 ألفًا يوميًا، فإن هذا المحتوى مخصص لأعضاء المجتمع فقط.
> تسجيل الدخول < أو > سجل < (مجاني 100٪) للوصول إلى هذا، وكذلك جميع المحتويات والأدوات الأخرى المقيدة.

ذات صلة بما يلي: المربعات الصغرى، OLS، تقدير البارامترات، مجموع المربعات المتبقية المربعة، التحسينات، المعادلات الطبيعية، الجبر الخطي، تحليل الانحدار، تركيب المنحنى، تركيب البيانات.

السياق التاريخي

طريقة المربعات الصغرى العادية (OLS)

1750
1763-12-23
1780
1805
1822
1822
1828
1747
1758
1777
1799
1812
1822
1827
1829

(إذا كان التاريخ غير معروف أو غير ذي صلة، على سبيل المثال "ميكانيكا الموائع"، يتم توفير تقدير تقريبي لظهوره الملحوظ)

الاختراع والابتكار والمبادئ التقنية ذات الصلة

الصور بالحجم الكامل والتنزيلات متاحة فقط 100% مجاناً للأعضاء المسجلين.