A standard approach for approximating solutions to overdetermined systems by finding model parameters that minimize the sum of the squared differences between observed and predicted values. This sum is known as the sum of squared residuals (SSR). The goal is to find the parameters [latex]\hat{\beta}[/latex] that minimize the function [latex]S(\beta) = \sum_{i=1}^{n} (y_i – x_i^T \beta)^2[/latex].
ال الطريقة of ordinary least squares is a cornerstone of regression analysis. It provides a direct way to estimate the unknown parameters in a linear model. The principle is to find the line (or hyperplane in multiple regression) that is closest to all the data points simultaneously. ‘Closest’ is defined in terms of minimizing the vertical distances from each point to the line, specifically, the sum of the squares of these distances (residuals).
This minimization problem can be solved using calculus. By taking the derivative of the sum of squared residuals function [latex]S(\beta)[/latex] with respect to the parameter vector [latex]\beta[/latex] and setting it to zero, we derive a set of equations known as the ‘normal equations’. In matrix form, these are expressed as [latex]X^T X \hat{\beta} = X^T y[/latex], where [latex]X[/latex] is the matrix of independent variables and [latex]y[/latex] is the vector of the dependent variable.
The solution for the estimated coefficient vector is then given by [latex]\hat{\beta} = (X^T X)^{-1} X^T y[/latex]. This closed-form solution is computationally efficient and provides a unique estimate, provided that the matrix [latex]X^T X[/latex] is invertible (i.e., there is no perfect multicollinearity among the independent variables). Geometrically, the OLS solution corresponds to an orthogonal projection of the outcome vector [latex]y[/latex] onto the vector subspace spanned by the columns of the predictor matrix [latex]X[/latex]. While powerful, OLS is sensitive to outliers, as squaring the residuals gives large errors a disproportionately large influence on the final fit.
متاح للتحديات الجديدة
مهندس ميكانيكي، مشروع، هندسة العمليات أو مدير البحث والتطوير
متاح لتحدي جديد في غضون مهلة قصيرة.
تواصل معي على LinkedIn
تكامل الإلكترونيات المعدنية والبلاستيكية، التصميم مقابل التكلفة، ممارسات التصنيع الجيدة (GMP)، بيئة العمل، الأجهزة والمواد الاستهلاكية متوسطة إلى عالية الحجم، التصنيع المرن، الصناعات الخاضعة للتنظيم، شهادات CE وFDA، التصميم بمساعدة الحاسوب (CAD)، Solidworks، الحزام الأسود من Lean Sigma، شهادة ISO 13485 الطبية
احصل على جميع المقالات الجديدة
مجاني، لا يوجد بريد عشوائي، ولا يتم توزيع البريد الإلكتروني ولا إعادة بيعه
أو يمكنك الحصول على عضويتك الكاملة -مجانًا- للوصول إلى جميع المحتويات المحظورة >هنا<
(إذا كان التاريخ غير معروف أو غير ذي صلة، على سبيل المثال "ميكانيكا الموائع"، يتم تقديم تقدير تقريبي لظهوره الملحوظ)
الاختراع والابتكار والمبادئ التقنية ذات الصلة
{{العنوان}}
{% إذا كان المقتطف %}{{ مقتطفات | truncatewords: 55 }}
{% endif %}
