بيت » Logistic Regression

Logistic Regression

1960
  • David Cox
Statistician analyzing logistic regression data for medical and financial applications.

A regression model for a categorical, typically binary, dependent variable. Instead of modeling the outcome directly, it models the probability of the outcome using the logistic (sigmoid) function. The model predicts the log-odds of the event as a linear combination of the independent variables: [latex]\ln(\frac{p}{1-p}) = \beta_0 + \beta_1 x_1 + \dots + \beta_p x_p[/latex], where p is the probability of the event.

Logistic regression is a fundamental algorithm for binary classification problems. It is a type of Generalized Linear Model (GLM) that extends the ideas of linear regression to cases where the outcome variable is not continuous. Applying linear regression directly to a binary (0/1) outcome is problematic because it can produce predicted probabilities outside the logical [0, 1] range and violates the OLS assumption of constant error variance.

Logistic regression solves this by using a link function to transform the outcome. It models the logarithm of the odds, or ‘logit’, as a linear function of the predictors. The odds are the ratio of the probability of success ([latex]p[/latex]) to the probability of failure ([latex]1-p[/latex]). This transformation, [latex]\text{logit}(p) = \ln(p/(1-p))[/latex], maps the probability from the range [0, 1] to the entire real number line [latex](-\infty, +\infty)[/latex], making it suitable for a linear model.

To get back to a probability, one applies the inverse of the logit function, which is the logistic or sigmoid function: [latex]p = \frac{e^{\beta_0 + \beta_1 x_1 + \dots}}{1 + e^{\beta_0 + \beta_1 x_1 + \dots}}[/latex]. Unlike linear regression, the parameters ([latex]\beta[/latex]) are not estimated using least squares. Instead, they are typically found using Maximum Likelihood Estimation (MLE), an iterative process that finds the parameter values that maximize the likelihood of observing the actual data. The model can be extended to handle multi-class problems through multinomial logistic regression.

UNESCO Nomenclature: 1209
- الإحصائيات

النوع

البرنامج/الخوارزمية

الاضطراب

كبير

الاستخدام

الاستخدام الواسع النطاق

السلائف

  • Linear regression
  • Probability theory (Bernoulli distribution)
  • Maximum likelihood estimation (developed by R.A. Fisher)
  • Probit model (an earlier model for binary outcomes)
  • The concept of generalized linear models

التطبيقات

  • medical diagnosis (e.g., predicting disease presence based on symptoms)
  • credit scoring and financial risk assessment
  • spam detection in email clients
  • العميل churn prediction in telecommunications and subscription services
  • election outcome prediction

براءات الاختراع:

NA

أفكار ابتكارات محتملة

!!مستويات !!! العضوية مطلوبة

يجب أن تكون عضوًا !!! مستويات!!! للوصول إلى هذا المحتوى.

انضم الآن

هل أنت عضو بالفعل؟ سجّل الدخول هنا
Related to: logistic regression, classification, binary outcome, sigmoid function, log-odds, maximum likelihood estimation, machine learning, predictive modeling, generalized linear model, categorical data.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

متاح للتحديات الجديدة
مهندس ميكانيكي، مشروع، هندسة العمليات أو مدير البحث والتطوير
تطوير المنتج الفعال

متاح لتحدي جديد في غضون مهلة قصيرة.
تواصل معي على LinkedIn
تكامل الإلكترونيات المعدنية والبلاستيكية، التصميم مقابل التكلفة، ممارسات التصنيع الجيدة (GMP)، بيئة العمل، الأجهزة والمواد الاستهلاكية متوسطة إلى عالية الحجم، التصنيع المرن، الصناعات الخاضعة للتنظيم، شهادات CE وFDA، التصميم بمساعدة الحاسوب (CAD)، Solidworks، الحزام الأسود من Lean Sigma، شهادة ISO 13485 الطبية

نحن نبحث عن راعي جديد

 

هل شركتك أو مؤسستك متخصصة في التقنية أو العلوم أو الأبحاث؟
> أرسل لنا رسالة <

احصل على جميع المقالات الجديدة
مجاني، لا يوجد بريد عشوائي، ولا يتم توزيع البريد الإلكتروني ولا إعادة بيعه

أو يمكنك الحصول على عضويتك الكاملة -مجانًا- للوصول إلى جميع المحتويات المحظورة >هنا<

السياق التاريخي

(إذا كان التاريخ غير معروف أو غير ذي صلة، على سبيل المثال "ميكانيكا الموائع"، يتم تقديم تقدير تقريبي لظهوره الملحوظ)

الاختراع والابتكار والمبادئ التقنية ذات الصلة

انتقل إلى الأعلى

قد يعجبك أيضاً