A regression model for a categorical, typically binary, dependent variable. Instead of modeling the outcome directly, it models the probability of the outcome using the logistic (sigmoid) function. The model predicts the log-odds of the event as a linear combination of the independent variables: [latex]\ln(\frac{p}{1-p}) = \beta_0 + \beta_1 x_1 + \dots + \beta_p x_p[/latex], where p is the probability of the event.
Logistic regression is a fundamental algorithm for binary classification problems. It is a type of Generalized Linear Model (GLM) that extends the ideas of linear regression to cases where the outcome variable is not continuous. Applying linear regression directly to a binary (0/1) outcome is problematic because it can produce predicted probabilities outside the logical [0, 1] range and violates the OLS assumption of constant error variance.
Logistic regression solves this by using a link function to transform the outcome. It models the logarithm of the odds, or ‘logit’, as a linear function of the predictors. The odds are the ratio of the probability of success ([latex]p[/latex]) to the probability of failure ([latex]1-p[/latex]). This transformation, [latex]\text{logit}(p) = \ln(p/(1-p))[/latex], maps the probability from the range [0, 1] to the entire real number line [latex](-\infty, +\infty)[/latex], making it suitable for a linear model.
To get back to a probability, one applies the inverse of the logit function, which is the logistic or sigmoid function: [latex]p = \frac{e^{\beta_0 + \beta_1 x_1 + \dots}}{1 + e^{\beta_0 + \beta_1 x_1 + \dots}}[/latex]. Unlike linear regression, the parameters ([latex]\beta[/latex]) are not estimated using least squares. Instead, they are typically found using Maximum Likelihood Estimation (MLE), an iterative process that finds the parameter values that maximize the likelihood of observing the actual data. The model can be extended to handle multi-class problems through multinomial logistic regression.
DISPONIBILE PER NUOVE SFIDE
Ingegnere meccanico, responsabile di progetto, ingegneria di processo o ricerca e sviluppo
Disponibile per una nuova sfida con breve preavviso.
Contattami su LinkedIn
Integrazione di componenti elettronici in plastica e metallo, progettazione in base ai costi, GMP, ergonomia, dispositivi e materiali di consumo di medio-alto volume, produzione snella, settori regolamentati, CE e FDA, CAD, Solidworks, Lean Sigma Black Belt, ISO 13485 in ambito medico
Stiamo cercando un nuovo sponsor
La tua azienda o istituzione si occupa di tecnica, scienza o ricerca?
> inviaci un messaggio <
Ricevi tutti i nuovi articoli
Gratuito, no spam, email non distribuita né rivenduta
oppure puoi ottenere la tua iscrizione completa -gratuitamente- per accedere a tutti i contenuti riservati >Qui<
(se la data non è nota o non è rilevante, ad esempio "meccanica dei fluidi", viene fornita una stima approssimativa della sua notevole comparsa)
Principi di invenzione, innovazione e tecnica correlati
{{title}}
{% se estratto %}{{ excerpt | truncatewords: 55 }}
{% fine se %}
