{"id":2631,"date":"2023-01-12T15:47:03","date_gmt":"2023-01-12T14:47:03","guid":{"rendered":"https:\/\/www.gironi.it\/blog\/?p=2631"},"modified":"2024-09-20T13:56:14","modified_gmt":"2024-09-20T12:56:14","slug":"la-regressione-logistica","status":"publish","type":"post","link":"https:\/\/www.gironi.it\/blog\/la-regressione-logistica\/","title":{"rendered":"Regressione Logistica: prevedere il risultato di un evento"},"content":{"rendered":"\n

La regressione logistica \u00e8 un modello statistico utilizzato per prevedere la probabilit\u00e0 di un evento in base a un insieme di variabili indipendenti.
E’ particolarmente utile quando si vuole classificare un evento come appartenente o meno ad una determinata categoria (ad esempio, un cliente che acquister\u00e0 o meno un prodotto, un paziente che svilupper\u00e0 o meno una malattia).<\/p>\n\n\n\n

Si tratta di un algoritmo di Apprendimento Automatico Supervisionato<\/em><\/strong> che pu\u00f2 essere utilizzato per modellare la probabilit\u00e0 di una determinata classe o evento. Viene utilizzato quando i dati sono linearmente separabili<\/strong> – cio\u00e8 se esiste una linea o un piano che possono essere utilizzati per separare i dati in diverse classi in modo univoco – e l’esito \u00e8 binario o dicotomico<\/strong>.
Ci\u00f2 significa che la regressione logistica viene solitamente utilizzata per problemi di classificazione binaria <\/em><\/strong>(S\u00ec\/No, Corretto\/Sbagliato, Vero\/Falso, ecc.),<\/p>\n\n\n\n

Nel corso di questo post mostrer\u00f2 come eseguire una regressione logistica binomiale per creare un modello di classificazione, al fine di prevedere risposte binarie su un determinato insieme di predittori.<\/p>\n\n\n\n\n\n\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t\tDi cosa parleremo\t\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\t
  1. Come funziona la regressione logistica e i passi per costruirla<\/a>
  2. Un esempio in R: calcolare la probabilit\u00e0 di sopravvivenza sul Titanic<\/a>
  3. Un po' di matematica: l'equazione logit<\/a>
  4. Tiriamo le somme<\/a>
  5. Risorse per approfondire<\/a><\/ol>\t\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\n\n\n

    Come funziona la regressione logistica e i passi per costruirla<\/h2>\n\n\n\n

    La regressione logistica \u00e8 una tecnica di modellizzazione statistica<\/strong> utilizzata per prevedere la probabilit\u00e0 di un evento binario<\/strong> (ad esempio, s\u00ec\/no, vero\/falso) in base a un insieme di variabili indipendenti<\/strong>.<\/p>\n\n\n\n

    A differenza della regressione lineare<\/a>, che \u00e8 utilizzata per prevedere valori continui, la regressione logistica utilizza la funzione logistica per “modellizzare” la probabilit\u00e0 dell’evento osservato.<\/p>\n\n\n\n

    La regressione logistica utilizza la funzione logistica<\/strong>, anche conosciuta come sigmoide<\/em><\/strong>, per produrre la probabilit\u00e0 di un evento.
    La funzione logistica produce un valore compreso tra 0 e 1<\/strong>, che pu\u00f2 essere interpretato come una probabilit\u00e0.
    Dopo che il modello \u00e8 stato addestrato, si pu\u00f2 utilizzare per fare previsioni su nuovi dati, fornendo una stima della probabilit\u00e0 di un evento.<\/p>\n\n\n\n

    \"grafico
    La funzione sigmoide \u00e8 utile per mappare qualsiasi valore previsto di probabilit\u00e0: il valore previsto \u00e8 sempre compreso tra 0 e 1<\/figcaption><\/figure><\/div>\n\n\n\n

    I passi per costruire una regressione logistica sono i seguenti:<\/p>\n\n\n\n

      \n
    1. Selezionare e raccogliere i dati<\/strong>: raccogli i dati che desideri utilizzare per prevedere l’evento binario e seleziona le variabili indipendenti che ritieni pertinenti per la tua analisi.<\/li>\n\n\n\n
    2. Pulire e preparare i dati<\/strong>: controlla i dati per eventuali valori mancanti o errati e assicurati che i dati siano adeguatamente formattati per l’analisi.<\/li>\n\n\n\n
    3. Costruire il modello<\/strong>: utilizza la funzione logistica per costruire il modello sui dati di training. La funzione logistica \u00e8 una funzione “S-shaped” che restituisce valori compresi tra 0 e 1, che possono essere interpretati come probabilit\u00e0.<\/li>\n\n\n\n
    4. Valutare il modello<\/strong>: Utilizza i dati di test per valutare l’accuratezza del modello. Ci sono varie metriche che si possono utilizzare per la valutazione, come l’accuratezza, la precisione e il recall.<\/li>\n\n\n\n
    5. Interpretare i risultati<\/strong>: analizza i coefficienti del modello per capire l’importanza relativa delle variabili indipendenti e per capire meglio come i valori delle variabili influiscono sulla probabilit\u00e0 dell’evento.<\/li>\n\n\n\n
    6. Utilizzare il modello per fare previsioni<\/strong>: utilizza il modello per fare previsioni sui nuovi dati in base alle variabili indipendenti fornite.<\/li>\n<\/ol>\n\n\n\n

      Questi sono ovviamente i passi generali per costruire una regressione logistica. Tuttavia, in alcune situazioni potrebbe essere necessario fare ulteriori operazioni o aggiustamenti, come ad esempio utilizzare metodi di regularizzazione per evitare problemi di overfitting<\/em>, oppure utilizzare la cross-validation<\/em> per avere una stima pi\u00f9 affidabile dell’accuratezza del modello.<\/p>\n\n\n\n

      Un esempio in R: calcolare la probabilit\u00e0 di sopravvivenza sul Titanic<\/h2>\n\n\n\n

      Pe fare un esempio pratico molto semplificato, ho scaricato un dataset tra i pi\u00f9 noti e usati, quello relativo ai passeggeri del Titanic, che contiene informazioni sui passeggeri del famoso naufragio del Titanic, tra cui et\u00e0, sesso, classe sociale e se i passeggeri sopravvissero o meno all’incidente.

      Io l’ho preso da       questo indirizzo<\/a> e l’ho salvato in locale come titanic.csv<\/em><\/p>\n\n\n\n

      nb: il dataset Titanic \u00e8 disponibile anche nella biblioteca di dati di Kaggle (kaggle.com<\/a>) e nella raccolta di dataset UCI Machine Learning (archive.ics.uci.edu\/ml\/datasets.php<\/a>).<\/p>\n\n\n

      \n
      \"\"<\/figure>\n<\/div>\n\n\n

      Non ho bisogno in questo caso di pulire i dati, perch\u00e8 utilizzo un set di dati “sicuro” e ampiamente testato.
      Ovviamente, in un caso d’uso “reale” i dati andranno accuratamente esaminati, studiati, e “trattati” in fase preliminare\u2026<\/p>\n\n\n\n

      Ecco allora un codice d’esempio in R:<\/p>\n\n\n\n

      # Carico le librerie\nlibrary(ggplot2)\nlibrary(caret)\n\n# Carico i dati nel dataset titanic\n# Sostituisco il percorso con quello nel mio pc\ntitanic <- read.csv(\"\/ilmiopath\/titanic.csv\")\n\n# Visualizzo le prime 10 righe\nhead(titanic, 10)\n\n# Creo le variabili dummy per i campi categorici\ntitanic$Sex <- as.factor(titanic$Sex)\ntitanic$Survived <- as.factor(titanic$Survived)\n\n# Creo un model di regressione logistica\nmodel <- glm(Survived ~ Pclass + Sex + Age + SibSp + Parch + Fare + Embarked, data = titanic, family = binomial(link = \"logit\"))\n\n# Mostro il modello\nsummary(model)\n\n\n# Come predire la probabilita' di sopravvivenza di un caso di esempio\nexample <- data.frame(Pclass = 3, Sex = \"male\", Age = 32, SibSp = 0, Parch = 0, Fare = 8.05, Embarked = \"S\")\npredict(model, newdata = example, type = \"response\")\n\n# Visualizzo graficamente le probabilita' di sopravvivenza in base alla classe\nggplot(titanic, aes(x = Pclass, fill = factor(Survived))) + \n  geom_bar(position = \"fill\") +\n  labs(x = \"Classe\", y = \"Probabilita' di sopravvivenza\") +\n  scale_fill_discrete(name = \"Sopravvissuto\", labels = c(\"No\", \"Si\"))<\/pre>\n\n\n\n
      In questo caso, notiamo come un uomo di 32 anni in terza classe avrebbe avuto l’8,5% circa di probabilit\u00e0 di sopravvivere.
      Graficamente, abbiamo poi modo di visualizzare la probabilit\u00e0 di sopravvivenza in base alla classe del posto.<\/p>\n\n\n\n
      \"grafico<\/figure><\/div>\n\n\n\n
      Un po’ di matematica: l’equazione logit<\/h2>\n\n\n\n
      Come abbiamo visto, l’equazione logit \u00e8 un’equazione matematica che viene usata nella regressione logistica per descrivere la relazione tra la variabile dipendente (che pu\u00f2 assumere solo valori binari) e una o pi\u00f9 variabili indipendenti (chiamate anche predittori o covariate).

      In generale la forma dell’equazione logit \u00e8 la seguente:<\/p>\n\n\n\n\\(\nlogit(p) = \\ln\\left(\\frac{p}{1-p}\\right) = b_0 + b_1x_1 + b_2x_2 + … + b_n*x_n \\\\ \\\\\n\\)\n\n\n\n
      dove:

      p<\/strong> \u00e8 la probabilit\u00e0 che la variabile dipendente assuma il valore “1”
      logit(p)<\/strong> \u00e8 chiamato logaritmo del rapporto di probabilit\u00e0 (log-odds<\/em>)
      b_0, b_1, b_2, \u2026, b_n<\/strong> sono i coefficienti del modello<\/strong> (chiamati anche pesi o parametri)
      x_1, x_2, \u2026, x_n<\/strong> sono le variabili indipendenti<\/strong> (predittori o covariate)<\/p>\n\n\n\n
      In sintesi, l’equazione logit descrive come la probabilit\u00e0 di un evento (es. una risposta binaria) dipenda dai valori delle variabili indipendenti, attraverso i pesi del modello.<\/p>\n\n\n\n
      Tiriamo le somme<\/h2>\n\n\n\n
      La regressione logistica \u00e8 un potente modello statistico che pu\u00f2 aiutare a prevedere il risultato di un evento in base a un insieme di variabili indipendenti.<\/strong> E’ facile da usare ed interpretare, e pu\u00f2 essere utilizzato in molti ambiti, dalla medicina alla finanza.<\/p>\n\n\n\n
      Rappresenta uno strumento efficace per risolvere problemi di classificazione binaria<\/strong> perch\u00e9 consente di modellare la relazione tra la variabile dipendente binaria e una o pi\u00f9 variabili indipendenti.<\/p>\n\n\n\n
      Consente di:<\/p>\n\n\n\n