<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>regressione &#8211; paologironi blog</title>
	<atom:link href="https://www.gironi.it/blog/tag/regressione-it/feed/" rel="self" type="application/rss+xml" />
	<link>https://www.gironi.it/blog</link>
	<description>Appunti sparsi di (retro) informatica, analisi dei dati, statistica, seo, e cose che cambiano</description>
	<lastBuildDate>Mon, 12 Oct 2026 09:01:10 +0000</lastBuildDate>
	<language>it-IT</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	
	<item>
		<title>Multicollinearità, eteroschedasticità, autocorrelazione: tre nomi difficili spiegati semplici (con esempio in R)</title>
		<link>https://www.gironi.it/blog/multicollinearita-eteroschedasticita-autocorrelazione/</link>
					<comments>https://www.gironi.it/blog/multicollinearita-eteroschedasticita-autocorrelazione/#respond</comments>
		
		<dc:creator><![CDATA[paolo]]></dc:creator>
		<pubDate>Sun, 17 Oct 2021 16:35:46 +0000</pubDate>
				<category><![CDATA[statistica]]></category>
		<category><![CDATA[autocorrelazione]]></category>
		<category><![CDATA[errore]]></category>
		<category><![CDATA[eteroschedasticità]]></category>
		<category><![CDATA[multicollinearità]]></category>
		<category><![CDATA[omoschedasticità]]></category>
		<category><![CDATA[regressione]]></category>
		<category><![CDATA[serie temporali]]></category>
		<guid isPermaLink="false">https://www.gironi.it/blog/?p=2404</guid>

					<description><![CDATA[Nel corso dei post sulla regressione multipla, sull&#8217;analisi della varianza e sulle serie temporali abbiamo incontrato tre termini che sembrano fatti apposta per spaventare il lettore. Multicollinearità, eteroschedasticità, autocorrelazione: se vogliamo convincere qualcuno che la statistica è una materia oscura e inaccessibile, sono le parole magiche da pronunciare. 🙂 Sorpresa: dietro i nomi ci sono &#8230; <a href="https://www.gironi.it/blog/multicollinearita-eteroschedasticita-autocorrelazione/" class="more-link">Leggi tutto<span class="screen-reader-text"> "Multicollinearità, eteroschedasticità, autocorrelazione: tre nomi difficili spiegati semplici (con esempio in R)"</span></a>]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph">Nel corso dei post sulla <a href="https://www.gironi.it/blog/regressione-multipla-spiegata-semplice/">regressione multipla</a>, sull&#8217;<a href="https://www.gironi.it/blog/lanalisi-della-varianza-anova-spiegata-semplice/">analisi della varianza</a> e sulle <a href="https://www.gironi.it/blog/analisi-delle-serie-storiche0-e-previsioni-di-serie-temporali-in-r-con-il-metodo-holt-winters/">serie temporali</a> abbiamo incontrato tre termini che sembrano fatti apposta per spaventare il lettore. Multicollinearità, eteroschedasticità, autocorrelazione: se vogliamo convincere qualcuno che la statistica è una materia oscura e inaccessibile, sono le parole magiche da pronunciare. 🙂</p>



<p class="wp-block-paragraph">Sorpresa: dietro i nomi ci sono tre idee semplici, e soprattutto tre problemi molto concreti. Per vederli all&#8217;opera prendiamo il modello che prima o poi costruisce chiunque lavori nel marketing digitale: quante conversioni ci porta ogni euro speso su Google Ads e su Meta? Lo vedremo cadere in tutte e tre le trappole, una dopo l&#8217;altra, e impareremo a riconoscerle e a uscirne.</p>



<span id="more-2404"></span>



<p class="wp-block-paragraph"><strong>In sintesi:</strong> sono tre problemi diversi della regressione. La <strong>multicollinearità</strong> riguarda i <em>predittori</em>: due o più variabili esplicative sono fortemente correlate fra loro, e il modello non riesce a separarne gli effetti (coefficienti instabili, a volte col segno sbagliato). L&#8217;<strong>eteroschedasticità</strong> riguarda gli <em>errori</em>: la loro dispersione non è costante, ma cresce o cala con i valori previsti. L&#8217;<strong>autocorrelazione</strong> riguarda ancora gli <em>errori</em>, ordinati nel tempo: l&#8217;errore di oggi è legato a quello di ieri. Negli ultimi due casi i coefficienti restano in media corretti, ma <strong>errori standard, p-value e intervalli di confidenza diventano inaffidabili</strong>. In R si diagnosticano con il VIF, il test di Breusch-Pagan e il test di Durbin-Watson.</p>



<p class="wp-block-paragraph"><strong>Di cosa parleremo</strong>:</p>



<ul class="wp-block-list"><li><a href="#il-modello">Il modello: quanto rende ogni euro di pubblicità?</a></li><li><a href="#multicollinearita">Cos&#8217;è la multicollinearità?</a></li><li><a href="#eteroschedasticita">Cos&#8217;è l&#8217;eteroschedasticità?</a></li><li><a href="#autocorrelazione">Cos&#8217;è l&#8217;autocorrelazione?</a></li><li><a href="#differenze">Che differenza c&#8217;è fra i tre problemi?</a></li><li><a href="#domande-frequenti">Domande frequenti</a></li><li><a href="#prova-tu">Prova tu</a></li><li><a href="#per-approfondire">Per approfondire</a></li></ul>



<hr class="wp-block-separator has-alpha-channel-opacity"/>



<h2 class="wp-block-heading" id="il-modello">Il modello: quanto rende ogni euro di pubblicità?</h2>



<p class="wp-block-paragraph">Immaginiamo un e-commerce che da due anni investe ogni settimana su Google Ads e su Meta. Il business cresce, la spesa segue la stagionalità, e nel foglio di calcolo abbiamo 104 righe: per ogni settimana i due budget e le conversioni ottenute. I dati sono simulati, così conosciamo la verità: entrambi i canali funzionano, Google un po&#8217; più di Meta.</p>



<p class="wp-block-paragraph">Generiamo i dati in R:</p>



<pre class="wp-block-code"><code>library(lmtest)     # test di Breusch-Pagan e di Durbin-Watson
library(sandwich)   # errori standard robusti

simula &lt;- function() {
  settimana &lt;- 1:104
  crescita &lt;- seq(5000, 15000, length.out = 104)          # il business cresce
  stagione &lt;- 1 + 0.35 * sin(2 * pi * settimana / 52)     # alta e bassa stagione
  google &lt;- round(crescita * stagione * exp(rnorm(104, 0, 0.10)))
  meta &lt;- round(0.45 * google * exp(rnorm(104, 0, 0.08)))  # segue Google
  errore &lt;- as.numeric(arima.sim(list(ar = 0.6), 104, sd = 0.12))
  conversioni &lt;- round(exp(0.6 + 0.40 * log(google) + 0.20 * log(meta) + errore))
  data.frame(settimana, google, meta, conversioni)
}

set.seed(114)
dati &lt;- simula()</code></pre>



<p class="wp-block-paragraph">Le tre trappole sono già scritte in queste righe, anche se ancora non le vediamo: il budget di Meta è fissato come una quota di quello di Google, l&#8217;errore è moltiplicativo (cresce con le dimensioni della settimana) e segue un andamento che si trascina da una settimana all&#8217;altra. Ora facciamo quello che farebbe chiunque, una regressione delle conversioni sulle due spese:</p>



<pre class="wp-block-code"><code>modello &lt;- lm(conversioni ~ google + meta, data = dati)
summary(modello)
# Coefficients:
#               Estimate Std. Error t value Pr(&gt;|t|)
# (Intercept) 179.480922  19.529960   9.190 5.45e-15 ***
# google        0.030642   0.008473   3.616 0.000468 ***
# meta         -0.024130   0.018618  -1.296 0.197920
#
# Multiple R-squared:  0.5323,	Adjusted R-squared:  0.5231
# F-statistic: 57.48 on 2 and 101 DF,  p-value: &lt; 2.2e-16</code></pre>



<p class="wp-block-paragraph">Leggiamolo come lo leggerebbe un responsabile marketing: ogni 1.000 euro su Google portano circa 31 conversioni. E ogni 1.000 euro su Meta ne <em>tolgono</em> 24. Conclusione ovvia: spegniamo Meta.</p>



<p class="wp-block-paragraph">Sarebbe un errore costoso, perché nei dati Meta funziona. Il modello nel suo complesso spiega metà della variabilità delle conversioni (R² 0,53, test F con p minuscolo), ma la ripartizione fra i due canali è un&#8217;illusione. Benvenuti nella multicollinearità.</p>



<h2 class="wp-block-heading" id="multicollinearita">Cos&#8217;è la multicollinearità?</h2>



<div class="wp-block-group has-background" style="background-color:#f5f7f9;margin-top:2.5rem;margin-bottom:2.5rem;padding-top:1.5rem;padding-right:1.5rem;padding-bottom:1.5rem;padding-left:1.5rem"><div class="wp-block-group__inner-container is-layout-flow wp-block-group-is-layout-flow">
<p>Parliamo di <strong>multicollinearità</strong> quando <strong>due o più variabili esplicative di un modello di regressione sono fortemente correlate fra loro</strong>. Il modello sa che <em>insieme</em> contano, ma non riesce a stabilire <em>quanto</em> conta ciascuna.</p>
</div></div>



<p class="wp-block-paragraph">Il motivo è intuitivo. Per stimare l&#8217;effetto di Meta «a parità di Google», la regressione ha bisogno di settimane in cui Meta varia e Google no. Ma nei nostri dati, quando sale Google sale anche Meta: la correlazione fra le due spese è 0,975. Le settimane utili a distinguere i due effetti sono pochissime, e la stima si regge su quelle poche oscillazioni casuali.</p>



<p class="wp-block-paragraph">Lo strumento standard per misurare il problema è il <strong>VIF</strong>, il <em>fattore di inflazione della varianza</em>. Si calcola con una regressione ausiliaria: si spiega un predittore con tutti gli altri e si guarda quanto bene ci si riesce. Se l&#8217;R² di questa regressione è alto, il predittore è quasi una copia degli altri:</p>



<p class="wp-block-paragraph">\(VIF = \frac{1}{1 &#8211; R^2_{\text{ausiliario}}}\)</p>



<p class="wp-block-paragraph">Il nome dice esattamente cosa misura: di quante volte la varianza del coefficiente è gonfiata rispetto al caso di predittori indipendenti. Calcoliamolo:</p>



<pre class="wp-block-code"><code>r2_aux &lt;- summary(lm(google ~ meta, data = dati))$r.squared
r2_aux
# [1] 0.9511464
1 / (1 - r2_aux)
# [1] 20.46933</code></pre>



<p class="wp-block-paragraph">Il pacchetto car lo calcola direttamente con <code>vif(modello)</code>. La regola pratica più diffusa considera preoccupante un VIF sopra 5, grave sopra 10. Il nostro vale <strong>20,5</strong>: la varianza delle stime è venti volte quella che avremmo con due canali indipendenti, e l&#8217;errore standard (la sua radice) più di quattro volte.</p>



<p class="wp-block-paragraph">Che cosa significa, in pratica? Lo vediamo ripetendo lo stesso esperimento 500 volte: stesse regole, stessi effetti veri, solo un&#8217;estrazione casuale diversa.</p>



<pre class="wp-block-code"><code>set.seed(2026)
stime &lt;- t(replicate(500, {
  d &lt;- simula()
  1000 * c(coef(lm(conversioni ~ google + meta, data = d))[2:3],
           totale = coef(lm(conversioni ~ I(google + meta), data = d))[[2]])
}))
mean(stime[, "meta"] &lt; 0)
# [1] 0.146
cor(stime[, "google"], stime[, "meta"])
# [1] -0.9068232</code></pre>



<figure class="wp-block-image size-large"><img decoding="async" src="https://www.gironi.it/blog/wp-content/uploads/2026/10/diagnostica-multicollinearita.png" alt="A sinistra la spesa settimanale su Google Ads e su Meta: i punti stanno quasi su una retta, correlazione 0,98. A destra le stime dei due effetti in 500 ripetizioni dello stesso esperimento: si dispongono lungo una diagonale discendente, perché quando una stima sale l'altra scende. In circa un caso su sette l'effetto di Meta risulta negativo; il punto rosso sono i nostri dati."/><figcaption class="wp-element-caption">A sinistra la spesa settimanale su Google Ads e su Meta: i punti stanno quasi su una retta, correlazione 0,98. A destra le stime dei due effetti in 500 ripetizioni dello stesso esperimento: si dispongono lungo una diagonale discendente, perché quando una stima sale l&#8217;altra scende. In circa un caso su sette l&#8217;effetto di Meta risulta negativo; il punto rosso sono i nostri dati.</figcaption></figure>



<p class="wp-block-paragraph"><strong>Le due stime si contendono lo stesso effetto</strong>: quando una sale, l&#8217;altra scende (correlazione −0,91 fra le stime). In un caso su sette Meta esce addirittura negativo, e il nostro dataset è proprio uno di quelli. Eppure la somma dei due effetti è stabile: la spesa totale ha una deviazione standard di 2,5 conversioni per 1.000 euro, contro 8,7 per Google e 17,7 per Meta.</p>



<p class="wp-block-paragraph">Ecco il segno distintivo della multicollinearità: <strong>il modello nel complesso funziona, le previsioni sono buone, ma i singoli coefficienti non sono credibili</strong>. Spesso si presenta proprio così: R² discreto o alto, test F significativo, e coefficienti con errori standard enormi o segni contrari al buon senso.</p>



<h3 class="wp-block-heading">Come si risolve?</h3>



<p class="wp-block-paragraph">Non esiste un test che «cura» la multicollinearità, perché non è un difetto del calcolo: è una mancanza di informazione nei dati. Le strade sono quattro.</p>



<ul class="wp-block-list"><li><strong>Fare una domanda meno ambiziosa.</strong> Se i due budget si muovono insieme, chiediamoci quanto rende la spesa totale. Con <code>lm(conversioni ~ I(google + meta))</code> otteniamo 13,6 conversioni per 1.000 euro, con un errore standard di 1,3: una stima solida.</li><li><strong>Procurarsi l&#8217;informazione che manca.</strong> Per separare i canali servono settimane in cui si muovono in modo indipendente: un esperimento in cui si spegne Meta in alcune aree o in alcune settimane, lo stesso principio del gruppo di controllo che usiamo negli <a href="https://www.gironi.it/blog/split-test-seo/">split test SEO</a>. Più dati dello stesso tipo, invece, aiutano poco: se i budget continuano a muoversi insieme, il problema resta.</li><li><strong>Togliere una delle due variabili</strong>, ma con prudenza: Google si prenderebbe anche il merito di Meta, e la stima diventerebbe distorta. È lo stesso meccanismo del confondente che abbiamo visto nella regressione multipla.</li><li><strong>Usare metodi che accettano un po&#8217; di distorsione in cambio di stabilità</strong>, come la regressione <em>ridge</em>, che restringe i coefficienti verso zero. Sono il pane del machine learning, ma rendono meno immediata l&#8217;interpretazione.</li></ul>



<p class="wp-block-paragraph">Da qui in avanti seguiamo la prima strada e lavoriamo con la spesa totale:</p>



<pre class="wp-block-code"><code>dati$spesa &lt;- dati$google + dati$meta
modello_tot &lt;- lm(conversioni ~ spesa, data = dati)</code></pre>



<h2 class="wp-block-heading" id="eteroschedasticita">Cos&#8217;è l&#8217;eteroschedasticità?</h2>



<p class="wp-block-paragraph">Beh, questo termine sembra fatto apposta per spaventare. Ma il concetto, invece, non è poi così complicato.</p>



<div class="wp-block-group has-background" style="background-color:#f5f7f9;margin-top:2.5rem;margin-bottom:2.5rem;padding-top:1.5rem;padding-right:1.5rem;padding-bottom:1.5rem;padding-left:1.5rem"><div class="wp-block-group__inner-container is-layout-flow wp-block-group-is-layout-flow">
<p><strong>Eteroschedasticità</strong> significa in pratica <strong>dispersione disuguale</strong>: si ha quando <strong>la varianza degli errori di un modello di regressione non è costante, ma cambia al variare dei valori previsti o di una variabile esplicativa</strong>. Il caso opposto, quello che i minimi quadrati ordinari presuppongono, si chiama <strong>omoschedasticità</strong>: errori con la stessa dispersione a tutti i livelli.</p>
</div></div>



<p class="wp-block-paragraph">Nel marketing l&#8217;eteroschedasticità è quasi la regola. Una settimana da 300 conversioni può sbagliare di 30 in più o in meno; una settimana da 600 conversioni, a parità di condizioni, sbaglia di 60. Gli errori crescono con le dimensioni, perché gli effetti sono proporzionali e non additivi. Il modo più semplice per accorgersene è guardare i residui in funzione dei valori previsti: se si allargano a ventaglio, la varianza non è costante.</p>



<p class="wp-block-paragraph">Per una verifica formale si usa il <strong>test di Breusch-Pagan</strong>, che controlla se i residui al quadrato si possono spiegare con i predittori. L&#8217;ipotesi nulla è l&#8217;omoschedasticità:</p>



<pre class="wp-block-code"><code>bptest(modello_tot)
# BP = 9.3544, df = 1, p-value = 0.002224</code></pre>



<p class="wp-block-paragraph">Con un p-value di 0,002 l&#8217;ipotesi di varianza costante non regge.</p>



<p class="wp-block-paragraph"><strong>Cosa succede se la ignoriamo?</strong> Qui c&#8217;è una buona notizia, che spesso i manuali lasciano in ombra: <strong>i coefficienti restano corretti in media</strong>. Quello che salta è la stima della loro precisione: gli errori standard calcolati con la formula classica sono sbagliati, e con loro i p-value e gli intervalli di confidenza. Nel nostro caso, gli errori standard <em>robusti</em>, che non presuppongono la varianza costante, sono più grandi del 20% (da 0,00131 a 0,00157):</p>



<pre class="wp-block-code"><code>coeftest(modello_tot, vcov = vcovHC(modello_tot, type = "HC3"))
#               Estimate Std. Error t value  Pr(&gt;|t|)
# (Intercept) 1.7769e+02 2.0789e+01  8.5472 1.310e-13 ***
# spesa       1.3622e-02 1.5723e-03  8.6638 7.273e-14 ***</code></pre>



<p class="wp-block-paragraph"><strong>Come si risolve?</strong> Ci sono tre strade, spesso combinabili:</p>



<ul class="wp-block-list"><li>usare gli <strong>errori standard robusti</strong>, come abbiamo appena fatto: la soluzione più semplice, che non cambia le stime ma solo la loro incertezza;</li><li><strong>trasformare le variabili</strong>, tipicamente con i logaritmi, quando gli effetti sono proporzionali;</li><li>usare i <strong>minimi quadrati ponderati</strong>, che danno meno peso alle osservazioni più rumorose.</li></ul>



<p class="wp-block-paragraph">Nel nostro caso la seconda strada è anche la più naturale, perché l&#8217;errore è moltiplicativo per costruzione. Passiamo ai logaritmi:</p>



<pre class="wp-block-code"><code>modello_log &lt;- lm(log(conversioni) ~ log(spesa), data = dati)
coef(summary(modello_log))
#              Estimate Std. Error    t value     Pr(&gt;|t|)
# (Intercept) 0.2257489 0.45602741  0.4950336 6.216411e-01
# log(spesa)  0.5953304 0.04792515 12.4220879 3.942384e-22
bptest(modello_log)
# BP = 1.1777, df = 1, p-value = 0.2778</code></pre>



<figure class="wp-block-image size-large"><img decoding="async" src="https://www.gironi.it/blog/wp-content/uploads/2026/10/diagnostica-eteroschedasticita.png" alt="I residui contro i valori previsti, per il modello lineare (a sinistra) e per quello sui logaritmi (a destra). Nel primo la nuvola si allarga verso le settimane più grandi; nel secondo la dispersione è uniforme. Il test di Breusch-Pagan passa da p = 0,002 a p = 0,28."/><figcaption class="wp-element-caption">I residui contro i valori previsti, per il modello lineare (a sinistra) e per quello sui logaritmi (a destra). Nel primo la nuvola si allarga verso le settimane più grandi; nel secondo la dispersione è uniforme. Il test di Breusch-Pagan passa da p = 0,002 a p = 0,28.</figcaption></figure>



<p class="wp-block-paragraph">Il ventaglio si chiude, e il test non trova più nulla. In più il coefficiente ha guadagnato un&#8217;interpretazione comodissima: in un modello con i logaritmi da entrambe le parti è un&#8217;<strong>elasticità</strong>. Il valore di 0,595 dice che <strong>il 10% di spesa in più porta circa il 5,8% di conversioni in più</strong> (1,1 elevato a 0,595 fa 1,058). Nella simulazione il valore vero è 0,6: il modello ci è arrivato vicinissimo.</p>



<h2 class="wp-block-heading" id="autocorrelazione">Cos&#8217;è l&#8217;autocorrelazione?</h2>



<p class="wp-block-paragraph">Resta l&#8217;ultima trappola, la più subdola quando i dati sono ordinati nel tempo.</p>



<div class="wp-block-group has-background" style="background-color:#f5f7f9;margin-top:2.5rem;margin-bottom:2.5rem;padding-top:1.5rem;padding-right:1.5rem;padding-bottom:1.5rem;padding-left:1.5rem"><div class="wp-block-group__inner-container is-layout-flow wp-block-group-is-layout-flow">
<p>Si ha <strong>autocorrelazione</strong> (o <em>correlazione seriale</em>) quando <strong>gli errori di un modello di regressione sono correlati fra loro nel tempo</strong>: l&#8217;errore di un periodo dice qualcosa sull&#8217;errore del periodo successivo. Nel caso più comune, l&#8217;autocorrelazione positiva di primo ordine, a una settimana andata meglio del previsto tende a seguirne un&#8217;altra andata meglio del previsto.</p>
</div></div>



<p class="wp-block-paragraph">Nel marketing succede di continuo: una campagna di un concorrente, un periodo di prezzi favorevoli, un aggiornamento dell&#8217;algoritmo di Google, una buona recensione che circola. Sono tutte cose che il modello non vede e che durano più di una settimana. Gli errori, allora, non saltano a caso sopra e sotto lo zero: restano dalla stessa parte per settimane intere. Il grafico dei residui in ordine di tempo lo mostra a colpo d&#8217;occhio:</p>



<figure class="wp-block-image size-large"><img decoding="async" src="https://www.gironi.it/blog/wp-content/uploads/2026/10/diagnostica-autocorrelazione.png" alt="I residui del modello sui logaritmi, settimana per settimana. Invece di alternarsi a caso sopra e sotto lo zero, formano lunghe sequenze dello stesso segno: l'autocorrelazione al primo ritardo vale 0,59 e la statistica di Durbin-Watson 0,81."/><figcaption class="wp-element-caption">I residui del modello sui logaritmi, settimana per settimana. Invece di alternarsi a caso sopra e sotto lo zero, formano lunghe sequenze dello stesso segno: l&#8217;autocorrelazione al primo ritardo vale 0,59 e la statistica di Durbin-Watson 0,81.</figcaption></figure>



<p class="wp-block-paragraph">Il test classico è quello di <strong>Durbin-Watson</strong>. La sua statistica d vale circa 2 in assenza di autocorrelazione, scende verso 0 con autocorrelazione positiva e sale verso 4 con quella negativa. In R non servono più le tavole: il test restituisce direttamente il p-value.</p>



<pre class="wp-block-code"><code>dwtest(modello_log)
# DW = 0.81187, p-value = 2.573e-10
acf(resid(modello_log), plot = FALSE)$acf[2]
# [1] 0.5881333</code></pre>



<p class="wp-block-paragraph">Una statistica di 0,81 e un&#8217;autocorrelazione dei residui di 0,59 fra una settimana e la successiva: il problema c&#8217;è, ed è forte. Per serie più lunghe o per autocorrelazioni di ordine superiore (fra un errore e quello di due o più periodi prima) si usano anche la funzione <code>acf()</code> e il test di Ljung-Box, che abbiamo incontrato parlando di serie temporali.</p>



<p class="wp-block-paragraph"><strong>Cosa succede se la ignoriamo?</strong> Come per l&#8217;eteroschedasticità, le stime restano in media corrette, ma la formula classica degli errori standard presuppone che ogni settimana porti un&#8217;informazione indipendente. Con l&#8217;autocorrelazione positiva non è così: 104 settimane che si somigliano a gruppi valgono meno di 104 osservazioni indipendenti. <strong>Il modello si crede più preciso di quanto sia.</strong> Gli errori standard di Newey-West, che tengono conto sia dell&#8217;autocorrelazione sia dell&#8217;eteroschedasticità, lo mostrano subito:</p>



<pre class="wp-block-code"><code>coeftest(modello_log, vcov = NeweyWest(modello_log))
#             Estimate Std. Error t value  Pr(&gt;|t|)
# (Intercept)  0.22575    1.00072  0.2256     0.822
# log(spesa)   0.59533    0.10624  5.6039 1.791e-07 ***</code></pre>



<p class="wp-block-paragraph">L&#8217;errore standard dell&#8217;elasticità passa da 0,048 a 0,106, più del doppio. L&#8217;intervallo di confidenza al 95%, che con la formula classica andava da 0,50 a 0,69, si allarga da 0,38 a 0,81. L&#8217;effetto della pubblicità resta chiaramente positivo, ma la nostra incertezza su <em>quanto</em> rende è più del doppio di quella che credevamo. Con un effetto più piccolo, la differenza fra le due formule sarebbe quella fra un risultato «significativo» e uno che non lo è.</p>



<p class="wp-block-paragraph"><strong>Come si risolve?</strong></p>



<ul class="wp-block-list"><li>usare gli <strong>errori standard di Newey-West</strong>, come sopra, se interessano soprattutto le stime e la loro incertezza;</li><li><strong>modellare ciò che manca</strong>: spesso l&#8217;autocorrelazione nasce da una variabile omessa che si muove lentamente (stagionalità, trend, promozioni), e aggiungerla al modello la riduce;</li><li>usare modelli che stimano esplicitamente la correlazione fra gli errori, come i minimi quadrati generalizzati (in R <code>gls()</code> del pacchetto nlme, con <code>correlation = corAR1()</code>). Sono i discendenti moderni del metodo in due stadi di Durbin e della procedura di Cochrane-Orcutt.</li></ul>



<h2 class="wp-block-heading" id="differenze">Che differenza c&#8217;è fra i tre problemi?</h2>



<p class="wp-block-paragraph">Arrivati qui, possiamo mettere i tre concetti uno accanto all&#8217;altro. La distinzione più importante è dove sta il problema: la multicollinearità riguarda le variabili esplicative, gli altri due riguardano gli errori.</p>



<figure class="wp-block-table"><table><thead><tr><th></th><th>Multicollinearità</th><th>Eteroschedasticità</th><th>Autocorrelazione</th></tr></thead><tbody><tr><td>Dove sta il problema</td><td>nei predittori, correlati fra loro</td><td>negli errori, con varianza non costante</td><td>negli errori, correlati nel tempo</td></tr><tr><td>Coefficienti</td><td>corretti in media, ma molto instabili</td><td>corretti in media</td><td>corretti in media</td></tr><tr><td>Errori standard</td><td>grandi (gonfiati)</td><td>sbagliati</td><td>di solito troppo piccoli</td></tr><tr><td>Come si riconosce</td><td>VIF sopra 5-10</td><td>residui a ventaglio, test di Breusch-Pagan</td><td>residui a sequenze, test di Durbin-Watson</td></tr><tr><td>Rimedi tipici</td><td>spesa aggregata, esperimenti, ridge</td><td>logaritmi, errori standard robusti</td><td>Newey-West, variabili omesse, <code>gls()</code></td></tr></tbody></table></figure>



<p class="wp-block-paragraph">C&#8217;è una differenza sottile ma importante fra il primo e gli altri due. Con la multicollinearità gli errori standard sono grandi <em>e lo sanno</em>: il modello ci avverte, a modo suo, che non sa separare gli effetti. Con l&#8217;eteroschedasticità e l&#8217;autocorrelazione, invece, gli errori standard classici sono sbagliati <em>in silenzio</em>, e spesso nel verso peggiore: ci fanno sembrare più sicuri di quanto siamo. Per questo i test diagnostici non sono un&#8217;appendice per pignoli, ma un controllo da fare ogni volta che una regressione deve guidare una decisione.</p>



<h2 class="wp-block-heading" id="domande-frequenti">Domande frequenti</h2>



<h3 class="wp-block-heading">Cosa significa multicollinearità?</h3>



<p class="wp-block-paragraph">Significa che due o più variabili esplicative di un modello di regressione sono fortemente correlate fra loro. Il modello non riesce allora a separarne gli effetti: i coefficienti diventano instabili, hanno errori standard grandi e possono perfino avere il segno sbagliato, anche quando il modello nel complesso prevede bene.</p>



<h3 class="wp-block-heading">Cosa significa eteroschedasticità?</h3>



<p class="wp-block-paragraph">Significa che la varianza degli errori di un modello di regressione non è costante, ma cambia con i valori previsti o con una variabile esplicativa. È il contrario dell&#8217;omoschedasticità. I coefficienti restano in media corretti, ma errori standard, p-value e intervalli di confidenza calcolati con la formula classica diventano inaffidabili.</p>



<h3 class="wp-block-heading">Che differenza c&#8217;è fra multicollinearità e autocorrelazione?</h3>



<p class="wp-block-paragraph">La multicollinearità riguarda le variabili esplicative, correlate fra loro; l&#8217;autocorrelazione riguarda gli errori del modello, correlati nel tempo. La prima rende instabili i coefficienti e si misura con il VIF; la seconda rende troppo ottimisti gli errori standard e si verifica con il test di Durbin-Watson.</p>



<h3 class="wp-block-heading">Che differenza c&#8217;è fra eteroschedasticità e autocorrelazione?</h3>



<p class="wp-block-paragraph">Entrambe riguardano gli errori del modello e lasciano in media corretti i coefficienti. L&#8217;eteroschedasticità riguarda la loro dispersione, che cambia da un&#8217;osservazione all&#8217;altra; l&#8217;autocorrelazione riguarda il loro legame nel tempo. Possono presentarsi insieme, e gli errori standard di Newey-West tengono conto di entrambe.</p>



<h3 class="wp-block-heading">Quale valore del VIF indica multicollinearità?</h3>



<p class="wp-block-paragraph">Non c&#8217;è una soglia universale. La regola pratica più diffusa considera da tenere d&#8217;occhio un VIF sopra 5 e grave un VIF sopra 10. Un VIF di 10 significa che la varianza del coefficiente è dieci volte quella che avrebbe con predittori indipendenti.</p>



<h3 class="wp-block-heading">Quanto deve valere la statistica di Durbin-Watson?</h3>



<p class="wp-block-paragraph">Circa 2 in assenza di autocorrelazione. Valori vicini a 0 indicano autocorrelazione positiva, valori vicini a 4 autocorrelazione negativa. In R, <code>dwtest()</code> del pacchetto lmtest restituisce anche il p-value, senza bisogno delle tavole.</p>



<script type="application/ld+json">{"@context": "https://schema.org", "@type": "FAQPage", "mainEntity": [{"@type": "Question", "name": "Cosa significa multicollinearità?", "acceptedAnswer": {"@type": "Answer", "text": "Significa che due o più variabili esplicative di un modello di regressione sono fortemente correlate fra loro. Il modello non riesce allora a separarne gli effetti: i coefficienti diventano instabili, hanno errori standard grandi e possono perfino avere il segno sbagliato, anche quando il modello nel complesso prevede bene."}}, {"@type": "Question", "name": "Cosa significa eteroschedasticità?", "acceptedAnswer": {"@type": "Answer", "text": "Significa che la varianza degli errori di un modello di regressione non è costante, ma cambia con i valori previsti o con una variabile esplicativa. È il contrario dell'omoschedasticità. I coefficienti restano in media corretti, ma errori standard, p-value e intervalli di confidenza calcolati con la formula classica diventano inaffidabili."}}, {"@type": "Question", "name": "Che differenza c'è fra multicollinearità e autocorrelazione?", "acceptedAnswer": {"@type": "Answer", "text": "La multicollinearità riguarda le variabili esplicative, correlate fra loro; l'autocorrelazione riguarda gli errori del modello, correlati nel tempo. La prima rende instabili i coefficienti e si misura con il VIF; la seconda rende troppo ottimisti gli errori standard e si verifica con il test di Durbin-Watson."}}, {"@type": "Question", "name": "Che differenza c'è fra eteroschedasticità e autocorrelazione?", "acceptedAnswer": {"@type": "Answer", "text": "Entrambe riguardano gli errori del modello e lasciano in media corretti i coefficienti. L'eteroschedasticità riguarda la loro dispersione, che cambia da un'osservazione all'altra; l'autocorrelazione riguarda il loro legame nel tempo. Possono presentarsi insieme, e gli errori standard di Newey-West tengono conto di entrambe."}}, {"@type": "Question", "name": "Quale valore del VIF indica multicollinearità?", "acceptedAnswer": {"@type": "Answer", "text": "Non c'è una soglia universale. La regola pratica più diffusa considera da tenere d'occhio un VIF sopra 5 e grave un VIF sopra 10. Un VIF di 10 significa che la varianza del coefficiente è dieci volte quella che avrebbe con predittori indipendenti."}}, {"@type": "Question", "name": "Quanto deve valere la statistica di Durbin-Watson?", "acceptedAnswer": {"@type": "Answer", "text": "Circa 2 in assenza di autocorrelazione. Valori vicini a 0 indicano autocorrelazione positiva, valori vicini a 4 autocorrelazione negativa. In R, dwtest() del pacchetto lmtest restituisce anche il p-value, senza bisogno delle tavole."}}]}</script>



<h2 class="wp-block-heading" id="prova-tu">Prova tu</h2>



<p class="wp-block-paragraph">Il codice dell&#8217;articolo si presta a qualche esperimento.</p>



<ul class="wp-block-list"><li>Nella funzione <code>simula()</code> si porta la deviazione standard del rumore di Meta da 0,08 a 0,40, così che i due budget si muovano in modo più indipendente. Cosa succede al VIF? E alla quota di stime negative di Meta nelle 500 ripetizioni?</li><li>Si mette <code>ar = 0</code> in <code>arima.sim()</code>: la statistica di Durbin-Watson torna vicina a 2? E gli errori standard di Newey-West si avvicinano a quelli classici?</li><li>Si stima il modello sui logaritmi con entrambi i canali, <code>lm(log(conversioni) ~ log(google) + log(meta))</code>: il problema della multicollinearità sparisce con i logaritmi?</li></ul>



<p class="wp-block-paragraph">L&#8217;ultimo esercizio ha una risposta istruttiva: le trasformazioni curano l&#8217;eteroschedasticità, ma non la multicollinearità. Se i due budget si muovono insieme, si muovono insieme anche i loro logaritmi.</p>



<hr class="wp-block-separator has-alpha-channel-opacity"/>



<p class="wp-block-paragraph">Con questo abbiamo gli strumenti per fidarci (o non fidarci) di una regressione. È il momento di metterli al lavoro su un problema SEO molto concreto: costruire un modello del CTR che ci aspettiamo a ogni posizione, e usarlo per scovare le pagine che rendono meno di quanto dovrebbero. È il tema di <a href="https://www.gironi.it/blog/ctr-atteso-vs-reale/">CTR atteso contro CTR reale</a>, la prossima tappa del nostro viaggio.</p>



<hr class="wp-block-separator has-alpha-channel-opacity"/>



<h3 class="wp-block-heading" id="per-approfondire">Per approfondire</h3>



<p class="wp-block-paragraph">I tre problemi di cui abbiamo parlato sono trattati in profondità in <a href="https://www.amazon.it/dp/8891906190?tag=consulenzeinf-21&amp;ascsubtag=multicollinearita-eteroschedasticita-autocorrelazione" rel="nofollow sponsored noopener" target="_blank"><em>Introduzione all&#8217;econometria</em></a> di Stock e Watson, il testo che consiglio: dedica pagine chiarissime agli errori standard robusti all&#8217;eteroschedasticità e a quelli di Newey-West per le serie storiche, sempre partendo da esempi economici concreti.</p>
]]></content:encoded>
					
					<wfw:commentRss>https://www.gironi.it/blog/multicollinearita-eteroschedasticita-autocorrelazione/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>Regressione lineare semplice e correlazione: retta, r di Pearson e R²</title>
		<link>https://www.gironi.it/blog/regressione-lineare-semplice/</link>
					<comments>https://www.gironi.it/blog/regressione-lineare-semplice/#respond</comments>
		
		<dc:creator><![CDATA[paolo]]></dc:creator>
		<pubDate>Tue, 25 Aug 2020 06:31:33 +0000</pubDate>
				<category><![CDATA[statistica]]></category>
		<category><![CDATA[coefficiente di determinazione]]></category>
		<category><![CDATA[correlazione]]></category>
		<category><![CDATA[grafico dispersione]]></category>
		<category><![CDATA[r di pearson]]></category>
		<category><![CDATA[regressione]]></category>
		<category><![CDATA[residui]]></category>
		<category><![CDATA[scatterplot]]></category>
		<guid isPermaLink="false">https://www.gironi.it/blog/?p=1807</guid>

					<description><![CDATA[Più fa caldo, più gelati si vendono: lo sospettiamo tutti. Ma di quanto? Se domani il termometro segna 27 gradi, quanti gelati conviene preparare? E, spostandoci sul nostro terreno: se alziamo il budget delle campagne, quante conversioni in più possiamo aspettarci? Concetti come la media o la deviazione standard descrivono una variabile alla volta. Per &#8230; <a href="https://www.gironi.it/blog/regressione-lineare-semplice/" class="more-link">Leggi tutto<span class="screen-reader-text"> "Regressione lineare semplice e correlazione: retta, r di Pearson e R²"</span></a>]]></description>
										<content:encoded><![CDATA[
<p class="wp-block-paragraph">Più fa caldo, più gelati si vendono: lo sospettiamo tutti. Ma <em>di quanto</em>? Se domani il termometro segna 27 gradi, quanti gelati conviene preparare? E, spostandoci sul nostro terreno: se alziamo il budget delle campagne, quante conversioni in più possiamo aspettarci?</p>



<p class="wp-block-paragraph">Concetti come la <a href="https://www.gironi.it/blog/statistica-descrittiva-misure-di-posizione/">media</a> o la <a href="https://www.gironi.it/blog/statistica-descrittiva-misure-di-dispersione-o-variabilita/">deviazione standard</a> descrivono una variabile alla volta. Per domande come queste, invece, <strong>dobbiamo guardare due variabili insieme</strong>: è il mestiere della <strong>correlazione</strong> e della <strong>regressione lineare semplice</strong>, due degli strumenti più usati (e più fraintesi) dell&#8217;analisi dei dati.</p>



<span id="more-1807"></span>



<p class="wp-block-paragraph"><strong>In sintesi:</strong> la <strong>regressione lineare semplice</strong> descrive il legame fra una variabile dipendente y e una sola variabile indipendente x con una retta, y = b + m·x, scelta con il <strong>metodo dei minimi quadrati</strong> (la retta che rende minima la somma dei quadrati dei residui). La pendenza m dice di quanto cambia in media y quando x aumenta di un&#8217;unità. Il <strong>coefficiente di correlazione r di Pearson</strong>, fra −1 e +1, misura forza e direzione della relazione lineare; il <strong>coefficiente di determinazione R²</strong> indica la quota di variabilità di y spiegata dal modello (con un solo predittore, R² = r²). Una correlazione forte non dimostra un rapporto di causa ed effetto. In R si usano <code>cor()</code> e <code>lm()</code>.</p>



<div style="border: 1px solid #ccc;padding: 1.2em 1.5em;margin: 1.5em 0;border-radius: 6px">
<h3 style="margin-top: 0">Di cosa parleremo</h3>
<ul>
<li><a href="#la-regressione-semplice">Cos&#8217;è la regressione lineare semplice?</a></li>
<li><a href="#coefficiente-correlazione-pearson">Come si calcola il coefficiente di correlazione di Pearson?</a></li>
<li><a href="#coefficiente-determinazione-r2">Cosa misura il coefficiente di determinazione R&sup2;?</a></li>
<li><a href="#equazione-di-regressione">Come si trova la retta di regressione?</a></li>
<li><a href="#caso-studio-ads-conversioni">Un caso studio: spesa pubblicitaria e conversioni</a></li>
<li><a href="#valori-anomali-punti-influenza">Valori anomali e punti di influenza</a></li>
<li><a href="#assunzioni-del-modello">Le assunzioni del modello</a></li>
<li><a href="#analisi-dei-residui">Analisi dei residui</a></li>
<li><a href="#difficolta-pratiche">Le difficolt&agrave; pratiche</a></li>
<li><a href="#altri-coefficienti-correlazione">Altri coefficienti di correlazione</a></li>
<li><a href="#prova-tu">Prova tu</a></li>
<li><a href="#domande-frequenti">Domande frequenti</a></li>
</ul>
</div>



<h2 class="wp-block-heading" id="la-regressione-semplice">Cos’è la regressione lineare semplice?</h2>



<p class="wp-block-paragraph">Possiamo considerare la <strong>regressione</strong> come un metodo idoneo a ricercare una relazione matematica che esprima un legame tra un carattere y (la <em><strong>variabile dipendente </strong></em><em><strong>o variabile responso</strong></em>) ed un carattere x (<em><strong>variabile indipendente </strong></em><em><strong>o variabile predittiva</strong></em>).</p>



<p class="wp-block-paragraph"><strong>Il primo passo utile per indagare qualitativamente l&#8217;eventuale dipendenza fra due variabili x e y consiste sempre nel disegnare un grafico, chiamato diagramma di dispersione (<em>scatterplot</em>).</strong></p>



<p class="wp-block-paragraph">Poniamo in ascissa i dati relativi a una delle due variabili, in ordinata quelli relativi all&#8217;altra variabile e rappresentiamo con dei punti le singole osservazioni. Ricordiamo infatti che i grafici a dispersione confrontano due variabili.</p>



<p class="wp-block-paragraph">Se esiste una relazione semplice fra le due variabili, il diagramma dovrebbe mostrarla!</p>



<p class="wp-block-paragraph">Usiamo dei valori di esempio e lasciamo a R il compito di tracciare a video il nostro diagramma di dispersione.</p>



<p class="wp-block-paragraph">Riporto in un file csv dei dati di fantasia relativi a una ipotetica correlazione tra la temperatura ambientale registrata nella mia città e le vendite di gelati. Chiamo il file <em>gelati.csv</em> e lo salvo come pure testo in una cartella qualsiasi del mio filesystem (nel mio esempio in <em>tmp/gelati.csv</em>). Il file avrà questo contenuto:</p>



<pre class="wp-block-code"><code>temperatura,gelati
25,58
30,70
29,61
26,53
25,48
28,66
24,47
22,47
20,40
18,29
22,33</code></pre>



<p class="wp-block-paragraph">Ora apro R Studio e carico il mio dataset:</p>



<pre class="wp-block-code"><code>gelati &lt;- read.csv("/tmp/gelati.csv")</code></pre>



<p class="wp-block-paragraph">Poi traccio il grafico scatterplot per vedere se la figura è compatibile con una ipotesi di regressione lineare:</p>



<pre class="wp-block-code"><code>plot(gelati)</code></pre>



<figure class="wp-block-image size-large is-resized"><img fetchpriority="high" decoding="async" src="https://www.gironi.it/blog/wp-content/uploads/2020/08/diagramma-a-dispersione.png" alt="Scatterplot" class="wp-image-1810" width="641" height="405" srcset="https://www.gironi.it/blog/wp-content/uploads/2020/08/diagramma-a-dispersione.png 855w, https://www.gironi.it/blog/wp-content/uploads/2020/08/diagramma-a-dispersione-300x189.png 300w" sizes="(max-width: 709px) 85vw, (max-width: 909px) 67vw, (max-width: 984px) 61vw, (max-width: 1362px) 45vw, 600px" /><figcaption>il diagramma a dispersione che rappresenta le variabili temperatura e numero di gelati venduti.</figcaption></figure>



<p class="wp-block-paragraph">Il diagramma mostra una evidente correlazione di tipo lineare, con tendenza ascendente.</p>



<h2 class="wp-block-heading" id="coefficiente-correlazione-pearson">Come si calcola il coefficiente di correlazione di Pearson?</h2>



<p class="wp-block-paragraph">Esistono in statistica svariati tipi di coefficienti di correlazione.<strong> Qualora la relazione da indagare sia tra due <a href="https://www.gironi.it/blog/i-dati-scale-di-misura/" class="rank-math-link">variabili di tipo intervallo oppure rapporto</a> (si tratta quindi di variabili di tipo quantitativo, numeriche), il più noto e il più usato è certamente il coefficiente di correlazione di Pearson</strong>, generalmente indicato con la lettera <em>r</em>.</p>



<p class="wp-block-paragraph">Uso il linguaggio R (da non confondere con il coefficiente <em>r</em>) per un esempio pratico con il coefficiente di correlazione di Pearson. <br>La funzione da utilizzare è cor():</p>



<pre class="wp-block-code"><code>cor(gelati$temperatura,gelati$gelati)

[1] 0.9320279</code></pre>



<p class="wp-block-paragraph">Come si vede la correlazione in questo esempio è davvero molto forte.</p>



<p class="wp-block-paragraph"><em><strong>r</strong></em> infatti è un <strong>valore standardizzato e va da +1 a -1</strong>. Più si allontana da zero e si avvicina a 1 (o a -1 in caso di correlazione negativa), più è forte la correlazione.</p>



<p class="has-light-gray-background-color has-background wp-block-paragraph">Se r è positivo la correlazione è positiva, cioè y aumenta all’aumentare di x .<br>Se r è negativo, y diminuisce all’aumentare di x.</p>



<p class="wp-block-paragraph">Ma quando posso dire che una correlazione è forte o molto forte e quando moderata o addirittura nulla? La risposta è&#8230;dipende 🙂<br>Non esiste una risposta standard. In maniera molto arbitraria possiamo dire che in genere una correlazione sotto a 0.20 (o per meglio dire, tra -0.2 e +0.2) è considerata molto debole, tra 0.2 e 0.5 (o tra -0.2 e -0.5) moderata, tra 0.5 e 0.8 (o tra -0.5 e -0.8) piuttosto forte. Correlazioni superiori a 0.8 o inferiori a -0.8, molto forti, sono in realtà abbastanza rare.</p>



<p class="wp-block-paragraph"><strong><em>ATTENZIONE 1</em></strong> : <strong>La cosa in realtà più importante è che l&#8217;evidenza di una relazione tra due variabili non implica necessariamente la presenza di un rapporto di causa effetto tra le due variabili. E&#8217; un punto della massima importanza, che va sempre tenuto bene a mente. </strong>Entrambe le variabili che nel mio studio mostrano una fortissima correlazione possono in realtà dipendere da una terza variabile, o da molte altre variabili, che costituiscono la reale causa. Trovare e calcolare la correlazione tra due variabili è relativamente semplice, trovare e soprattutto provare un rapporto di causa ed effetto è estremamente complesso!</p>



<p class="wp-block-paragraph"><strong><em>ATTENZIONE 2:</em></strong> Un altro punto che vorrei sottolineare è che <strong>il coefficiente di correlazione r di Pearson misura la correlazione lineare </strong>tra due variabili. Questo significa che due variabili possono mostrare una correlazione apparente nulla (<em>r</em> circa 0) eppure essere correlate, ad esempio mostrando una <strong>correlazione di tipo curvilineo</strong>. Un classico esempio di scuola riguarda la correlazione tra il livello di stress e la prestazione in una prova di esame. Un leggero stress infatti contribuisce a migliorare la prestazione, ma superata una certa soglia risulta del tutto dannoso, portando a un decadimento del risultato. In questo caso, l&#8217;analisi in termini di r e di correlazione lineare porterebbe a scartare una correlazione invece esistente.</p>



<div class="wp-block-group bordo has-light-gray-background-color has-background"><div class="wp-block-group__inner-container is-layout-flow wp-block-group-is-layout-flow">
<p><b>E ora un po&#8217; di matematica (ma davvero poca)</b></p>



<p class="wp-block-paragraph">Il coefficiente di correlazione di Pearson per una popolazione, date due variabili X e Y, si indica con la lettera greca rho ed è dato da:</p>



<div class="wp-block-group"><div class="wp-block-group__inner-container is-layout-flow wp-block-group-is-layout-flow">
\(
\\
\rho_{X,Y}=\frac{COV(X,Y)}{\sigma_X \sigma_Y}
\\
\)



<p>dove:</p>
<ul>
<li>COV indica la covarianza</li>
<li>&sigma;<sub>X</sub> è la <a href="https://www.gironi.it/blog/statistica-descrittiva-misure-di-dispersione-o-variabilita/#sqm">deviazione standard</a> di X</li>
<li>&sigma;<sub>Y</sub> è la <a href="https://www.gironi.it/blog/statistica-descrittiva-misure-di-dispersione-o-variabilita/#sqm">deviazione standard</a> di Y</li>
</ul>



<p class="wp-block-paragraph">Per calcolare la covarianza della popolazione (che, ricordiamo, è una misura <em>non standardizzata</em> della direzione e della forza della relazione tra gli elementi di due popolazioni):</p>



\(
\sigma_{XY}=\frac{\sum\limits_{i=1}^n (X_i-\mu_x)(Y_i-\mu_y)}{n}
\\
\)



<p class="wp-block-paragraph">dove:</p>



<ul>
<li>μ<sub>x</sub> è la media della popolazione per x</li>
<li>μ<sub>y</sub> è la media della popolazione per y</li>
<li>n è il numero di elementi in entrambe le variabili</li>
<li>i è l&#8217;indice che va da 1 a n</li>
<li>X<sub>i</sub> è un singolo elemento della popolazione x</li><li>Y<sub>i</sub> è un singolo elemento della popolazione y</li></ul>



<p class="wp-block-paragraph"><strong>Attenzione</strong>: quando lavoriamo su un campione e vogliamo stimare la covarianza della popolazione, al denominatore si usa <em>n-1</em>.<br>R usa sempre le versioni campionarie di covarianza e deviazione standard; per r di Pearson, comunque, la scelta non cambia nulla, perché n-1 compare sia sopra sia sotto la frazione e si semplifica.</p>



<p class="wp-block-paragraph"><strong>Tiro fuori la calcolatrice &#8211; o carta e penna &#8211; e faccio un po&#8217; di conti&#8230;</strong></p>



<p class="wp-block-paragraph">questa è la mia tabella, che ho completato computando i vari valori:</p>



<table border=1 style="font-size:11px!important">
<tr> <th>  </th> <th> temperatura </th> <th> gelati </th> <th> x<sub>i</sub> − x̄ </th> <th> y<sub>i</sub> − ȳ </th> <th> (x<sub>i</sub> − x̄)·(y<sub>i</sub> − ȳ)</th>  </tr>
  <tr> <td align="right"> 1 </td> <td align="right">  25 </td> <td align="right">  58 </td> <td align="right"> 0.55 </td> <td align="right"> 7.82 </td> <td align="right"> 4.26 </td> </tr>
  <tr> <td align="right"> 2 </td> <td align="right">  30 </td> <td align="right">  70 </td> <td align="right"> 5.55 </td> <td align="right"> 19.82 </td> <td align="right"> 109.90 </td> </tr>
  <tr> <td align="right"> 3 </td> <td align="right">  29 </td> <td align="right">  61 </td> <td align="right"> 4.55 </td> <td align="right"> 10.82 </td> <td align="right"> 49.17 </td> </tr>
  <tr> <td align="right"> 4 </td> <td align="right">  26 </td> <td align="right">  53 </td> <td align="right"> 1.55 </td> <td align="right"> 2.82 </td> <td align="right"> 4.36 </td> </tr>
  <tr> <td align="right"> 5 </td> <td align="right">  25 </td> <td align="right">  48 </td> <td align="right"> 0.55 </td> <td align="right"> -2.18 </td> <td align="right"> -1.19 </td> </tr>
  <tr> <td align="right"> 6 </td> <td align="right">  28 </td> <td align="right">  66 </td> <td align="right"> 3.55 </td> <td align="right"> 15.82 </td> <td align="right"> 56.08 </td> </tr>
  <tr> <td align="right"> 7 </td> <td align="right">  24 </td> <td align="right">  47 </td> <td align="right"> -0.45 </td> <td align="right"> -3.18 </td> <td align="right"> 1.45 </td> </tr>
  <tr> <td align="right"> 8 </td> <td align="right">  22 </td> <td align="right">  47 </td> <td align="right"> -2.45 </td> <td align="right"> -3.18 </td> <td align="right"> 7.81 </td> </tr>
  <tr> <td align="right"> 9 </td> <td align="right">  20 </td> <td align="right">  40 </td> <td align="right"> -4.45 </td> <td align="right"> -10.18 </td> <td align="right"> 45.36 </td> </tr>
  <tr> <td align="right"> 10 </td> <td align="right">  18 </td> <td align="right">  29 </td> <td align="right"> -6.45 </td> <td align="right"> -21.18 </td> <td align="right"> 136.72 </td> </tr>
  <tr> <td align="right"> 11 </td> <td align="right">  22 </td> <td align="right">  33 </td> <td align="right"> -2.45 </td> <td align="right"> -17.18 </td> <td align="right"> 42.17 </td> </tr>
   </table>



<p class="wp-block-paragraph">La somma dei valori dell&#8217;ultima colonna è 456.0909.</p>



<p class="wp-block-paragraph">Posso quindi calcolare la covarianza dividendo per n-1 = 10, quindi:<br>456.0909/10 = 45.60909</p>



<p class="wp-block-paragraph">Calcolando le deviazioni standard campionarie per X e Y, trovo i valori:</p>



<p class="wp-block-paragraph">S<sub>x</sub> = 3,751363<br>S<sub>y</sub> = 13,04468</p>



<p class="wp-block-paragraph">Quindi S<sub>x</sub> * S<sub>y</sub> = 48,9353299</p>



<p class="wp-block-paragraph">Ultimo passaggio. <strong>Posso calcolare r</strong>:</p>



<p class="wp-block-paragraph">45,60909 / 48,9353299 = 0,9320278435</p>



<p class="wp-block-paragraph">che come si vede coincide perfettamente con il valore fornito dalla funzione cor() di R.</p>
</div></div>
</div></div>



<h2 class="wp-block-heading" id="coefficiente-determinazione-r2">Cosa misura il coefficiente di determinazione R<sup>2</sup>?</h2>



<p class="wp-block-paragraph">Elevando <em><strong>r</strong></em> al quadrato otteniamo il <strong>coefficiente di determinazione</strong>.</p>



<p class="wp-block-paragraph">Nel nostro caso il coefficiente di determinazione r<sup>2 </sup>sarà:</p>



<pre class="wp-block-code"><code>R-squared = 0.86868</code></pre>



<p class="wp-block-paragraph">ma cosa significa questo numero?</p>



<p class="wp-block-paragraph">r<sup>2</sup> ci segnala in quale misura la nostra equazione di regressione riproduce la varianza dei dati.<br>Detta in altri termini, quanta parte della variazione della variabile responso è spiegata dalla variabile predittiva. Più è accurata l’equazione di regressione, più il valore di r<sup>2 </sup>tende a 1.</p>



<p class="has-light-gray-background-color has-background wp-block-paragraph">Con un solo predittore il coefficiente di determinazione è letteralmente il quadrato di r: 0,932² = 0,869. La temperatura spiega quindi circa l&#8217;<strong>87% della variabilità</strong> delle vendite, e il restante 13% dipende da tutto ciò che il modello non vede.<br>Con più predittori l&#8217;uguaglianza non vale più, e R² cresce ogni volta che si aggiunge una variabile, anche inutile: per questo nella <a href="https://www.gironi.it/blog/regressione-multipla-spiegata-semplice/">regressione multipla</a> si guarda l&#8217;R² corretto.</p>



<h2 class="wp-block-heading" id="equazione-di-regressione">Come si trova la retta di regressione?</h2>



<p class="wp-block-paragraph">Il nostro scopo è quello di ottenere l’equazione di regressione, e trattandosi di una regressione lineare la forma tipica sarà:</p>



<pre class="wp-block-code"><code>y = mx + b</code></pre>



<p class="wp-block-paragraph">m indica la pendenza della retta nel grafico, e si chiama <strong>coefficiente di regressione</strong>.</p>



<p class="wp-block-paragraph">b è il punto in cui la retta interseca l’asse delle y, e si chiama <strong>intercetta</strong>.</p>



<p class="wp-block-paragraph">Ricordiamo sempre che la retta di regressione lineare è la retta che meglio si adatta ai dati forniti. Idealmente, vorremmo ridurre al minimo le distanze di tutti i punti dati dalla linea di regressione. Queste distanze sono chiamate <strong>errore </strong>e sono anche note come <strong>valori residui</strong>. Una buona linea avrà piccoli residui.</p>



<p class="wp-block-paragraph">Adattiamo la linea di regressione ai punti dati in un grafico a dispersione utilizzando il <strong>metodo dei</strong><strong> minimi quadrati</strong>.</p>



<p class="wp-block-paragraph">I calcoli non sono difficili, e vale la pena vederli una volta. La pendenza è il rapporto fra la covarianza di x e y e la varianza di x; in modo equivalente, è la correlazione r «ritradotta» nelle unità di misura delle due variabili:</p>



\( m = \frac{COV(X,Y)}{s_X^2} = r \cdot \frac{s_Y}{s_X} \)



<p class="wp-block-paragraph">L&#8217;intercetta, poi, si ricava imponendo che la retta passi per il punto medio della nuvola, cioè per la coppia delle due medie:</p>



\( b = \bar{y} &#8211; m \cdot \bar{x} \)



<p class="wp-block-paragraph">Con i numeri già calcolati nel box sul coefficiente di Pearson: m = 0,932 × 13,045 / 3,751 = <strong>3,241</strong> e b = 50,18 − 3,241 × 24,45 = <strong>−29,07</strong>. Nella pratica, però, nessuno fa questi conti a mano: tutte le calcolatrici scientifiche evolute e i fogli elettronici hanno una funzione apposita, e in R il processo è ancora più agevole.</p>



<p class="wp-block-paragraph">Procedo calcolando i parametri della retta di regressione:</p>



<pre class="wp-block-code"><code># calcolo i parametri della retta di regressione
lm(gelati$gelati ~ gelati$temperatura)


Call: lm(formula = gelati$gelati ~ gelati$temperatura) 
Coefficients: 
(Intercept) gelati$temperatura 
-29.074     3.241</code></pre>



<p class="wp-block-paragraph">Dunque la mia retta avrà equazione:</p>



<pre class="wp-block-code"><code><strong>y = 3,241x - 29,074</strong></code></pre>



<p class="wp-block-paragraph">Leggiamola: <strong>ogni grado in più vale, in media, circa 3,2 gelati venduti in più</strong>. E la domanda dell&#8217;inizio trova risposta: a 27 gradi il modello prevede 3,241 × 27 − 29,07 ≈ <strong>58 gelati</strong>.<br>L&#8217;intercetta, invece, non va presa alla lettera: a zero gradi la retta prevede −29 gelati, un numero senza senso. Il motivo è semplice, nei dati non c&#8217;è nessuna giornata sotto i 18 gradi, e fuori dall&#8217;intervallo osservato la retta non sa nulla. Ci torneremo parlando di <em>estrapolazione</em>.</p>



<p class="wp-block-paragraph">E’ giunto il momento di tracciare di nuovo il diagramma a dispersione, sovrapponendo la linea di regressione che ho appena trovato:</p>



<pre class="wp-block-code"><code># disegno lo scatterplot
plot(gelati$temperatura,gelati$gelati, main="Scatterplot e linea di regressione",xlab="temperatura", ylab="gelati")

# e traccio la linea di regressione in rosso
abline(lm(gelati$gelati ~ gelati$temperatura),col="red",lwd=2)</code></pre>



<figure class="wp-block-image size-large is-resized"><img decoding="async" src="https://www.gironi.it/blog/wp-content/uploads/2020/08/regressione-lineare.png" alt="Regressione lineare: linea di regressione semplice" class="wp-image-1816" width="641" height="405" srcset="https://www.gironi.it/blog/wp-content/uploads/2020/08/regressione-lineare.png 855w, https://www.gironi.it/blog/wp-content/uploads/2020/08/regressione-lineare-300x189.png 300w" sizes="(max-width: 709px) 85vw, (max-width: 909px) 67vw, (max-width: 984px) 61vw, (max-width: 1362px) 45vw, 600px" /><figcaption>la linea di regressione sovrapposta al diagramma a dispersione.</figcaption></figure>



<h2 class="wp-block-heading" id="caso-studio-ads-conversioni">Un caso studio: spesa pubblicitaria e conversioni</h2>



<p class="wp-block-paragraph">Il dataset dei gelati ci ha accompagnato fin qui, ma portiamo ora la regressione nel territorio che ci interessa davvero: il marketing. Abbiamo dodici settimane di campagne Google Ads, e per ogni settimana conosciamo la spesa (in euro) e le conversioni registrate. La domanda &egrave; quella che ogni cliente, prima o poi, ci rivolge: <strong>se aumento il budget, quante conversioni in pi&ugrave; posso aspettarmi?</strong></p>



<pre class="wp-block-code"><code>spesa,conversioni
120,15
150,14
95,11
180,22
210,20
160,18
140,13
250,26
190,17
230,25
110,13
175,16</code></pre>



<p class="wp-block-paragraph">Stimo il modello in R:</p>



<pre class="wp-block-code"><code>dati &lt;- read.csv("/tmp/ads.csv")
modello &lt;- lm(conversioni ~ spesa, data = dati)
summary(modello)

Coefficients:
            Estimate Std. Error t value Pr(&gt;|t|)
(Intercept)  1.93098    2.22949   0.866    0.407
spesa        0.09295    0.01284   7.240 2.79e-05 ***

Multiple R-squared:  0.8398,    Adjusted R-squared:  0.8238</code></pre>



<p class="wp-block-paragraph">Leggiamo i risultati con calma, perch&eacute; ogni numero ha qualcosa da dirci.</p>



<p class="wp-block-paragraph">La <strong>pendenza</strong> vale 0.093: per ogni euro di spesa in pi&ugrave;, il modello stima 0.093 conversioni aggiuntive. In termini pi&ugrave; chiari e diretti: <strong>una conversione ogni 11 euro circa</strong>. Il suo p-value (2.79e-05) ci dice che la relazione &egrave; tutto fuorch&eacute; casuale.</p>



<p class="wp-block-paragraph">L&#8217;<strong>intercetta</strong> vale 1.93: sarebbero le conversioni attese a spesa zero. Ma attenzione al suo p-value (0.407): non &egrave; statisticamente diversa da zero. Il modello, in altri termini, non ha dati a sufficienza per dirci quanto convertiremmo senza campagne &mdash; logico, visto che non abbiamo nemmeno una settimana a spesa zero nel dataset. Le previsioni fuori dall&#8217;intervallo osservato (95&ndash;250 euro) restano terreno scivoloso.</p>



<p class="wp-block-paragraph">L&#8217;<strong>R<sup>2</sup> vale 0.84</strong>: la spesa spiega l&#8217;84% della variabilit&agrave; delle conversioni settimanali. Il restante 16% &egrave; tutto ci&ograve; che il modello non vede: stagionalit&agrave;, qualit&agrave; degli annunci, concorrenza, giorni di pioggia.</p>



<p class="wp-block-paragraph">A questo punto la previsione &egrave; un giochetto da ragazzi. Quante conversioni a 200 euro di spesa? Calcolo in R:</p>



<pre class="wp-block-code"><code>predict(modello, data.frame(spesa = 200))
# 20.52</code></pre>



<p class="wp-block-paragraph"><strong>Un avvertimento, prima di portare questo numero in una riunione.</strong> La regressione descrive un&#8217;<em>associazione</em>, non dimostra una causa. Se il budget veniva alzato proprio nelle settimane di domanda alta (saldi, stagionalit&agrave;), parte di quella pendenza appartiene alla domanda, non alle campagne. Per stabilire un nesso causale serve un esperimento controllato &mdash; ed &egrave; esattamente il mestiere dell&#8217;<a href="https://www.gironi.it/blog/ab-testing/">A/B testing</a>.</p>



<h2 class="wp-block-heading" id="valori-anomali-punti-influenza">Valori anomali e punti di influenza</h2>



<p class="wp-block-paragraph">Un valore anomalo è un&#8217;osservazione estrema che non si adatta alla correlazione generale o al modello di regressione. In pratica, nel nostro grafico vedremo che tali valori anomali, qualora esistano, saranno molto lontani dalla linea di regressione nella direzione y.<br>L&#8217;inclusione di un valore anomalo può influenzare la pendenza e l&#8217;intercetta y della retta di regressione.</p>



<p class="wp-block-paragraph">Quando si esamina un grafico a dispersione e si calcola l&#8217;equazione di regressione, vale la pena considerare se le osservazioni anomale debbano essere incluse o meno. Potrebbe infatti trattarsi di errori nei dati – e allora sarebbero da escludere – ma anche di valori “reali”, e in tal caso si tratta di informazioni della massima importanza per l’analista.</p>



<p class="wp-block-paragraph"><strong>Ma quando possiamo parlare di valori anomali?</strong> Non esiste una regola fissa quando si cerca di decidere se includere o meno un valore anomalo nell&#8217;analisi di regressione. Questa decisione dipende dalla dimensione del campione, da quanto è estremo il valore anomalo e dalla normalità della distribuzione.<br><br>Per i dati univariati, si può utilizzare una <strong>regola empirica basata sull’<a href="https://www.gironi.it/blog/statistica-descrittiva-misure-di-posizione/" class="rank-math-link">intervallo interquartile IQR</a></strong> per determinare se un punto è o meno un valore anomalo.<br><br>Procediamo in questo modo:</p>



<ul class="wp-block-list"><li>Calcoliamo l’intervallo interquartile per i nostri dati.</li><li>Moltiplichiamo l’intervallo interquartile (IQR) per 1,5.</li><li>Aggiungiamo 1,5 x (IQR) al terzo quartile.<br>Qualsiasi numero maggiore del valore trovato è un dato estremo sospetto.</li><li>Sottraiamo 1,5 x (IQR) dal primo quartile. Qualsiasi numero inferiore è un dato estremo sospetto.</li></ul>



<hr class="wp-block-separator"/>



<p class="wp-block-paragraph">Un <strong>punto influente</strong>  è un punto che, se rimosso, produce un notevole cambiamento nella stima del modello. <strong>Un punto influente può essere o meno un valore anomalo (<em>outlier</em>)</strong>.</p>



<p class="wp-block-paragraph">Il comando influence.measures() fornisce tutta una serie di utili misure di influenza: dfbeta, dffit, covratio, distanza di Cook e punti di <em>leverage</em> di tutte le osservazioni:</p>



<pre class="wp-block-code"><code># misuro punti di influenza
influence.measures(lm(gelati$gelati ~ gelati$temperatura))</code></pre>



<h2 class="wp-block-heading" id="assunzioni-del-modello">Le assunzioni del modello</h2>



<p class="wp-block-paragraph">Perchè il modello di regressione lineare possa risultare effettivamente utilizzabile, devono essere rispettate alcune assunzioni:</p>



<ul class="wp-block-list"><li><strong>Linearità</strong>: la relazione fra X e Y è davvero rettilinea, e non curva.</li><li><strong>Distribuzione normale degli errori</strong>: gli errori devono avere, per ogni valore di X, una distribuzione normale.</li><li><strong>Omoschedasticità</strong>: la variabilità degli errori è costante per ciascun valore di X.</li><li><strong>Indipendenza degli errori</strong>: gli errori devono essere indipendenti per ciascun valore di X (è importante soprattutto per osservazioni nel corso del tempo, nelle quali deve essere verificato che non sia presente autocorrelazione).</li></ul>



<p class="has-dark-gray-color has-light-gray-background-color has-text-color has-background wp-block-paragraph">Le assunzioni vanno <strong>sempre verificate</strong>, ma non hanno tutte lo stesso peso. Se manca la linearità è la retta stessa a essere sbagliata. Con <em>eteroschedasticità</em> o <em>correlazione seriale</em> le stime dei coefficienti restano corrette in media, ma errori standard, p-value e intervalli di confidenza diventano inaffidabili. La <em>non normalità dei residui</em>, infine, pesa soprattutto sui campioni piccoli.<br>Le contromisure le vediamo nell&#8217;articolo sulla <a href="https://www.gironi.it/blog/multicollinearita-eteroschedasticita-autocorrelazione/">diagnostica della regressione</a>.</p>



<h2 class="wp-block-heading" id="analisi-dei-residui">Analisi dei residui</h2>



<p class="wp-block-paragraph">Il <strong>residuo</strong> è uguale alla differenza tra valore osservato e il valore previsto di Y.</p>



<ul class="wp-block-list"><li>Per stimare la capacità di adattamento ai dati della retta di regressione è opportuna un&#8217;analisi grafica tramite un grafico di dispersione dei residui (in ordinata) e dei valori di X (nelle ascisse).<br>   </li><li>Per verificare le assunzioni posso valutare il <strong>grafico dei residui rispetto a X</strong>: questo ci consente di stabilire se la variabilità degli errori varia a seconda dei valori di X, confermando o meno l’<strong>assunzione di omoschedasticità</strong>.<br>   </li><li>Per verificare la linearità occorre tracciate il grafico dei residui, in ordinata, rispetto ai valori previsti, in ascissa. I punti dovrebbero essere distribuiti in modo simmetrico intorno ad una linea orizzontale con intercetta uguale a zero. Andamenti diversi indicano la presenza di non linearità.</li></ul>



<pre class="wp-block-code"><code># guardo la distribuzione dei residui.
# deve essere bilanciata sopra e sotto la linea di zero.
lmgelati &lt;- lm(gelati$gelati ~ gelati$temperatura)
plot (lmgelati$residual ~ lmgelati$fitted, ylab="Residui",
xlab="Fitted")
abline(h=0)</code></pre>



<figure class="wp-block-image size-large is-resized"><img decoding="async" src="https://www.gironi.it/blog/wp-content/uploads/2020/08/linearita-residui.png" alt="grafico linearità residui" class="wp-image-1830" width="641" height="405" srcset="https://www.gironi.it/blog/wp-content/uploads/2020/08/linearita-residui.png 855w, https://www.gironi.it/blog/wp-content/uploads/2020/08/linearita-residui-300x189.png 300w" sizes="(max-width: 709px) 85vw, (max-width: 909px) 67vw, (max-width: 984px) 61vw, (max-width: 1362px) 45vw, 600px" /><figcaption>il grafico dei residui rispetto ai valori previsti.</figcaption></figure>



<p class="wp-block-paragraph">Il pacchetto <em>lmtest</em> di R ci mette a disposizione il test di Breusch-Pagan per verificare l&#8217;omoschedasticità dei residui:</p>



<pre class="wp-block-code"><code># verifico omoschedasticita dei residui
# utilizzando il test di Breusch-Pagan
library(lmtest)
testbp &lt;- bptest(gelati ~ temperatura, data=gelati)
testbp

# BP = 0.33208, df = 1, p-value = 0.5644</code></pre>



<p class="wp-block-paragraph">Il p-value di 0,56 non ci dà motivo di rifiutare l&#8217;ipotesi nulla di omoschedasticità: la variabilità dei residui appare costante.</p>



<p class="wp-block-paragraph">Per quanto riguarda la <strong>normalità dei residui</strong>, l’<strong>istogramma delle frequenze</strong> consente di verificare o meno la condizione.</p>



<figure class="wp-block-image size-large is-resized"><img decoding="async" src="https://www.gironi.it/blog/wp-content/uploads/2020/08/residui-normalita.png" alt="Istogramma dei residui" class="wp-image-1820" width="641" height="405" srcset="https://www.gironi.it/blog/wp-content/uploads/2020/08/residui-normalita.png 855w, https://www.gironi.it/blog/wp-content/uploads/2020/08/residui-normalita-300x189.png 300w" sizes="(max-width: 709px) 85vw, (max-width: 909px) 67vw, (max-width: 984px) 61vw, (max-width: 1362px) 45vw, 600px" /><figcaption>la verifica di normalità dei residui nel nostro esempio, tramite un istogramma.</figcaption></figure>



<p class="wp-block-paragraph">Possiamo verificare la normalità dei residui anche numericamente, con il test di Shapiro-Wilk:</p>



<pre class="wp-block-code"><code># verifico la normalita della distribuzione degli errori
# con il test di Shapiro-Wilk
residui &lt;- residuals(lm(gelati$gelati ~ gelati$temperatura))
shapiro &lt;- shapiro.test(residui)
shapiro

# W = 0.93844, p-value = 0.5023</code></pre>



<p class="wp-block-paragraph">Un controllo che si vede proporre spesso, il test t sulla media dei residui, in realtà non serve: quando il modello ha l&#8217;intercetta, i minimi quadrati producono residui con media <em>esattamente</em> zero per costruzione, qualunque siano i dati.</p>



<p class="wp-block-paragraph">Il <strong>grafico dei residui rispetto al tempo</strong> (e l’utilizzo della statistica di <em>Durbin-Watson</em>) consente invece di evidenziare l’esistenza o meno di <strong>autocorrelazione</strong>.</p>



<pre class="wp-block-code"><code># test di Durbin-Watson per l'autocorrelazione
dwtest(gelati ~ temperatura, data=gelati)

# DW = 1.3644, p-value = 0.07275</code></pre>



<p class="wp-block-paragraph">Il test ha senso solo quando le osservazioni sono in ordine di tempo (giorni, settimane): con dati senza un ordine naturale, l&#8217;autocorrelazione non ha significato. Qui il p-value di 0,07 resta sopra la soglia del 5%.</p>



<h2 class="wp-block-heading" id="difficolta-pratiche">L’analisi di regressione: difficoltà pratiche</h2>



<p class="wp-block-paragraph">L’analisi di regressione semplice è un modello assai utilizzato, ma molto, molto insidioso. La tendenza generalizzata, infatti, è quella di impiegare questo tipo di analisi in maniera poco consapevole e rigorosa – come ad esempio nell’esempio semplificato che ho proposto 🙂<br>Le assunzioni alla base del modello sono piuttosto stringenti, e molto spesso ignorate&#8230;</p>



<p class="wp-block-paragraph">Frequentemente, l’analisi viene svolta senza tenere conto del modo in cui tale assunzioni debbono essere valutate oppure si sceglie il semplice modello di regressione semplice lineare al posto di modelli alternativi più calzanti.</p>



<p class="wp-block-paragraph">Un altro errore molto comune è dato dall’<strong>estrapolazione</strong>: si compie cioè <strong>una stima di valori esterni all’intervallo dei valori osservati</strong>. Questo è un grande no-no.</p>



<p class="wp-block-paragraph">Il consiglio è sempre quello di iniziare l’analisi guardando con grande attenzione il diagramma di dispersione e di verificare con attenzione le ipotesi alla base del modello di regressione prima di usare i risultati.</p>



<h2 class="wp-block-heading" id="altri-coefficienti-correlazione">Altri tipi di coefficienti di correlazione </h2>



<p class="wp-block-paragraph">Il coefficiente di correlazione di Pearson è sicuramente il più conosciuto, studiato e usato, ma come abbiamo visto si applica nei casi in cui entrambe le variabili siano di tipo quantitativo, misurate attraverso una scala di tipo intervallo oppure rapporto. Esistono altri metodi che ci consentono di ottenere la misura della correlazione tra variabili di tipo diverso. Tutti condividono la caratteristica di essere concettualmente molto simili al coefficiente r di Pearson.</p>



<h3 class="wp-block-heading">Il coefficiente di correlazione punto-biseriale </h3>



<p class="wp-block-paragraph">Prendiamo il caso di un&#8217;analisi nella quale una delle variabili sia di tipo quantitativo (misurata su una scala intervallo oppure rapporto) e la seconda sia una <strong>variabile categorica a due livelli</strong> (o variabile dicotomica). In questo caso ci viene in aiuto il <strong>coefficiente di correlazione punto-biseriale</strong>. Non approfondisco in questa sede il concetto, trattandosi di fatto di una versione &#8220;speciale&#8221; del coefficiente di Pearson, lasciando al lettore l&#8217;approfondimento quando richiesto dall&#8217;analisi.</p>



<h3 class="wp-block-heading">Il coefficiente phi</h3>



<p class="wp-block-paragraph">Se dovesse servirci di conoscere se <strong>due variabili dicotomiche sono correlate</strong>, potremmo poi ricorrere al <strong>coefficiente phi</strong>, un altro caso &#8220;speciale&#8221; del coefficiente r di Pearson. Molti lettori sapranno certamente che due variabili dicotomiche possono anche essere analizzate servendosi di un <a href="https://www.gironi.it/blog/il-test-del-chi-quadrato-bonta-di-adattamento-e-test-di-indipendenza/" class="rank-math-link">test chi quadrato</a>.</p>



<h3 class="wp-block-heading">Il coefficiente di correlazione per ranghi rho di Spearman (e un accenno al tau di Kendall)</h3>



Talvolta poi i dati sono riportati in termini di ranghi. I ranghi sono una forma di dati di tipo ordinale, e dal momento che gli altri tipi di coefficienti di correlazione non trattano questa tipologia di dati, ecco la necessità di introdurre l&#8217;uso del coefficiente rho di Spearman.
La correlazione di Spearman segue un approccio semplice e ingegnoso: si converte ogni set di dati in ranghi e quindi si calcola la correlazione. E&#8217; una misura statistica non parametrica di correlazione: l&#8217;unica ipotesi richiesta è che le variabili siano ordinabili, e possibilmente continue.
<p>
Ecco la formula del coefficiente di Spearman:
</p>
\(
\\
r_s=1-\frac{6\sum{d}_i^2}{N(N^2-1)}
\\ \\
\)
<p>
dove d<sub>i</sub> è la differenza fra i due ranghi della stessa osservazione e N il numero di osservazioni. Anche r<sub>s</sub> può assumere valori compresi tra –1.00 e +1.00, con gli stessi significati visti per r.
</p>
<p>
Questa formula abbreviata è esatta solo se non ci sono ranghi uguali (pareggi). Con i pareggi si calcola direttamente la correlazione di Pearson sui ranghi, ed è quello che fa R. Con molti pareggi o con campioni piccoli, inoltre, si preferisce spesso un&#8217;altra statistica: il <b>coefficiente <i>tau</i> di Kendall</b>.
</p>



<p class="wp-block-paragraph">In R non servono funzioni diverse: <code>cor()</code> calcola tutti e tre i coefficienti, basta indicare il metodo. Calcolo in R, sul nostro esempio dei gelati:</p>



<pre class="wp-block-code"><code>cor(gelati$temperatura, gelati$gelati, method = "pearson")   # 0.932
cor(gelati$temperatura, gelati$gelati, method = "spearman")  # 0.954
cor(gelati$temperatura, gelati$gelati, method = "kendall")   # 0.860</code></pre>



<p class="wp-block-paragraph">Spearman supera di poco Pearson: la relazione è <em>monotona</em> (a temperatura più alta corrispondono quasi sempre più vendite) ancora più di quanto sia lineare. Il tau di Kendall è più basso perché misura un&#8217;altra cosa (quanto prevalgono le coppie di osservazioni concordanti su quelle discordanti) e tende a dare valori più bassi di Spearman: i due numeri non vanno confrontati direttamente.</p>



<h2 class="wp-block-heading" id="prova-tu">Prova tu</h2>



<p class="wp-block-paragraph">Per fissare il meccanismo, un esercizio con dati finti ma realistici. Dalla Search Console abbiamo estratto dieci keyword con la loro posizione media e il CTR (in percentuale):</p>



<pre class="wp-block-code"><code>posizione,ctr
1.2,28.4
2.5,19.7
3.1,15.2
4.8,9.8
5.5,8.1
6.9,5.9
8.2,4.2
9.0,3.6
10.5,2.8
12.3,1.9</code></pre>



<ul class="wp-block-list">
<li>Stimiamo la retta di regressione del CTR sulla posizione con <code>lm(ctr ~ posizione)</code>.</li>



<li>Interpretiamo la pendenza: di quanti punti cala il CTR scendendo di una posizione?</li>



<li>Prevediamo il CTR atteso in posizione 7.</li>



<li>Guardiamo i residui con <code>residuals()</code>: che disegno fanno?</li>
</ul>



<p class="wp-block-paragraph">Per controllare i risultati: la pendenza vale circa <strong>&minus;2.15</strong> (ogni posizione persa costa due punti di CTR), l&#8217;R<sup>2</sup> &egrave; 0.82 e la previsione in posizione 7 &egrave; un CTR dell&#8217;<strong>8.7%</strong>. Ma il punto pi&ugrave; istruttivo &egrave; l&#8217;ultimo: i residui sono positivi agli estremi e negativi al centro. &Egrave; il disegno tipico di una <strong>relazione non lineare</strong>: il CTR non cala in linea retta, precipita nelle prime posizioni e si appiattisce dopo. La retta &egrave; un&#8217;approssimazione onesta ma grossolana &mdash; e sono proprio i residui, come abbiamo visto, a denunciarlo.</p>



<h2 class="wp-block-heading" id="domande-frequenti">Domande frequenti</h2>



<h3 class="wp-block-heading">Che differenza c&#8217;è tra correlazione e regressione?</h3>



<p class="wp-block-paragraph">La correlazione misura quanto due variabili variano insieme ed è simmetrica: r fra x e y è uguale a r fra y e x. La regressione invece stima un&#8217;equazione per prevedere una variabile (la dipendente) a partire dall&#8217;altra, e scambiare i ruoli cambia la retta.</p>



<h3 class="wp-block-heading">Cosa significa un R² di 0,8?</h3>



<p class="wp-block-paragraph">Che il modello spiega l&#8217;80% della variabilità della variabile dipendente; il restante 20% dipende da fattori che il modello non include o dal caso. Un R² alto non garantisce che il modello sia corretto, né che il legame sia causale: vanno sempre controllati i residui.</p>



<h3 class="wp-block-heading">Che cos&#8217;è il metodo dei minimi quadrati?</h3>



<p class="wp-block-paragraph">È il criterio con cui si sceglie la retta di regressione: fra tutte le rette possibili, quella che rende minima la somma dei quadrati delle distanze verticali (i residui) fra i punti osservati e la retta stessa.</p>



<h3 class="wp-block-heading">Una correlazione forte dimostra un rapporto di causa ed effetto?</h3>



<p class="wp-block-paragraph">No. Due variabili possono essere fortemente correlate perché dipendono entrambe da una terza, o per pura coincidenza. Per stabilire un nesso causale serve un esperimento controllato, come un A/B test, o un disegno di analisi pensato apposta.</p>



<h3 class="wp-block-heading">Quando usare Spearman invece di Pearson?</h3>



<p class="wp-block-paragraph">Quando i dati sono ordinali (ranghi, punteggi, classifiche), quando la relazione è monotona ma non lineare, o quando qualche valore estremo rischia di distorcere Pearson. Spearman lavora sui ranghi e risente molto meno dei valori anomali.</p>



<h3 class="wp-block-heading">Regressione lineare semplice o multipla?</h3>



<p class="wp-block-paragraph">La semplice usa un solo predittore, la <a href="https://www.gironi.it/blog/regressione-multipla-spiegata-semplice/">multipla</a> due o più. Quando la variabile da prevedere dipende plausibilmente da più fattori (spesa, stagionalità, dispositivo), la semplice rischia di attribuire a un solo predittore l&#8217;effetto anche degli altri.</p>



<script type="application/ld+json">{"@context": "https://schema.org", "@type": "FAQPage", "mainEntity": [{"@type": "Question", "name": "Che differenza c'è tra correlazione e regressione?", "acceptedAnswer": {"@type": "Answer", "text": "La correlazione misura quanto due variabili variano insieme ed è simmetrica: r fra x e y è uguale a r fra y e x. La regressione invece stima un'equazione per prevedere una variabile (la dipendente) a partire dall'altra, e scambiare i ruoli cambia la retta."}}, {"@type": "Question", "name": "Cosa significa un R² di 0,8?", "acceptedAnswer": {"@type": "Answer", "text": "Che il modello spiega l'80% della variabilità della variabile dipendente; il restante 20% dipende da fattori che il modello non include o dal caso. Un R² alto non garantisce che il modello sia corretto, né che il legame sia causale: vanno sempre controllati i residui."}}, {"@type": "Question", "name": "Che cos'è il metodo dei minimi quadrati?", "acceptedAnswer": {"@type": "Answer", "text": "È il criterio con cui si sceglie la retta di regressione: fra tutte le rette possibili, quella che rende minima la somma dei quadrati delle distanze verticali (i residui) fra i punti osservati e la retta stessa."}}, {"@type": "Question", "name": "Una correlazione forte dimostra un rapporto di causa ed effetto?", "acceptedAnswer": {"@type": "Answer", "text": "No. Due variabili possono essere fortemente correlate perché dipendono entrambe da una terza, o per pura coincidenza. Per stabilire un nesso causale serve un esperimento controllato, come un A/B test, o un disegno di analisi pensato apposta."}}, {"@type": "Question", "name": "Quando usare Spearman invece di Pearson?", "acceptedAnswer": {"@type": "Answer", "text": "Quando i dati sono ordinali (ranghi, punteggi, classifiche), quando la relazione è monotona ma non lineare, o quando qualche valore estremo rischia di distorcere Pearson. Spearman lavora sui ranghi e risente molto meno dei valori anomali."}}, {"@type": "Question", "name": "Regressione lineare semplice o multipla?", "acceptedAnswer": {"@type": "Answer", "text": "La semplice usa un solo predittore, la multipla due o più. Quando la variabile da prevedere dipende plausibilmente da più fattori (spesa, stagionalità, dispositivo), la semplice rischia di attribuire a un solo predittore l'effetto anche degli altri."}}]}</script>



<p class="wp-block-paragraph">Una sola variabile, del resto, racconta raramente tutta la storia: le conversioni dipendono dalla spesa, ma anche dalla stagionalit&agrave;, dal dispositivo, dalla forza del brand. Quando i predittori diventano pi&ugrave; di uno, entriamo nel territorio della <a href="https://www.gironi.it/blog/regressione-multipla-spiegata-semplice/">regressione multipla</a> &mdash; il passo successivo del percorso.</p>


<!-- internal-links-section -->
<h3>Potrebbe interessarti anche</h3>
<ul>
<li><a href="https://www.gironi.it/blog/anomaly-detection/">Anomaly detection: come identificare valori anomali nei dati</a></li>
<li><a href="https://www.gironi.it/blog/intervalli-di-confidenza/">Intervalli di confidenza: cosa sono, come calcolarli (e cosa NON significano)</a></li>
</ul>


<hr class="wp-block-separator has-alpha-channel-opacity"/>



<h3 class="wp-block-heading">Per approfondire</h3>



<p class="wp-block-paragraph">Per approfondire la regressione con il rigore che merita &mdash; stima, inferenza, diagnostica &mdash; <a href="https://www.amazon.it/dp/8891906190?tag=consulenzeinf-21&#038;ascsubtag=regressione-lineare-semplice" rel="nofollow sponsored noopener" target="_blank"><em>Introduzione all&#8217;econometria</em></a> di Stock e Watson &egrave; il manuale di riferimento, con un&#8217;attenzione costante all&#8217;interpretazione dei risultati.</p>
]]></content:encoded>
					
					<wfw:commentRss>https://www.gironi.it/blog/regressione-lineare-semplice/feed/</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
	</channel>
</rss>
