Corso di Laurea in
Scienze e tecniche psicologiche
Esame di
Psicometria
La regressione lineare multipla
A cura di
Matteo Forgiarini
[email protected]
Modificate da Giulio Costantini
1
Riepilogo della lezione 2
•
•
•
•
•
Punti Z
Covarianza e correlazione
Relazioni lineari tra variabili
Regressione lineare semplice
Correlazione e regressione non
dimostrano causalità
2
Regressione lineare multipla
3
La regressione multipla
La regressione lineare multipla
Nelle precedenti analisi abbiamo ipotizzato che una variabile dipendente venga
spiegata – prevista – da una sola variabile indipendente: abbiamo analizzato il
modello di regressione semplice.
Ma non sempre la realtà è semplice…
In alcuni casi occorre utilizzare più di una variabile indipendente per spiegare (la
varianza di) una variabile dipendente.
Un modello di regressione che preveda 2 o più variabili indipendenti e una sola
variabile dipendete è chiamato modello di regressione multipla.
4
La regressione multipla
La regressione lineare multipla
y b0 b1 x1 b2 x2 ... bn xn e
Come nella regressione
semplice, la costante b0
rappresenta l ’ intercetta
della retta, ovvero il valore
di y quando tutte le x
hanno valore 0.
I coefficienti di regressione b1 b2 etc. cosa
rappresentano?
Nella regressione semplice i coefficienti b esprimono
l’intero legame tra la x e la y.
Nella regressione multipla la loro interpretazione è
più complessa…
Nella regressione multipla, il coefficiente bi di ogni xi esprime la variazione attesa della
y al variare di un’unità della xi quando tutti gli altri predittori x assumono un valore
costante (potete osservarlo facilmente dall’equazione immaginando cosa succede se tutte
le X tranne una assumono un certo valore, ad esempio 0 è il caso più semplice).
Si interpreta come l’effetto di una certa variabile indipendente X al netto di tutte le altre.
Il coefficiente b di ogni X è chiamato coefficiente parziale di regressione tra la VI e y ed
è ottenuto parzializzando l’effetto delle altre VI su y.
5
La regressione lineare multipla
La regressione multipla
Con spss è possibile stimare i parametri della retta di regressione multipla…
Nell’esempio proposto, la variabile
“peso” viene considerata variabile
dipendente.
Il modello
prevede due
VI.
Selezioniamo questa opzione per
ottenere le stime dei coefficienti di un
modello di regressione sia con una
sola VI sia con le due VI.
6
La regressione lineare multipla
La regressione multipla
Coefficientsa
Model Summary
Model
1
2
R
R Square
,789 a
,622
,957 b
,916
Adjus ted
R Square
,605
,908
Std. Error of
the Es timate
107,63258
52,02760
a. Predictors : (Constant), potenza del motore
b. Predictors : (Constant), potenza del motore, lunghezza
(cm)
Model
1
2
(Cons tant)
potenza del motore
(Cons tant)
potenza del motore
lunghezza (cm)
Uns tandardized
Coefficients
B
Std. Error
717,510
91,659
4,248
,706
-794,052
182,197
3,283
,360
3,651
,427
Standardized
Coefficients
Beta
,789
,609
,571
t
7,828
6,015
-4,358
9,130
8,553
Sig.
,000
,000
,000
,000
,000
a. Dependent Variable: peso (in Kg)
Modello 1: regressione semplice:
y=“peso”, x=“potenza del motore”.
Modello 1: regressione multipla:
y=“peso”, x1=“potenza”, x2=“lunghezza”.
I parametri del modello di regressione multipla sono tutti significativi (p-value<0.05). Il modello con due
VI infatti ottiene una proporzione di varianza spiegata (0,916) maggiore del modello con una sola VI
(0,622). Possiamo concludere che utilizzare anche “lunghezza” per spiegare “peso” migliora
significativamente il modello; infatti il coefficiente parziale di regressione stimato per “lunghezza” risulta
significativamente diverso da 0
Notiamo come il metodo “stepwise” permetta di confrontare la bontà dei due modelli ottenuti e di
verificare la significatività dei parametri di tutti i modelli. Al contrario, con il metodo “enter” vengono
considerate contemporaneamente tutte le VI inserite.
La regressione lineare multipla
La regressione multipla
Continuiamo l’analisi degli output del modello di regressione multiplo…
Coefficientsa
Model
1
2
(Cons tant)
potenza del motore
(Cons tant)
potenza del motore
lunghezza (cm)
Uns tandardized
Coefficients
B
Std. Error
717,510
91,659
4,248
,706
-794,052
182,197
3,283
,360
3,651
,427
Standardized
Coefficients
Beta
,789
,609
,571
t
7,828
6,015
-4,358
9,130
8,553
Sig.
,000
,000
,000
,000
,000
a. Dependent Variable: peso (in Kg)
I coefficienti parziali di regressione indicano solo l’effetto diretto che ogni VI produce sulla
y e vengono infatti stimati parzializzando l’effetto delle altre VI.
Il segno della loro stima permette di capire la direzione della relazione (positiva o negativa)
tra la VI e la y. Se il segno è positivo al crescere della VI, anche la y cresce; se il segno è
negativo, ad un aumento della VI corrisponde una diminuzione della y. In particolare nel
modello proposto i coefficienti indicano che il crescere della potenza del motore e della
lunghezza, producono un aumento del peso dell’auto.
Ma…
La stima dei coefficienti parziali non ci permette di comprendere in modo chiaro il contributo
unico di ogni VI: per l’analisi di un modello di regressione multipla è importante avere anche
una stima della quantità di varianza della y che ogni VI permette di spiegare…
8
Il contributo unico delle VI
La regressione lineare multipla
In particolare occorre distinguere due indici che permettono di comprendere il contributo unico
di ogni VI:
Il contributo unico di una VI può essere stimato
grazie al quadrato della correlazione parziale:
ipotizzando che y venga spiegata da x e w,
Pr2yw.x
indica l’effetto di w dopo aver rimosso tutta la
variabilita’ spiegata da x.
Pr2yw.x indica la proporzione di varianza spiegata
da w rispetto alla parte di varianza di y che non
viene spiegata dalle altre variabili indipendenti.
Il contributo unico di una VI, es. w, può anche
essere valutato come la varianza della y spiegata
unicamente da w e non dalle altre variabili
indipendenti: ipotizzando che y venga spiegata
da x e w, il quadrato della correlazione semiparziale (SPSS lo chiama “parte”) tra y e w
Sr2yw.x
indica la varianza di y spiegata unicamente da
w e non da x.La correlazione semiparziale al
quadrato
Sr2yw.x
corrisponde
anche
all’incremento di R2 passando da un modello
in cui x è l’unico predittore ad un modello in
cui sia x sia w predicono y.
9
La regressione lineare multipla
Il contributo unico delle VI
e
b
a
c
X
W
pr
2
yw. x
a
ae
sr
2
yw. x
a
a
acbe
10
La correlazione parziale
La regressione lineare multipla
Per stimare i contributi unici di ogni VI in un modello di regressione multipla risulta quindi
importante calcolare la matrice di correlazioni parziali tra un set di variabili...
11
La correlazione parziale
La regressione lineare multipla
Correlazione r di ordine zero | Correlazione parziale pr | Correlazione semiparziale sr
Nell’esempio proposto, pr peso lunghezza.potenza = 0.881. È la correlazione parziale tra lunghezza e peso,
tolto l’effetto di potenza. pr2=(0.881)2=0.776 indica che la porzione di varianza della variabile
dipendente «potenza» spiegata da «lunghezza» una volta rimosso l’effetto di «peso», sul totale
della varianza non spiegata dall’altro predittore è il 77.6%.
sr peso lunghezza.potenza = 0.542 è la correlazione semiparziale tra lunghezza e peso, tolto l’effetto di peso.
sr2=(0.542)2=0.294 indica la proporzione di varianza di «peso» spiegata unicamente da «lunghezza»,
sul totale della varianza della variabile dipendente «peso», è il 29.4%. Questo significa anche
che la differenza di R2 se «lunghezza» è incluso o escluso come predittore è il 29.4% (vedi
prossima slide).
12
La regressione lineare multipla
Questa tabellina è stata calcolata in precedenza e mostra il valore di R2
includendo solo potenza o anche lunghezza come predittori
Model Summary
Model
1
2
R
R Square
,789 a
,622
,957 b
,916
Adjus ted
R Square
,605
,908
Std. Error of
the Es timate
107,63258
52,02760
a. Predictors : (Constant), potenza del motore
b. Predictors : (Constant), potenza del motore, lunghezza
(cm)
R2 con solo potenza come predittore = .622
R2 con anche lunghezza come predittore = .916
Differenza = .294
Quant’è la sr2 peso lunghezza.potenza? È proprio .294!
13
L’R2
La regressione lineare multipla
del modello
Model Summary
Regr.
Sempl.
Change Statis tics
Model
1
2
Regr.
Mult.
R Square
R
,622
,789 a
,916
,957 b
Adjus ted
R Square
,605
,908
Std. Error of
the Es timate
107,63258
52,02760
R Square
Change
,622
,294
F Change
36,180
73,155
df2
df1
22
21
1
1
Sig. F Change
,000
,000
a. Predictors : (Cons tant), potenza del motore
b. Predictors : (Cons tant), potenza del motore, lunghezza (cm)
Coefficientsa
Model
1
2
(Cons tant)
potenza del motore
(Cons tant)
potenza del motore
lunghezza (cm)
Uns tandardized
Coefficients
B
Std. Error
717,510
91,659
4,248
,706
-794,052
182,197
3,283
,360
3,651
,427
Standardized
Coefficients
Beta
,789
,609
,571
t
7,828
6,015
-4,358
9,130
8,553
Sig.
,000
,000
,000
,000
,000
Zero-order
Correlations
Partial
Part
,789
,789
,789
,789
,762
,894
,881
,579
,542
a. Dependent Variable: peso (in Kg)
Notiamo come nel modello di regressione semplice la proporzione di varianza spiegata dalla VI
sia coincidente con il quadrato della correlazione semplice corr(xy): R2=0,7892=0,622.
Nel modello di regressione multipla è più complesso: la proporzione di varianza spiegata R2 del
modello è formata dai contributi di ogni variabile…
R2=r2potenza peso + sr2lunghezza peso.potenza=(0,789)2 + (0,542)2=0,622 + 0,294=0,916
R2=r2lunghezza peso + sr2potenza peso.lunghezza=(0,762)2 + (0,579)2=0,581 + 0,335=0,916
14
La regressione lineare multipla
Una particolarità
Coefficientsa
Model
1
2
(Cons tant)
potenza del motore
(Cons tant)
potenza del motore
lunghezza (cm)
Uns tandardized
Coefficients
B
Std. Error
717,510
91,659
4,248
,706
-794,052
182,197
3,283
,360
3,651
,427
Standardized
Coefficients
Beta
,789
,609
,571
t
7,828
6,015
-4,358
9,130
8,553
Sig.
,000
,000
,000
,000
,000
Zero-order
Correlations
Partial
Part
,789
,789
,789
,789
,762
,894
,881
,579
,542
a. Dependent Variable: peso (in Kg)
Notiamo che se ipotizziamo un modello di regressione semplice la correlazione semplice, parziale
e semi-parziale sono uguali… perché!?!
Perché in un modello di regressione semplice il legame diretto tra x e y è l’unico che vi sia… non
esiste altro legame che si debba parzializzare: la proporzione di varianza spiegata di y da parte di x
coincide con il contributo unico di x poiché non occorre parzializzare nessun effetto di altre VI:
r2xy=pr2xy=sr2xy
15
