1-a

ALBERI DECISIONALI
terza parte
Argomenti della lezione
 Il metodo CHAID: Chi-Squared
Automatic Interaction
Detection
 Il test del chi-quadrato
 Il fattore di Bonferroni
 Esempio di impiego degli alberi
decisionali
Caratteristiche
principali del metodo
CHAID
CHAID unisce le categorie
del predittore che sono
omogenee rispetto alla
variabile dipendente,
ma mantiene distinte tutte
le categorie che sono
eterogenee
CHAID utilizza il moltiplicatore
il moltiplicatore di Bonferroni
per compiere gli aggiustamenti
necessari per compiere
inferenze statistiche
simultanee
CHAID, a differenza di altri
metodi di partizione
iterativa, è limitato
a caratteri di tipo ordinale
e nominale
Utilizza il test del
chi-quadrato per saggiare
l'indipendenza tra caratteri
(insieme all'aggiustamento
di Bonferroni) per stabilire
la significatività statistica
della partizione
Il test chi-quadrato di
indipendenza
  ( n ij 2
x
=
i
j
*
nij
* 2
n )
ij
dove
nij
è la frequenza empirica che
corrisponde alla combinazione
della modalità i del primo carattere
con la modalità j del secondo
carattere
*
n
ij
= ninj
è la corrispondente frequenza
teorica calcolata in accordo
all'ipotesi di indipendenza tra
i due caratteri considerati
ESEMPIO
Famiglie secondo la zona
di residenza e il possesso
di personal computer
(frequenze empiriche)
Zona geografica
Possesso
di personal
computer
NordCentro
Mezzogiorno In
complesso
SI
150
100
250
NO
500
250
750
In
complesso
650
350
1000
Famiglie secondo la zona
di residenza
e il possesso di personal
computer
(frequenze teoriche)
Zona geografica
Possesso
di personal
computer
NordCentro
Mezzogiorno In
complesso
SI
162,5
87,5
250,0
NO
487,5
262,5
750,0
In
complesso
650,0
350,0
1000,0
Calcolo del test:
(500-487,5)2/487,5+
(87,5-100)2/87,5+
(162,5-150)2/162,5+
(250-262,5)2/262,5=
Il fattore di aggiustamento
di Bonferroni
 Consideriamo la variabile dipendente
R e i predittori B, con cinque categorie,
e A, con due
 Poniamo che a sia l'errore del primo
tipo associato con il test di
indipendenza in una tabella a doppia
entrata che associa B e R
(ad esempio a =0,05)
Vi sono 24 -1 = 15 modi differenti
di rendere dicotomica la variabile B
Se i 15 test di ipotesi fossero
indipendenti, la probabilità di fare
un errore del primo tipo sarebbe
pari a:
1-(1-a)15 > a
Nell'esempio di cui sopra,
15 è chiamato fattore di Bonferroni
Se a è piccolo
1 - (1-a)M = Ma
Per il predittore A la probabilità
di commettere un errore del primo
tipo è semplicemente a
Nel metodo CHAID
si confronta il valore di a
associato con il test
di indipendenza per la variabile
A con il valore di a per
la variabile B corretto con
il fattore di Bonferroni
Componenti di
base del metodo
CHAID:
1
Una variabile dipendente
categorica
2
Un insieme di variabili
indipendenti anch'esse
categoriche, combinazioni delle
quali sono usate per definire
le partizioni
3
Un insieme di parametri per
l'esecuzione dell'analisi
In ogni passo dell'analisi,
ciascun sottogruppo è
analizzato e si identifica
il miglior predittore, definito
come quello che ha
il valore di a corretto con il
fattore di Bonferroni più piccolo
Tipi di variabili predittive
in CHAID
1
Monotoniche
2
Libere
3
Fluttuanti
L'algoritmo CHAID:
Passo 1: Fusione
Passo 2: Divisione
Passo 3: Arresto
Fusione
Per ciascun
predittore
1
Forma la tabella a
doppia entrata
completa
2
Per ogni coppia di categorie
che possono essere fuse assieme
calcola il test chi-quadrato. Per
ogni coppia che risulta non
significativa procedi alla fusione
e vai al passo 3. Se tutte le
coppie rimanenti sono
significative vai al passo 4
3
Per tutte le categorie
risultanti dalla fusione di tre
o più categorie originarie
controlla con il test chiquadrato se ogni categoria
originaria può essere
separata dalle altre. Torna al
passo 2
4 Unisci le categorie che hanno
un numero di casi troppo
basso, selezionando quelle
che presentano il valore
di a più alto
5
Calcola il valore di a corretto
con il fattore di Bonferroni
sulla tabella risultante dal
processo di fusione
Divisione
 Seleziona come miglior predittore
quello che presenta il più piccolo
valore di a corretto con il fattore
di Bonferroni
 Se nessun predittore mostra
un valore di a significativo, non
dividere quel sottogruppo
Arresto
Ritorna al passo 1 e analizza
il sottogruppo successivo.
Interrompi quando tutti
i sottogruppi sono stati
analizzati o contengono troppo
poche osservazioni
Esempio di impiego del
metodo chaid
Variabile dipendente:
tasso di risposta ad una offerta
promozionale di abbonamento
ad una rivista
Variabili
indipendenti
età del capofamiglia - 5
categorie -fluttuante (AGE)
genere - 2 categorie -monotonica
- (GENDER)
presenza di bambini - 2 categorie
- monotonica (KIDS)
reddito familiare - 8 categorie monotonica (INCOME)
carta di credito - 2 categorie monotonica (BANKCARD)
numero di componenti - 6 categorie
- fluttuante - (HHSIZE)
tipo di occupazione -4 categorie libera (OCCUP)
Rappresentazione
del processo
di partizione tramite
il dendrogramma
Total
0.02
81,040
HHSIZE
1
0.03
25,384
23
0.13
16,132
45
0.00
6,198
?
- 0.04
33,326
OCCUP
-1-
GENDER
-4-
W
0.36
1,758
BO?
0.10
14,374
M
- 0.04
25,531
F
- 0.05
7,795
-2-
-3-
-5-
-6-
Interpretazione dei
risultati
Comparazione dei tassi
di risposta secondo
la variabile ampiezza
familiare prima e dopo
la fusione
% di risposte
Frequenza
prima della
fusione
1
25384
1,09
1,09
2
11240
1,49
1,52
3
4892
1,59
1,52
4
3187
1,79
1,92
3011
2,06
1,92
33326
0,87
0,87
HHSIZE
5
dato
mancante
dopo la
fusione
Ordinamento dei
segmenti secondo
il tasso di risposta
Rango
Numero
Descrizione
Tasso di
risposta
1
Segmento 2 Famiglie con due o
2,39
2
Segmento 4 Famiglie con
1,92
tre componenti,
capofamiglia
impiegato
quattro
componenti e più
Rango
Numero
Descrizione
Tasso di
risposta
3
Segmento 3 Famiglie con due
1,42
4
Segmento 1 Famiglie con un
componente
1,09
o tre componenti,
capofamiglia con
occupazione
diversa
da impiegato
Rango
Numero
Descrizione
Tasso di
risposta
5
Segmento 6 Famiglie di cui
1,08
6
Segmento 5 Famiglie di cui
0,81
non si conosce il
numero di
componenti,
capofamiglia donna
non si conosce il
numero di
componenti,
capofamiglia uomo