Algoritmi e Strutture Dati

Algoritmi e Strutture Dati
Capitolo 12
Minimo albero ricoprente:
Algoritmo di Kruskal (*)
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Definizioni
• Sia G=(V,E,w) un grafo non orientato, connesso e
pesato (pesi reali). Il peso degli archi rappresenta un
generica funzione di costo sugli archi.
• Un albero ricoprente di G è un sottografo T=(V,E′E)
di G tale che:
– T è un albero;
– T contiene tutti i vertici di G.
• Il costo dell’albero w(T) è la somma dei pesi degli
archi appartenenti all’albero.
• Un minimo albero ricoprente (MAR) di G è un albero
ricoprente di G avente costo minimo.
5
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Esempi
Il minimo albero ricoprente non è necessariamente
unico
6
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Proprietà dei minimi alberi
ricoprenti
7
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
La tecnica golosa (o greedy)
•
Gli algoritmi che studieremo per il calcolo del MAR faranno tutti uso
della cosiddetta tecnica golosa (greedy)
La tecnica golosa si applica principalmente a problemi di ottimizzazione
in cui, dato in input un insieme di elementi, bisogna scegliere un
sottoinsieme di essi per costruire una soluzione che ottimizzi una certa
funzione obiettivo
Il paradigma dell’algoritmo goloso è il seguente: inizialmente ordina gli
elementi in input in base ad un criterio di appetibilità (da cui il termine
goloso), e poi ripete le seguenti operazioni:
•
•
– Ad ogni fase i, la soluzione viene accresciuta selezionando l’ i-esima
componente della stessa: tale componente, tra tutte quelle ammissibili,
risulta la migliore in questo momento rispetto al criterio di appetibilità;
– Una volta fatta la scelta per la i-esima componente, si aggiornano
(eventualmente) le appetibilità degli elementi rimanenti, e si passa a
considerare le scelte successive, senza più tornare sulla decisione presa.
•
Come per la programmazione dinamica, anche in questo caso la tecnica
può funzionare solo se il problema gode della proprietà di sottostruttura
ottima (sebbene questa sia una condizione necessaria, ma non
sufficiente)
8
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Tagli e cicli
• Nel caso del MAR, i vari algoritmi golosi si baseranno sulla
valutazione del peso degli archi nei tagli e nei cicli del grafo
• Dato un grafo non orientato G=(V,E), un taglio (X,Y) in G è una
partizione dei vertici V in due insiemi (disgiunti): X e Y=V\X.
• Nota: rimuovendo un arco e da un albero T ricoprente G,
generiamo un taglio nel grafo G (quello indotto dai due sottoalberi
in cui si partiziona T)
• Dato un grafo non orientato G=(V,E), un ciclo in G è un cammino
semplice in G da un vertice di G a se stesso
• Nota: aggiungendo un arco e=(u,v) ad un albero T, generiamo un
ciclo (il cosiddetto ciclo fondamentale di e rispetto a T) costituito
da e=(u,v) e dall’unico cammino semplice in T che congiunge u e v
9
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Tagli e cicli: un esempio
G=(V,E)
T=(V,E′)
Rimuovendo l’arco (u,v) da
T ottengo un taglio in G; gli
archi colorati in verde
vengono detti archi di
attraversamento del taglio,
in quanto hanno i due
estremi ciascuno in un
insieme della partizione
definita dal taglio
u
v
10
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Tagli e cicli: un esempio
T=(V,E)
u
Aggiungendo l’arco (u,v) a T
ottengo un ciclo in T U {(u,v)}
v
11
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Un approccio “goloso”
• Costruiremo un minimo albero ricoprente un arco alla
volta, effettuando scelte localmente “golose”.
Intuitivamente:
– includeremo nella soluzione archi di costo piccolo che
attraversano tagli di G
– escluderemo dalla soluzione archi di costo elevato che
appartengono a cicli in G
• Formalizzeremo il processo come un processo di
colorazione degli archi del grafo:
– archi blu: inclusi nella soluzione
– archi rossi: esclusi dalla soluzione
12
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Regola del taglio (regola blu)
Scegli un taglio in G che non è attraversato da
archi blu. Tra tutti gli archi non ancora colorati
che attraversano il taglio, scegline uno di costo
minimo e coloralo di blu.
Infatti, ogni albero ricoprente G deve contenere
almeno un arco che attraversa il taglio (per
garantire la connettività), e dimostreremo che è
corretto scegliere quello di costo minimo.
13
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Regola del ciclo (regola rossa)
Scegli un ciclo in G che non contiene archi rossi.
Tra tutti gli archi non ancora colorati del ciclo,
scegline uno di costo massimo e coloralo di rosso.
Infatti, ogni albero ricoprente G deve escludere
almeno un arco del ciclo (per garantire
l’aciclicità), e dimostreremo che è corretto
eliminare quello di costo massimo.
14
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
L’approccio “goloso”
• L’approccio goloso applica una delle due regole colorando un arco
ad ogni passo, finché tutti gli archi sono colorati; quando un arco
assume un colore, lo mantiene per sempre
• Dimostreremo che ad ogni passo del processo di colorazione degli
archi, esiste sempre un minimo albero ricoprente che contiene tutti
gli archi che sono stati finora colorati di blu, e non contiene
nessun arco che invece è stato colorato di rosso. Quindi, alla fine
del processo di colorazione, se abbiamo colorato esattamente n-1
archi di blu, avremo ottenuto un MAR di G.
• A seconda della scelta della regola da applicare e del taglio/ciclo
usato ad ogni passo, si ottengono dal metodo goloso diversi
algoritmi con diversi tempi di esecuzione
15
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Teorema dei tagli (regola blu)
Teorema: Dato il grafo G=(V,E,w) non orientato
e pesato, e dato un taglio C=(X,Y) in G, un arco
e=(u,v) di peso minimo che attraversa il taglio
C appartiene sempre ad un qualche MAR di G.
Dim. (per assurdo): Supponiamo per assurdo che
e non appartenga ad alcun MAR di G. Sia
T=(V,E′) un qualsiasi MAR di G, e
consideriamo il taglio C in T.
16
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
X
u
x
v
Y
y
w(u,v) ≤ w(x,y)
17
Aggiungendo l’arco e=(u,v)
di costo minimo che
attraversa C=(X,Y) a T,
ottengo un ciclo in T, e tale
ciclo contiene almeno un
arco di T che attraversa il
taglio.
Allora, l’albero T′ ottenuto da
T sostituendo uno qualsiasi di
tali archi con l’arco (u,v), è un
albero ricoprente di G non più
pesante di T, che per ipotesi
era un MAR  T′ è un MAR
di G e (u,v) gli appartiene 
contraddizione!
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Teorema dei cicli (regola rossa)
Teorema: Sia G=(V,E,w) un grafo non orientato e pesato,
sia e l’arco strettamente più pesante di un qualsiasi ciclo in
G. Allora e non può appartenere ad alcun MAR di G.
Dim. (per assurdo): Sia e l’arco più pesante in un ciclo C={e} U P, e
supponiamo eT, un MAR di G. Allora, sovrapponendo P a T esisterà
almeno un arco e′ di P che non appartiene a T e che attraversa il taglio
indotto dalla rimozione di e da T (perché altrimenti T non sarebbe
aciclico):
X
P
e
e′T
Sia T′=T \ {e} U {e′}.
Ovviamente, T′ è un albero
ricoprente G. Inoltre,
w(e′) < w(e)  w(T′) < w(T)
 T non è un MAR di G!
V\X
18
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Teorema dei cicli (versione estesa)
Teorema: Sia G=(V,E,w) un grafo non orientato e pesato,
sia e l’arco strettamente più pesante di un qualsiasi ciclo in
G. Allora esiste almeno un MAR di G che non contiene e.
Dim. Esercizio.
19
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Algoritmo di Kruskal (1956)
20
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Strategia
• Mantiene una foresta di alberi disgiunti, che all’inizio consiste
degli n vertici del grafo, e che alla fine consisterà di un unico
albero, ovvero un MAR del grafo
• Ordina gli archi in ordine non decrescente di costo, e per ogni
arco, preso in quest’ordine, applica il seguente passo:
1.
2.
se gli estremi dell’arco appartengono a due alberi diversi della foresta,
applica la regola del taglio e aggiorna la soluzione aggiungendo l’arco
alla foresta (e quindi unendo i due alberi relativi);
se invece entrambi gli estremi appartengono allo stesso albero, applica la
regola del ciclo ed estromettilo dalla soluzione (in sostanza lasciando
inalterata la foresta)
• I vertici della foresta sono mantenuti tramite una struttura dati
union-find (ove due nodi appartenenti allo stesso albero
apparterranno allo stesso insieme)
21
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Pseudocodice
22
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Esempio (1/2)
23
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Esempio (2/2)
24
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Analisi della complessità
Su un grafo con m archi ed n nodi, si eseguono:
• Un ordinamento su m elementi (costo O(m log m) =
= O(m log n2) = O(m log n), nell’ipotesi che il grafo
in input sia rappresentato tramite una lista di
adiacenza);
• n operazioni di Makeset (costo Θ(n));
• 2m operazioni di Find;
• n-1 operazioni di Union.
T(n,m)=O(m log n + n+ T(UF(n,m))=
O(m log n + T(UF(n,m)))
25
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Analisi della complessità
La complessità dipende da come viene risolto UF(n,m):
1. Alberi QuickFind: T(UF(n,m))=O(n2 + m)=O(n2)
 T(n,m)=O(m log n + n2).
2. Alberi QuickFind con euristica dell’unione bilanciata:
T(UF(n,m))=O(n log n + m)
 T(n,m)=O(m log n + n log n + m)=O(m log n).
3. Alberi QuickUnion: T(UF(n,m))=O(n + m·n)=O(m·n)
 T(n,m)=O(m log n + m·n)=O(m·n).
4. Alberi QuickUnion con euristica dell’unione bilanciata:
T(UF(n,m))=O(n + m log n)=O(m log n)
 T(n,m)=O(m log n + m log n)=O(m log n).
26
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Analisi della complessità
Il tempo di esecuzione dell’algoritmo di
Kruskal è O(m log n) nel caso peggiore
(Utilizzando un algoritmo di ordinamento ottimo
in un grafo rappresentato mediante liste di
adiacenza, e gestendo la struttura dati union-find
con alberi QuickFind con euristica di unione
bilanciata, o alberi QuickUnion con euristica di
unione bilanciata (by rank o by size))
27
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Domanda di approfondimento
Confrontare le complessità computazionali
delle implementazioni di Kruskal con alberi
QuickFind ed alberi QuickUnion (senza
euristiche di bilanciamento).
28
Copyright © 2004 - The McGraw - Hill Companies, srl
Algoritmi e strutture dati
Camil Demetrescu, Irene Finocchi, Giuseppe F. Italiano
Domanda di approfondimento: soluzione
Confrontare le complessità computazionali delle implementazioni
di Kruskal con alberi QuickFind ed alberi QuickUnion (senza
euristiche di bilanciamento).
Soluzione: Si osservi innanzitutto che con alberi QF si ha che
TQF(n,m)=O(m·log n + n2), mentre con alberi QU si ha
TQU(n,m)=O(m·n). Quindi, poiché m·n=Ω(m·log n) e m·n=Ω(n2)
[in quanto m=Ω(n)], ne consegue che TQU(n,m)=Ω(TQF(n,m)). Ci
si domanda ora se per ogni valore di m si ha
TQU(n,m)=ω(TQF(n,m)). La risposta è NO. Si osservi infatti che
per m=Θ(n), si ha TQF(n,m)=O(n·log n + n2)=O(n2), mentre
TQU(n,m)=O(n2), e quindi TQF(n,n)=TQU(n,n).
29
Copyright © 2004 - The McGraw - Hill Companies, srl