Incertezza

Intelligenza Artificiale
Metodologie di ragionamento
Prof. M.T. PAZIENZA
a.a. 2001-2002
Conoscenza e ragionamento in
situazioni di incertezza
Incertezza come problema reale della descrizione
di problemi su cui decidere
• Un agente può acquisire informazioni incerte
sull’ambiente
• Il problema non può essere descritto totalmente
(mancanza di alcune informazioni / numero
infinito di affermazioni possibili)
L’incertezza non è evitabile in mondi complessi,
dinamici o inaccessibili.
Incertezza
• Quando gli agenti non hanno accesso all’intera
conoscenza dell’ambiente (cartello VIETATO
FUMARE illeggibile)
• Quando gli agenti hanno una incompleta, o non
totalmente corretta, comprensione delle
proprietà dell’ambiente (simbolo nuovo di
VIETATO FUMARE).
• Quando le regole sul dominio risultano
incomplete in quanto ci sono “troppe”
condizioni da enumerare esplicitamente o
alcune condizioni sono ignorate.
Conoscenza incerta
• Caso della diagnosi ( in qualunque settore)
Si è in una situazione di incertezza in quanto
la lista di situazioni e cause da descrivere
non può essere esaustiva (praticamente
infinita per la mancanza di conoscenza
universale)
Incertezza
• Massimizzare la misura delle prestazioni,
date le informazioni che si hanno
sull’ambiente.
• La cosa giusta da fare, la decisione
razionale, dipende sia dall’importanza
relativa degli obiettivi, che dalla probabilità
e dal grado con cui verranno raggiunti.
Conoscenza e ragionamento con incertezza
• Teoria della probabilità fornisce le basi per il
trattamento di sistemi che ragionano con
incertezza
• Teoria dell’utilità per pesare la desiderabilità
degli obiettivi e la probabilità di raggiungerli
(in quanto le azioni non sono più certe del
raggiungimento degli obiettivi)
Logica e conoscenza incerta
Non si può usare la logica del primo ordine per gestire la
diagnosi:
• impossibilità di elencare l’insieme praticamente infinito
di antecedenti e conseguenti per evitare eccezioni
• mancata conoscenza metodologica completa
• mancata conoscenza applicativa completa
L’agente non potrà mai agire con una piena consapevolezza
di verità e correttezza, avrà solo un grado di credenza
sulla bontà delle azioni da intraprendere e dei risultati.
Teoria della probabilità
La teoria della probabilità assegna un valore
di credenza (tra 0 ed 1) che esprime
l’incertezza.
La probabilità esprime l’incapacità dell’agente
di raggiungere una decisione definita a
proposito della verità di una formula e
riassumere le credenze di un agente.
Teoria della probabilità
Valore 0 <--> credenza non equivocabile che
la formula è falsa
Valore 1 <--> credenza non equivocabile che
la formula è vera
Valori 0,1..0,9 <--> gradi di credenza
intermedi rispetto alla verità/falsità della
formula
Teoria della probabilità
Il vantaggio principale del ragionamento
probabilistico rispetto a quello logico
consiste nel permettere all’agente di
giungere a decisioni razionali anche quando
non vi è abbastanza informazione per
dimostrare che qualsiasi azione data
funzionerà.
Teoria della probabilità
La teoria della probabilità assume la stessa
assunzione ontologica della logica:
i fatti del mondo sono veri o no (con una certa
probabilità)
Teoria della probabilità
Un valore a% di probabilità esprime il valore
percentuale a% di casi indistinguibili tra
loro e considerati veri.
Il valore di probabilità è calcolato con:
• metodi statistici
• regole generali
• regole basate su informazioni ambientali
estemporanee
Semantica degli enunciati
di probabilità
Nella logica del primo ordine ed in quella
proposizionale, una formula è vera o falsa a seconda
dell’interpretazione.
Nella teoria della probabilità, la probabilità che un
agente si affidi ad una proposizione dipende dalle
percezioni ricevute sino a quel momento (prova).
Le probabilità possono cambiare quando si
acquisiscono nuove prove (percezioni ricevute sino a
quel momento)
Teoria della probabilità
• Probabilità a priori o incondizionata (prima
della prova).
• Probabilità a posteriori o condizionata
(dopo l’acquisizione delle prove)
Incertezza e decisioni
• Un agente logico ha un solo obiettivo ed esegue
un piano che garantisce il suo raggiungimento
(indipendentemente da altre azioni)
• Un agente probabilistico è certo di raggiungere
l’obiettivo con qualche probabilità (ed avendo
preferito alcune tra le conseguenze possibili!!!).
Teoria dell’utilità
La teoria dell’utilità permette di rappresentare le
preferenze dell’agente.
Ogni stato ha un grado di utilità per un agente;
l’agente preferirà di volta in volta stati con
utilità più alta.
L’utilità non è una priorità dello stato.
Non c’è oggettività nella scelta delle preferenze;
soggettività rispetto a ciascun agente.
Teoria delle decisioni
Le preferenze (utilità) sono combinate con le
probabilità nella teoria delle decisioni.
Teoria delle probabilità + Teoria dell’utilità
=
Teoria delle decisioni
Teoria delle decisioni
• Necessità di un linguaggio formale per
rappresentare e ragionare con la conoscenza
incerta
• Necessità di gestire formule con un valore
di credenza assegnato e la dipendenza di
tale valore di credenza dalla conoscenza
dell’agente
Agente basato sulla teoria delle decis.
Teoria delle decisioni
L’influenza dell’esperienza dell’agente si manifesta
nella distinzione sintattica tra
gli enunciati della probabilità a priori e
gli enunciati della probabilità condizionata che
comprende le prove
Estensione della logica proposizionale
Probabilità a priori P(A)
P(A) è la probabilità incondizionata o a priori che
l’evento/proposizione A sia vera in mancanza di
altre informazioni
La proposizione (che è il soggetto di un enunciato
di probabilità) può essere rappresentata da un
simbolo proposizionale P(A).
Le proposizioni includono variabili casuli.
Variabili casuali
Le variabili casuali denotano le caratteristiche del
dominio di interesse
Ogni variabile casuale X può assumere valori
possibili (x, y,…z) in un dominio predefinito
Quando si ha un vettore di valori per le probabilità
di ogni singolo stato, si parla di
distribuzione di probabilità.
Teoria della probabilità
Le funzioni di probabilità devono soddisfare
le seguenti proprietà:
1. Assumere un valore compreso tra 0 ed 1
2. La sommatoria su tutti i valori possibili
delle variabili deve essere pari ad 1
3. La probabilità di proposizioni
necessariamente vera deve essere 1, quella
di proposizioni necessariamente false deve
essere 0
Distribuzione di probabilità congiunta
La distribuzione di probabilità congiunta
specifica completamente le assegnazioni di
probabilità per tutte le proposizioni nel
dominio di un agente.
Si ha un insieme di variabili casuali che possono
assumere determinati valori con certe
probabilità
Evento atomico
Un evento atomico è un’assegnazione di valori
particolari a tutte le variabili.
La distribuzione di probabilità congiunta
assegna probabilità a tutti gli eventi atomici.
La specifica delle probabilità di un evento
atomico può essere molto difficile se non si
dispone di grandi quantità di dati da cui
estrarre stime statistiche.
Probabilità congiunta
La probabilità congiunta è una tavola
n-dimensionale con un valore in ogni cella che
fornisce la probabilità che quello specifico stato
(rappresentato da quelle variabili casuali) si verifichi
A
-A
B 0.04 0.06
-B 0.01 0.89
Sommando lungo la riga o la colonna si ha la
probabilità incondizionata di quella variabile
Probabilità condizionale
E’ possibile fare inferenze a proposito della
probabilità di una proposizione ignota A, data
prova di B, calcolando P(A/B) (inferenza
probabilistica).
Un’interrogazione ad un sistema di ragionamento
probabilistico chiederà di calcolare il valore di
una particolare probabilità condizionata.
Probabilità condizionata
P(A/B) è la probabilità condizionata o a posteriori
che l’evento/proposizione A sia vera dopo che si
sia verificato l’evento/proposizione B.
In generale
P(X,Y)=P(X/Y)P(Y)
fornisce la probabilità congiunta delle variabili nei
domini di variabilità delle variabili casuali.
La probabilità condizionale di una disgiunzione è
data da P(AvB)=P(A)+P(B)-P(A^B)
Probabilità
•Probabilità di un evento P(A)
•Probabilità congiunta P(a,b,c,…n)
•Probabilità condizionata a posteriori
P(A/B) = P (A ^ B)
P(B)
Assiomi della teoria della
probabilità
0 < P (A) < 1
P(VERO) = 1
P(FALSO) = 0
P (A v B) = P(A) + P(B) – P(A ^ B)
Proprietà della teoria della
probabilità
P(A) + P( ¬ A) = 1
P( ¬ A) = 1 – P(A)
P(A v ¬ A) = P(A) + P( ¬ A) – P (A ^ ¬ A)
P (Vero) = P(A) + P( ¬ A) – P (Falso)
Regola di Bayes
Con eventi indipendenti si ha:
P(A^B)=P(A/B)P(B)
P(B^A)= P(A^B)=P(B/A)P(A)
da cui
P(A/B)P(B)=P(B/A)P(A)
e quindi la regola di Bayes
P(B/A)=P(A/B)P(B)
P(A)
che permette di fare inferenza probabilistica
Regola di Bayes
Le relazioni di indipendenza condizionale fra
le variabili possono semplificare il calcolo
dei risultati delle interrogazioni e ridurre
notevolmente il numero di probabilità
condizionate che devono essere specificate.
Come catturare conoscenza incerta
Assegnazione di valori di probabilità
• Partendo da misure di frequenza (di valori di
variabili) effettuate su molti casi reali
(frequentisti)
• Analizzando aspetti reali per cui le misure di
probabilità sono valori intrinseci di un oggetto
(oggettivisti)
• Estrinsecazione delle credenze di un agente
(soggettivisti)
Ragionamento probabilistico
I sistemi di ragionamento probabilistico permettono
di prendere decisioni razionali anche quando non
vi è abbastanza informazione per dimostrare che
qualsiasi azione funzionerà.
Per rappresentare la le dipendenza fra variabili, si
usano le reti di credenza come struttura dati.
Permettono anche di specificare concisamente le
distribuzioni di probabilità congiunta. Le
probabilità riassumono un insieme potenzialmente
infinito di possibili circostanze
Rete di credenza
Una rete di credenze è un grafo orientato
aciclico (DAG) in cui:
• i nodi sono un insieme di di variabili casuali
• archi direzionali congiungenti coppie di nodi
rappresentano l’influenza di una variabile su
un’altra
• ad ogni nodo è associata una tabella di prob.
condizionata che esprime gli effetti dei nodi che
lo influenzano (nodi genitori/predecessori)
Rete di credenza
Una rete bayesiana (di credenza) richiede
che ogni nodo del grafo sia
condizionatamente indipendente
da qualsiasi sottoinsieme di nodi che non
siano discendenti dei predecessori diretti
del nodo stesso
Rete di credenza
• Si affida ad un esperto di dominio la
definizione della topologia della rete di
credenze, poi si calcolano le influenze dirette
e le conseguenti probabilità
• La rete rappresenta le assunzioni che si
effettuano su quel dominio
Rete di credenza
• La topologia della rete è la base di conoscenza
generale ed astratta dell’ambiente in cui si
possono verificare gli eventi, e rappresenta la
struttura generale del processo causale nel
dominio, piuttosto che fornire dettagli su un
particolare elemento.
• Nelle reti bayesiane gli archi che connettono i
nodi esprimono le relazioni causali dirette
(causa -> effetto)
Rete di credenza
Rete di credenza
• Una volta definita la topologia bisogna
specificare la tabella delle probabilità
condizionate associata ad ogni nodo.
• Ogni riga della tabella esprime la probabilità del
valore di ogni nodo per un caso condizionante
(combinazione di valori dei nodi genitori –
produttoria delle prob. Condiz.)
• Un nodo con nessun genitore è rappresentato
dalla probabilità a priori
Rete di credenze con le probabilità condizionate
Rete di credenza
• Una rete di credenze rappresenta una (tra le
varie possibili) descrizione completa del
dominio solo se ogni nodo è condizionalmente
indipendente dai suoi predecessori
nell’ordinamento dei nodi dati i suoi genitori.
• Un elemento della tabella congiunta è la
probabilità di una congiunzione di assegnazioni
particolari ad ogni variabile P(a,b,c,…n).
Probabilità di un evento
• La probabilità congiunta P(a,b,c,..n) è data dal
prodotto degli elementi appropriati delle tabelle
di probabilità condizionate associate alla rete di
credenze.
• Poiché la rete di credenze è una rappresentazione
della distribuzione congiunta, può essere usata
per rispondere ad una interrogazione
Costruz. incrementale rete di credenza
1. Identificare un insieme di variabili rilevanti Xi
che descrivano il dominio
2. Scegliere un ordinamento tra le variabili
3. Finché rimangono variabili:
–
–
–
Prendere una Xi ed aggiungere un nodo alla rete
Scegliere l’insieme minimo di genitori di Xi
indipendenti condizionalmente tra loro
Definire la tabella delle proprietà condizionate per Xi.
Garantire la compattezza della rete.
Costruz. incrementale rete di credenza
In un sistema localmente strutturato (rete di
credenza) ogni sottocomponente interagisce
direttamente solo con un numero limitato di
altre componenti, indipendentemente dal
numero totale di componenti (prob. Condiz.
di un nodo rispetto ai suoi genitori esprime
tutto ciò che si deve sapere sulle influenze sul
nodo di tutti i suoi predecessori)
Costruz. incrementale rete di credenza
Causa  Effetto
L’ordine corretto per aggiungere nodi è quello
che prevede prima l’inserimento delle “cause
alla radice”, quindi delle variabili che
influenzano per arrivare poi alle foglie che
non hanno nessuna influenza causale sulle
altre variabili.
Strutture di una rete di credenze
La struttura della rete dipende dall’ordine di
inserimento dei nodi.
Inferenza nelle reti di credenze
Compito fondamentale per un sistema di inferenza
probabilistico è quello di calcolare la distribuzione
delle probabilità a posteriori per un insieme di
variabili di interrogazione, dati i valori esatti per
alcune variabili di prova: P(Interrogazione/Prova)
In ogni rete di credenza ogni nodo può servire sia
come variabile di prova che di interrogazione.
Un agente acquisisce valori per le variabili di prova
dalle proprie percezioni (o da altro ragionamento) e
si informa a proposito di valori possibili per altre
variabili per poter decidere quale azione compiere.
Inferenza nelle reti di credenze
• Inferenza causale o tp-down (dalle cause
agli effetti)
• Inferenza diagnostica (dagli effetti alle
cause)
• Inferenza mista
Inferenza causale o top-down
Operazioni principali
• Riscrivere la probabilità condizionata
desiderata per il nodo di interrogazione V data
l’evidenza in termini delle probabilità
congiunte e di tutti i suoi genitori (che non
fanno parte dell’evidenza), data l’evidenza
• Riesprimere queste probabilità congiunte di
nuovo con la probabilità di V condizionata a
tutti i genitori
Inferenza diagnostica
Ruoli di interrogazione ed evidenza rovesciati
rispetto alla inferenza causale
Si usa un effetto per inferire una causa
Si usa la regola di Bayes per convertire il
problema diagnostico in un problema di
ragionamento causale
Reti di credenza a connessioni multiple
Un grafo è a connessioni multiple se due nodi sono
connessi da più di un cammino. Ciò accade
quando vi è più di una causa per una qualche
variabile e le cause condividono un antenato
Oppure reti a connessioni multiple rappresentano
situazioni in cui una variabile può influenzare
un’altra attraverso più di un meccanismo causale.
Reti di credenza a connessioni multiple
Reti di credenza a connessioni multiple
Reti di credenza a connessioni multiple
Ragionamento con incertezza
1. Decidere di cosa parlare
2. Decidere un vocabolario delle variabili
casuali
3. Codifica delle conoscenza generale per le
dipendenze fra le variabili
4. Descrivere l’istanza specifica del problema
5. Interrogare la procedura di inferenza ed
ottenere risposte