Lucidi parte 1 - Dipartimento di Ingegneria Informatica e delle
annuncio pubblicitario
Corso di Fondamenti di Telecomunicazioni
3 – Teoria della probabilità
Prof. Mario Barbera
[parte 1]
1
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Struttura della lezione
Definizioni:
Probabilità e frequenza statistica
Esperimento aleatorio
Spazio campione
Evento
Probabilità congiunte e condizionate
Teoremi della probabilità totale e di Bayes
Variabili aleatorie
Funzioni distribuzione cumulativa e densità di probabilità
Indici caratteristici di una distribuzione
Distribuzioni canoniche
Trasformazione di una variabile aleatoria
2
1
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Definizioni
Esperimento aleatorio: esperimento suscettibile di più
risultati, il cui risultato non può essere predetto con certezza
Prova: esecuzione materiale dell’esperimento E che conduce ad
un solo risultato
Spazio campione o Universo: l’insieme S, finito o infinito, di
tutti i possibili risultati (univocamente determinabili) di E. La
definizione di S deve essere univoca ed esaustiva
Evento: un qualunque insieme A di risultati, Α⊆S.
Evento elementare: sottoinsieme con un solo risultato
Evento certo: S, perché contiene tutti e soli i risultati possibili,
quindi uno di questi deve verificarsi per forza.
Evento impossibile: l’insieme vuoto ∅
3
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Notazione utilizzata
Dato che gli eventi sono degli insiemi manterremo la stessa
notazione dell’insiemistica
A
A
B
A
B A
AU B
AI B
4
2
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Notazione utilizzata
Dato che gli eventi sono degli insiemi manterremo la stessa
notazione dell’insiemistica
A
B
Esempio: A∩B = ∅ ⇒ A e B sono mutuamente esclusivi
A I B = 0/
A
S = evento certo
B
A⊂ B
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
B
A
AI B
5
3 – Teoria della probabilità
Definizione: concetto di probabilità
Obiettivo: valutare la possibilità che un evento
(risultato di un esperimento) si verifichi
Definizione per assiomi
1. P(A) ≥ 0
2. P(S) = 1
3. A∩B=∅ Æ P(A∪B)=P(A)+P(B)
6
3
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Definizione: concetto di probabilità
Dagli assiomi alcuni corollari
P(∅) = 0
Infatti A=A∪∅ e A∩∅=∅
P(A)=P(A∪∅)=P(A)+P(∅ ) Æ
P(∅)=0
P(A)=1-P(A*) dove A*=S-A
Infatti S=A∪A* e A∩A*=∅
P(S)=1=P(A∪A*)=P(A)+P(A*)
P(A)=1-P(A*)
P(A∪B)=P(A)+P(B)-P(A∩B)
Infatti A∪B =(A∩B*) ∪(A∩B) ∪(A*∩B) ;
P(A∪B)=P (A∩B*)+P(A∩B)+P (A*∩B) =
= [P (A∩B*)+P(A∩B)]+[P(A∩B)+P (A*∩B) ]-P(A∩B)=
[P(A)]+[P(B)]-P(A∩B)
poichè A=(A∩B*) ∪(A∩B); B= (A*∩B) ∪(A∩B)
B
A
(A∩B)
7
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Probabilità e frequenza statistica
nA/N
1
1/6
0
1
2
3
4
5
6
7
8
9
10
N
Siano:
N il numero di volte che viene ripetuto l’esperimento “lancio
di un dado”
nA il numero di volte che si è verificato l’evento A=2
Pr( A) = lim N →∞
nA
N
8
4
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Probabilità di eventi equiprobabili
Sia S uno spazio campione costituito da eventi elementari
equiprobabili:
{
S = E1 , E2 , K , E N S
}
Ei :eventi equiprobabili
La probabilità dell’evento A, costituito dall’unione di NA
eventi elementari equiprobabili, cioè:
A = E1 ∪ E2 ∪ K ∪ E N A
è data dal rapporto tra il numero di eventi elementari
associati all’evento A e il numero di eventi elementari
costituenti S
P( A) =
A
S
NA
NS
(def. di Laplace)
9
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Esempio
[spazio campione discreto]
Es.: dato l’esperimento “lancio di un dado”
calcolare la probabilità dell’evento:
S=(1,2,3,4,5,6)
A=risultato minore o uguale a 3
i sei eventi elementari costituenti S sono equiprobabili
A=(1,2,3)
ovvero è costituito da tre eventi elementari equiprobabili
P( A) =
NA 3 1
= =
NS 6 2
10
5
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Esempio
[spazio campione continuo]
Supponiamo di aspettare l’arrivo di una telefonata
tra le 20 e le 21
la probabilità che la telefonata arrivi tra le 20:20 e
le 20:30 è TA /T=10/60=1/6
T
20.00
21.00
TA
20.20
t
20.30
NOTA: se calcolo la probabilità che la telefonata arrivi alle 20:30 precise,
questa è uguale a 0 (ma questo non implica che la telefonata alle 20:30 sia
impossibile!)
11
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Definizione:
probabilità congiunta
Presi due eventi A,B⊆S si definisce probabilità
congiunta la
P(A,B) =P(A∩ B)
poiché A∩B=B∩A si ha che:
P(A,B)=P(B,A)
P(A) e P(B) sono dette probabilità marginali
12
6
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Elementi di calcolo combinatorio
Per il calcolo della probabilità di un evento
secondo la definizione di Laplace sono molto
utili alcune definizioni e derivazioni del calcolo
combinatorio.
Obiettivo:
Contare quante siano, a partire da un insieme di n elementi,
le possibili composizioni di un certo numero k di elementi
Fattori di cui tener conto:
Ripetizione degli elementi all’interno della stessa k-upla
Ordine degli elementi all’interno della k-upla
13
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Elementi di calcolo combinatorio
COMBINAZIONI
Si chiamano combinazioni di n elementi di classe k le
sequenze non ordinate di k elementi scelti tra gli n
possibili.
Quante sono?
Senza ripetizione (lo stesso elemento può apparire una sola volta
all’interno della sequenza di k elementi):
Cn, k = n
k
Con ripetizione (lo stesso elemento può apparire una sola volta
all’interno della sequenza di k elementi):
Cn′, k = n + k − 1
k
14
7
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Elementi di calcolo combinatorio
DISPOSIZIONI
Si chiamano disposizioni di n elementi di classe k le
sequenze ordinate di k elementi scelti tra gli n
possibili.
Quante sono?
Senza ripetizione (lo stesso elemento può apparire una sola volta
all’interno della sequenza di k elementi):
Dn , k =
n!
(n − k )!
Con ripetizione (lo stesso elemento può apparire una sola volta
all’interno della sequenza di k elementi):
Dn′, k = n k
Nel caso senza rispetizione, se k=n le DISPOSIZIONI si
chiamano PERMUTAZIONI
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
15
3 – Teoria della probabilità
Esempio: estrazione di 2 carte dallo
stesso mazzo
Calcolare la probabilità che estraendo 2 carte
da un mazzo di 52 carte si abbiano 2 assi
Ricordiamo che:
n elementi si possono combinare in aggregazioni di k
elementi in
n
k
Nel nostro caso n=52 e k=2
=
n!
k!(n − k )!
modi diversi
n!
52 =
= 1326
k
!
(
n
− k )!
2
gli eventi favorevoli sono (4 assi combinati a due a due!)
4
= 6
P=6/1326
2
tutti i possibili
risultati sono
equiprobabili
16
8
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Esempio: lancio di 2 dadi
S=(s11, s12, s13, …, s56, s66)
Consideriamo gli eventi
A=(s11, s12, s13, s14, s15, s16)
B=(s13, s23, s33, s43, s53, s63)
Abbiamo che:
A ∩ B=(s13)
P(A ∩ B)=1/36
nota che 1/36=P(A)P(B)=(1/6)(1/6)
due eventi si dicono statisticamente indipendenti
se:
P( A, B) = P( A) ⋅ P( B)
17
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Condizioni necessarie per l’indipendenza
statistica
Siano A e B due eventi, con:
∅⊂ A⊂S
∅⊂B⊂S
A I B ≠ 0/
A e B possono essere statistic. indipendenti solo se: A I B ≠ A
A I B ≠ B
cioè se la loro intersezione è non vuota e diversa sia da A che da B
In altre parole: Se almeno una delle condizioni non è verificata
A e B non sono statistic. indipendenti
18
9
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Condizioni necessarie per l’indipendenza
statistica
Se ( A I B ) = ∅
Caso 1
P( A I B ) = P (∅) = 0
Se per assurdo fossero ancora statisticamente indipendenti:
P( A I B) = P( A) ⋅ P( B) = 0
Caso 2
Se ( A I B ) = A
A⊂ B
A ≡ ∅ oppure B ≡ ∅
contro l’ipotesi
P( A I B) = P( A)
Se ( A I B ) = B
P( A I B) = P( B)
B⊂ A
Se per assurdo fossero ancora statisticamente indipendenti:
P( A I B) = P ( A) ⋅ P ( B)
P( A I B) = P( A) ⋅ P( B)
Caso 3
Caso 2 = P ( A)
B≡S
= P (B ) Caso 3
contro l’ipotesi
A≡S
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
19
3 – Teoria della probabilità
Probabilità condizionata
Consideriamo ora la coppia di eventi A e B, ciascuno avente
probabilità non nulla
Probabilità condizionata:
la probabilità dell’evento A dato per certo che accada l’evento B
La probabilità condizionata definisce un nuovo spazio campione
S1 =B
la probabilità condizionata rappresenta la probabilità che si
verifichi A nel nuovo spazio campione B
n AI B n AI B nS P( A, B)
n = n ⋅ n = P ( B )
S
B
P( A | B) = B
0
se P( B) ≠ 0
se P( B) = 0
NOTA: se A e B sono statisticamente indipendenti:
P ( A, B) P ( A) P( B)
P( A | B) =
=
= P( A)
P( B)
P( B)
20
10
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Esempio: lancio di due dadi
(1/2)
Consideriamo il lancio di due dadi, uno rosso e uno verde.
Abbiamo 36 possibili risultati: S={(r,v)}
(36 eventi equiprobabili)
Definiamo i seguenti eventi:
A ≡ {(r , v ) : r + v ≤ 4}
B ≡ {(r , v ) : 3 ≤ r ≤ 4}
1 2 3 4 5 6
1
2
3
4
5
6
P( A) =
6 1
=
36 6
P( A | B) =
P( B) =
12 1
=
36 3
P ( A, B ) 1 / 36
=
= 1 / 12
1/ 3
P( B)
21
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Esempio: lancio di due dadi
A ≡ {(r , v ) : r + v ≤ 4}
1 2 3 4 5 6
1
2
3
4
5
6
P( A) =
6 1
=
36 6
P( A | B) =
(2/2)
B ≡ {(r , v ) : 3 ≤ r ≤ 4}
P( B) =
12 1
=
36 3
P ( A, B ) 1 / 36
=
= 1 / 12
P( B)
1/ 3
NOTA:
Potevo calcolare direttamente la probabilità condizionata considerando il nuovo
spazio campione B fatto da 12 elementi, e calcolare in questo spazio campione
la probabilità che si verifichi un A
Poiché ho un solo evento favorevole Æ P=1/12
22
11
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Teorema della probabilità totale
Consideriamo una partizione completa dello
spazio campione con gli eventi Bi , i = 1,2,K,N
Bi ∩ Bk = ∅
N
UB
i
=Ω
B
1
i≠k
B3
B5
B4
A
B2
B6
Ω
N
Allora vale: Pr ( A) =
∑ Pr(A Bi )Pr(Bi )
i =1
i =1
Dimostrazione
N
N
Pr ( A) = Pr ( A ∩ Ω ) = Pr A ∩ U Bi = Pr U A ∩ Bi =
i =1
i =1
N
N
i =1
i =1
= ∑ Pr ( A ∩ Bi ) = ∑ Pr ( A | Bi ) ⋅ Pr( Bi )
poichè
( A ∩ Bi ) ∩ ( A ∩ B j ) = 0/
23
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Teorema di Bayes
B
1
Consideriamo una partizione completa dello
spazio campione con gli eventi Bi , i = 1,2,K,N
Bi ∩ Bk = ∅
N
UB
i
i≠k
Allora vale:
B4
B6
Ω
Pr (Bi A) =
Pr (A Bi )Pr (Bi )
N
∑
j =1
(
)
Pr A B j Pr (B j )
Dimostrazione
Pr (Bi A) =
B5
A
B2
=Ω
i =1
B3
Pr( B i , A) Pr( A , B i ) Pr ( A B i ) Pr (B i )
=
=
=
Pr( A)
Pr( A)
Pr( A)
Pr ( A B i ) Pr (B i )
N
∑
i =1
Pr ( A B i ) Pr (B i )
24
12
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Utilità del teorema di Bayes
Consideriamo un evento A come la conseguenza di cause
diverse Bi .
Diciamo:
P(A | Bi) probabilità a priori
cioè dato per certo una causa qual è la probabilità che si verifichi la
conseguenza
P(Bi | A) probabilità a posteriori
cioè dato per certo che si è verificato l’effetto mi dice qual è la
probabilità che Bi sia una causa
Il teorema di Bayes ci permette di calcolare la probabilità a
posteriori note le probabilità a priori e le probabilità marginali
25
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
Esempio
3 – Teoria della probabilità
(1/2)
Siano A, B e C tre aziende che producono diodi di cui alcuni, per errori
di produzione, sono difettosi:
Azienda % produzione
% diodi
nazionale
difettosi
A
20%
di cui 3% difettosi
B
30%
di cui 10% difettosi
C
50%
di cui 20% difettosi
Dato per certo che ho comprato un diodo difettoso qual è la probabilità
che esso sia stato prodotto da C?
Detto D l’evento acquisto di un diodo difettoso, l’esercizio chiede di trovare P(C | D),
dove abbiamo indicato con C l’evento diodo prodotto dall’azienda C
26
13
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
Esempio
3 – Teoria della probabilità
(2/2)
Siano A, B e C tre aziende che producono diodi di cui alcuni, per
errori di produzione, sono difettosi:
Azienda % produzione
% diodi
nazionale
difettosi
A
20%
di cui 3% difettosi
B
30%
di cui 10% difettosi
C
50%
di cui 20% difettosi
I nostri dati : P( A) = 0.2 ; P( B) = 0.3; P(C ) = 0.5
P( D | A) = 0.03; P( D | B) = 0.1; P( D | C ) = 0.2 ( probabilità a priori)
P( D | C ) ⋅ P(C )
P( D | C ) ⋅ P(C )
=
=
P ( D)
P( D, A) + P( D, B) + P( D, C )
P( D | C ) ⋅ P(C )
0.1
=
=
= 0.73
P( D | A) ⋅ P( A) + P( D | B) ⋅ P( B) + P( D | C ) ⋅ P(C ) 0.136
P(C | D) =
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
27
3 – Teoria della probabilità
Formula di Bernoulli
Consideriamo un esperimento caratterizzato da uno spazio campione
costituito da due risultati soltanto
Es.: testa/croce, vero/falso, 0/1, alto/basso, successo/fallimento
Supponiamo di ripetere n volte l’esperimento in modo che ciascuno sia
indipendente dagli altri
Detta:
p= probabilità di successo di un singolo esperimento
q=1-p probabilità di insuccesso di un singolo esperimento
Pk,n= probabilità di ottenere, in n prove, k successi (ed (n-k) fallimenti)
n
Pk ,n = p k q ( n − k )
k
28
14
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Esempio (1/5)
29
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Esempio (2/5)
30
15
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Esempio (3/5)
31
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Esempio (4/5)
32
16
Fondamenti di TLC - Prof. M. Barbera
Liberamente tratto da Fondamenti di TLC - Prof. G. Schembra
3 – Teoria della probabilità
Esempio (5/5)
33
17
