Reti neurali - Home di homes.di.unimi.it

RETI NEURALI
ARTIFICIALI
IL CERVELLO
– Il cervello umano ha 10 bilioni di neuroni
– Le connessioni sono un milione di milardi
– Un neurone è composto da:
• corpo cellulare
• dendriti
• assone
IL CERVELLO
IL CERVELLO
• Il corpo cellulare mantiene una polarizzazione
con le cariche provenienti dai dendriti, che
sono prolungamenti connessi ad altri neuroni.
• Passata una certa soglia, il neurone scarica
la sua attivazione lungo l’assone.
• Il contatto fra due neuroni, la sinapsi, per via
elettrochimica trasmette la carica elettrica al
dendrite di un altro neurone.
IL CERVELLO
• Il contenuto informativo del cervello è
rappresentato dall’insieme dei valori di
attivazione di tutti I neuroni.
• L’elaborazione dell’informazione
avviene con il flusso di segnali elettrici
nella rete dei neuroni.
IL CERVELLO
• L’attivazione elettrica nel cervello
viaggia ad un centinaio di impulsi al
secondo
• In un computer I segnali elettrici
viaggiano migliaia di volte più veloci, ma
nel cervello l’informazione viaggia in
parallelo ed è distribuita sulla rete
piuttosto che posta in posizioni note.
STORIA
• 1943 McCulloch e Pitts, Modello
formale di neurone
• 1949 Legge di Hebb - prima legge di
apprendimento su base neurale
• 1957 Rosenblatt, Perceptrone
• 1969 Minsky e Papert evidenziano I
limiti del perceptrone
STORIA
• Legge di Hebb:
Dwij = e Oi Oj
la connessione si rafforza quanto più
sono attive le unità I e j
• Perceptrone:
– si dimostra che può apprendere un certo
numero di funzioni
STORIA
• Perceptrone:
– è fault tolerant, perchè un guasto ad
alcune unità non compromette il
funzionamento del sistema
– Limiti : non può risolvere problemi che
coinvolgono funzioni non linearmente
separabili (es. OR esclusivo).
STORIA
STORIA
STORIA
• 1986 Rumelhart McClelland
Perceptrone multistrato con
backpropagation (apprendimento
supervisionato)
• 1977 Rete autoorganizzante di
Kohonen (apprendimento non
supervisionato)
• 1982 Rete di Hopfield
• ….
STORIA
IL NEURONE FORMALE
• Data una rete formata da N unità, la Iesima unità riceve alcuni segnali di
input provenienti dall’output e da altre
unità
• Il valore Oj proveniente dalla j-esima
unità viene trasmesso alla I-esima unità
con peso Wij (il peso corrispondente
alla forza sinaptica)
• La I-esima unità riceve il segnale Wij Oj
IL NEURONE FORMALE
• Le varie unità connesse con la I-esima
unità concorrono a formare il suo stato
di attivazione
Ai = S Wij Oj
– Il valore dell’output della I-esima unità
è dato dall’applicazione di una
funzione di trasferimento T:
Oi = T(Ai)
IL NEURONE FORMALE
– La funzione T emula la soglia di attivazione
del neurone, e quindi è una funzione a
rampa.
– Una rete neurale è formata da un certo
numero di unità fra loro interconnesse.
– Alcune fungono da unità di input X, che
ricevono segnali dall’esterno (I dati, in
genere numeri reali)
FUNZIONE DI
TRASFERIMENTO
FUNZIONE DI
TRASFERIMENTO
RETE NEURALE
– Altre sono unità di output Y, e forniscono I
valori di output del problema.
– Una rete calcola quindi una funzione F t.c.
Y = F(X)
– La rete apprende a compiere questo
calcolo attraverso la presentazione di
esempi ed un processo di apprendimento.
RETE NEURALE