“Come vede una rete neurale” Titolo della tesi

Titolo della
tesi
“Come vede una rete neurale”
Scopo della tesi:
simulare alcune proprietà
del sistema visivo dei
mammiferi attraverso
l’utilizzo di una rete
neurale
Che cosa verrà simulato?
• Immagini in bianco e nero
(livelli di luminanza)
• Composizione spettrale del
segnale
• Simulazione prevalentemente
atemporale
• Complesse dinamiche
neurali
• Feed-back intermodale
• Interazioni a feed-back
con l’ambiente esterno
• Trasformazioni in 2D
• Trasformazioni in 3D
E molto altro ancora….
Reti neurali
Sistemi nervosi artificiali
che traggono ispirazione dai modelli biologici
Rete di neuroni
biologici
Rete neurale
artificiale
Neurone
Neurone biologico
Neurone artificiale
input
X1
X2
X3

output
F(Att.)
Vantaggi delle reti neurali
• Plausibilità biologica
• Capacità di apprendere
• Adattabilità: sono applicabili a più domini
(come i sistemi biologici)
• Veloci: processi in parallelo
• Rappresentazioni distribuite
• Robusti: errori e rumore degradano
progressivamente la prestazione
• Possibilità di eseguire manipolazioni
• Somiglianza fra prestazioni umane e modelli
Il modello
Tentativo di conciliare due diverse visioni del
rapporto mente-cervello
Osservazioni
psicologia
sperimentale
(percezione)
Neuroscienze
dialogo
Strutture anatomiche simulate
Parziale implementazione di
• Strutture retiniche
• NGL
• V1
• Aree associative
• Sistema motivazionale
Caratteristiche funzionali simulate
• Elaborazione precoce dell’immagine visiva
• Eliminazione del rumore
• Estrazione delle variazioni di luminanza
• Prime fasi di elaborazione corticale (V1)
• Ricostruzione dell’immagine
• Livello associativo
• Rinforzo
• Attenzione selettiva
Schema generale
della rete:
Totale di
5.176 neuroni
artificiali
e 528.439
connessioni
Implementazione:
Visual Basic
Primo strato: recettori
Matrice
dei
recettori:
20 x 20
400
recettori
(istantanee del programma)
Livello di
attivazione
Processo di smoothing
Livellamento del rumore dell’immagine originaria
Immagine + rumore
Immagine percepita
(depurata dal rumore)
Eliminazione del rumore: recettori
Prima dell’applicazione del filtro
Dopo l’applicazione del filtro
Che cosa accade al segnale?
Estrazione delle variazioni di luminanza
Le caratteristiche importanti dell’immagine
sono racchiuse nelle variazioni di luminanza
(spesso coincidenti con i bordi degli oggetti)
Necessità di introdurre un ulteriore strato di unità
la cui struttura riassume le funzioni
delle cellule bipolari, gangliari e del NGL
INTERMEDIE
Connessioni recettori  center-ON
e center-OFF
Struttura del campo recettivo
delle center-ON e center-OFF
Elaborazione in parallelo
Proprietà funzionali center-ON e
center-OFF
Att
3
2
1
0
1
2
Stimolo
Risposta di una center-ON in
funzione della posizione dello
stimolo luminoso
3
S1
4
5
Simulazioni intermedie
Simulazioni intermedie
Prime fasi di elaborazione corticale (V1)
Campo recettivo concentrico
Campo recettivo più complesso
Organizzazione modulare
V1
Modello: unità semplici SI ed SII
• Salto concettuale rispetto alle intermedie
• Nuova classe di unità con CR allungato: necessità
di elaborare proprietà complesse dell’immagine,
non solo grandezze puntiformi
• Semplificazione della circuiteria corticale: solo due
classi di unità semplici, SI ed SII
Che cosa chiediamo a queste unità?
• Estrazione di contorni dell’immagine
• Sensibilità alle frequenze spaziali
• Sensibilità alla direzione del contrasto
Unità SI
6 classi di unità
2166 unità
Unità SII
8 classi di unità
1800 unità
• Simulazione della presenza di un set completo di
cellule semplici per orientamento e frequenza
spaziale
Feed-Back
Competizione locale
• Meccanismo di controllo della dinamica della rete
• In una data popolazione di unità con funzioni simili
solo l’unità più attiva trasmette il proprio output
20
15
10
10
5
Intermedie
Simulazioni SI
Recettori
Campo
recettivo
Scala attivazione
Simulazioni SII
Dopo la competizione locale
Effetto del Feed-Back
Prima
Dopo
Esempi 1
Esempi 2
Esempi 3
Obiettivi raggiunti
• Estrazione delle caratteristiche dell’immagine
attraverso l’interazione fra più stadi: ciò che viene
perso in uno stadio è recuperato dal feed-back
di quello successivo
• Ricostruzione dei valori di luminanza
• Migliore prestazione per stimoli con alta simmetria
e periodicità (similmente al SV umano)
• Riproduzione di alcuni fenomeni percettivi: bande
di Mach, contrasto simultaneo, facilità nell’elabora_
zione di immagini simmetriche e periodiche
Ultimi stadi
• reagisca a delle semplici
procedure di condizionamento
• modifichi le proprie prestazioni nel tempo:
apprendimento
• relazione fra ambiente esterno ed interno
(necessità dell’organismo)
• esibisca un processo di attenzione selettiva nei
confronti degli stimoli che ha appreso essere più
importanti: target e distrattori
Architettura
• Unità capaci di
apprendere
Unità
associative
• Unità che codificano
per rinforzi - e +
Unità
rinforzanti
Neuroni artificiali che
codificano per stati
“endogeni” della rete
(piacere-dolore)
Unità associative
• 12 unità
• Interamente interconnesse
+ connessioni da tutte SI +
feed-back da SI
• Capaci di apprendimento
• Implementano una simu_
lazione di corteccia
associativa
Convergenza di segnali visivi e
motivazionali e capacità di apprendere
Unità rinforzanti
• Interamente
connesse con le
associative
• 4 unità divise
in due coppie
• Paia di unità
che codificano per
polarità opposte
dello stimolo (simili a
neur. ipotalamo e
neur. facilitatori
di Aplysya)
• “Leggono” l’input motivazionale e generano un feedback verso le associative: se le unità entrano in uno stato
di risonanza, allora c’è apprendimento
Apprendimento
A
B
Indebolimento
Rafforzamento
C
Sensibilità
unità a
diversi
stimoli
Prima dell’apprendimento
Dopo l’apprendimento
Simulazione finale: apprendimento ed
attenzione selettiva
Conclusioni
• A differenza di altri modelli, questa rete integra gli stadi
precoci di elaborazione sensoriale con i meccanismi di
controllo superiori
• Viene fornita una spiegazione computazionale del perché
sia richiesta l’inibizione come meccanismo di controllo
delle dinamiche neurali
• Una probabile spiegazione della preferenza nella percezione
e nelle creazione di stimoli simmetrici e periodici può essere
ricercata nella struttura delle SI ed SII
• L’inibizione dei distrattori non è completa: questi forniscono
ancora informazioni contestuali
• Più alto è il livello dell’input motivazionale, maggiore è
l’inibizione di ciò che circonda i distrattori. Una rete animata
da passione?…...
• Fornisce una metodologia per passare dal livello
microscopico della circuiteria neurale a quello macroscopico
del comportamento
• Tutto ciò è stato fatto con neuroni artificiali molto “stupidi”:
quanto più semplici le unità, tanto migliore l’architettura a
parità di prestazioni
Fine