Titolo della tesi “Come vede una rete neurale” Scopo della tesi: simulare alcune proprietà del sistema visivo dei mammiferi attraverso l’utilizzo di una rete neurale Che cosa verrà simulato? • Immagini in bianco e nero (livelli di luminanza) • Composizione spettrale del segnale • Simulazione prevalentemente atemporale • Complesse dinamiche neurali • Feed-back intermodale • Interazioni a feed-back con l’ambiente esterno • Trasformazioni in 2D • Trasformazioni in 3D E molto altro ancora…. Reti neurali Sistemi nervosi artificiali che traggono ispirazione dai modelli biologici Rete di neuroni biologici Rete neurale artificiale Neurone Neurone biologico Neurone artificiale input X1 X2 X3 output F(Att.) Vantaggi delle reti neurali • Plausibilità biologica • Capacità di apprendere • Adattabilità: sono applicabili a più domini (come i sistemi biologici) • Veloci: processi in parallelo • Rappresentazioni distribuite • Robusti: errori e rumore degradano progressivamente la prestazione • Possibilità di eseguire manipolazioni • Somiglianza fra prestazioni umane e modelli Il modello Tentativo di conciliare due diverse visioni del rapporto mente-cervello Osservazioni psicologia sperimentale (percezione) Neuroscienze dialogo Strutture anatomiche simulate Parziale implementazione di • Strutture retiniche • NGL • V1 • Aree associative • Sistema motivazionale Caratteristiche funzionali simulate • Elaborazione precoce dell’immagine visiva • Eliminazione del rumore • Estrazione delle variazioni di luminanza • Prime fasi di elaborazione corticale (V1) • Ricostruzione dell’immagine • Livello associativo • Rinforzo • Attenzione selettiva Schema generale della rete: Totale di 5.176 neuroni artificiali e 528.439 connessioni Implementazione: Visual Basic Primo strato: recettori Matrice dei recettori: 20 x 20 400 recettori (istantanee del programma) Livello di attivazione Processo di smoothing Livellamento del rumore dell’immagine originaria Immagine + rumore Immagine percepita (depurata dal rumore) Eliminazione del rumore: recettori Prima dell’applicazione del filtro Dopo l’applicazione del filtro Che cosa accade al segnale? Estrazione delle variazioni di luminanza Le caratteristiche importanti dell’immagine sono racchiuse nelle variazioni di luminanza (spesso coincidenti con i bordi degli oggetti) Necessità di introdurre un ulteriore strato di unità la cui struttura riassume le funzioni delle cellule bipolari, gangliari e del NGL INTERMEDIE Connessioni recettori center-ON e center-OFF Struttura del campo recettivo delle center-ON e center-OFF Elaborazione in parallelo Proprietà funzionali center-ON e center-OFF Att 3 2 1 0 1 2 Stimolo Risposta di una center-ON in funzione della posizione dello stimolo luminoso 3 S1 4 5 Simulazioni intermedie Simulazioni intermedie Prime fasi di elaborazione corticale (V1) Campo recettivo concentrico Campo recettivo più complesso Organizzazione modulare V1 Modello: unità semplici SI ed SII • Salto concettuale rispetto alle intermedie • Nuova classe di unità con CR allungato: necessità di elaborare proprietà complesse dell’immagine, non solo grandezze puntiformi • Semplificazione della circuiteria corticale: solo due classi di unità semplici, SI ed SII Che cosa chiediamo a queste unità? • Estrazione di contorni dell’immagine • Sensibilità alle frequenze spaziali • Sensibilità alla direzione del contrasto Unità SI 6 classi di unità 2166 unità Unità SII 8 classi di unità 1800 unità • Simulazione della presenza di un set completo di cellule semplici per orientamento e frequenza spaziale Feed-Back Competizione locale • Meccanismo di controllo della dinamica della rete • In una data popolazione di unità con funzioni simili solo l’unità più attiva trasmette il proprio output 20 15 10 10 5 Intermedie Simulazioni SI Recettori Campo recettivo Scala attivazione Simulazioni SII Dopo la competizione locale Effetto del Feed-Back Prima Dopo Esempi 1 Esempi 2 Esempi 3 Obiettivi raggiunti • Estrazione delle caratteristiche dell’immagine attraverso l’interazione fra più stadi: ciò che viene perso in uno stadio è recuperato dal feed-back di quello successivo • Ricostruzione dei valori di luminanza • Migliore prestazione per stimoli con alta simmetria e periodicità (similmente al SV umano) • Riproduzione di alcuni fenomeni percettivi: bande di Mach, contrasto simultaneo, facilità nell’elabora_ zione di immagini simmetriche e periodiche Ultimi stadi • reagisca a delle semplici procedure di condizionamento • modifichi le proprie prestazioni nel tempo: apprendimento • relazione fra ambiente esterno ed interno (necessità dell’organismo) • esibisca un processo di attenzione selettiva nei confronti degli stimoli che ha appreso essere più importanti: target e distrattori Architettura • Unità capaci di apprendere Unità associative • Unità che codificano per rinforzi - e + Unità rinforzanti Neuroni artificiali che codificano per stati “endogeni” della rete (piacere-dolore) Unità associative • 12 unità • Interamente interconnesse + connessioni da tutte SI + feed-back da SI • Capaci di apprendimento • Implementano una simu_ lazione di corteccia associativa Convergenza di segnali visivi e motivazionali e capacità di apprendere Unità rinforzanti • Interamente connesse con le associative • 4 unità divise in due coppie • Paia di unità che codificano per polarità opposte dello stimolo (simili a neur. ipotalamo e neur. facilitatori di Aplysya) • “Leggono” l’input motivazionale e generano un feedback verso le associative: se le unità entrano in uno stato di risonanza, allora c’è apprendimento Apprendimento A B Indebolimento Rafforzamento C Sensibilità unità a diversi stimoli Prima dell’apprendimento Dopo l’apprendimento Simulazione finale: apprendimento ed attenzione selettiva Conclusioni • A differenza di altri modelli, questa rete integra gli stadi precoci di elaborazione sensoriale con i meccanismi di controllo superiori • Viene fornita una spiegazione computazionale del perché sia richiesta l’inibizione come meccanismo di controllo delle dinamiche neurali • Una probabile spiegazione della preferenza nella percezione e nelle creazione di stimoli simmetrici e periodici può essere ricercata nella struttura delle SI ed SII • L’inibizione dei distrattori non è completa: questi forniscono ancora informazioni contestuali • Più alto è il livello dell’input motivazionale, maggiore è l’inibizione di ciò che circonda i distrattori. Una rete animata da passione?…... • Fornisce una metodologia per passare dal livello microscopico della circuiteria neurale a quello macroscopico del comportamento • Tutto ciò è stato fatto con neuroni artificiali molto “stupidi”: quanto più semplici le unità, tanto migliore l’architettura a parità di prestazioni Fine