Intelligenza artificiale e diritto (Amedeo Santosuosso) (z-lib.org)

SCIENZA E FILOSOFIA
Collana diretta
da Armando Massarenti
Amedeo Santosuosso
INTELLIGENZA
ARTIFICIALE
E DIRITTO
Perché le tecnologie di IA
sono una grande opportunità
per il diritto
© 2020 Mondadori Education S.p.A., Milano
Tutti i diritti riservati
II Sistema Qualità di Mondadori Education S.p.A. è certificato da Bureau
Veritas Italia S.p.A. secondo la Norma UNI EN ISO 9001:2008 per le attività
di: progettazione, realizzazione di testi scolastici e universitari, strumenti
didattici multimediali e dizionari.
Realizzazione editoriale
Coordinamento redazionale Alessandro Mongatti
Redazione Alessandro Mongatti
Impaginazione Maria Rosa Saporito
Progetto grafico Alfredo La Posta
Progetto copertina Alfredo La Posta
Prima edizione Aprile 2020
La realizzazione di un libro comporta per l’Autore e la redazione un attento lavoro di revisione e
controllo sulle informazioni contenute nel testo, sull’iconogra a e sul rapporto che intercorre tra testo
e immagine. Nonostante il costante perfezionamento delle procedure di controllo, sappiamo che è
quasi impossibile pubblicare un libro del tutto privo di errori o refusi. Per questa ragione ringraziamo
n d’ora i lettori che li vorranno indicare alla Casa Editrice.
Mondadori Education
Via Raffaello Lambruschini, 33 – 50134 Firenze
Tel. 055.50.83.223
www.mondadorieducation.it
Mail [email protected]
Progetto di copertina di Alfredo La Posta.
Questo ebook contiene materiale protetto da copyright e non può essere copiato, riprodotto, trasferito,
distribuito, noleggiato, licenziato o trasmesso in pubblico, o utilizzato in alcun altro modo ad
eccezione di quanto è stato speci camente autorizzato dall’editore, ai termini e alle condizioni alle
quali è stato acquistato o da quanto esplicitamente previsto dalla legge applicabile.
Qualsiasi distribuzione o fruizione non autorizzata di questo testo così come l’alterazione delle
informazioni elettroniche sul regime dei diritti costituisce una violazione dei diritti dell’editore e
dell’autore e sarà sanzionata civilmente e penalmente secondo quanto previsto dalla Legge 633/1941 e
successive modi che.
Questo ebook non potrà in alcun modo essere oggetto di scambio, commercio, prestito, rivendita,
acquisto rateale o altrimenti diffuso senza il preventivo consenso scritto dell’editore.
In caso di consenso, tale ebook non potrà avere alcuna forma diversa da quella in cui l’opera è stata
pubblicata e le condizioni incluse alla presente dovranno essere imposte anche al fruitore successivo.
Per eventuali e comunque non volute omissioni e per gli aventi diritto tutelati dalla legge,
l’editore dichiara la piena disponibilità.
Per informazioni e segnalazioni:
Servizio Clienti Mondadori Education
e-mail [email protected]
numero verde 800 123 931
Indice
Una mappa per un terreno non tracciato
1. Umano e artificiale
1. Alcuni punti per de nire il campo dell’IA
2. Dalle macchine computazionali all’IA (storia minima)
3. De nizioni di scienziati e di loso (asse semantico)
4. Una visione dell’umano: non vi è niente di arti ciale nell’IA
5. Funzionamento del cervello umano e intelligenza arti ciale generale
6. Grandi progressi, grandi questioni aperte e timori infondati
7. Qualche considerazione nale
2. Il diritto e l’intelligenza artificiale
1. IA, diritto e logica: una correlazione necessaria? Il diritto visto dall’IA
2. L’intelligenza arti ciale vista dal diritto
3. Una pletora di documenti
4. Creature arti ciali che in dati contesti possano apparire umani
5. I nostri cugini agenti di IA
3. Essere avvocato nell’era dell’intelligenza artificiale
1. La professione del consigliare e difendere
2. Saremo sostituiti da robot? L’incubo dell’avvocato (e non solo)
3. Un po’ più in profondità
4. Un avvocato/giurista interdisciplinare?
5. La predizione delle decisioni. Un’ossessione dell’avvocato?
6. Cosa ci dicono questi studi circa la predizione
7. Tre note, a mo’ di conclusione aperta
4. L’intelligenza artificiale e i giudici
1. Verrà un giorno…
2. Giustizia, istituzioni europee e intelligenza arti ciale
3. E l’intelligenza arti ciale?
4. Come decidevano, decidono e decideranno i giudici (regole e dati)
5. La motivazione delle decisioni pubbliche
6. Una proposta tra diritto e tecnologia
7. La sentenza: un aggregato temporaneo di dati
5. Blockchain e smart contract: un diritto senza avvocati, giudici e… Stato?
1. Il 10% del PIL del mondo!
2. Blockchain
3. Smart contract
4. Blockchain e smart contract
5. Contratto o soware? O entrambi?
6. Le controversie che sorgono da smart contract
7. Tra grandi possibilità e seri limiti tecnici
6. L’accademia giuridica e l’innovazione digitale
1. Un mondo sempre più piccolo e tecnologico
2. La capacità di lavorare in team interdisciplinare vale più di mere
nozioni
3. L’offerta delle università
4. Il dibattito accademico sul che fare
5. Una disciplina ‘diritto della tecnologia’?
6. Un’idea del e per il diritto
7. Diritti, storicità, artificialità
1. Doppio movimento tra umani e tecnologia
2. Libertà, diritti e ambiente tecnologico (l’Internet delle cose)
3. Alcuni effetti giuridici
4. Sono necessari nuovi diritti? A right to not be measured, analysed or
coached?
5. Una libertà delicata e essenziale: arte e IA
6. Scandalo al Parlamento europeo su robot e personalità giuridica
7.
8.
9.
10.
11.
12.
Il modello delle società
Creature di Dio e artefatti giuridici
L’agente per il diritto
Società commerciali e pene: chi fa schermo a chi
Creature arti ciali e proprietà ontologiche
Homo sapiens sapiens e i ‘suoi’ diritti
8. Il diritto molecolare: un complesso campo di ricerca
1. Una visione molecolare del diritto
2. Alcuni chiarimenti sul lessico molecolare
3. I quattro stati essenziali del diritto oggi
4. Il diritto è un insieme di ‘molecole giuridiche’ (frammentazione):
primo ‘stato’ essenziale
5. Secondo ‘stato’ essenziale: il diritto non è organizzato in modo
stabilmente gerarchico
6. Terzo ‘stato’ essenziale: il diritto è ampiamente digitalizzato
7. Quarto ‘stato’ essenziale: il diritto come esperienza globale è
multilingue
8. La teoria molecolare in azione: interoperabilità e funzione
immunitaria
9. La teoria molecolare (Mol) come complesso campo di ricerca
Bibliografia generale
Indice dei nomi
Alla piccola Aoi,
il cui sguardo e il cui sorriso
mandano una luce stupenda sulle cose del mondo
Una mappa per un terreno non tracciato
Perché su questi argomenti
ogni mattina ci si sveglia e
le cose sono cambiate, bisognerebbe
riscriver tutto1.
Se in articoli, libri, convegni, siti web, social, aperitivi, discussioni sobrie
o da bar, viene usata pervasivamente la parola intelligenza, con ad essa
associato l’attributo artificiale, e se tutti lo fanno con toni ora allarmati, ora
banalizzanti, ora stupiti, ora pensosi (ma non sempre informati), allora non
sembrano che darsi due possibilità, o sono tutti fuori di senno oppure
qualcosa che effettivamente sia intelligente, oltre che artificiale, deve esistere
per davvero: l’Intelligenza Arti ciale (IA).
Eppure, quello che viene appellato IA non è altro che lo sviluppo ampio,
potente, talora so sticato di capacità computazionali settoriali. Niente che
abbia a che fare con le entità alle quali normalmente connettiamo l’attributo
di intelligenza nella nostra vita di tutti i giorni, sin da prima dell’IA.
A coloro che hanno esperienza di insegnamento sarà capitato di dire che
uno studente sia molto intelligente. E, a veder bene, questo ha riguardato
quegli studenti che mostrano la capacità di porre a frutto le nozioni
acquisite e di fare collegamenti, spaziando da un campo all’altro, talora in
modo inatteso. Ricordo una studentessa di sica che allo IUSS di Pavia2,
classi interdisciplinari, rispondeva molto meglio degli studenti di
giurisprudenza alle questioni di diritto che ponevo loro. Oppure quella
studentessa che, dopo una brillante laurea in medicina, ha conseguito il
diploma IUSS con una tesi di diritto sulla possibilità della coscienza in entità
arti ciali (poi reclutata per il dottorato presso un’università londinese molto
prestigiosa). E potrei continuare.
Bene, cosa avevano in comune Pia e Laura, e molti altri come loro. Una
straordinaria capacità generale, quella per cui, a un certo punto di
intelligenza umana, arrivi a dire quella persona è intelligente tanto da poter
fare molto bene qualsiasi cosa in qualsiasi campo.
Questa è una qualità tipicamente umana, che gli esperti di IA chiamano
general purpose intelligence, e che, a oggi, non esiste in nessuna macchina in
nessun angolo del mondo, benché fosse già nelle intenzioni di chi mosse i
primi passi nell’intelligenza arti ciale negli anni Cinquanta del secolo
scorso. Menti alacri vi stanno lavorando e certamente porteranno ad
avanzamenti importanti. Ma, a voler essere semanticamente precisi, solo dal
momento in cui vi saranno quegli avanzamenti saremo autorizzati a parlare
effettivamente di IA, mentre no a quel momento l’uso della parola
‘intelligenza’ riferita ad artefatti tecnologici sarà un (piccolo?) abuso, un
gioco di etichette.
Sarebbe, in realtà, più appropriato parlare di computazione, di capacità
di calcolo o capacità computazionale, e simili. Le macchine oggi, pur
meravigliose, fanno cose diverse da quelle che fa un umano con la sua
intelligenza, ammesso che le macchine debbano (e perché mai?) fare
esattamente quello che facciamo noi umani. Perché non prendere atto che la
nostra intelligenza, per straordinaria che sia (e credo che lo sia) non è
l’unico tipo di intelligenza possibile, così come la nostra coscienza non è
l’unico tipo di coscienza che in natura si dà? Il nostro amico ‘polpo’ ci dice
molte cose circa la distribuzione e il modo di funzionamento
dell’intelligenza in un sistema non accentrato come quello umano3!
D’altra parte, anche nei sistemi arti ciali-umani, che andiamo
costruendo, l’idea più interessante non è quella di incontrare un giorno una
macchina più brava ed efficiente di noi, ma quella di un continuum di
automazione intelligente. Una visione più complessa e, mi pare, più
intrigante.
La cosa più difficile che si trova ad affrontare chi si occupa di questi temi
è la pluralità, la velocità, la mutevolezza del campo, lo stesso problema che
incontrò Umberto Eco già negli anni Sessanta dello scorso secolo, quando,
elevando a livello di studio teorico la cultura di massa, scoprì che «ogni
mattina ci si sveglia e le cose sono cambiate».
Ad essere sinceri un libro è veicolo strutturalmente inadatto a una
materia così cangiante come l’IA, e chi scrive ha esitato a lungo prima di
avviarsi su questa strada. Come dicono due autori, che il lettore incontrerà
più avanti (WALLACH & MARCHANT, 2019), le cose saranno già superate
prima che l’inchiostro della tua scrittura si sia asciugato (metafora efficace,
anche se da tempo antico!). Una monogra a o un trattato o un manuale in
senso tradizionale sono, quindi, mezzi obsoleti per un campo di ricerca in
ebollizione.
Bisogna, però, riconoscere che la necessità di punti di riferimento è e
rimane forte quanto più, e proprio perché, la situazione è in rapido
cambiamento. Per esempio, la blockchain può risolvere i problemi di elevato
consumo di energia, come è oggi richiesto, e realizzare le sue promesse,
oppure può essere costretta a ripiegare. Inoltre, l’IA può essere un’occasione
per rendere il diritto, in tutte le sue forme, comunicabile ai cittadini, oppure
può essere un pretesto per renderlo ancora più esoterico. Sul piano tecnico,
se si riuscirà effettivamente a realizzare il computer quantistico, lo sviluppo
dell’IA potrà essere straordinario, una volta superati i problemi di potenza e
di sostenibilità energetica e ambientale. Queste e tante altre variabili sono in
grado di delineare, anche repentinamente, scenari molto diversi, che
possono rendere obsoleta una trattazione organica tradizionale.
Questo lavoro è piuttosto una mappa, che può aiutare il lettore (e, in
verità, ha aiutato anche l’autore) a muoversi in terreni per i quali non vi sono
carte dei luoghi (uncharted, secondo l’espressione inglese di difficile
traduzione). L’idea è di offrire allo studente e al lettore, di fronte a notizie
allarmanti sulla tecnologia che ci divorerà e sovvertirà le regole del gioco
sociale e altro ancora, uno strumento che lo aiuti a collocare quell’argomento
in uno degli scenari e dei nodi presentati nei capitoli e paragra di questo
volume.
Gli argomenti trattati possono essere visti come una sequenza di temi, in
progressivo arricchimento, che preparano la visione di quel campo di ricerca
de nito dall’idea molecolare del diritto, di cui si parla nell’ultimo capitolo.
Ma la sequenza può prendere le mosse dalla questione dell’insegnamento del
diritto alle nuove generazioni; da lì seguire un percorso che, attraverso una
ri essione sulle professioni (osservando come cambiano in relazione al resto
del quadro tecnologico) e sul giudicare, conduce in ne a una nuova visione,
se non a una nuova teoria, generale del diritto nell’era tecnologica. Oppure si
può partire dal modo di essere avvocato, per poi evolvere negli altri settori.
Oppure, in un’ottica più statocentrica, si può cominciare dal modo di
impartire la giustizia.
La materia trattata è davvero mobile, e i materiali presentati sono
scomponibili e ricomponibili dando luogo a diverse possibili con gurazioni.
Il tentativo di questo lavoro è di dar corpo a questa mobilità, senza
rinunciare alla visione e al rigore teorico. Ciò vale per tutti gli argomenti
trattati e, specialmente, per l’idea molecolare del diritto.
Un’avvertenza è doverosa. La mia formazione non è tecnica. Ho cercato
di documentarmi nel modo più accurato e ho consultato e interpellato
esperti in materia di IA e computer science. È possibile, tuttavia, che vi sia
qualche inesattezza, la cui responsabilità è ovviamente tutta mia e della
quale chiedo scusa al lettore. Inoltre, ho cercato di non appesantire il testo
con termini e spiegazioni tecniche di dettaglio, che sono agevolmente
reperibili in altre fonti.
Ringraziamenti
La lista dei ringraziamenti sarebbe lunga, tanto quanto le numerose
persone che ho incontrato e con le quali ho discusso, studiato, progettato
applicazioni digitali e di IA in campo giuridico, nella mia vita di giudice e di
docente universitario, in entrambi i campi impegnato nell’innovazione
tecnologica. Mi limito a citare le persone più vicine, fermo restando che,
inutile dire, la responsabilità nale è totalmente mia.
Certamente, tra gli amici pavesi del nucleo originario del Centro di
ricerca ECLT, un ringraziamento particolare va all’attuale presidente del
centro, Silvia Garagna, che mi ha sempre sostenuto e consigliato, anche sul
crinale tra scienze biologiche e giuridiche, dove anche in questa occasione
ha mostrato grande sensibilità verso il dialogo interdisciplinare e ha
contribuito a un chiarimento su un importante punto, a proposito della
funzione immunitaria. Non minore riconoscenza devo ad Andrea
Belvedere, che ha sempre sostenuto e dato spazio alle iniziative scienti che e
didattiche in collaborazione con il Collegio Ghislieri. Riccardo Bellazzi,
Lucia Sacchi e Antonio Barili (con il quale ho avuto il piacere di collaborare
nel progetto Justech) sono stati i miei essenziali riferimenti ingegneristici, ai
quali devo alcuni importanti chiarimenti su questioni complesse. Antonio
Gelameris ha il dono della chiarezza concettuale nelle questioni che
riguardano la programmazione e i linguaggi informatici, questioni che ha
reso a me comprensibili: a lui devo, in particolare, il riferimento allo Unified
Modeling Language.
Oliver Goodenough continua a essere un interlocutore, oltre che un caro
amico, e un ponte importante verso l’innovazione tecnologica e il diritto
negli Stati Uniti: a lui devo, tra l’altro, la possibilità di partecipare agli
incontri annuali del Gruter Institute (California), fucina incredibile di idee e
di interazioni interdisciplinari. Charles Baron e Katharine Young, della
Boston College Law School, hanno, quali visiting professors, ampliato
l’orizzonte del mio corso pavese presso il dipartimento di giurisprudenza,
grazie al programma Pavia-Boston nanziato dall’Ateneo.
Negli ultimi due anni mi ha molto arricchito il lavoro quale componente
della World Commission on the Ethics of Scientific Knowledge and Technology
(COMEST – UNESCO), dove il confronto interdisciplinare e interculturale
su IA e IoT (Internet delle cose) è stato intenso, a tratti difficile, ma molto
produttivo. Devo inoltre un ringraziamento particolare a Nerina Boschiero,
Presidente della Facoltà di Giurisprudenza dell’Università degli studi di
Milano, per avermi coinvolto nella progettazione di un nuovo corso di
laurea magistrale in scienze giuridiche su Diritto, ICTs e Innovazione
tecnologica: lavorare anco a anco su una scommessa bella, ma certo non
facile, è stata un’esperienza importante di cui le sono molto grato (oltre che
per i consigli sul capitolo sulla formazione accademica). Ringrazio Carlo
Granelli per aver letto i capitoli sugli avvocati e sulla formazione
accademica, dandomi alcuni suggerimenti che mi hanno consentito di
arricchire il testo. Pietro Sirena, Dean della Law School della Bocconi, mi ha
consentito di conoscere e di riportare in modo corretto le attività innovative
in corso presso la sua Università.
Gabriella Bottini, costante interlocutrice nell’interazione tra
neuroscienze e diritto nell’ultimo decennio, mi ha dato un riscontro
importante nei riferimenti alle neuroscienze, che per l’IA sono essenziali.
Carlo Rossi Chauvenet mi ha fornito alcuni spunti interessanti nel capitolo
dedicato agli avvocati. Ho discusso molte volte, in modo approfondito, con
Paola Belloli l’ipotesi di una teoria molecolare del diritto, traendone grande
giovamento.
Nella mia attività di docenza e di ricerca ho avuto la fortuna e il piacere
di essere contornato dagli studenti dei miei corsi pavesi, da quelli ELSA (che
sono stati interlocutori importanti nelle attività internazionali), da alcuni
tirocinanti presso la Corte d’appello di Milano, che hanno mostrato interesse
verso il diritto e la tecnologia (penso, tra i molti, a Francesca Tripaldi,
Valentina Nirso e Francesca Arrigo), e da Giulia Pinotti ed Elettra Currao,
giovani studiose che hanno condiviso con me la discussione su alcuni
passaggi delicati di questo volume. A Elettra devo anche il ringraziamento
aggiuntivo per l’aiuto, inatteso e importantissimo, in pieno agosto, nella
preparazione della bibliogra a.
L’attività su diritto e nuove tecnologie ha preso negli ultimi anni, a Pavia,
la forma delle Winter School su Technological Innovation and Law (TIL), che
sono state rese possibili grazie alla collaborazione con Oliver Goodenough e
all’apporto brillante, generoso e saggio di Maria Laura Fiorina, così come di
Barbara Bottalico, riferimenti costanti nel tempo delle attività che hanno
preso corpo sui temi del centro ECLT.
Milano, 30 dicembre 2019
ECO 2017: il passo è tratto dalla risposta di Eco ai critici delle edizioni precedenti contenuta nella
premessa «Apocalittici e integrati: la cultura italiana e le comunicazioni di massa».
2
Istituto Universitario di Studi Superiori di Pavia.
3
GODFREY SMITH 2017.
1
1. Umano e artificiale
Non vi è niente di artificiale nell’intelligenza
artificiale. È ispirata da persone, è creata da
persone e, cosa più importante, incide sulle
persone. È uno strumento potente e si sta solo
ora cominciando a capire come funzioni, e
questa è una profonda responsabilità1.
1. Alcuni punti per definire il campo dell’IA
L’idea di costruire macchine dotate di alcune funzioni intelligenti
precede di molto la creazione del termine «intelligenza arti ciale». Al tempo
stesso, le cose che rientrano nell’idea di intelligenza arti ciale sono molto
più numerose dei sistemi tecnici di intelligenza arti ciale.
Per avere un primo orientamento su uno dei due temi principali di
questo volume («intelligenza arti ciale», mentre l’altro è il diritto, di cui si
comincerà a parlare più avanti, nel secondo capitolo) bisogna immaginare
un piano cartesiano nel quale sull’asse delle ascisse si distribuiscono gli
sviluppi storici, anche antecedenti la creazione del termine «intelligenza
arti ciale» (IA), e, su quello delle ordinate, il contenuto semantico
dell’attuale espressione IA.
La domanda sull’asse storico è la seguente: è lecito parlare d’intelligenza
arti ciale per fatti, idee ed eventi che si collocano prima degli anni
Cinquanta dello scorso secolo, quando fu coniato il termine? Qual è la
novità con la creazione del termine AI? La domanda sul versante semantico
apre, invece, a questioni del tipo: cosa contiene l’intelligenza arti ciale? A
cosa si riferiscono gli umani che usano quel termine oggi? Pensano solo a
dispositivi tecnici o a qualcosa di più ampio? E come si intersecano la linea
storica e quella di indagine sul contenuto semantico?
Lo scopo di questo capitolo non è quello di dare un quadro esauriente
del tema scon nato umano-arti ciale, ma di fornire alcune informazioni di
base su uno dei due termini che costituiscono l’oggetto di questo volume,
l’IA, appunto. Senza un minimo di chiari cazione preliminare sarebbe
difficile introdurre il secondo termine del discorso, e cioè il diritto.
Si tratterà dell’origine delle macchine computazionali, delle de nizioni di
IA date da scienziati e loso , del funzionamento del cervello umano e
dell’intelligenza arti ciale generale e, in ne, dei grandi progressi, delle
grandi questioni aperte e dei timori infondati.
2. Dalle macchine computazionali all’IA (storia minima)
Il termine macchina computazionale (computer machine) diventa di uso
sempre più frequente dagli anni Venti del secolo scorso e si riferisce a
qualsiasi macchina in grado di fare il lavoro di un «computer umano», cioè
qualsiasi macchina che calcoli secondo metodi efficaci, anche solo
meccanici. È soltanto tra la ne degli anni Quaranta e l’inizio degli anni
Cinquanta che le macchine computazionali diventano digitali o elettroniche
e che l’espressione computer machine viene gradualmente sostituita dal
semplice computer, con o senza il pre sso «elettronico» o «digitale»2.
I precedenti storici vanno dall’abaco (7000 anni fa) ai primi algoritmi
(sequenze precise e univoche per elaborare informazioni), no alla celebre
pascalina (macchina inventata da Blaise Pascal nel 1642, capace di fare
addizioni e sottrazioni) poi perfezionata da Gottfried Wilhelm von Leibniz
che introdusse la moltiplicazione. Queste macchine
potevano eseguire, di volta in volta, solo una delle operazioni rientranti nella loro
competenza (una sola addizione, sottrazione, moltiplicazione). Quindi non erano
programmabili; non potevano eseguire automaticamente un’intera combinazione di tali
operazioni, secondo indicazioni fornite in anticipo3.
A inizio Ottocento Charles Babbage lavorò al modello di una macchina
analogica composta interamente di elementi meccanici – ruote dentate in
ottone, aste, cricchetti, pignoni, ecc. I numeri erano rappresentati in sistema
decimale in base alle posizioni delle ruote metalliche a dieci denti montate
in colonne. Babbage esibì un piccolo modello funzionante nel 1822. Non
completò mai la macchina in scala reale.
Ma è solo nel 1936, all’Università di Cambridge (UK), che Alan Turing
descrive una macchina digitale astratta, composta di una memoria senza
limiti e di uno scanner che si muove avanti e indietro nella memoria,
simbolo per simbolo, leggendo ciò che trova e scrivendo altri simboli. Le
azioni dello scanner sono dettate da un programma d’istruzioni contenuto
nella memoria sotto forma di simboli. Questo è il concetto di programma
memorizzato di Turing, nel quale è implicita la possibilità che la macchina
funzioni e modi chi il proprio programma. A Londra nel 1947, nel corso di
quella che fu, per quanto è noto, la prima conferenza pubblica nella quale
viene menzionata l’intelligenza dei computer, Turing disse: «Quello che
vogliamo è una macchina che possa imparare dall’esperienza», aggiungendo
che «la possibilità di lasciare che la macchina modi chi le proprie istruzioni
fornisce il meccanismo per questo»4.
Secondo Jack B. Copeland l’idea di intelligenza arti ciale non era lontana
dai pensieri di Alan Turing, che descriveva sé stesso come dedicato a
costruire un cervello e che in una lettera dichiara di essere «più interessato
alla possibilità di produrre modelli di comportamento del cervello, che alle
applicazioni pratiche della computazione»5.
Si arriva così a quello che viene considerato l’atto di nascita del termine
«intelligenza arti ciale» e della sua concezione moderna, e cioè il seminario
di due mesi svoltosi nell’estate del 1956, su iniziativa da John McCarthy in
collaborazione con Marvin Minsky, Claude Shannon e Nathaniel Rochester,
e convocato su questa proposta:
Proponiamo di svolgere uno studio sull’intelligenza arti ciale per due mesi, con dieci
persone, durante l’estate del 1956 al Dartmouth College di Hanover, nel New Hampshire. Lo
studio procederà sulla base della congettura che ogni aspetto dell’apprendimento, o qualsiasi
altra caratteristica dell’intelligenza, possa in linea di principio essere descritto con precisione
tale che sia possibile costruire una macchina per simularlo. Si tenterà di scoprire come
costruire macchine in grado di utilizzare il linguaggio, formare astrazioni e concetti, risolvere
tipi di problemi che oggi sono di esclusiva competenza degli uomini, migliorare sé stesse.
Riteniamo che sia possibile ottenere un signi cativo progresso in uno o più di questi problemi
dedicando un’intera estate al lavoro collettivo di un gruppo di scienziati selezionati6.
Secondo Stuart Russell e Peter Norvig, autori di quello che è considerato
il testo più ampio e autorevole nel campo dell’intelligenza arti ciale, il
workshop di Dartmouth non portò particolari innovazioni, ma fu
comunque importante per la messa a fuoco di un ambito disciplinare (quello
dell’IA) capace di dar conto di ricerche e attività che non potevano rientrare
in campi disciplinari preesistenti, come la teoria del controllo o la teoria
delle decisioni o la matematica, e che da quel momento può considerarsi
come «l’unico campo di ricerca de nito chiaramente come una branca
dell’informatica e l’unica disciplina che si propone di costruire macchine che
funzionano autonomamente in ambienti complessi e mutevoli»7.
Seguono poi periodi di entusiasmo (1952-1969), la nascita dei sistemi
basati sulla conoscenza (1969-1979), no all’IA che diventa industria (dal
1980 ad ora). Per i dettagli di questa storia si rinvia al testo di Russell e
Norvig (p. 32 e ss.), mentre sulla differenza tra so o light IA e sull’uscita dal
cosiddetto inverno dell’IA si rinvia al Capitolo 3 di questo volume, laddove
si parla della previsione legale quantitativa.
2.1 Usare l’IA per provare a definire l’IA
Uno dei più signi cativi sviluppi dell’IA negli anni 2016-2018 è stato
probabilmente l’incremento degli investimenti annunciati dai governi e dalle
industrie.
A fronte dello stanziamento del governo italiano di 45 milioni di euro
per AI e blockchain, negli USA nel 2016 sono stati stanziati 900 milioni di
dollari per la ricerca e tra i 15 e i 23 milioni da investimenti privati. In Cina
il Ministro delle Finanze ha previsto di investire un miliardo l’anno no al
2030. In Europa il Regno Unito ha stanziato (con il contributo di diversi
stakeholders) 1,3 miliardi di dollari e si aspetta un business di circa 4 trilioni
di dollari entro il 2022; la Francia 1,8 miliardi entro il 2022, a cui si
sommano gli 11 miliardi da BpFrance8. Aziende come Alibaba hanno
annunciato piani per investire 15 miliardi di dollari americani e il Vision
Fund di SoBank sta concentrando gran parte dei suoi 100 miliardi di
dollari americani di investimenti in IA9.
Il numero delle pubblicazioni scienti che sull’intelligenza arti ciale è
passato da 10.000 a 60.000 dal 1998 al 2017, secondo un rapporto Elsevier10.
Lo stesso rapporto indica che, a livello globale, la ricerca sull’intelligenza
arti ciale ha accelerato, crescendo di oltre il 12% ogni anno negli ultimi
cinque anni (2013-2017), rispetto a meno del 5% nei cinque anni precedenti
(2008-2012). La produzione complessiva della ricerca, a livello globale in
tutte le aree tematiche connesse a IA, è cresciuta dello 0,8% ogni anno negli
ultimi cinque anni (2013-2017). Dopo la Cina e gli Stati Uniti, l’India è
diventata il terzo Paese più grande in termini di risultati della ricerca sull’IA,
seguita da Germania e Giappone.
Tuttavia, se volessimo dire esattamente quale sia l’oggetto di tutti questi
investimenti di risorse e di intelligenze, saremmo in seria difficoltà. Infatti, il
campo dell’IA ha molte de nizioni, ma manca di un signi cato che sia
universalmente accettato: vi sono più differenze che cose in comune nel
modo in cui si parla di IA nel mondo dell’educazione, della ricerca,
dell’industria e dei media. Tanto che Elsevier, per redigere il suo Rapporto
sull’IA, ha fatto ricorso a tecniche di IA per de nire il campo dell’IA stessa,
usando IA per de nire IA11.
3. Definizioni di scienziati e di filosofi (asse semantico)
Le de nizioni di IA cambiano notevolmente a seconda che provengano
da scienziati o da loso . Per esempio, i già citati Russell e Norvig, che sono
rispettivamente, il primo, laureato in sica con un dottorato in informatica a
Stanford, e, il secondo, un computer scientist con numerosi riconoscimenti
nelle maggiori università americane, si esprimono così:
Il principale tema uni cante [dell’IA] è l’idea di agente intelligente. Nella nostra
de nizione, l’intelligenza arti ciale è lo studio degli agenti che ricevono percezioni
dall’ambiente ed eseguono azioni. Ogni agente implementa una funzione che mette in
corrispondenza sequenze percettive e azioni, e il nostro scopo è presentare diverse tecniche per
rappresentare tali funzioni: alcune di queste sono gli agenti reattivi, i piani catori in tempo
reale e i sistemi basati sulla teoria delle decisioni. Verrà inoltre spiegato il ruolo
dell’apprendimento nell’estendere il campo d’azione del progettista in territori sconosciuti e
illustrato come tale ruolo rappresenti un vincolo sulla progettazione degli agenti, favorendo la
rappresentazione esplicita della conoscenza e del ragionamento. La robotica e la visione non
sono trattati come problemi indipendenti, ma nella loro funzione al servizio del
raggiungimento degli obiettivi. Viene inoltre posto l’accento sull’importanza dell’ambiente nel
determinare l’architettura di agente più appropriata12.
La de nizione centrata sull’agente intelligente è interessante dal punto di
vista del giurista, perché solo gli agenti sono rilevanti per il diritto (e questo
è un libro su IA e diritto, Capitolo 2) e perché sono agenti anche gli avvocati,
i giudici e i professori universitari che usano o sono immersi in sistemi di IA
(come si vedrà nei Capitoli 3, 4 e 7).
Un’interessante de nizione loso ca è, invece, offerta da Selmer
Bringsjord e Naveen Sundar Govindarajulu, che così si esprimono:
L’intelligenza arti ciale è il campo dedicato alla costruzione di animali arti ciali (o, almeno,
creature arti ciali che in contesti appropriati appaiano essere animali) e, per molti, persone
arti ciali (o, almeno, creature arti ciali che in contesti appropriati appaiano essere persone)
[…] le due parentesi sono indispensabili, e vale la pena notare, dal momento che alcuni
ricercatori in IA e/o ingegneri sicuramente non considereranno loro stessi come tesi a costruire
animali e/o persone. Nondimeno, […] alla ne dei conti gli artefatti che si intendono costruire
si dice accuratamente che sono i correlati arti ciali dell’unico essere intelligente non-arti ciale
che la razza umana è stata in grado di localizzare nora: e cioè, animali della varietà non
umana, e noi. È vero, tuttavia, che alcuni aspirano a costruire creature arti ciali che superano
di gran lunga i poteri cognitivi di ciò che la natura ha fornito13.
La de nizione loso ca appare più ampia e problematica di quella
tecnico scienti ca, che si può dire sia in essa inclusa. Se si prende lo spettro
coperto dalle due de nizioni, una lista d’interrogativi sorge immediatamente
e richiede risposta.
In primo luogo, cosa fa realmente oggi, da un punto di vista tecnico, l’IA,
qual è il suo principale limite e qual è la sua prospettiva. Vi è un consenso
tra gli osservatori e studiosi più autorevoli sul fatto che le macchine no a
oggi create, per quanto molto migliorate, non possano essere considerate
realmente intelligenti, che i loro meccanismi cognitivi sono estremamente
poveri rispetto a quelli umani e che il loro funzionamento consente di
accumulare esperienza, senza che ciò signi chi comprensione.
In effetti, l’intelligenza arti ciale ha fatto negli ultimi dieci anni enormi
progressi nello sviluppo di alcuni algoritmi che hanno permesso, per
esempio, l’analisi automatica delle immagini per riconoscere i volti e la
visione arti ciale per la guida di auto e camion, sostiene Mark Mézard, un
sico studioso delle reti neurali e direttore dell’École Normale Supérieure di
Parigi. Dopo cinquant’anni di ricerche, negli ultimi due lustri l’intelligenza
arti ciale ha conosciuto una rivoluzione grazie agli sviluppi delle reti neurali
profonde ed è stato possibile costruire un algoritmo capace di battere il
campione del mondo nel gioco del Go, nettamente più difficile degli
scacchi14. Tuttavia, non si può dire che queste macchine siano intelligenti,
poiché esse sono incapaci di costruire una rappresentazione del mondo o di
dare vita a processi creativi15.
È la comprensione di quello che esse stesse riescono a fare che appare un
limite a oggi invalicabile. Roger Penrose, matematico illustre, emerito
dell’Università di Oxford e vincitore del Premio Wolf assieme al suo amico e
collaboratore Stephen Hawking, è molto netto. In un’intervista rilasciata in
occasione dell’evento «AI for Good» (2018) tesse le lodi delle incredibili
capacità di calcolo dei sistemi di IA, della loro utilità ai ni dei calcoli per la
progettazione, ma è molto chiaro nel porre la distinzione tra «agire sulla
base dell’esperienza», che è quella che può portare una macchina a vincere
nel Go contro l’umano più esperto (come già accaduto per gli scacchi con
Kasparov), e la «comprensione di quello che sta facendo». Così le macchine
sviluppano abilità senza avere la conoscenza teorica di quale sia il
fondamento di quelle azioni16.
4. Una visione dell’umano: non vi è niente di artificiale nell’IA
Coloro i quali creano intelligenza arti ciale hanno bisogno di avere una
visione, anche solo con un atto di immaginazione, dell’umanità e
dell’umano. Questo signi ca che è necessario che diverse visioni, provenienti
da diverse discipline e da background diversi per genere, età, etnia e cultura,
concorrano tra loro. Questa ispirazione è al centro di un istituto fondato nel
2019 dall’Università di Stanford (USA), l’istituto per un’intelligenza
arti ciale centrata sull’uomo (Stanford Institute for Human-Centered
Arti cial Intelligence)17. Rappresentare cosa sia umano signi ca rendere
visibile o manifesto lo scopo perseguito da chi lavora nella ricerca e negli
investimenti e anche ciò che è invisibile, perché potrebbe essere implicito
nelle tecnologie usate o costruite.
Quella di Stanford non è una congregazione di scettici delle tecnologie,
che cercano di imbrigliare lo sviluppo tecnico con norme ‘esterne’, etiche o
giuridiche, ma piuttosto un gruppo di ricercatori di avanguardia (con
collegamenti anche con Alphabet-Google), che, ai livelli più avanzati, ha
sviluppato la consapevolezza di quanto grande sia la partita in corso e,
perciò, la necessità di una visione globale.
È interessante, poi, che la necessità di avere una visione dell’umanità
(need to represent humanity) venga sollecitata da Fei-Fei Li, una scienziata
che ha dedicato tutta la sua ricerca proprio alla visione computerizzata
(computer vision), uno dei settori di avanguardia. Vi è come un’assonanza tra
l’esperienza della catalogazione di un’enorme quantità di cose oggetto di
visione e lo sviluppo della consapevolezza che la più completa lista di cose
(che possano essere riconosciute da una macchina) non ci dice ancora nulla
sulle relazioni tra quelle cose. È necessario, a tal ne, che si sviluppi
parimenti la capacità di analisi di un insieme di dati sugli attributi delle cose
e sulle relazioni tra le stesse (il latte versato nella tazza o fuori la tazza
coinvolgono gli stessi oggetti, ma le relazioni sono molto diverse!) e la
collaborazione di neuroscienziati ed esperti di processi cognitivi umani, che
dicano come ciò accade esattamente negli uomini.
Dalla visione delle cose, alle loro relazioni, a come ciò accada negli
umani, alla centralità di questo passaggio nello sviluppo attuale
dell’intelligenza arti ciale, alla necessità di collaborare con scienziati
appartenenti a diverse discipline… è come se da tutto ciò scaturisse anche la
necessità di una visione sull’uomo!
Vista in questa luce risulta comprensibile l’affermazione di Fei-Fei Li
(riportata in esergo) quando dice che non vi è niente di arti ciale
nell’intelligenza arti ciale: «è ispirata da persone, è creata da persone e, cosa
più importante, incide sulle persone. È uno strumento potente che si sta solo
ora cominciando a capire come funzioni, e questa è una profonda
responsabilità»18. John Etchemendy, l’altro co-direttore del centro di
Stanford, enuncia così i tre principi fondamentali che guidano l’attività del
centro: una scommessa che il futuro dell’IA sia ispirato dalla nostra
comprensione dell’intelligenza umana; la tecnologia deve essere guidata
dalla nostra comprensione di come sta in uenzando la società umana; le
applicazioni di intelligenza arti ciale dovrebbero essere progettate per
migliorare e aumentare ciò che gli umani possono fare.
Si può dire che non vi è niente di arti ciale, nel senso di non umano,
nell’IA, così come non vi è niente di arti ciale nell’energia elettrica, nel
motore a vapore, nella stampa a caratteri mobili ecc., nel senso che nessuno
direbbe mai ‘stampa arti ciale’, ‘elettricità arti ciale’ o simili. E allora
bisognerebbe dire intelligenza delle macchine, o capacità computazionale
delle macchine, piuttosto che IA.
È come se per la prima volta si fosse usciti dalla fase sperimentale della
computazione digitale, iniziata con Turing e poi de nita nel 1956, e si
cominciasse solo ora a fare sul serio. Vi è una sorta di indicazione loso ca,
per cui fare intelligenza arti ciale signi ca avere una visione sugli umani, su
cosa deve essere l’umanità che vogliamo per il futuro. Si tratta di una visione
fondata scienti camente, che parte dal mondo della stessa intelligenza
arti ciale e da un settore come quello della visione, che è cruciale. Parte da
scienziati che sollecitano una ri essione etica, una sollecitazione che tende a
colmare un de cit segnalato anche nel rapporto Elsevier di cui si è parlato
sopra (paragrafo 2.1). E l’etica incrocia il diritto al livello dei diritti umani,
come si vedrà a partire dal Capitolo 2.
La visione di Fei-Fei Li si collega con le ri essioni di Joshua Greene,
quando dice che nché non capiremo meglio come funziona la cognizione
umana e nché non faremo dei passi decisivi su questo piano, non faremo
neanche dei passi decisivi sull’intelligenza arti ciale ‘generale’.
5. Funzionamento del cervello umano e intelligenza artificiale
generale
Il problema non è solo lo sviluppo di macchine più potenti, ma quello
dell’architettura cognitiva. Se l’idea è quella di agente intelligente, anche se
non necessariamente «creature arti ciali che in contesti appropriati
appaiano come persone», è importante il modello di intelligenza che si
assume come riferimento.
Prima e piuttosto che imbarcarsi nella diatriba «i computer sono più o
meno intelligenti degli umani», pare interessante porsi il problema: «a che
punto siamo nella comprensione del funzionamento del cervello umano».
Secondo Joshua Greene, professore di psicologia a Harvard, gli umani
hanno una capacità il cui funzionamento non è ancora noto, e cioè la
capacità di considerare tutti i tipi di idee, pur senza credere nel fatto che esse
siano vere (una funzione fondamentale nella piani cazione delle azioni e
nell’immaginare possibilità che ancora non esistono in realtà). Cercare di
capire come gli uomini facciano ciò è un passaggio essenziale per tentare di
costruire un’intelligenza arti ciale generale (artificial general intelligence)19,
che è quella altrimenti chiamata human-level AI oppure strong AI (per la
distinzione con la light o so AI, vedi Capitolo 3).
Sostiene Greene che quello che stiamo tentando di fare è capire come i
nostri cervelli siano capaci di una cognizione di alto livello. In termini
tecnici si può parlare di una semantica composizionale, o di una semantica
composizionale multimodale. Questo signi ca, in parole più semplici,
cercare di capire come il cervello prende i concetti e li mette insieme in
modo da comporre un pensiero, così che si possa leggere una frase come «il
cane ha inseguito il gatto», e si capisca che essa signi ca qualcosa di diverso
da «il gatto ha inseguito il cane». Gli stessi concetti sono coinvolti, «cane»,
«gatto», «inseguire», ma il nostro cervello è capace di mettere le cose
insieme in modi diversi al ne di produrre un diverso signi cato.
Molto di quello nel quale l’apprendimento automatico (machine learning)
ha avuto successo è stato sul versante della percezione, riconoscendo oggetti,
o quando si tratta di andare dalla visione al linguaggio, semplicemente
etichettando scene che sono già familiari, così che si possa mostrare
un’immagine di un cane che insegue un gatto e sia possibile che essa dica
qualcosa come «cane che insegue gatto». Greene prosegue affermando:
Non si può realmente comprendere qualcosa se non si prendono certe parole e le si collega
signi cativamente alle cose che si possono vedere o toccare o sperimentare in modo sensoriale.
Così pensare è qualcosa tra le immagini e tra le parole. […] quello che il mio laboratorio sta
cercando di fare è capire come questo aspetto centrale, ma veramente poco compreso,
dell’intelligenza umana funziona. Come noi combiniamo i concetti in modo da formare
pensieri. Come può lo stesso pensiero essere rappresentato in termini di parole contro cose che
si possono vedere o sentire con gli occhi e con le orecchie della tua mente? […] Penso che non
abbiamo ancora capito il caso umano, e la mia ipotesi è che ovviamente è qualcosa che per
intero sono i neuroni a fare, ma queste capacità non sono ben catturate dagli attuali modelli di
reti neurali. […] Se si vuole veramente costruire un’intelligenza generale arti ciale, si deve
iniziare con le conoscenze consolidate sulla cognizione, e non solo cercando di costruire
qualcosa che possa, ad esempio, leggere frasi e dedurre cose da quelle frasi.
Il problema è, quindi, duplice. Il cervello umano è certamente
complicato e lungi dall’essere compreso20, mentre l’intelligenza arti ciale
generale, che si sta cercando di replicare nelle macchine, esiste solo negli
esseri umani. Ma non è etico fare sperimentazione sugli umani a questo
livello. È probabile che lo sviluppo della ricerca su organoidi cerebrali
(sviluppati con materiale umano ma fuori dal corpo umano) possa aprire
nuove strade di ricerca.
6. Grandi progressi, grandi questioni aperte e timori
infondati
Il riconoscimento delle immagini è il settore nel quale vi sono stati i
maggiori progressi, grazie a innovazioni algoritmiche e investimenti in
infrastrutture, ad esempio, nell’hardware utilizzato per addestrare il sistema
o nel soware utilizzato per connettere questo hardware. La velocità di
addestramento di un algoritmo di ImageNet, a novembre 2018, è stata 16
volte maggiore rispetto a quella di giugno 2017. Il tasso di errore
dell’etichettatura automatica di ImageNet è diminuito dal 28% nel 2010 a
meno del 3% nel 2016, mentre le prestazioni umane, che sono il punto di
riferimento, sono circa al 5% di errore.
Questi dati, raccolti dall’AI Index 2018 Report21 dell’Università di
Stanford, ci dicono di un settore in grandissima espansione, con risultati che
superano quelli umani e che ha grandi implicazioni a livello sociale e
giuridico, come possibilità di controllo delle pubbliche autorità (e non solo)
su tutti i cittadini (vedi Capitolo 7).
Vi sono, allo stesso tempo, questioni di grande importanza tuttora
aperte, e che vengono realisticamente segnalate nello stesso Index22. Per
esempio, se si vuole che l’intelligenza arti ciale aumenti l’intelligenza umana
anziché sostituirla, è importante passare da ambienti nei quali le macchine
sono opposte agli umani (human vs machine) a ambienti dove umano e
macchina lavorano insieme. Inoltre, i sistemi di domande/risposte basati
sull’intelligenza arti ciale (che sono molto utili in vari campi) non hanno la
capacità di sostenere un dialogo. La profonda comprensione del linguaggio
naturale è ancora una s da, così come le capacità di ragionamento del buon
senso. Ancora, l’apprendimento automatico ha molto successo in molte
applicazioni, poiché può scoprire correlazioni nascoste all’interno di enormi
quantità di dati. Ciò consente di fare previsioni molto accurate, ma non dà
informazioni circa i rapporti di causalità.
Questo vuol dire che, in settori come il diritto, la strada da compiere è
ancora lunga per arrivare a usi diffusi da parte di cittadini e professionisti
(vedi Capitoli 3 e 4).
Vi sono poi i timori di vari personaggi anche autorevoli secondo i quali
le macchine supereranno gli umani. L’idea che l’intelligenza arti ciale possa
signi care la ne della razza umana e che i robot possano rimpiazzare
l’umanità, perché capaci di un’evoluzione più celere di quella biologica è
stata espressa da Stephen Hawking in più occasioni, tra le quali una molto
nota intervista alla BBC23. La preoccupazione è quella dell’avvento di
macchine dotate di un’intelligenza superiore a quella umana, che possano
migliorare autonomamente la loro architettura e realizzare quella che Vernor
Vinge già nel 1993 aveva chiamato singularity24 (Vinge 1993) e che nel lm
Transcendence (2014) con Johnny Depp e Morgan Freeman prende il nome
di transcendence25.
Il commento di Roger Penrose su queste posizioni è tranchant: non sono
le machine di per sé ad essere pericolose, più pericoloso delle macchine è il
pensiero che esse possano essere migliori di noi26.
Intanto, pare utile segnalare tre ragioni che fanno ritenere infondato
questo timore, almeno per un (non sappiamo quanto) lungo periodo.
In primo luogo, lo sviluppo dell’apprendimento automatico (dove il
soware può apprendere e migliorare sé stesso) richiede la disponibilità di
una grandissima quantità di dati, che siano selezionati con l’aiuto di un
umano che confermi la corretta identi cazione dell’oggetto (come, per
esempio, un’automobile o un umano). E anche quando, per esempio, un
sistema venisse alimentato con libri di progettazione e ingegneria delle auto,
potrebbe evidenziare e riassumere le informazioni chiave, ma non potrebbe
mai progettare una nuova auto.
In secondo luogo, ad oggi la potenza di calcolo delle macchine non può
avvicinarsi a quella di un umano. La situazione potrebbe cambiare con i
computer quantistici, che non è dato prevedere quando saranno disponibili
per l’uso corrente27. Intanto, è certo che, sulla base dei principi di ingegneria,
«l’attuale tecnologia dei circuiti integrati che alimenta le capacità
computazionali dei computer convenzionali non sarà mai in grado di
replicare il cervello umano, tanto meno superarlo nelle capacità
intellettuali»28.
In ne, non possiamo progettare macchine che superino ciò che non
comprendiamo ancora del tutto, cioè l’essere umano. La matematica
computazionale, che ha alimentato gli attuali progressi dell’IA, si è avvalsa di
reti neurali, ispirate al cervello umano. Ma la scienza moderna non
comprende ancora no in fondo come funzioni il cervello, questione
decisiva della quale si parlerà nei prossimi paragra .
Una prima indicazione si può trarre da questa esposizione dei progressi,
delle questioni aperte e dei timori. I progressi consentono importanti
applicazioni sulle quali è necessario che si sviluppi un dibattito pubblico,
mentre per il resto è bene che tecnici e scienziati vadano avanti con un
dialogo non terroristico avviato con la società.
In generale negli ultimi anni si è affermato un approccio IA for good. Ne
sono prova McKinsey Tech for Good’: Using technology to smooth disruption
and improve well-being29 oppure l’«AI for Good» Global Summit 2018,
svoltosi a Ginevra (Svizzera) il 15-17 maggio 2018 e, in qualche modo,
anche l’iniziativa della Stanford University di cui si è detto sopra. Sullo
sfondo è sempre presente l’idea della neutralità della tecnologia e che l’IA è
all’origine di gravi pericoli ma può al tempo stesso essere la soluzione30.
Tess Posner indica una via diversa. Non si preoccupa solo degli algoritmi
non etici o dell’IA che prende una cattiva strada, e sta forgiando un percorso
diverso, che conduce in una direzione più positiva. Come CEO di AI4ALL,
Tess lavora per aumentare la diversità e l’inclusione nell’intelligenza
arti ciale. AI4ALL crea pipeline per talenti sottorappresentati attraverso
programmi di istruzione e tutoraggio negli Stati Uniti e in Canada, che
offrono agli studenti delle scuole superiori un’esposizione precoce all’IA per
il bene sociale. Il suo motto è: «l’intelligenza arti ciale cambierà il mondo;
chi cambierà l’intelligenza arti ciale»31.
7. Qualche considerazione finale
Sulla base di questi pochi, essenziali, elementi è possibile fare alcune
considerazioni.
Russell e Norvig, in una delle prime pagine del loro pluricitato lavoro,
affermano che «l’IA si può applicare a ogni sfera del pensiero umano: è un
campo davvero universale»32. Se questo è vero, ne consegue che l’esperienza
di IA fatta in un qualsiasi campo del sapere umano è, almeno
potenzialmente, patrimonio condivisibile in tutti i campi, con effetti che
sono (o forse non sono) facili da immaginare: un accordo musicale o un
progetto di architettura o un concetto giuridico possono avere in comune la
medesima struttura. Allora, si può scoprire che alcune metafore non sono
soltanto un ‘prestito’ da una disciplina all’altra per guadagnare un punto di
vista diverso su un campo in cui si è bloccati da vecchie assunzioni e idee,
ma qualcosa che esprime che alcuni percorsi logici e conoscitivi sono
condivisi. Messa in un modo diverso, l’interdisciplinarietà passerebbe
dall’essere faticoso esercizio di transazioni all’essere ricerca di sostrati
condivisi, che possono realmente far avanzare la conoscenza. Nel capitolo
nale di questo libro, si farà ricorso a metafore come «molecole» oppure
«sistema immune» per tentare una spiegazione del modo di essere del diritto
oggi: sono solo metafore?
Inoltre, sin dall’inizio della moderna intelligenza arti ciale è chiaro che
l’interesse, piuttosto che verso la mera capacità di computazione pratica, è
quello di riprodurre il funzionamento del cervello umano in macchine con
capacità cognitive, che possano imparare dall’esperienza e essere in grado di
modi care le proprie istruzioni, quindi macchine che si adattano e
cambiano. Ciò si trova esplicitamente sia in Turing (vedi sopra, paragrafo 2),
sia nel lavoro di Newell e Simon del 196133, alla cui base si poneva il vero
interesse nel confronto della sequenza dei passi del ragionamento compiuto
dal programma con un’analoga sequenza prodotta da soggetti umani. Ciò è
all’origine di un limite conoscitivo che porta gli umani a riprodurre quella
che considerano la migliore intelligenza disponibile, cioè quella umana. Ed è
alla base di quell’atteggiamento inerziale che porta a usare un linguaggio
antropomorfo e, quindi, ad antropomor zzare le macchine che produciamo.
Visto in questa ottica, anche lo «Human Brain Project», il colossale piano di
ricerca nanziato dall’Unione europea, che ha lo scopo di riprodurre in silico
l’attività cerebrale, non appare altro che uno sviluppo che parrebbe
inevitabile di qualcosa intravisto già molti decenni prima e che è diventato
possibile (anche se pur sempre controverso) proprio per il relativo sviluppo
delle capacità computazionali delle moderne macchine. Ma
l’antropomor smo è capace di vendicarsi svelando i limiti (se non la
pochezza) del concetto di intelligenza umana che si assume e che si proietta
sulle macchine. Per esempio, è interessante che Russell e Norvig, nell’esporre
l’approccio razionalista in IA e nel distinguere tra «comportamento umano»
e «comportamento razionale», debbano precisare, in modo che pare un po’
imbarazzato, che «non stiamo implicando che gli esseri umani siano
‘irrazionali nel senso di emozionalmente instabili’ o siano pazzi»34. Ne
emerge una visione riduttiva dell’intelligenza e della stessa razionalità
umana, che sembra ignorare gli sviluppi delle ultime decadi della ricerca
neuroscienti ca a proposito del ruolo delle emozioni nei processi cognitivi35.
Un discorso a parte merita la coscienza nelle macchine. Anche in quel
caso è necessario distinguere tra quello che è oggi tecnicamente possibile
(l’opinione prevalente esclude che possa esservi oggi nelle macchine, fatta
eccezione per le ricerche di Gianni Tononi e di pochi altri: vedi Capitolo 7) e
l’idea di coscienza che assumiamo quando ne neghiamo la possibilità nelle
macchine, e cioè l’idea della coscienza in noi animali umani. Invece, la
ricerca neuroscienti ca negli animali non-umani porta a dire che la
coscienza non sia di un solo tipo e che, di conseguenza, non sia misurabile
su un’unica scala (come si vedrà nel Capitolo 7).
Traduzione mia da Fei-Fei Li: «ere’s nothing arti cial about AI. It’s inspired by people, it’s
created by people, and – most importantly – it impacts people. It is a powerful tool we are only just
beginning to understand, and that is a profound responsibility»; https://www.wired.com/story/fei-feili-arti cial-intelligence-humanity/ (visitato il 28 marzo 2019).
2
COPELAND 2017.
3
SARTOR 2010, pp. 44-45.
4
L’esperienza di Babbage e i lavori di Turing del 1936 (TURING 1936) e del 1947 (TURING 1947)
sono utilizzati nella ricostruzione di COPELAND 2017.
5
«More interested in the possibility of producing models of the action of the brain than in the
practical applications to computing», traduzione mia dal testo riportato in COPELAND 2017. L’autore
riferisce anche delle interazioni tra il progetto di Turing e quello di von Neumann (p. 12 ss).
6
RUSSELL – NORVIG 2010, p. 24.
7
RUSSELL – NORVIG 2010, p. 23.
8
CUCCHIARA 2018 nota che, al momento, i nanziamenti in Italia non sono paragonabili a
quelli nei Paesi UE e nel resto del mondo.
9
Commento di Toby Walsh in SHOHAM et al. 2018, p. 65.
10
Rapporto Elsevier https://p.widencdn.net/jj2lej/ACAD-RL-AS-RE-ai-report-WEB, p. 33.
11
Elsevier Report, ArtificiaI Intelligence: How knowledge is created, transferred, and used. Trends in
China, Europe, and the United States, https://p.widencdn.net/jj2lej/ACAD-RL-AS-RE-ai-report-WEB:
«e AI eld has multiple de nitions, but lacks a universally agreed understanding. AI means
different things to different people: there are more differences than commonalities in how AI is
spoken about in education, research, industry, and the media».
12
RUSSELL – NORVIG 2010, p. viii (traduzione italiana Pearson Italia, Milano-Torino, 2010, p.
XVIII).
13
Traduzione mia da BRINGSJORD – GOVINDARAJULU 2018, p. 1 e nota 1.
14
Digital intuition, in «Nature», 28 January 2016, vol. 529, 437
1
Intervista a Mark Mézard raccolta da Nuccio Ordine, apparsa su «La Lettura» 27 gennaio 2019,
p. 12 (L’intelligenza artificiale? Non è intelligente).
16
Si veda l’intervista di Roger Penrose, raccolta da Charlotte Kan, in occasione del «AI for Good»
Global Summit 2018, svoltosi a Ginevra (Svizzera) il 15-17 maggio 2018:
https://www.youtube.com/watch?v=dpSpwzyO0vU (visitato il 23 marzo 2019).
17
Stanford
Institute
for
Human-Centered
Arti cial
Intelligence,
https://hai.stanford.edu/news/stanford-s-new-institute-will-unite-humanities-and-computer-sciencestudy-guide-and-develop dove si trovano le dichiarazioni dei due co-direttori, Fei-Fei Li e
Etchemendy. In particolare Fei-Fei Li dichiara: «e creators of AI need to represent humanity. is
requires a true diversity of thought across gender, age, and ethnicity and cultural background as well
as a diverse representation from different disciplines».
18
https://www.wired.com/story/fei-fei-li-arti cial-intelligence-humanity/ (visitato il 28 marzo
2019).
19
PERRY 2019. Di seguito sono riportati alcuni passi salienti da me tradotti.
20
BERGSTEIN 2019.
21
SHOHAM et al. 2018.
22
Francesca Rossi, commento in SHOHAM et al. 2018, p. 64. Di Francesca Rossi si veda anche
ROSSI 2019.
23
CELLAN-JONES 2014. Stephen Hawking warns artificial intelligence could end mankind,
http://www.bbc.com/news/technology-30290540 (visitato il 26 agosto 2019). Su queste, che ho
chiamato «paure trascendenti», rinvio al mio SANTOSUOSSO 2016, p. 298. Si veda anche
HAWKING et al. 2014.
24
VINGE 1993.
25
Su una lunghezza d’onda simile si veda RUSSELL 2019, che assume che prima o poi le macchine
riusciranno ad avere comprensione di quello che fanno.
26
Intervista di Roger Penrose, professore di Matematica presso l’Università di Oxford, raccolta da
Charlotte Kan, in occasione dell’«AI for Good» Global Summit 2018, svoltosi a Ginevra (Svizzera) il
15-17 maggio 2018: https://www.youtube.com/watch?v=dpSpwzyO0vU (visitato il 23 marzo 2019).
Molto critica anche MITCHELL 2019.
27
GIBNEY 2019, p. 46.
28
LANCE 2018, che illustra le tre limitazioni.
29
https://www.mckinsey.com/featured-insights/future-of-work/tech-for-good-using-technologyto-smooth-disruption-and-improve-well-being, visitato il 26 agosto 2019.
30
WALSH 2019.
31
AI Will Change the World, Who Will Change AI? Why diversity and inclusion matters di Tess
Posner (https://www.youtube.com/watch?v=9zony2pjNes, visitato il 28 marzo 2019). Sulle attività di
Tess Posner si veda: https://houseoeautifulbusiness.com/bio-tess-posner (visitato il 28 marzo 2019).
32
RUSSELL – NORVIG 2010, p. 3.
33
RUSSELL – NORVIG 2010, p. 6.
34
Traduzione mia dall’originale «By distinguishing between human and rational behavior, we are
not suggesting that humans are ‘irrational in the sense of emotionally unstable’ or insane. One merely
needs to note that we are not perfect: not all chess players are grandmasters; and, unfortunately, not
everyone gets an A on the exam»: RUSSELL – NORVIG 2010, p. 2.
35
Sulla differenza tra intelligenza e pensiero razionale si veda Return to Reason: e Science of
ought, numero monogra co di «Scienti c American» (ottobre 2018).
15
2. Il diritto e l’intelligenza artificiale
[…] but how could such reasoning apply
to tasks like those a hawk tackles
when swooping down to capture scurrying
prey?1
1. IA, diritto e logica: una correlazione necessaria? Il diritto
visto dall’IA
Il diritto costituisce un ricco banco di prova e un importante campo per
lo sviluppo di un’intelligenza arti ciale basata sulla logica, in particolare per
quanto riguarda i modelli logici di argomentazione giuridica. Secondo
un’opinione autorevole, l’attività di creazione e applicazione del diritto
comporta l’elaborazione di informazioni, il prendere decisioni e la
comunicazione delle stesse. A sostegno dell’importanza della logica si fa
giustamente notare che il diritto è parte della società e che questo rende la
logica particolarmente rilevante per il diritto, poiché esso deve essere
compreso da chi è destinatario di eventuali restrizioni e la sua applicazione
deve essere spiegata e giusti cata. Sono, quindi, importanti la chiarezza dei
signi cati e la coerenza dei ragionamenti, e quindi l’uso appropriato della
logica2.
Naturalmente questo non signi ca che il diritto possa agevolmente
essere rappresentato con formule matematiche o in un linguaggio formale e
che, una volta fatto questo passaggio, le conseguenze giuridiche possano
scaturire automaticamente per deduzione. Ciò non è possibile perché,
secondo Prakken e Sartor, il diritto non è soltanto un sistema concettuale e
assiomatico, ma ha obiettivi ed effetti sociali, e poi perché, anche nel caso di
produzione legislativa in senso proprio, la norma viene nel tempo chiamata
a essere applicata in circostanze non previste al momento della sua
approvazione, senza contare le formule astratte come «buona fede»,
«correttezza», «abuso di segreti industriali» o del diritto in generale, o
«ragionevolezza», tutte formule che richiedono di essere tradotte in norme
aventi un contenuto concreto.
Quindi, concludono gli autori, l’orientamento del diritto al futuro e a
situazioni non previste, la tensione tra i termini generali nei quali è
formulata la legge e i casi concreti ai quali va applicata, e la natura
con ittuale (adversarial) delle procedure (dove ogni parte punta a
convincere il giudice della giustezza della sua tesi), tutto ciò fa si che il
ragionamento giuridico vada oltre il signi cato letterale delle norme di
legge. È, quindi, necessario uno studio dell’argomentazione giuridica (formal
and computational study of argumentation), un settore nel quale vi sono non
solo da applicare le tecniche di IA, ma anche da sviluppare esperimenti e
ricerche che possano rappresentare un avanzamento proprio di quelle
tecniche.
Evidentemente il tema è complesso e comprende numerosi pro li sia
teorici, sia giuridici pratici.
A livello teorico, vi è per esempio il rapporto tra linguaggio formale,
visto da alcuni come lingua universale del diritto del futuro, e il perdurare
del diritto espresso nei mille linguaggi naturali (vedi avanti, Capitolo 8). E si
può, anche, ricordare che il fatto che la logica possa essere un utile
strumento in ambito giuridico non signi ca sposare una logica monotonica,
secondo la quale «se si accettano le premesse di un’inferenza conclusiva se
ne debbono necessariamente accettare anche le conclusioni», mentre sono
ormai prevalenti, specie in ambiti ad alta incertezza, le cosiddette logiche
non monotoniche, come per esempio la defeasible logic, secondo la quale,
posta una certa premessa, dalla quale discende una certa conseguenza
(secondo la logica monotonica), si può accettare di dover cambiare la
conclusione se una nuova informazione rivela l’erroneità dell’inferenza
prima ottenuta. L’esempio divenuto classico nel campo dell’IA è il seguente:
se io dico che Tweety è un uccello, l’ascoltatore deduce che Tweety può
volare, ma se io poi lo informo che Tweety è un pinguino, l’inferenza
evapora di conseguenza, com’è giusto che sia3.
La logica è rilevante, a livello giuridico pratico, a proposito dell’obbligo di
motivazione dei provvedimenti giurisdizionali e della pubblica
amministrazione, dei quali si parlerà nel Capitolo 4.
1.1 Coke, Holmes e la… scurrying prey
La questione dei rapporti tra diritto e logica (e quale logica) si intreccia
con le tradizioni giuridiche e con gli orientamenti presenti nel dibattito
sull’IA.
Quanto alle tradizioni giuridiche sia sufficiente ricordare i due principali
orientamenti, di tipo razionalistico e di tipo pragmatico o storico, i cui due
campioni sono Sir Edward Coke, secondo il quale «reason is the life of the
law, nay the common law itself is nothing else but reason», e Oliver Wendell
Holmes Jr., che apre il suo volume e Common Law, con l’affermazione
provocatoria «the life of the law has not been logic». Inglese il primo,
americano il secondo, in pieno Seicento il primo e a ne Ottocento il
secondo, sono diventati l’emblema dei due principali orientamenti circa il
ruolo della razionalità nel diritto: orientamenti che segnano un discrimine
che, per certi versi, è più importante di quello tra common law e civil law4.
Sull’altro fronte (quello tecnologico), va ricordato il ruolo dell’approccio
logicista nelle famiglie dell’IA.
Nell’ambito della ricerca sull’IA sono presenti tre principali
orientamenti5: un’impostazione logicista e una non-logicista. La seconda ha
al suo interno un approccio simbolico, ma non logicista, e altri approcci
connessionisti e neurocomputazionali. L’impostazione logicistica dell’IA, nel
contesto della creazione di un agente intelligente, è stata così sintetizzata:
«un agente intelligente riceve percezioni dal mondo esterno sotto forma di
formule in alcuni sistemi logici (ad es. logica del primo ordine), e deduce,
sulla base di queste percezioni e della sua base di conoscenze, quali azioni
dovrebbero essere eseguite per garantire gli obiettivi dell’agente».
Ma, se si prova ad applicare il modello di tipo logicistico non solo a set
limitati di dati e decisioni, ma ad ampi settori di attività cognitiva, la
complessità di calcolo diventa tale da rendere difficile da capire «come
potrebbe un tale modo di ragionare applicarsi a compiti come quelli che un
falco affronta quando piomba verso il basso per catturare una preda in corsa
(scurrying prey)».
È un po’ lo stesso tipo di domanda che si può porre ai sostenitori della
tesi secondo la quale tutto il diritto è computabile, prima o poi sarà reso in
linguaggio formale e il linguaggio naturale sarà soppiantato (si veda
Capitolo 8). Perché il diritto è un po’ una scurrying prey!
All’interno dell’approccio non logicista neurocomputazionale si
collocano i ricercatori che utilizzano i network neurali arti ciali (artificial
neural networks):
e main distinction is between feed-forward and recurrent networks. In feed-forward
networks like the one pictured immediately above, as their name suggests, links move
information in one direction, and there are no cycles; recurrent networks allow for cycling
back, and can become rather complicated. […] e backpropagation method for training
multilayered neural networks can be translated into a sequence of repeated simple arithmetic
operations on a large set of numbers6.
L’aspetto interessante è che questi diversi orientamenti, per quanto
presenti sin dalle origini della moderna IA e pur partendo da presupposti e
impostazioni diverse l’uno dall’altro, sono sempre più spesso usati
congiuntamente, in modo da essere interoperabili, ed è acquisito il concetto
che, se si vogliono costruire dispositivi funzionanti in modo efficiente e
conveniente, bisogna usare tutti gli approcci e le tecniche disponibili. Per
esempio, è questo il tipo di impostazione seguito con l’architettura di
DeepQA di Watson (IBM) e da Google DeepMind AlphaGo. Quello che
forse è ancora più interessante è che questo approccio con più sistemi è alla
base di quello adottato nella recente ripresa della cosiddetta IA di livello
umano (human-level AI), di cui si è fatto cenno nel Capitolo 1.
A questo punto sorge una domanda: una combinazione dei tre approcci
può essere usata anche nel diritto? Si può adempiere all’obbligo di
motivazione se si usano i neural networks? L’IA può organizzare anche
attività che non appaiano spiegabili in termini razionali? L’approccio
logicista tende a escluderlo, perché non è spiegabile, così come sembra
escluderlo tutto quel movimento che attualmente punta sulla spiegabilità
delle scelte fatte o proposte da sistemi di IA.
2. L’intelligenza artificiale vista dal diritto
Ma procediamo con ordine. Il diritto è implicato con l’intelligenza
arti ciale in due sensi fondamentali. Il primo riguarda il modo in cui il
diritto regola o non regola, per accidente o per scelta, le varie applicazioni
dell’intelligenza arti ciale. Il secondo, invece, riguarda il modo in cui è il
diritto stesso a essere soggetto a trasformazioni per il fatto di esistere in una
realtà sociale ampiamente tecnologizzata, e in via di ulteriore
tecnologizzazione, come quella attuale.
2.1 Come cambia il diritto
Il secondo pro lo (quello del diritto tecnologizzato) vede il diritto quasi
in una posizione ri essiva, d’interrogazione su sé stesso, su come esso sia
cambiato, stia cambiando ed è prevedibile che cambi ancora nel prossimo
futuro. È un pro lo di grande complessità teorica e pratica. Cercare di capire
se i vecchi sistemi di produzione di regole (nazionali, generali e astratte)
funzionino in una società intrisa di tecnologia come la nostra.
A un primo livello, si potrebbe pensare che il diritto debba cambiare
collocazione: non essere più il diritto che dall’esterno regola i fenomeni
sociali, ma un diritto coessenziale ai fenomeni stessi da regolare. Si pensi al
caso della privacy by design, introdotta nel regolamento europeo sulla
protezione dei dati personali (GDPR), e cioè la prescrizione secondo la
quale, già in sede di progettazione, si debbano rispettare vincoli di
progettazione di determinati prodotti (vedi Capitolo 7). In tal modo la
norma giuridica appare coessenziale al dispositivo tecnico e al modo in cui è
progettato. Rimane, ovviamente, una differenza tra il piano tecnico e quello
giuridico, ma vi è una prossimità concettuale e operativa che è degna di nota
e di più approfondita analisi. Qualcosa del genere accade anche per gli smart
contract, dove l’ambiente tecnologico nel quale si colloca l’accordo tra le
parti (nucleo essenziale per potersi parlare di un contratto) non è più
‘ambiente’ di qualcosa sorto altrove ma ‘linguaggio del contratto’ e possibilità
di sua esecuzione e di far fronte alle fasi patologiche dello sviluppo della
relazione economica (inadempimento, violazioni dei patti e altro ancora)7.
In altri casi il rapporto tra diritto e tecnologia assume connotati anche
diversi. Vi è però un momento in cui, tirando le somme di tutti questi
cambiamenti, legati all’intelligenza arti ciale, ma già avviati nel corso degli
ultimi decenni per effetto dei cambiamenti sociali che sono addirittura
precedenti alle stesse tecnologie di tipo informatico, ci si deve chiedere come
il diritto stesso stia cambiando e sia cambiato nella sua intrinseca natura e
nel modo in cui può essere concepito. Qui si pone un problema teorico che
riguarda la concezione stessa del diritto, cosa esso sia e come viva. A questo
sarà dedicato l’intero capitolo nale di questo volume.
2.2 Regole! Regole! Ma quali?
È necessario chiedersi quale debba essere la risposta alla generale
invocazione di regole (il primo modo in cui si presenta l’IA allo sguardo
giuridico).
Quando l’UNESCO formula auspici per una regolazione internazionale,
anche se di base o minima, dell’intelligenza arti ciale, formula una richiesta
che appartiene al primo genere di rapporto tra intelligenza arti ciale e
diritto, così come quando l’Unione Europea auspica regolamentazioni a
proposito, o introduce il Regolamento europeo sulla protezione dei dati
personali (GDPR), che, in alcuni articoli, regola fenomeni che sono collegati
alle applicazioni dell’intelligenza arti ciale. Alla stessa categoria è da
ascrivere anche la dichiarazione di Zuckenberg, il quale sostiene che sia il
momento che anche negli Stati Uniti venga recepita la normativa europea in
materia di protezione dei dati (si veda avanti). A Singapore ci si è posti il
problema della protezione dei dati personali in questi termini:
A model framework for AI by Singapore’s Personal Data Protection Commission (PDPC),
launched by Minister for Communications and Information S. Iswaran at Davos in January,
emphasises the importance of human-centricity and transparency. In essence, the individual
consumer or customer should be the focus of AI design and deployment, and decisions made
by AI should be explainable and fair8.
Che siano necessarie regole, e possibilmente universali, per l’intelligenza
arti ciale è il mainstream del momento, tanto che qualcuno arriva a dire che
«regolamentare l’intelligenza arti ciale è più urgente che affrontare il
problema del global warming» perché «la dipendenza dagli algoritmi sta
distruggendo la ducia dei cittadini nei loro governi e nella democrazia».
L’algoritmo — un codice costruito per risolvere un problema — risente delle
visioni del mondo e dei pregiudizi di chi l’ha sviluppato, ma non si può
rinunciare alla cultura degli algoritmi, visto che «anche gli umani sono
tutt’altro che perfetti: i magistrati in carne e ossa hanno i loro pregiudizi e
l’intelligenza arti ciale diagnostica il cancro meglio di un oncologo». È
necessaria però trasparenza e che chi disegna gli algoritmi sia consapevole
delle conseguenze sociali9. Anche il rapporto 10 imperativi per l’Europa
nell’era dell’IA e dell’automazione, pubblicato dal McKinsey Global Institute
nell’ottobre 2017, richiama in più parti la necessità di un chiaro quadro
normativo che consenta alle aziende del settore di svilupparsi anche oltre i
con ni nazionali dei singoli Stati europei10.
Per altro verso, vi sono segnali di una applicazione di sistemi
sanzionatori già esistenti. Ricorda Giovanni Pitruzzella, in un articolo, tre
fatti che meritano una ri essione:
la decisione della Federal Trade Commission di multare Facebook per la violazione della
privacy nel caso Cambridge Analytica (12 luglio), la legge approvata dall’Assemblea nazionale
francese in prima lettura contro la diffusione dei discorsi d’odio su Internet (9 luglio) e le
conclusioni dell’avvocato generale Szpunar nella causa davanti la Corte di giustizia dell’Unione
Europea sulla responsabilità di Facebook per la diffusione di contenuti diffamatori (4 giugno)11.
Gli esempi possono continuare a conferma dell’orientamento oggi
prevalente nel senso di introdurre regole per l’IA. In realtà è facile a dirsi,
meno facile a farsi, perché introdurre regole è tutto tranne un’operazione
meramente tecnica o neutrale. Molti sono gli aspetti: cosa regolare dell’IA?
Cosa regolare e cosa lasciare all’evoluzione spontanea di tecnologie ad alta
velocità di trasformazione? Quale tipo di regole adottare: tecniche,
professionali, etiche, giuridiche? Emesse da chi? Nei prossimi paragra viene
tracciata una mappa di questi aspetti.
2.3 Cosa regolare dell’IA?
In modo schematico si può dire che gli aspetti da regolare riguardano a)
cosa è l’IA, b) cosa fa l’IA, c) quali effetti ha l’IA12. Nel campo di «cos’è» l’IA
(ovvero set di dati, modelli e previsioni) vanno considerati i bias e la
correttezza, la responsabilità e la riparabilità, la trasparenza, l’interpretabilità
e la spiegabilità. Nel campo di «cosa fa» l’IA emergono i problemi della
sicurezza, dell’interazione uomo-intelligenza arti ciale, dell’uso dannoso,
della privacy. In ne, nel campo degli «effetti» dell’IA le questioni riguardano
l’automazione, la perdita di posti di lavoro e le tendenze del lavoro, l’impatto
sulla democrazia, sui diritti civili e sull’interazione uomo-uomo. La
questione degli usi militari è particolarmente delicata e la meno regolata13.
2.4 L’opzione tecnologica senza interventi esterni
Tim Berners-Lee, uno dei padri di Internet, sta lavorando a un progetto
(Solid), che punta esattamente a ribaltare i termini tecnici del problema e
che lo porta a dire: «We could end up with a really interesting world in
which the privacy question is turned upside down. So there you go! is is
Solid. at’s the idea»14.
Nel dilemma se puntare su regole poste dall’esterno oppure sulla
creatività dei cultori di Internet e sullo sviluppo tecnologico, Tim BernersLee è un chiaro esempio del secondo approccio, che cambia l’impianto del
web, lo decentralizza radicalmente, e potrebbe così ridurre il potere di quei
grandi soggetti economici che attentano ai diritti degli utenti della rete e dei
sistemi di IA e «restituire le informazioni nelle mani degli utenti».
Vi è anche chi fa notare che è troppo presto per tentare un sistema
generale di regolazione dell’IA e che la trasparenza richiesta ex ante può
limitare l’uso di alcune tecnologie come i neural networks, concludendo che
«una saggia inattività nel porre regole è probabile che produca un miglior
risultato a lungo termine rispetto a una corsa a regolare nell’ignoranza»15.
Nel dilemma «regolare-non regolare», come si inserisce la mera attività
di ricerca? A mio avviso la questione si pone per le «applicazioni»
dell’intelligenza arti ciale, e non per la «ricerca in sé». Sappiamo bene che,
in generale, e specie in questo campo, il con ne tra ricerca e applicazioni
non è sempre facile da tracciare. Si pensi, tra i tanti esempi possibili, alla
ricerca sulle reazioni emotive dei consumatori rispetto al modo di
presentazione di alcuni prodotti nei negozi. Tuttavia, non si può non
ribadire che la ricerca nel campo dell’intelligenza arti ciale gode della
protezione della libertà di ricerca scienti ca, apprestata sia dalle costituzioni,
in particolare quelle europee e italiana, sia da documenti internazionali,
come il Patto internazionale sui diritti economici, sociali e culturali, siglato a
New York nel 1966 (art. 15).
2.5 Quale tipo di regole adottare: tecniche, professionali, etiche, giuridiche
La scelta del tipo di regole è strettamente collegata alla natura dell’oggetto
tecnico della regolazione e ha numerose e complesse sfumature. Come è
stato osservato in un intervento pubblicato sulla rivista «Proceedings of the
IEEE» (la rivista dell’Institute of Electrical and Electronic Engineers) la
velocità dei cambiamenti è il problema cruciale, tanto che «se un sistema
normativo riuscisse in qualche modo a introdurre nuove regolamentazioni
per una tecnologia emergente, esse saranno probabilmente obsolete prima
che l’inchiostro si asciughi sull’atto di promulgazione [by the time the ink
dries on the enactment]. […] Questo porta i sistemi regolatori tradizionali a
produrre nessuna regolamentazione o una cattiva regolamentazione»16.
Propongono, quindi, un sistema agile che comprende, tra l’altro,
l’introduzione di strumenti di so law che vengono sperimentati e poi,
eventualmente, trasfusi in regole giuridiche vincolanti.
Urs Gasser, giurista e direttore del Berkman Klein Center (Harvard), in
un articolo scritto con Carolyn Schmitt, ricercatrice del medesimo centro,
parte dalla considerazione che i sistemi di intelligenza arti ciale (AI) e le
tecnologie basate su IA sono regolati da un insieme sempre più complesso di
norme giuridiche, etiche, sociali e di altri tipi, che emergono da varie fonti e
contribuiscono a ciò che potrebbe essere descritto un «patchwork di
norme». È interessante l’attenzione sul ruolo giocato dalle norme
professionali e, in particolare, l’interfaccia tra IA e ‘professione’, con un’enfasi
su nuove fonti di norme che sorgono all’interno della professione stessa,
come i principi aziendali e le richieste dei dipendenti17.
Non manca chi propone il vecchio modello dei comitati etici. Mark
Mézard non si nasconde i rischi anche gravi che queste tecnologie possono
avere, come, per esempio, la creazione di un algoritmo in grado di registrare
ogni nostra azione, di sorvegliare ogni istante della giornata, e propone,
proprio per evitare questi usi dissennati, la creazione di comitati etici per
studiare norme e leggi a tutela della libertà degli individui e nello stesso
tempo tracciare limiti invalicabili nell’interesse generale dell’umanità18.
A cavallo tra le norme tecniche e quelle etiche si colloca la ricerca
sull’etica delle macchine (machine ethics), un campo relativamente nuovo (i
cui primi lavori sono stati pubblicati meno di venti anni fa) al quale la rivista
«Proceedings of the IEEE» ha dedicato un numero monogra co uscito nel
marzo del 2019. La machine ethics affronta il tema di come i sistemi
autonomi possono essere impregnati di valori etici:
Ethical autonomous systems are needed because, inevitably, near future systems are moral
agents; consider driverless cars, or medical diagnosis AIs, both of which will need to make
choices with ethical consequences. is special issue includes papers that describe both
implicit ethical agents, that is machines designed to avoid unethical outcomes, and explicit
ethical agents: machines which either encode or learn ethics and determine actions based on
those ethics. […] an ethical machine is guided by an ethical rule, or set of rules, in deciding
how to act in a given situation. It follows that we are concerned here with autonomous
machines: either soware AIs, or their physically embodied counterpart, robots, which
determine how to respond to input without direct human control.
Naturalmente vi sono implicazioni regolatorie anche per l’etica delle
macchine, in quanto una governance etica è necessaria al ne di sviluppare
«standards and processes that allow us to transparently and robustly assure
the safety of ethical autonomous systems and hence build public trust and
con dence»19.
È interessante notare come il dibattito sull’etica delle macchine richiami
quella prossimità tra dispositivo tecnico e regola, che si è notato sopra
(paragrafo 2.1) a proposito del diritto. Anche nell’etica delle macchine il
dispositivo tecnologico non solo ‘ospita’ una regola etica, ma fa vivere nella
macchina un elemento disomogeneo rispetto alla mera tecnicalità, che può
avere la forza di trasformare la macchina stessa.
2.6 Diritti umani ed etica
Si arriva così al dilemma se optare per regole giuridiche o regole etiche.
L’Organizzazione per la cooperazione e lo sviluppo economico (OCSE, in
inglese Organization for Economic Co-operation and Development,
OECD), a proposito della regolamentazione delle tecnologie non usa il
termine «ethics», ma «human rights», perché ritiene che, se è vero che sia
l’etica sia i diritti umani proteggono lo stesso insieme di valori, è anche vero
che per i diritti umani già esiste un’infrastruttura giuridica ed è possibile
azionare tutele giuridiche per ottenere rimedi effettivi. Per l’etica, invece, non
vi è accordo su quale sia l’etica di riferimento (in presenza di una pluralità di
etiche) e quale sia l’autorità che abbia titolo a prendere decisioni20.
La questione dei diritti umani, in relazione all’etica, è alquanto elusiva e
ricca di lost in translation. Come si vedrà nel Capitolo 7, i diritti umani
(human rights) vanno a collocarsi in quella fascia alta dei diritti che in alcuni
ordinamenti, come quello italiano, possono avere la forza di diritti
costituzionali, e in altri quella di meri obblighi morali, che possono essere
indistinguibili da posizioni etiche.
Per esempio, nell’Unione Europea i diritti umani sono stati
istituzionalizzati nella Carta dei diritti fondamentali dell’Unione europea (del
cui valore giuridico si parlerà nel Capitolo 8), che raccoglie e compendia una
serie di altri strumenti normativi europei, per i quali può parlarsi di
giuridicizzazione dei diritti umani. Al contrario, il quadro dei diritti umani
nei Paesi extra-UE si presenta molto più problematico su fronti che
riguardano diritti dei minori, tortura e pena di morte, violenze perpetrate
nei confronti delle donne e delle ragazze, assistenza e monitoraggio delle
elezioni da parte dell’UE, campi nei quali l’UE si impegna per l’osservanza
del diritto internazionale umanitario21.
L’Unione Europea si è mossa con una Comunicazione della
Commissione al Parlamento Europeo del 25.4.2018, che lancia un’iniziativa
europea in tema di IA che ha tra i suoi tre obiettivi, accanto ai temi più
strettamente economici e sociali, quello di
assicurare un quadro etico e giuridico adeguato, basato sui valori dell’Unione e coerente
con la Carta dei diritti fondamentali dell’UE. Ciò comprende futuri orientamenti sulle norme
esistenti riguardanti la responsabilità per danno da prodotti difettosi, l’analisi dettagliata delle
s de emergenti e la collaborazione con i portatori di interessi, attraverso l’Alleanza europea per
l’IA, per lo sviluppo di linee guida etiche riguardo all’IA22.
L’8 aprile del 2019, lo High-Level Expert Group on Arti cial Intelligence
dell’Unione europea ha reso pubblica la versione nale delle Linee guida
etiche per un’intelligenza artificiale affidabile (Ethics Guidelines For
Trustworthy AI)23.
Il documento meriterebbe un’analisi approfondita per la quale non vi è
spazio in questa sede. Mi limiterò, pertanto, ad alcune notazioni con un
occhio particolare ai rapporti tra etica e diritto. Le linee guida hanno tre
basi: una giuridica, una etica e una tecnica. Testualmente affermano:
L’IA affidabile ha tre componenti, che dovrebbero essere soddisfatte durante l’intero ciclo di
vita del sistema:
1. dovrebbe essere legale, cioè conforme a tutte le leggi e i regolamenti applicabili;
2. dovrebbe essere etica, garantendo l’adesione a principi e valori etici;
3. dovrebbe essere robusta, sia dal punto di vista tecnico che sociale, poiché, anche con buone
intenzioni, l’IA i sistemi possono causare danni involontari.
L’aspetto etico prende forma in quattro principi, che costituiscono
«imperativi etici» ai quali gli operatori devono sforzarsi di aderire: i) rispetto
per l’autonomia umana, ii) la prevenzione dei danni, iii) la giustizia e iv) la
spiegabilità. Fatto salvo per quest’ultimo principio, che è strettamente legato
all’attualità dei sistemi di IA, non è necessario essere esperti di storia della
bioetica per sentire la chiara eco dei principi del Belmont Report (USA,
1974), agli albori della bioetica24. Questa volta, però, essi sono radicati nei
diritti fondamentali («rooted in fundamental rights»), che il documento
sembra intendere nel senso di diritti fondamentali giuridici (legal
fundamental rights).
Qui si apre un’interessante questione circa il modo in cui il documento
stabilisce i rapporti tra diritto e etica. Le linee guida, in modo dichiarato e
fedelmente al titolo, non affrontano i problemi giuridici, dando tuttavia alla
dimensione giuridica un’importanza di primo ordine. Precisano, infatti, i
redattori, in modo persino meticoloso, il quadro giuridico generale europeo,
dai documenti di rango sostanzialmente costituzionale, no a norme
ordinarie di tipo strettamente regolativo:
I sistemi di IA non operano in un mondo senza leggi. A livello europeo, nazionale e
internazionale un corpus normativo giuridicamente vincolante è già in vigore o è pertinente
per lo sviluppo, la distribuzione e l’utilizzo dei sistemi di IA. Le fonti giuridiche pertinenti
sono, a titolo esempli cativo, il diritto primario dell’UE (i trattati dell’Unione Europea e la sua
Carta dei diritti fondamentali), il diritto derivato dell’UE (ad esempio il regolamento generale
sulla protezione dei dati, le direttive antidiscriminazione, la direttiva macchine, la direttiva
sulla responsabilità dei prodotti, il regolamento sulla libera circolazione dei dati non personali,
il diritto dei consumatori e le direttive in materia di salute e sicurezza sul lavoro), ma anche i
trattati ONU sui diritti umani e le convenzioni del Consiglio d’Europa (come la Convenzione
europea dei diritti dell’uomo) e numerose leggi degli Stati membri dell’UE. Oltre alle norme
applicabili orizzontalmente, esistono varie norme speci che per settore applicabili a particolari
applicazioni di IA (ad esempio il regolamento sui dispositivi medici nel settore sanitario).
Su questo tessuto normativo fondano l’etica:
Crediamo in un approccio all’etica dell’IA basato sui diritti fondamentali sanciti dai trattati
UE, dalla Carta dei diritti fondamentali dell’Unione europea e dal diritto internazionale in
materia di diritti umani. Il rispetto dei diritti fondamentali, nel quadro della democrazia e dello
Stato di diritto, costituisce la base più incoraggiante per individuare principi e valori etici
astratti che possono essere resi operativi nei sistemi di IA.
In un punto successivo precisano che il quadro giuridico europeo sopra
descritto ha alcune norme che sono legalmente vincolanti, mentre altre
riconoscono diritti a persone «in virtù del loro status morale di esseri
umani, indipendentemente dalla loro forza giuridica». A questo punto viene
precisato che i diritti fondamentali, se intesi come diritti legalmente
riconosciuti, ricadono nel primo componente di un’IA affidabile (lawful AI),
se invece intesi come «diritti di ciascuno, radicati nello status morale
intrinseco degli esseri umani», essi rientrano anche nel secondo
componente (ethical AI), che riguarda norme etiche che non sono
necessariamente giuridicamente vincolanti.
Il quadro non sembra chiarissimo. Se si vuol dire che tra i diritti
fondamentali ve ne sono alcuni non riconosciuti come legal rights e che essi
possono essere riconosciuti su base etica, il tutto è chiaro: no a un certo
punto arriva il diritto e oltre può esservi l’etica, in attesa che il diritto arrivi,
quando e se arriva. Ma, se si colloca la distinzione sul concetto di human
being, tutto diventa meno chiaro, perché l’ordinamento giuridico può ben
riconoscere diritti sulla base della sola qualità di essere umano, come accade
in tutti i casi in cui la disposizione usa (o lascia intendere) il termine
‘individuo’ e non ‘cittadino’ (caso emblematico il diritto alla salute che la
Costituzione italiana, all’art. 32, riconosce esplicitamente come diritto
fondamentale dell’individuo). Ma, per altro verso, è ben possibile che
cittadini e/o human beings si vedano negati diritti che, almeno secondo una
certa visione etica, sono fondamentali (si pensi ai diritti per le coppie
costituite da persone dello stesso sesso).
In generale sembra aleggiare una visione positivistica dell’etica, che
risulta inscritta nel perimetro del diritto (talora neanche di rango superiore)
e che si presenta come oggettivamente e immediatamente comprensibile,
perdendo di vista il patrimonio di elaborazioni sulla pluralità delle etiche,
che probabilmente è la maggiore acquisizione di decenni di dibattito
bioetico. La preoccupazione sembra essere quella di de nire un’etica
pubblica, da affiancare strettamente al diritto positivo a mo’ di so law.
Regole giuridiche sono, nalmente, quelle contenute nel Regolamento
europeo sulla protezione dei dati (General Data Protection Regulation,
GDPR, diventato legge in tutti i Paesi dell’Unione il 25 maggio 2018)25 e che
toccano aspetti essenziali delle applicazioni di IA. Tra questi basti citare
l’articolo 22, che stabilisce il diritto dell’interessato «di non essere sottoposto
a una decisione basata unicamente sul trattamento automatizzato, compresa
la pro lazione, che produca effetti giuridici che lo riguardano o che incida in
modo analogo signi cativamente sulla sua persona» e l’articolo 24, che, sotto
la rubrica «responsabilità del titolare del trattamento», introduce il principio
di accountability, che responsabilizza maggiormente le aziende al loro
interno:
Tenuto conto della natura, dell’ambito di applicazione, del contesto e delle nalità del
trattamento, nonché dei rischi aventi probabilità e gravità diverse per i diritti e le libertà delle
persone siche, il titolare del trattamento mette in atto misure tecniche e organizzative
adeguate per garantire, ed essere in grado di dimostrare, che il trattamento è effettuato
conformemente al presente regolamento.
Va ricordato poi l’articolo 25, che introduce la privacy by design di cui si è
già parlato e si parlerà ancora nel Capitolo 7.
2.7 Chi decide sull’introduzione di regole?
Le linee guida dell’High-Level Expert Group sono state criticate proprio
sul punto del chi decide sulle regole per l’IA. La questione di chi abbia la
legittimazione e la forza per de nire e dettare queste regole si è posta nel
2019, proprio in coincidenza con la diffusa richiesta di regole.
Ha fatto scalpore l’articolo di Mark Zuckerberg, fondatore e capo di
Facebook, pubblicato il 30 marzo 2019 sul Washington Post, con il tono
perentorio di chi individua un problema (la necessità di nuove regole) e
indica anche la strada da seguire: e Internet needs new rules. Let’s start in
these four areas26. L’intervento affronta una pluralità di questioni che, oltre
l’intelligenza arti ciale, riguardano anche la rete.
Chiede, in generale, un ruolo più attivo dei governi e dei regolatori e, in
primo luogo, sollecita un approccio più standardizzato ai contenuti violenti
e offensivi, che vada oltre iniziative di singole entità, come il corpo
indipendente creato da Facebook per porre reclami contro l’operato della
società e la pubblicazione di un rapporto trimestrale sulla trasparenza circa
l’effettiva rimozione di quei contenuti offensivi. In secondo luogo,
Zuckerberg afferma che una legislazione appropriata è importante per
proteggere le elezioni. In terzo luogo, la protezione della privacy e dei dati
personali dovrebbe essere armonizzata a livello globale, e propone che venga
adottata in tutto il mondo la legislazione europea relativa alla privacy
(GDPR). In tal modo si eviterebbe anche la frammentazione di Internet a
livello globale. Sono necessarie regole globali chiare su quando
un’informazione può essere usata nel pubblico interesse e su come regolare
nuove tecnologie come l’intelligenza arti ciale. Sollecita in ne regole
conformi al principio di portabilità dei dati, nel momento in cui un cliente
passa da un fornitore agli altri.
Tanto attivismo e tanto zelo insospettiscono alcuni commentatori, che
fanno notare che sarebbe il caso che ognuno facesse la sua parte e, quindi,
che i legislatori facessero i legislatori, perché se il legislatore chiede al capo di
Facebook come regolare la materia è come se chiedesse alla volpe come
meglio custodire il pollaio («It’s sort of asking the foxes how best to guard
the henhouse»)27.
In un articolo pubblicato l’1 maggio 2019 sulla rivista «Nature», Yochai
Benkler, professore di diritto e co-direttore del Berkman Klein Center for
Internet – Society (Harvard University), critica l’in uenza che le industrie
tecnologiche stanno esercitando per indirizzare la ricerca e la creazione di
regole conformi ai loro interessi e chiede alla società di respingere questo
tentativo. Benkler si riferisce esattamente alle linee guida europee, di cui si è
detto sopra, e alla composizione del gruppo di esperti di alto livello, ma
anche al caso del Comitato etico formato da Google e dissolto in una
settimana, o al fatto che Facebook ha investito 7,5 milioni di dollari
americani in un centro di etica e IA alla Technical University di Monaco di
Baviera28.
omas Metzinger, un losofo dell’Università di Mainz, in Germania,
uno dei cinquantadue membri degli esperti di alto livello europeo, afferma
che troppi degli esperti che hanno creato le linee guida provengono o erano
in linea con gli interessi del settore (Microso, Facebook e Apple per tutti)29.
Metzinger afferma che a un altro membro del gruppo è stato chiesto di
redigere un elenco di usi dell’IA che dovrebbero essere vietati. Tale elenco
comprendeva armi autonome e sistemi di valutazione sociale del governo
simili a quelli in via di sviluppo in Cina. Ma Metzinger sostiene che gli
alleati della tecnologia in seguito hanno convinto il gruppo più ampio che
non dovrebbe essere tracciata alcuna «linea rossa» attorno agli usi dell’IA30.
La questione è ormai sul tappeto e, a fronte di queste esperienze
discutibili e discusse, torna interessante, anche se non priva di rischi
anch’essa, la proposta di alcuni studiosi, formulata in sede di IEEE, di creare
un gruppo internazionale che operi come ‘direttore di orchestra’
nell’elaborare e ipotizzare sistemi di regolazione dell’IA:
[…] for emerging technologies, such as AI, there would likely be a multitude of governance
actors, issues, and programs, both in hard law and so law. e governance coordinating
committee (GCC) would be situated outside government but would include participation by
government representatives, industry, nongovernmental organizations, think tanks, and other
stakeholders. It would not itself have any role in promulgating new governance instruments
but rather would act as an ‘orchestra conductor’ for the instruments that have already been
promulgated or proposed, analyzing how they t together (or not), where they agree (or not),
and where gaps were le which perhaps needed to be addressed. e GCC would also provide
a forum for dialog and debate […]31.
3. Una pletora di documenti
La diffusa invocazione di regole ha preso anche la forma di una pletora
di documenti, rapporti e simili che ogni entità ha ritenuto di dover elaborare
a partire dalla propria esperienza e visione. Vi è così un numero crescente di
rapporti e linee guida sull’IA e sull’etica – come quelli del Consiglio
d’Europa, della Commissione europea, dell’Istituto di ingegneri elettrici ed
elettronici (IEEE)32, dell’Organizzazione per la cooperazione e lo sviluppo
economico (OCSE), l’International Telecommunications Union (ITU) e
l’Organizzazione Mondiale della Sanità (OMS) – che hanno identi cato
importanti principi per la progettazione, lo sviluppo e la diffusione dell’IA,
senza contare lo House of Lords report nel Regno Unito (House of Lords,
2017) e il rapporto dell’Executive Office del Presidente degli Stati Uniti
(2016).
In questo quadro l’UNESCO rivendica l’unicità della sua prospettiva, che
è universale sia per i Paesi coinvolti sia per la sua competenza
multidisciplinare. Ecco perché «l’Organizzazione può veramente fornire una
piattaforma globale per il dialogo sull’etica dell’IA, riunendo Paesi sviluppati
e in via di sviluppo, diverse prospettive culturali e morali, così come varie
parti interessate nell’ambito pubblico e privato», come si afferma nel
documento elaborato dal gruppo COMEST nella primavera 201933.
Il documento UNESCO si interroga circa la natura del possibile
documento normativo (dichiarazione, raccomandazione o convenzione) da
sollecitare e giunge alla seguente conclusione:
È non solo auspicabile ma urgente che vengano adottate misure per istituire uno strumento
globale non vincolante sotto forma di raccomandazione. Una raccomandazione –
considerando il suo carattere non vincolante e la sua attenzione ai principi e alle norme per la
regolamentazione internazionale di ogni particolare questione – sarebbe un metodo più
essibile e più adatto alla complessità delle questioni etiche sollevate dall’IA.
Il documento UNESCO premette alcuni principi generali che
dovrebbero ispirare lo sviluppo e le applicazioni dell’IA: rispetto dei diritti
umani, inclusività, tensione verso il miglioramento della qualità della vita,
autonomia degli umani (che devono avere sempre il controllo), spiegabilità e
trasparenza del suo funzionamento, creare cultura e conoscenza dell’IA tra i
cittadini, costruzione dei sistemi in modo tale che sia possibile attribuire la
responsabilità per il loro funzionamento, rispetto dei principi democratici e
informazione dei cittadini sugli aspetti di intelligence e sicurezza coinvolti
dalla IA, sostenibilità ambientale dell’impatto dell’intero ciclo di produzione
di IA e IT.
Il documento indica poi alcune preoccupazioni etiche legate alla
missione speci ca dell’UNESCO:
a. Istruzione: Devono essere perseguiti una IA literacy, il pensiero critico, la resilienza sul
mercato del lavoro e l’educazione dell’etica agli ingegneri.
b. Scienza: l’IA deve essere introdotta in modo responsabile nella pratica scienti ca e nel
processo decisionale basato su sistemi di intelligenza arti ciale, richiedendo la valutazione
e il controllo umani; e bisogna evitare che siano esacerbate le disuguaglianze strutturali.
c. Cultura: l’intelligenza arti ciale dovrebbe promuovere la diversità culturale, l’inclusività e la
crescita dell’esperienza umana, evitando un approfondimento del divario digitale.
Dovrebbe essere promosso un approccio multilingue.
d. Comunicazione e informazione: l’IA dovrebbe rafforzare la libertà di espressione, l’accesso
universale alle informazioni, la qualità del giornalismo e mezzi di comunicazione liberi,
indipendenti e pluralistici, evitando al tempo stesso la diffusione della disinformazione.
e. Pace: per contribuire alla pace, l’intelligenza arti ciale non dovrebbe mai funzionare fuori
dal controllo umano.
f. Africa: l’intelligenza arti ciale deve essere integrata nelle politiche e nelle strategie di
sviluppo nazionali attingendo a culture, valori e conoscenze endogene al ne di sviluppare
le economie africane.
g. Sesso: il pregiudizio di genere dovrebbe essere evitato nello sviluppo di algoritmi, nei
dataset utilizzati per il loro addestramento e nel loro uso nel processo decisionale.
h. Ambiente: l’intelligenza arti ciale deve essere sviluppata in modo sostenibile tenendo conto
dell’intero ciclo di produzione dell’IA e dell’IT. L’IA può essere utilizzata per il
monitoraggio ambientale e la gestione dei rischi e per prevenire e mitigare le crisi
ambientali34.
4. Creature artificiali che in dati contesti possano apparire
umani
Se vi è, o sembra esservi, un consenso universale sul fatto che gli umani
devono essere al centro dello sviluppo dell’IA e se gli umani devono porre
regole allo sviluppo di sistemi di IA e se «il principale tema uni cante
[dell’IA] è l’idea di agente intelligente» (vedi Capitolo 1), ecco che sorge un
tema tipicamente giuridico: chi sono coloro i quali agiscono come
controllori o come entità controllate?
Il diritto è pienamente coinvolto in quanto sistema regolatore di azioni
che entità, umane o artefatti (come le società commerciali), compiono nel
contesto sociale. Si tornerà più avanti sul rapporto tra umani e artefatti
(Capitolo 7), ma certo quello di agente è concetto chiave anche per il diritto,
proprio perché il diritto moderno regola per de nizione le azioni e non le
intenzioni o i pensieri, che sono un ambito sotto la protezione di una norma
cardine di tutti gli ordinamenti democratici: la libertà di pensiero e di
manifestazione del pensiero (che in Italia è sotto l’art. 21 della Costituzione
e, a titolo di esempio, rientra nel primo emendamento del Bill of Rights degli
Stati Uniti e l’art. 11 della Carta di Nizza).
Agenti intelligenti sono, quindi, per gli studiosi di IA, entità arti ciali che
«ricevono percezioni dall’ambiente ed eseguono azioni» e che fanno ciò
pensando e agendo razionalmente oppure umanamente35.
Si può assumere questa come base per lo sviluppo del discorso e
muovere verso il campo del diritto, dove abbiamo già detto che il concetto di
agente non è estraneo, ma di cui al momento non sappiamo nulla. Per
comprendere questo è necessario richiamare una caratteristica essenziale del
diritto, almeno quello tradizionale: il diritto usa un linguaggio e lemmi che il
più delle volte sono condivisi con il linguaggio naturale non giuridico e che
vengono piegati a signi cati tecnici, che sono familiari solo agli addetti ai
lavori.
Qui di seguito viene tracciato un rapido excursus storico circa il «chi»
titolare dei diritti e delle libertà (una vicenda alquanto mossa), rinviando al
Capitolo 7 per una descrizione del perimetro del concetto di agente in
generale e per il diritto.
Le domande cruciali da un punto di vista giuridico sono, dunque, le
seguenti: dove il diritto traccia il limite di un agente, che sia considerato tale
dal diritto stesso (qualsiasi tipo di diritto: civile, penale, amministrativo),
cioè che sia un agente in senso giuridico? Tale limite è o dovrebbe essere
coincidente con quello tra cose e persone?
4.1 Una storia di schiavi, di donne e di esclusi
Nelle moderne costituzioni e nelle dichiarazioni dei diritti, l’entità
biologica umana era, almeno prima facie, l’indiscussa base fattuale del
soggetto che la legge considerava titolare di diritti.
La Dichiarazione dei Diritti della Virginia (1776) afferma che «all men
are by nature equally free and independent and have certain inherent rights,
of which, when they enter into a state of society, they cannot, by any
compact, deprive or divest their posterity [...]»36. Il Bill of Rights degli Stati
Uniti usa la parola ‘persona’ (IV e V emendamento, 1791) e afferma che
«nessuno Stato priverà alcuna persona della vita, della libertà o della
proprietà, senza un giusto processo di legge; e nemmeno negherà ad alcuna
persona nell’ambito della sua giurisdizione l’equa protezione delle leggi»
(XIV emendamento, 1868).
La Dichiarazione francese dei diritti dell’uomo e del cittadino del 1789,
notoriamente ispirata alla Dichiarazione d’indipendenza americana del
1776, stabilisce all’art.1 che «Les hommes naissent et demeurent libres et
égaux en droits»37.
La Dichiarazione Universale dei diritti dell’uomo (ONU, 1948) afferma
«Tutti gli esseri umani nascono liberi e uguali in dignità e diritti» (art. 1).
La Costituzione della Repubblica Italiana (1948) «riconosce e garantisce i
diritti inviolabili dell’uomo, sia come singolo, sia nelle formazioni sociali»
(art. 2) e recita: «tutti i cittadini hanno pari dignità sociale e sono eguali
davanti alla legge, senza distinzioni di sesso, di razza, di lingua, di religione,
di opinioni politiche, di condizioni personali e sociali» (art. 3).
La legge fondamentale (Grundgesetz) della Repubblica federale tedesca
(1949) inizia riconoscendo che «Die Würde des Menschen ist unantastbar»
(art. 1), e, all’art. 2, recita: «Jeder hat das Recht auf die freie Entfaltung seiner
Persönlichkeit, soweit er nicht die Rechte anderer verletzt und nicht gegen
die verfassungsmäßige Ordnung oder das Sittengesetz verstößt». In ne l’art.
3 sottolinea «Alle Menschen sind vor dem Gesetz gleich. Männer und
Frauen sind gleichberechtigt»38.
Non è necessario citare altre Costituzioni per notare una cosa che appare
subito evidente. Gli autori o i redattori usano molte parole diverse: «tutti gli
uomini», «persona», «cittadini», «essere umano», «tutti», «nessuno»,
«individuale», «umani», «uomini», o più recentemente «donne». L’uso di
un’espressione verbale o di un’altra non è neutrale. Il movimento dei diritti
delle donne, dalle rivoluzioni inglese e francese, no alle suffragette e, in ne,
negli ultimi decenni, il movimento contro le discriminazioni, mostrano
come la scelta di quelle parole non fosse neutrale o, quantomeno, che non
fossero state lealmente interpretate.
Questo è particolarmente evidente nella storia costituzionale americana.
La schiavitù e le sue conseguenze sono l’«oldest, ugliest, and most persistent
American constitutional problem», dicono Robert A. Goldwin e Art
Kaufman nella Prefazione del loro libro sulla schiavitù e le sue
conseguenze39. Essi sottolineano come «the great American paradox is that
while slavery and the race problems that followed from it are in integral part
of our history, slavery and race discrimination are not part of the
fundamental principles of the nation – and never had been»40.
Il Compromesso dei Tre-Quinti è forse il miglior esempio di un accordo
politico su una norma giuridica e sulle sottostanti entità naturali che la
norma regola. Le convenzioni del 1776, che portarono alla Dichiarazione dei
diritti della Virginia, chiaramente discussero la questione della schiavitù
sotto il pro lo se gli schiavi fossero membri della società o no (Edmund
Pendleton propose di aggiungere, dopo la parola ‘diritti’, «quando essi
entrano in uno stato di società»)41.
Perciò la questione si pose esattamente nei termini costituzionali di chi
avesse accesso alla società e ai diritti e alle libertà, anche se l’esito della
discussione fu di negarli. La Convenzione Costituzionale di Philadelphia del
1787, avendo lo scopo di evitare sia una sottorapresentanza degli Stati
schiavisti del Sud (che vi sarebbe stata se si fossero contati solo i bianchi in
Stati relativamente spopolati) sia una sovrarappresentanza degli Stati del
Nord (più popolosi, ma solo di bianchi), raggiunse un compromesso sulla
clausola del «numero federale», dando agli Stati schiavisti la possibilità di
contare i loro schiavi come parte della loro popolazione, ma solo per trequinti. Perciò, si può sostenere che ogni schiavo fu considerato, in termini
costituzionali, come «un essere umano in società» solo per tre-quinti42.
Problemi simili sono sorti per gli Indiani e per altre minoranze,
ovunque. Tutto questo è ben noto e ampiamento studiato, e conferma l’idea
del losofo Isaiah Berlin secondo il quale «le nostre concezioni di libertà
sono strettamente connesse alle concezioni che abbiamo su ciò che è una
‘persona’, un ‘uomo’. Basta manipolare a sufficienza la de nizione di uomo
per far assumere alla libertà il signi cato che vuole il manipolatore»43.
5. I nostri cugini agenti di IA
L’idea corrente secondo la quale l’azione considerata dal diritto sia per
de nizione un’azione compiuta da un essere umano, o più o meno
direttamente riconducibile a esseri umani, si rivela falsa. Alla ne, se si tiene
conto delle peripezie dell’agente umano nel diritto e la sua non necessaria
coincidenza con l’essere umano persona sica (come si vedrà in modo
approfondito nel Capitolo 7), la de nizione loso ca di «creature arti ciali
che in dati contesti possano apparire umani» appare meno irrealistica e
provocatoria: se anche gli umani sono artefatti (frutto della storia), gli agenti
di IA possono essere considerati nostri fratelli o cugini, ai quali ci legano
molte cose.
BRINGSJORD – GOVINDARAJULU 2018.
PRAKKEN – SARTOR 2015, p. 215.
3
Si veda SARTOR 2010, pp. 302-311.
4
COKE 1628. Il passo completo è il seguente: «Reason is the life of the law, nay the common law
itself is nothing else but reason. […] is legal reason est summa ratio. And therefore, if all the reason
that is dispersed into so many several heads, were united into one, yet could he not make such a law as
the law in England is; because by many succession of ages it had been ned and re ned by an in nite
1
2
number of grave and learned men, and by long experience grown to such a perfection, for the
government of this realm, as the old rule may be justly veri ed of it, Neminem oportet esse
sapientiorum legibus: No man out of his own private reason ought to be wiser than the law, which is
the perfection of reason». HOLMES 1881, Lecture I. Il passo completo è il seguente: «e life of the
law has not been logic: it has been experience. e felt necessities of the time, the prevalent moral and
political theories, intuition of public policy, avowed or unconscious, even the prejudice which judges
share with their fellow-men, have had a good deal more to do than the syllogism in determining the
rules by which men should be governed». Sul realismo nel pensiero giuridico e sui limiti del
razionalismo nel diritto va segnalato LEITER 2007.
5
Per la ricostruzione, in questo paragrafo, dei diversi approcci presenti nella ricerca di IA mi sono
avvalso del seguente lavoro (dal quale sono tratte anche le citazioni): BRINGSJORD –
GOVINDARAJULU 2018.
6
BRINGSJORD – GOVINDARAJULU 2018, pp. 35-38. Torneremo sul punto nel Capitolo 4,
paragrafo 4.4.
7
Si veda il Capitolo 5 di questo volume e anche Susskind nella parte che riguarda il futuro:
SUSSKIND 2017, pp. 191-192.
8
CHESTERMAN 2019.
9
GAGGI 2019, pp. 12-13.
10
McKinsey Global Institute, 10 imperatives for Europe in the age of AI and automation, October
2017: https://www.mckinsey.com/featured-insights/europe/ten-imperatives-for-europe-in-the-age-ofai-and-automation#section%204 (visitato il 9 aprile 2019).
11
PITRUZZELLA 2019.
12
Riprendo questa partizione da NALINI 2019.
13
Vedi KESSEL 2019.
14
Berkman Klein Center, e future of the decentralized web, disponibile presso
https://medium.com/berkman-klein-center/the-future-of-the-decentralized-web-707915f12360,
visitato il 2 agosto 2019, con interventi di Jonathan Zittrain e Tim Berners-Lee; Ethan Zuckerman,
inking in Solid, in «Medium», disponibile presso https://medium.com/@EthanZ/thinking-in-solid85e4f2c974c9, visitato il 2 agosto 2019. Per una collocazione della proposta nel dibattito sul
Panopticon si veda Capitolo 7.
15
REED, 2018 («Masterly inactivity in regulation is likely to achieve a better long-term solution
than a rush to regulate in ignorance»).
16
WALLACH – MARCHANT 2019. Si veda anche WINFIELD – OTHERS 2019.
17
GASSER – SCHMITT 2019.
18
Intervista su «La Lettura», 27 gennaio 2019, p. 12.
19
WINFIELD – OTHERS 2019.
20
Posizione espressa dal rappresentante dell’OCSE alla «Conference On e Ethics Of Science –
Technology, And Sustainable Development» (6 luglio) nel corso dell’11th (Ordinary) Session Of e
World Commission On e Ethics Of Scienti c Knowledge And Technology Of Unesco (Comest),
Bangkok, ailand, 2-7 July 2019. Si veda anche il documento OECD, Recommendation of the Council
on Artificial Intelligence, OECD/LEGAL/0449 (22 maggio 2019).
21
Informazioni dettagliate sul sito EUR-lex, nella sezione Diritti umani.
22
COM(2018) 237 nal, Comunicazione della Commissione al Parlamento Europeo, al Consiglio,
al Comitato Economico e Sociale Europeo e al Comitato delle Regioni, L’intelligenza arti ciale per
l’Europa {SWD(2018) 137 nal}.
Disponibile presso https://ec.europa.eu/digital-single-market/en/news/ethics-guidelinestrustworthy-ai. Una prima bozza del documento era stata pubblicata il 18 dicembre 2018 ed era stata
oggetto di una consultazione aperta che ha generato feedback da oltre 500 contributori.
24
Per un esame dei concetti di explicability e explainability si veda COECKELBERGH 2019, pp. 3134.
25
Si veda anche il documento EU Completing a trusted Digital Single Market for all, disponibile
presso https://ec.europa.eu/digital-single-market/en/news/completing-trusted-digital-single-marketall, aggiornato a maggio 2018 e consultato il 16 luglio 2019.
26
https://www.washingtonpost.com/opinions/mark-zuckerberg-the-internet-needs-new-ruleslets-start-in-these-four-areas/2019/03/29/9e6f0504-521a-11e9-a3f7-78b7525a8d5f_story.html?
noredirect=on–utm_term=.0a58c17039d0. Anche Keth Block, co-CEO del gigante Salesforce,
intervistato da Luca Salvioli per «Nòva» de «Il Sole 24 Ore», dichiara che «è un bene se arriveranno
maggiori regolamentazioni» perché il capitalismo responsabile «non è una scelta, o le aziende lo
realizzeranno da sole o saranno costrette» («Il Sole 24 Ore», 1 dicembre 2019, p. 16).
27
È l’opinione di Corynne McSherry, legal director of the Electronic Frontier Foundation, in
CONDLIFFE 2019.
28
BENKLER 2019.
29
In effetti la lista dei partecipanti e le affiliazioni colpiscono: si vedano a p. 48 del testo italiano.
30
SIMONITE 2019. A tale proposito va detto che le linee guida, al punto 134, prendono chiara
posizione sulle LAWS affermando: «sosteniamo la risoluzione del Parlamento europeo del 12
settembre 2018 e tutti gli sforzi correlati in materia di sistemi d’arma autonomi letali».
31
WALLACH – MARCHANT 2019.
32
Molto interessante l’iniziativa di cui a https://ethicsinaction.ieee.org, visitato il 30 dicembre 2019.
33
UNESCO World Commission on the Ethics of Scienti c Knowledge and Technology
(COMEST), Preliminary Study On e Technical And Legal Aspects Relating To e Desirability Of
A Standard-Setting Instrument On e Ethics Of Arti cial Intelligence, Paris, 21 March 2019,
available at https://unesdoc.unesco.org/ark:/48223/pf0000367422?posInSet=1–queryId=3cbc48e0b3bd-488e-879b-84c382cd577d. [l‘autore di questo volume, A.Santosuosso, è un membro stabile del
COMEST].
34
Il 21 novembre 2019, la 40a sessione della conferenza Generale UNESCO ha deciso
all’unanimità di elaborare una bozza di Raccomandazione sull’etica dell’IA.
35
RUSSELL – NORVIG 2010, p. 5.
36
Traduzione italiana: «tutti gli uomini sono per natura ugualmente liberi e indipendenti e hanno
alcuni diritti innati, di cui, entrando nello stato di società, non possono, mediante convenzione,
privare o spogliare la loro posterità […]».
37
Traduzione italiana consultabile sul sito http://www.dircost.unito.it: «Gli uomini nascono e
rimangono liberi e uguali nei diritti».
38
Traduzione italiana: «La dignità umana è inviolabile» (art. 1) «Ognuno ha il diritto al libero
sviluppo della propria personalità, in quanto non violi i diritti degli altri e non trasgredisca
l’ordinamento costituzionale o la legge morale. Ognuno ha diritto alla vita e all’incolumità sica. La
libertà della persona è inviolabile» (art.2) e «Tutti gli uomini sono uguali di fronte alla legge. Gli
uomini e le donne sono equiparati nei loro diritti» (art. 3).
39
GOLDWIN – KAUFMAN 1988, p. xiii.
40
Traduzione italiana mia: «il grande paradosso americano è che mentre la schiavitù e i problemi
razziali che seguirono da essa sono parte integrante della nostra storia, la schiavitù e la
discriminazione razziale non fanno parte dei principi fondamentali della nazione – e mai ne hanno
fatto parte».
23
WIECECK 1988; FEHRENBACHER 1988.
WIECECK 1988, p. 31.
43
BERLIN 1969, p. 200. Ho affrontato questi temi in miei studi risalenti: SANTOSUOSSO 2001;
SANTOSUOSSO 2002b, pp. 525-547; SANTOSUOSSO 2003 pp. 140-156. Quelle ri essioni
rimangono attuali come base per la considerazione degli agenti o soggetti nel nuovo mondo delle IT.
41
42
3. Essere avvocato nell’era dell’intelligenza
artificiale
e challenge is not just to automate current
working practises that are not efficient. e
challenge is to innovate, to practise law in
ways that we could not have done in the past1.
1. La professione del consigliare e difendere
Questo capitolo è dedicato al modo in cui le tecnologie d’intelligenza
arti ciale interagiscono con la professione di avvocato. In particolare, è
dedicato a un incubo e a un’ossessione che affliggono i professionisti del
diritto: l’incubo di essere sostituiti da macchine intelligenti e l’ossessione di
riuscire a predire le decisioni dei giudici e dei legislatori.
Sul piano generale le previsioni di Richard Susskind, nel suo Avvocati di
domani (Tomorrow’s Lawyers. An Introduction to Your Future), rimangono
valide e aggiornate, almeno no al 2017, anno della seconda edizione del
suo visionario saggio. Molti avvocati sono destinati a essere soppiantati dai
sistemi informatici e dalle macchine, anche se per ancora un decennio è
possibile che trovino forme di adattamento. Avvocato inglese, professore di
diritto, consulente di governi e uffici giudiziari in vari Paesi, consulente per
le Information Technologies del Lord Chief Justice dal 1998, Susskind si è
guadagnato una reputazione internazionale, specie nei Paesi di lingua
inglese, tanto da essere de nito dall’American Bar Association (qualcosa di
simile al nostro Consiglio Nazionale Forense) come l’indiscutibilmente
miglior analista e persona capace di predire l’evoluzione del mercato legale.
La professione del consigliare e del difendere oggi ha preso numerose
sfaccettature, spesso nuove rispetto al passato. Basti pensare che se, da un
lato, proseguono a ritmo elevato (recentemente molto anche in Italia) le
grandi fusioni di studi legali, che nel caso più rilevante hanno raggiunto la
dimensione di settecentocinquanta legali, per altro verso rimane, e sotto
certi pro li cresce, il ricorso alla formula boutique, che è un modo appena
un po’ esotico per dire che anche a dimensioni micro è possibile fornire un
servizio di buon livello, sempre che si sfruttino le possibilità tecnologiche
esistenti. A questo dilemma grande-piccolo, tuttora aperto2, va aggiunto che
cresce il numero e la tipologia di attività legali che non richiedono la
quali ca di avvocato. Vi sono società che organizzano l’attività legale nelle
forme di un servizio, a tempo o a risultato, fornito da persone scelte dal
committente all’interno di una directory (come Axiom Law) e anche piccole
entità, costituite da tecnici esperti in materie specialistiche e normative di
so law.
Questo non vuole essere un quadro completo. È soltanto un invito alla
clemenza del lettore verso le sicure mancanze che la discussione che segue
sul consigliare e sul difendere inevitabilmente avrà.
Il prossimo paragrafo (paragrafo 2) esamina e in buona parte sfata
l’incubo secondo il quale le macchine tolgono il lavoro; il paragrafo 3 va un
po’ più in profondità dei cambiamenti reali nell’attività degli studi legali; il
paragrafo 4 mette a fuoco la nuova interdisciplinarietà richiesta all’avvocato
oggi, il rapporto tra tecnologie di IA e informatiche, in generale, e i
cambiamenti che in questo campo stanno avvenendo anche in Italia. I
paragra 5 e 6 sono dedicati all’ossessione della predizione giuridica, alle
tecniche disponibili e ai limiti intrinseci dell’idea di predizione.
Le domande alle quali questo capitolo vuole dare risposta sono le
seguenti: com’è cambiata la professione di avvocato? Quante cose un
avvocato deve saper fare? E quanto del lavoro legale può essere fatto da un
non avvocato? Le tecnologie informatiche e l’IA come incidono? La
predizione delle decisioni dei giudici o dei parlamenti è possibile ed entro
quali limiti e con quale limite di fondo?
2. Saremo sostituiti da robot? L’incubo dell’avvocato (e non
solo)
Chi ricorda più le code di segretari/e davanti alle cancellerie di tribunali
e corti d’appello per depositare un atto o esaminare un fascicolo o altro? Ora
in molti tribunali e corti italiane quelle code non esistono più. Quel lavoro, il
«lavoro di cancelleria» non esiste più, soppiantato quasi integralmente dalla
possibilità di compiere quelle stesse operazioni attraverso il processo civile
telematico, dallo studio dell’avvocato e, nei piccoli studi, magari dallo stesso
avvocato. L’evoluzione sembra essere soltanto all’inizio, se è vero che il 35%
dei professionisti compie attività che paiono essere sostituibili da sistemi
automatizzati3.
Gli avvocati non sono i soli a essere preoccupati che il loro lavoro sia
rubato da robot e sistemi di IA. È uno stato d’animo condiviso con molti
altri professionisti e lavoratori, che temono la perdita di posti di lavoro per
l’ingresso e l’uso sempre più esteso di tecnologie informatiche, di
automazione e di IA. L’Italia è pienamente coinvolta in queste dinamiche,
quale settimo Paese al mondo per densità d’impiego di robot industriali
(dopo Corea del Sud, Singapore, Germania, Giappone, Danimarca e Stati
Uniti)4. Alcuni dati non sembrano lasciare speranza. Se nel 2018 la quota di
ore di lavoro occupata dalle macchine era del 29%, già nel 2022 è previsto
che diventi del 42%, con una rapida salita no al 52% nel 20255. Sono
cambiamenti importanti, se è attendibile la stima del McKinsey Global
Institute, secondo la quale no a un terzo della forza lavoro americana dovrà
passare a nuove occupazioni entro il 2030.
Nel lavoro del futuro è chiaro che le competenze soware siano sempre
più importanti, in tutti i campi. Trovare percorsi per un buon lavoro
nell’economia moderna è la s da più grande, che dovrebbe essere al centro
della preoccupazione dei politici, delle istituzioni universitarie (vedi
Capitolo 6) e di tutti gli enti coinvolti nella formazione. Vi sono anche alcuni
esperimenti interessanti, come quello della Holbertson School, fondata nel
2015 a San Francisco, che offre un programma di due anni per creare
ingegneri soware. La scuola è organizzata attorno a progetti di
apprendimento tra pari, con l’aiuto di mentori e senza insegnanti formali6.
Uno dei motti della scuola è «imparare a imparare»: we aren’t just learning
how to code. We’re learning how to learn – together.
La tecnologia sta rivoluzionando il lavoro di tutti, senza risparmiare
quello degli avvocati. Nell’oscillare delle previsioni circa i posti di lavoro, da
quelle apocalittiche a quelle più caute, la considerazione più realistica porta
a dire che, almeno nel breve periodo, è più probabile che le professioni siano
trasformate dalla tecnologia digitale, piuttosto che distrutte, e che
intelligenza arti ciale (IA) e robot stanno occupando i lavori più umili e
ripetitivi, mentre gli umani rimangono in posizione ineliminabile.
In verità è una rassicurazione limitata, e provvisoria, perché sempre di
più le macchine stanno imparando a compiere attività cognitive, che entrano
in diretta competizione proprio con quelle funzioni che no a poco fa si
ritenevano indiscutibilmente umane7. In una competizione, organizzata tra
un gruppo di venti avvocati esperti e un sistema d’intelligenza arti ciale, sul
compito di esaminare i rischi contenuti in cinque accordi di non
divulgazione (NDA), il sistema automatizzato ha risposto con un’accuratezza
del 94%, a fronte di una media dell’85% del gruppo di umani. E anche nella
velocità l’intelligenza arti ciale ha superato di gran lunga le menti legali
umane, impiegando solo 26 secondi per la revisione di cinque documenti,
mentre la velocità media degli avvocati umani è stata di 92 minuti (51
minuti il più veloce).
Si potrà certo notare che le NDA sono testi che disciplinano aspetti
limitati e, tendenzialmente, ripetitivi e che la competizione è stata
organizzata dal produttore di un sistema che è venduto agli avvocati
prospettando loro la possibilità di diventare lawstars8, ma, al netto degli
interessi commerciali, qualcosa di vero vi deve pur essere, almeno per
alcune attività.
D’altra parte l’intelligenza arti ciale e l’apprendimento automatico sono
già parte della nostra vita quotidiana, dalla possibilità di ordinare generi
alimentari e non via Alexa a Net ix, che suggerisce un lm o un programma
TV che ci potrebbe piacere, e non vi è nessuna speciale ragione per dire che
il lavoro dell’avvocato debba essere escluso da questo trend.
Si tratta di una modi cazione culturale e sociale di portata fuori dal
comune, modi cazione che è anche spinta dai grandi interessi economici
collegati, visto che secondo alcune stime il mercato globale dell’IA sta
crescendo esponenzialmente, con un valore aziendale globale che è previsto
passare dai 1,2 trilioni di dollari americani nel 2018 ai 3,9 trilioni di dollari
nel 20229.
3. Un po’ più in profondità
Il problema è in realtà complesso e non si presta a sempli cazioni.
3.1 Tecnologie abilitanti e tecnologie dirompenti
In primo luogo bisogna realizzare qual è l’intensità e la natura delle
modi cazioni. Torna utile a tal ne la distinzione che Susskind propone tra
tecnologie abilitanti (sustaining) e dirompenti (disruptive)10, dove le prime
sono quelle che sostengono e potenziano il modo in cui il lavoro
dell’avvocato viene svolto, mentre le seconde sono quelle che cambiano alle
fondamenta il funzionamento di uno studio legale. Un esempio della prima
è il sistema computerizzato della contabilità, mentre un esempio della
seconda è la macchina fotogra ca digitale, che ha superato completamente
la tecnologia della stampa chimica.
Nel campo dell’attività dell’avvocato sono dirompenti, perché scardinano
il tradizionale rapporto con il cliente, l’automazione documentale (document
automation), che consente di generare in pochi minuti bozze di documenti
(come contratti, atti destinati al giudizio, lettere e altro) che prima
richiedevano molto tempo11, la possibilità di essere connessi in modo
continuo (tramite computer, smartphone, tablets, videoconferenze e altro)
con gli strumenti e l’archivio dati del proprio studio legale, anche quando si
è sicamente fuori studio, i sistemi di informazione e guida online dei
cittadini con siti pubblici o privati, la possibilità per i clienti di accedere
direttamente a siti di risoluzione delle liti online, senza che vi sia l’intervento
di un mediatore umano (si veda Modria)12, l’analisi di grandi quantità di dati
e documenti (machine learning e big data analytics, una tecnologia di IA che
è appena all’inizio) e, in ne (ma si potrebbe continuare), la possibilità di
dare risposte automatiche a quesiti giuridici posti con linguaggio naturale
(legal question answering con IBM Watson). Anche se va detto che per gli
studi legali il rischio di affidarsi esclusivamente a questi sistemi è notevole e,
spesso (anche in grandi studi internazionali), il risultato ‘meccanico’ viene
passato al ltro di un professionista, per evitare errori che possano dar luogo
a responsabilità verso il cliente. Ma vi sono anche altri motivi. I grandi studi
legali non sono stati no ad ora molto entusiasti nell’utilizzo di queste
tecnologie, in quanto esse comportano un necessario ripensamento
dell’organizzazione e del sistema di avanzamento di carriera all’interno degli
stessi. Tra l’altro, sono proprio i più giovani, praticanti e junior lawyers,
quelli che usano le nuove tecnologie. Non è un caso, allora, se molte legal
startups nate di recente vedano tra i loro fondatori alcuni ex junior lawyers
degli studi internazionali più affermati.
Tutto il cambiamento è trainato da tre forze: la pretesa dei clienti di avere
di più spendendo meno (more-for-less), la liberalizzazione della professione
di avvocato e le tecnologie dell’informazione13.
Da notare che sono tecnologie che implicano un alto tasso di
digitalizzazione e l’uso di strumenti informatici di varia natura, che però
non sempre, né necessariamente, implicano l’uso di vera e propria
intelligenza arti ciale, che sarà il vero moltiplicatore di effetti e
trasformatore delle attività legali, dalla professione di avvocato a quella di
giudice o ricercatore.
3.2 Lavoro che va e lavoro che viene
Se è vero che sicuramente alcune attività spariranno o saranno molto
ridotte, come, per esempio, quelle degli addetti al data entry o, nel campo
dell’avvocatura, gli addetti al lavoro di cancelleria, che ormai, nel campo
civile, può essere fatto paci camente per via telematica, vi sono anche
attività inedite, che proprio le nuove tecnologie rendono necessarie. Vi è chi
ha censito 45 attività, nel campo della pratica legale, che no a solo qualche
anno fa non esistevano, come, per esempio, quella di esperto sulle questioni
legate al regolamento europeo sulla privacy (GDPR), sulla responsabilità da
uso di tecnologie di IA, come gli algoritmi e i loro bias, o sull’uso di
cannabis, o sul diritto di famiglia e della riproduzione con tecnologie di
fertilizzazione in vitro, sui dispositivi indossabili (wearable microchips) e
molte altre ancora14.
Susskind cita dieci nuovi lavori legali frutto del nuovo panorama sociale
e tecnologico15:
– Il legal knowledge engineer, che organizza e modella enormi quantità di
materiali giuridici complessi in modo che possano essere acquisiti come
standard di lavoro e/o inseriti in sistemi informatici.
– Intermediario tra avvocati e specialisti delle tecnologie, parlando la
‘lingua’ di entrambi i professionisti per facilitare la facilità
comunicazione.
– Ibrido giuridico che combina le conoscenze giuridiche con quelle del
business e/o altre competenze per servire clienti sempre più specializzati.
– Analista di processi giuridici, che ha l’abilità di valutare complessi
incarichi di clienti e delegare compiti speci ci ai subappaltatori o ai
fornitori più adatti per il completamento delle attività.
– Responsabile del progetto legale, che controlla i prodotti di lavoro e la
loro qualità e consegna ai clienti un pacchetto completo ‘puntuale e
sottocosto’.
– Scienziato di dati legali (legal data scientist16), che combina le capacità di
un avvocato con quelle di un scienziato dell’informazione per analizzare
le informazioni (ad esempio, identi care i modelli e le correlazioni tratte
da grandi serie di dati giuridici e non).
– Addetto alla ricerca e sviluppo, che sviluppa nuove tecnologie per
fornire servizi di assistenza legale a una vasta gamma di clienti, ognuno
dei quali ha diverse esigenze giuridiche e diversi livelli di so sticazione
legale e tecnologica.
– Esperto di risoluzione delle liti online (ODR practitioner), che fa
affidamento sull’esperienza di mediazione, consiglia i clienti sui tribunali
online e sulle pratiche avanzate di risoluzione delle controversie.
– Consulente legale di gestione, che fornisce consulenza legale, operativa e
servizi analitici per aiutare sia le aziende sia i clienti a determinare la
logistica a lungo termine.
– Legal risk manager, che incorpora le migliori pratiche da una varietà di
campi, compresa la tecnologia dell’informazione e la consulenza, per
identi care, valutare e monitorare i rischi legali come servizio proattivo
per i clienti.
È possibile che in futuro sorga un nuovo campo giuridico chiamato
«diritto dell’intelligenza arti ciale», come prevede Microso. Oggi il diritto
sull’IA è molto simile alla legge sulla privacy del 1998. Alcune leggi esistenti
si applicano già all’IA, come le norme sulla privacy e sulla responsabilità
civile, e stanno cominciando a emergere alcune nuove norme speci che,
come per le auto senza conducente. Ma il diritto dell’IA non esiste come un
campo distinto. Ancora non vi è nessuno che si autode nisca «avvocato di
IA». Entro il 2038, è lecito ritenere che la situazione sia diversa. Non solo ci
saranno avvocati che praticano il diritto dell’IA, ma tutti gli avvocati si
affideranno alla stessa IA per essere assistiti nella loro pratica17.
Tuttavia, la tecnologia, per importante che sia, non è tutto: Stephanie
Dangel, Margaret Hagan e James Bryan Williams, che pure nel loro lavoro
assumono le previsioni di Susskind come base e ne veri cano il tasso di
realizzazione, fanno notare come la concentrazione sulla sola tecnologia
possa oscurare bisogni di innovazione più ampi, e affermano che la
tecnologia che non sia centrata sugli umani non è la soluzione. Propongono,
quindi, il design thinking, che fornisce un abito mentale e i metodi che
portano a una maggiore comprensione di chi sono le persone per le quali si
sta facendo innovazione giuridica e quali strumenti, anche tecnologici, è
bene che siano usati per innovare. I futuri avvocati devono imparare a
trovare nuove vie di fare le cose18.
3.3 Una mappa dei lavori in uno studio legale
Un altro modo di precisare i contorni del problema è quello di esaminare
analiticamente quali sono le attività che vengono effettivamente svolte in
uno studio legale. Un’interessante, e originale, Mappa delle tecnologie
fondamentali nei servizi legali è stata stilata da Michelle Mahoney, direttore
esecutivo dell’innovazione presso lo studio King & Wood Mallesons19.
Il vantaggio principale della mappa è la vista dall’alto che fornisce delle
‘grandi’ tecnologie: come AI, blockchain e sistemi aziendali (cioè database)
no a tutti gli aspetti della pratica e della gestione dei clienti, come due
diligence ed e-discovery. Secondo l’autrice, è in corso una trasformazione
digitale delle industrie, delle imprese e, quindi, anche delle esigenze dei
clienti. Questa rivoluzione digitale si sta evolvendo a un ritmo esponenziale,
piuttosto che lineare, con tecnologie che consentono la fusione di risorse
siche, digitali e biologiche.
4. Un avvocato/giurista interdisciplinare?
In questo paragrafo vengono messi a fuoco alcuni aspetti cruciali emersi
nella precedente esposizione: a) la necessità di un avvocato/giurista
interdisciplinare, b) il rapporto tra IA e ITs e c) cosa sta accadendo in Italia.
4.1 Il legal design
Margaret Hagan, direttrice del Legal Design Lab presso l’Università di
Stanford, sintetizza così le abilità richieste a un avvocato oggi:
Noi avvocati dobbiamo imparare a lavorare in gruppi di esperti interdisciplinari. Gli
avvocati e gli altri professionisti legali possono essere molto esperti circa il contenuto del
diritto, ma ciò non signi ca che essi siano la persona giusta per progettare l’intervento capace
di affrontare il problema o per guidare il progetto per attuare questo intervento. Piuttosto, gli
avvocati devono cercare altri tipi di esperti, che hanno le competenze per affrontare
adeguatamente il problema e tracciare il percorso verso la risoluzione. L’avvocato dovrebbe
certamente fare parte del team interdisciplinare, prendere parte al processo di progettazione e
fornire indicazioni sugli aspetti giuridici. Ma l’avvocato deve cedere una parte (anche rilevante)
del processo decisionale di progettazione a designer professionisti, programmatori di
computer, neuropsicologi, economisti, educatori, psicologi, esperti di interazione uomocomputer e altri specialisti che hanno maggiore familiarità con la progettazione di prodotti e
servizi20.
Si può essere d’accordo o meno con questa visione, che probabilmente è
anche più radicale e esigente di quella di Susskind (già per i più alquanto
urticante). Essa non solo richiede di acquisire nuove conoscenze e abilità,
ma anche esplicitamente di rinunciare a quella centralità che l’avvocato
(specie nell’attività stragiudiziale) considera il bene più prezioso e il segno
della sua libertà. In effetti, lavorare in team signi ca sia mettere insieme più
persone, sia conoscere e controllare alcune dinamiche tipiche di quel
contesto.
La Royal Society, per esempio, sollecita le decisioni in ambito scienti co
prese in gruppo, perché di solito sono migliori, a patto però che siano
rispettate alcune regole, che ha sintetizzato in una lista di cosa è da fare e
cosa non: tra l’altro, evitare l’impatto che alcuni suoi membri in posizioni di
rilievo sociale possono avere sul gruppo (per esempio, l’indipendenza può
essere garantita raccogliendo le opinioni in modo anonimo), riconoscere
l’esperienza e la competenza di chi la abbia effettivamente, valorizzare le
informazioni nascoste perché espresse da minoranze o da persone dotate di
minore autorevolezza, s dare lo status quo e le prassi standard, essere pronti
ad adottare nuovi modi per affrontare problemi nuovi e a monitorare e
riconoscere i pregiudizi nascosti21.
La questione è molto sentita in ambito scienti co. Un editoriale della
autorevole rivista scienti ca «Nature», con il titolo Accettare la sfida della
scienza interdisciplinare, sostiene che affrontare le s de della società
attraverso la ricerca richiede l’impegno di molte discipline. Esempio tipico è
quello del cambiamento climatico, ma vale in tutti i settori, anche se si vuole
affrontare il tema delle cause del disadattamento giovanile in contesto
urbano e individuare le possibili risposte. Un programma del genere
richiede l’intervento di discipline come l’antropologia, la sociologia, la
psicologia, il diritto, l’economia no alla psichiatria, al sistema sanitario, alla
progettazione urbana e allo sviluppo neurobiologico. In casi del genere i
ricercatori accademici hanno bisogno di lavorare con partner non
accademici per capire i bisogni della comunità politica, il contesto e le
barriere strutturali e comportamentali. I ricercatori avrebbero anche
bisogno di imparare come i colleghi di altre discipline affrontano questi temi
e di inquadrare le questioni della ricerca in un modo reciprocamente
accettabile. Essi dovrebbero anche imparare a rispettare cosa è possibile in
ogni disciplina e come e quali spunti possono essere tratti.
Tutto questo è essenziale, ma, conclude l’articolo di «Nature», è più facile
da dire che da farsi: «all this is easier said than done, but it is essential»22.
Se non è facile in ambito scienti co realizzare l’interdisciplinarità, a
maggior ragione non lo è negli studi legali. Qui dovranno cambiare i
modelli organizzativi e, invece di aggiungere capacità professionali (skills) a
dipartimenti pre ssati, la nuova struttura organizzativa dovrebbe piuttosto
essere centrata sui team di progetto (project teams), costituiti da persone che
di solito lavorano in strutture diverse e che vengono aggregate per
raggiungere uno speci co obiettivo. In questo modo si dà maggior peso alle
capacità professionali, piuttosto che ai ruoli, alle competenze piuttosto che
alle posizioni formali (job titles), con l’effetto, tra l’altro, di trasformare costi
ssi in costi variabili23. Un’importante casa editrice giuridica presenta così
un suo corso su legal design:
La professione del legale è cambiata, rispetto a pochi anni fa. L’obiettivo dell’avvocato non è
più vincere le cause, ma intercettare gli elementi di crisi e anticipare soluzioni che evitano di
nire nelle maglie della giustizia. […] Il legal design è un ambito multidisciplinare che riduce la
complessità della comunicazione legale, trasformando i processi e rendendola utile e
comprensibile per il proprio interlocutore nale, grazie all’ausilio di elementi visuali. Il corso,
attraverso le simulazioni di casi pratici condotte da esperti di diritto del web, illustra ai giuristi
come rimuovere la complessità dall’esperienza nale del cliente per trasformarla in ciò che ha
chiesto: soluzioni chiare e utilizzabili24.
Ci si può chiedere quanti affermati o non affermati professionisti nel
campo giuridico (o anche nell’accademia: vedi Capitolo 6) abbiano un tale
abito mentale, tanto da preferire (pur di non cambiare) un servizio fornito
da una macchina. Ma, quanto è un problema di IA e quanto un problema
legato alle profonde trasformazioni che sono in corso e, ancora di più, in
arrivo? Sarebbe forse più utile conoscere le dinamiche avviate da Industria
4.0 piuttosto che una lezione accademica su IA e diritto (che pure non
farebbe male)? Un avvocato un po’ più aperto alla prospettiva offerta da altre
discipline sarebbe in grado di dare risposte più soddisfacenti ai bisogni dei
suoi clienti? Probabilmente si.
4.2 Sul rapporto tra tecnologie dell’informazione (IT) e IA
Si è già visto nell’introduzione di questo volume e lo si è sottolineato più
volte: l’intelligenza arti ciale è solo una parte, pur importante e in sviluppo,
delle tecnologie applicabili in ambito giuridico, che sono tecnologie di tipo
informatico o telematico, ma non necessariamente di IA. Per esempio, la
connettività via web, l’Internet delle cose e di ogni cosa (Internet of
everything), Industria 4.0, blockchain, Big Data (nel solo senso di accumulo
di informazioni) non sono tecnologie di intelligenza arti ciale in senso
proprio, anche se le connessioni tra i diversi campi vi sono, e sono in
aumento. Si pensi come con il sistema 5G, la connessione sia
incomparabilmente più veloce, l’Internet di ogni cosa ha uno sviluppo reale
e ampio, i dati scambiati sono molto maggiori in quantità, la tendenza
all’accumulo di grandi quantità di dati (Big Data) cresce e l’intervento su di
essi di tecnologie di IA e di analisi è lo sviluppo necessario. Forse vale la
pena di parlare in termini generali e comprensivi di information
technologies, in modo da tenere dentro tutto.
Sul versante delle professioni legali si può notare un’evoluzione
abbastanza rapida e interessante. Se Susskind nella prima edizione (2013)
non parla di IA, e nella seconda edizione (2016) dice che «l’idea
d’intelligenza arti ciale nel diritto ha catturato l’immaginazione degli
innovatori nella professione, dalle più importanti law firm no agli studenti
di giurisprudenza», ma l’in uenza dell’IA sul diritto nel breve tempo è
sovrastimata25, Zetterberg e Wojcik nel 2017 notano che alcuni studi legali
hanno interesse verso strumenti più avanzati come artificial intelligence (AI)
e natural language processing (NLP)26. A loro volta Stephanie Dangel,
Margaret Hagan e James Bryan Williams spostano il problema, dicendo che
sarebbe sbagliato pensare alla tecnologia come la risolutrice di tutti i
problemi. Michelle Mahoney, nella sua Map of fundamental technologies in
legal services, dà per scontato che l’IA sia una matrice essenziale delle attività
di uno studio legale, anche se con più di una casella ancora scoperta.
Probabilmente è, ancora una volta, fondata la previsione di Susskind,
quando afferma che nel prossimo decennio ci sarà ancora spazio per
l’utilizzo degli avvocati, che potranno trovare occupazioni alternative
rispetto a quelle classiche (la lunga lista di occupazioni alternative), ma
continuando a fare gli avvocati, più o meno, piuttosto che rimanere
disoccupati. Mentre la rivoluzione dispiegata è attesa per le decadi
successive, quando il processo informazionale e di comunicazione sarà
radicalmente cambiato.
L’IA corre e oggi sono ancora pochi gli avvocati che hanno abbracciato le
tecnologie in grado di trasformare la loro attività professionale, come
intelligenza arti ciale, machine learning, analisi predittive e blockchain.
Un sondaggio 2019, Future Ready Lawyers Survey, condotta per Wolters
Kluwer Legal & Regulatory da una società indipendente su 700
professionisti tra Europa e Stati Uniti (Italia compresa) in studi legali, uffici
legali aziendali e società di servizi alle imprese, ha preso in esame tre aree
per valutare lo stato attuale, le prossime priorità e la ‘preparazione al futuro’
degli avvocati:
Se l’insieme di questi strumenti rappresenta il presente e il prossimo futuro per la
professione legale, c’è una terza categoria che quando si parla di futuro farà la differenza: è
quella delle tecnologie in grado di trasformare l’attività professionale, come intelligenza
arti ciale, machine learning, analisi predittive e blockchain. Attualmente sono pochi, anche tra
i leader, i legali che già le hanno abbracciate (meno del 24% dichiara di comprenderle bene),
ma la loro crescita sarà esponenziale nei prossimi tre anni, con un uso raddoppiato intorno al
2022. A sorpresa i legali europei hanno compreso prima e meglio rispetto ai colleghi americani
l’impatto positivo di queste nuove tecnologie sulla loro attività. Anche l’aspetto generazionale è
rilevante: i millenial appaiono più in grado di comprenderle rispetto alla generazione X e ai
baby boomer27.
4.3 Uno sguardo alle tendenze in Italia
Dopo questo fugace sguardo sul dibattito nei Paesi di lingua inglese,
spostiamo l’attenzione verso l’Italia, dove il panorama sta cambiando
velocemente. Da un punto di vista quantitativo il 2018 è stato un anno in cui
i grandi studi legali italiani hanno raggiunto un fatturato di 2380 miliardi di
euro, con un incremento del 6.4% sull’anno precedente28.
Anche da noi sembra che l’attitudine media degli avvocati stia
cambiando verso le tecnologie informatiche. Nell’edizione 2019 di Avvocato
4.029 risulta confermata la tendenza a destinare una parte di impegno dello
studio legale al settore legal tech. In più sembra che gli studi legali non solo
investano ‘in’ tecnologia, ma che diventino essi stessi legal tech developers di
soluzioni customizzate, anche brevettate (tanto da potersi de nire legal tech
firm). Alcuni studi legali, almeno quelli di una notevole (per gli standard
italiani) dimensione, progettano in casa il proprio gestionale, brevettano
soware e puntano sull’intelligenza arti ciale. Sembra non esservi una
ricetta unica e una strada segnata, e ciascuna law firm sta costruendo il
proprio percorso con l’obiettivo di cogliere le opportunità che l’innovazione
tecnologica offre per un ripensamento dei propri asset, delle proprie
procedure, della propria capacità nell’offerta dei servizi – che siano
tradizionali o innovativi – oltre che con obiettivi di ‘mercato’, per
posizionarsi anche nel mondo digitale come partner di innovazione.
Inoltre, si manifesta la tendenza – pur timida – a integrare nello studio
professionalità tecnologiche. Le percentuali d’investimento sono contenute
tra l’1% e il 5% dei fatturati, e riguardano sia interventi di ICT – cioè
acquisto d’infrastrutture, soware, cloud – che di digital transformation (in
innovazione di processi)30.
Il gruppo di studi legali esaminati da Avvocato 4.0 sembra convinto che
«nei prossimi due anni anche nel campo degli avvocati ci sarà uno sviluppo
di sistemi di intelligenza arti ciale, soprattutto in una sua particolare
applicazione: quella dei predictive modeling solutions per a) prevedere e
limitare i rischi di costi (anche di reputazione) al cliente, b) individuare
opportunità transactional di mercato, c) ottenere idee sul singolo caso e
valutare le possibili soluzioni».
Certo, no ad oggi manca in Italia un’iniziativa del tipo di quella
francese, dove l’Ordine degli avvocati ha creato un incubatore che serve la
crescita delle startup del diritto, con lo scopo di servire la professione e
l’innovazione creando legami tangibili tra avvocati e aziende innovative31.
5. La predizione delle decisioni. Un’ossessione
dell’avvocato?
Nel lavoro dell’avvocato la predizione delle decisioni dei giudici è
indiscutibilmente un aspetto importante. Intanto, perché non è un problema
nuovo e, poi, perché ha molte facce correlate, che riguardano sempre la
predizione ma non necessariamente delle decisioni giudiziarie.
5.1 Predizione e certezza del diritto
L’antico, e a tratti ancora vivo, dibattito sulla certezza del diritto è, infatti,
e in buona parte, innervato proprio dalla prevedibilità delle decisioni sulle
controversie che sorgono tra cittadini. E in questo senso è qualcosa che va
ben oltre il, pur ragionevole, interesse dell’avvocato, in quanto riguarda il
funzionamento complessivo del sistema, di cui l’avvocato è parte. È singolare
che in Italia la ri essione sulla predizione veda una partecipazione forse
prevalente e un ruolo da protagonista da parte della magistratura32.
La certezza del diritto, tema evidentemente connesso con la prevedibilità
delle decisioni, ha molte facce: è un principio e un valore, in collegamento
con quello di uguaglianza; vive nell’interpretazione che la dottrina e i pratici
ne danno; cambia contenuto secondo l’idea di diritto che si ha, tanto che in
un sistema ispirato a un’ideologia legecentrica (alla francese, per intenderci)
diventa certezza della legge e, in un sistema dove maggior rilievo
(istituzionale o di fatto) ha la formazione giurisprudenziale, diventa certezza
dell’interpretazione/creazione giurisprudenziale del diritto e, in de nitiva,
possibilità del cittadino di fare affidamento sul sistema e sulle sue istituzioni.
Fenomeno quest’ultimo che si è accentuato in epoca recente a fronte della
complessità dei meccanismi di produzione del diritto (di cui si dirà
nell’ultimo capitolo) e dei fenomeni connessi alla globalizzazione giuridica33.
Nel diritto statunitense la predizione è, sin dalla ne dell’Ottocento, dal
famoso saggio di Oliver Wendell Holmes, Jr., individuata come la predizione
dell’incidenza della forza pubblica attraverso lo strumento delle corti34,
proprio perché il diritto è identi cato con una professione, quella
dell’avvocato, che viene pagato per consigliare se valga la pena andare o
resistere in giudizio o stare alla larga dai giudici, questo in società nelle quali
il comando della forza pubblica è conferito in certi casi ai giudici e alle loro
pronunce.
La predizione è in qualche modo la risposta che l’avvocato è chiamato a
dare al cliente che chiede cosa sia meglio fare. E, quindi, in quell’ambiente la
predizione è storicamente predizione della decisione dei giudici.
5.2 La previsione legale quantitativa
Nel corso dell’ultima decade il sorgere del fenomeno dei Big Data e lo
sviluppo dell’IA cosiddetta so o light hanno rinvigorito il campo della
predizione giuridica, che era prima dormiente.
Daniel Martin Katz, un giovane professore dell’Università del Michigan,
molto conosciuto negli USA e a livello internazionale per i suoi lavori in
questo campo, individua la crisi nanziaria del 2008 come l’evento che ha
fatto precipitare, anche nel campo della tecnologia dell’informazione
giuridica, una situazione le cui premesse erano già mature da tempo. Già nel
2013 informatica, computazione e tecnologia hanno avviato il cambiamento
di cosa signi chi sia la pratica del diritto sia «pensare come un avvocato».
Da un certo punto di vista il mercato dei servizi legali è in ritardo rispetto a
molti altri settori economici35. In ogni caso, è solo l’inizio.
Vale la pena soffermarsi brevemente su queste due componenti dello
sviluppo recente della predizione giuridica: IA cosiddetta so e Big Data.
In un articolo del 2010 Steven Levy dà il benvenuto all’arrivo dell’estate
dell’IA (Welcome to AI summer)36 dopo l’inverno nel quale era piombata
negli anni precedenti, apparentemente non fruttiferi, durante i quali il
tentativo era stato quello di emulare l’intelligenza umana: un obiettivo che si
era dimostrato elusivo, sul quale alcuni scienziati avevano perso il cuore e
molti altri i fondi investiti. L’estate sta nel fatto che si fanno fare alle
macchine le cose che esse sanno fare: è un’intelligenza arti ciale so, perché,
pur prendendo sempre a modello l’intelligenza umana, cerca di imitarne i
risultati e non i processi mentali sottostanti, dei quali si ha ancora una
comprensione molto limitata. Per alcuni tipi di problemi l’approccio basato
sul risultato si rivela un successo.
Quanto ai Big Data, i ricercatori hanno utilizzato algoritmi basati sulla
probabilità per ricavare signi cati da enormi quantità di dati e hanno
scoperto che non avevano bisogno di insegnare a un computer come
eseguire un compito; potevano semplicemente mostrare ciò che le persone
facevano e lasciare che la macchina capisse come emulare quel
comportamento in circostanze simili. I sistemi di machine learning
funzionano su grandi quantità di dati:
‘Big data’ refers to datasets whose size is beyond the ability of typical database soware
tools to capture, store, manage, and analyze. is de nition is intentionally subjective and
incorporates a moving de nition of how big a dataset needs to be in order to be considered big
data – i.e., we don’t de ne big data in terms of being larger than a certain number of terabytes
(thousands of gigabytes). We assume that, as technology advances over time, the size of
datasets that qualify as big data will also increase. Also note that the de nition can vary by
sector, depending on what kinds of soware tools are commonly available and what sizes of
datasets are common in a particular industry. With those caveats, big data in many sectors
today will range from a few dozen terabytes to multiple petabytes (thousands of terabytes)37.
Altre de nizioni più recenti pongono l’accento sull’importanza non solo
e non tanto del volume di dati, quanto della velocità di risposta, della varietà
dei dati suscettibili di analisi (strutturati, non strutturati, testo e
multimedia), della qualità dei dati, tra i quali la varietà incide per oltre due
terzi38.
In campo giuridico, l’uso dell’informatica ha portato alla creazione di
grandi corpi di informazioni semi-strutturate, che rende possibile la
tecnologia di previsione legale quantitativa. Questa tecnologia, nelle sue
diverse varianti, è per Daniel Katz la principale innovazione in arrivo nel
settore dei servizi legali. In questa prospettiva acquistano un suono diverso
le domande tipiche che un cliente fa a un avvocato o che un avvocato si fa
tra sé e sé: Qual è la nostra probabile esposizione? Quale sarà il costo della
causa? Cosa accadrà se lasciamo questa particolare disposizione al di fuori
di questo contratto? Come possiamo meglio gestire questa particolare
questione legale?
Sta di fatto che, generata da un modello mentale o da un so sticato
algoritmo, la previsione è una componente fondamentale del lavoro degli
avvocati e della guida che possono offrire ai loro clienti. Naturalmente un
avvocato di lunga esperienza può fornire predizioni con alto livello di
probabilità, ma, come fa notare Katz, questo tipo di competenza è molto
costosa e, comunque, è soggetta ai pregiudizi più meno controllati che tutti
gli umani hanno.
Quando si tratta di elaborare e derivare approfondimenti da dati su larga
scala o set di documenti, gli esseri umani hanno importanti limitazioni
cognitive, come l’anchoring, che è il pregiudizio (bias) costituito dalla
comune tendenza umana a dare una grande importanza alla prima
informazione ricevuta (che diventa l’ancora) quando si tratta di prendere
decisioni. O il confirmation bias che porta gli umani a sopravvalutare gli
elementi fattuali che confermano l’idea iniziale e a dare minor valore a quelli
che la contraddicono.
In pratica, anche se un umano ha accesso a tutte le informazioni
pertinenti, senza l’aiuto della tecnologia, è, in molti casi, impossibile che
riesca a elaborare in modo completo tutti i dati rilevanti o potenzialmente
rilevanti. Questa considerazione è il punto d’ingresso per la previsione legale
quantitativa, restando chiaro che la combinazione umano+macchina dà
sempre un risultato migliore di solo umano o solo macchina.
Ma quali sono gli aspetti sui quali la predizione è rilevante oggi nella
pratica legale? Non soltanto la decisione giudiziaria.
I clienti si chiedono quali saranno i costi prevedibili, cercando di
spendere meno, ma al tempo stesso si chiedono qual è la qualità
professionale del proprio avvocato, in generale e rispetto al problema
speci co, no alla previsione di quale sarà l’esito della controversia che si sta
per iniziare. Almeno teoricamente, se ci fosse un modello tecnicamente
appropriato e basato su un sufficiente numero di dati (data-driven model)
per valutare i diversi aspetti del problema sottoposto al legale e le azioni
possibili, esso potrebbe essere utile per i clienti consumatori e per gli stessi
avvocati, i quali potrebbero basare la comunicazione con i propri clienti su
dati provenienti da fonti accreditate e terze, senza trincerarsi dietro la
naturale imprevedibilità di qualsiasi azione legale o basarsi su valutazioni
soggettive e, di fatto, arbitrarie.
Tra i settori nei quali si è sviluppata la predizione negli USA si possono
ricordare le cause in materia di brevetti, o le class action in materia di frodi,
prevedendo la possibilità di una transazione e il suo livello economico, o sui
risultati che possono emergere in una e-discovery.
5.3 I principali lavori pubblicati di recente e le opzioni sul tappeto
Le tecnologie usate per la predizione sono basate su modelli di
ragionamento basati su casi o su algoritmi di machine learning, usati
separatamente o in combinazione tra loro.
Le tecniche di machine learning si basano sulle frequenze statistiche di
alcune caratteristiche per ‘imparare’ le corrispondenze tra caratteristiche e il
risultato cui si punta. Le tecniche basate sui casi sono centrate
principalmente sulla comparazione tra i casi.
La predizione delle decisioni dei giudici è stata al centro di ricerche sin
dal 1974, con una ricerca sull’esito dei casi in materia scale. Più di recente
sono stati usati sistemi di supervised machine learning, che ‘imparano’ da
dati che sono stati classi cati preventivamente da umani e che, sulla base
dell’allenamento su di essi, sviluppano previsioni. Il dataset di allenamento
comprende un insieme di esempi ai quali è stato associato un risultato.
L’algoritmo deve poi generalizzare quello che ha appreso nei dati di
allenamento a situazioni impreviste, sviluppando così una previsione. Tra i
tipi di algoritmi che sono stati usati vi sono gli alberi decisionali, che si
sviluppano su una serie di domande cui sono assegnate risposte e che
progressivamente riescono a cogliere e de nire caratteristiche sempre più di
dettaglio di un caso39.
Negli ultimi anni sono stati pubblicati tre lavori empirici che hanno
caratteri innovativi. Essi adottano tecnologie de nibili di IA su aspetti
diversi dell’esperienza giuridica: i primi due studiano le decisioni di corti
accomunate dal fatto di essere di alto livello (la Corte EDU, che è una corte
internazionale, e la Corte suprema federale degli USA, che è il massimo
organo giudiziario federale), ma molto diverse tra loro, e il terzo studia la
prevedibilità degli sviluppi legislativi in determinati settori. Li esaminiamo
sommariamente qui di seguito.
5.3.1 Le decisioni della Corte europea dei diritti dell’uomo
Nel 2016 viene pubblicato uno studio sulle decisioni della Corte europea
dei diritti dell’uomo e sulla loro prevedibilità40. Gli autori analizzano 584 casi
già decisi con sentenza e riguardanti le violazioni di tre articoli della
Convenzione europea dei diritti dell’uomo, quello secondo il quale «nessuno
può essere sottoposto a tortura né a pene o trattamenti inumani o
degradanti» (art. 3), quello che riconosce il «diritto a un equo processo» (art.
6) e quello che riconosce il «diritto al rispetto della vita privata e familiare»
(art. 8). Gli articoli sono stati scelti perché hanno dato luogo al maggior
numero di casi di cui fosse accessibile la sentenza41.
Si tratta del primo studio sistematico sulla predizione delle decisioni
della Corte basandosi soltanto sul contenuto testuale (e non, per esempio,
sulle attitudini dei giudici, come invece sarà nello studio USA). Questo tipo
di analisi è resa più agevole perché le sentenze della Corte EDU sono
strutturate secondo partizioni standard, secondo regole che la stessa Corte si
è data, la cui ultima versione è del 13 novembre 200642. Secondo la Regola
74, ogni sentenza deve contenere alcuni elementi identi cativi (come il
nome dei giudici e delle parti) e, per quello che rileva nello studio in esame,
un resoconto della procedura seguita; i fatti del caso; una sintesi delle
osservazioni delle parti; le ragioni di diritto; le disposizioni operative.
La premessa principale è che i giudizi pubblicati possono essere usati per
testare la possibilità di un’analisi basata sul testo per le previsioni ex ante dei
risultati. Il presupposto è che ci sia abbastanza somiglianza tra (almeno)
alcune parti del testo delle sentenze pubblicate e le domande presentate
davanti alla Corte per cause pendenti. Gli autori, quindi, hanno utilizzato i
giudizi pubblicati come sostituto del materiale cui non avevano accesso.
In sintesi, l’ipotesi era la seguente: se c’è abbastanza somiglianza tra le
parti di testo dei giudizi pubblicati e quello delle domande e delle memorie
depositate, sarà possibile prevedere i risultati che determinate domande
possono produrre.
Il risultato ottenuto è di assoluto interesse, visto che raggiunge il 79%.
Decisamente alto. Nella discussione, gli autori notano che il modo in cui è
impostato il fatto nelle sentenze determina la decisione più di quanto non
facciano le argomentazioni giuridiche. Traggono, quindi, la conclusione che
l’esito dello studio, di cui gli autori ribadiscono il carattere di mero inizio,
confermerebbe che tra i giudici, almeno quelli della Corte EDU, sarebbe
prevalente un approccio di tipo realistico, che dà maggiore rilevanza al
‘fatto’, piuttosto che un approccio formalistico giuridico, che farebbe derivare
la decisione dall’applicazione delle norme. Si tratta di un argomento
interessante, che, per la parte in cui riguarda il contenuto e il ruolo della
motivazione degli atti giudiziari verrà sviluppato nel Capitolo 4.
Qui, e senza nulla togliere al valore dello studio, si può rilevare il
carattere particolare della giurisdizione CEDU, che viene spesso tacciata di
sostanzialismo, per il modo in cui imposta le sue decisioni. È una
giurisdizione sovranazionale che, per la prima volta nel diritto moderno,
riconosce soggettività giuridica nell’agone internazionale a persone siche
che agiscono contro lo Stato al quale appartengono (mentre i soggetti del
diritto internazionale moderno sono, per de nizione, gli Stati e le entità
dotate di personalità giuridica pubblica). Ed è una giurisdizione che si è
trovata, e si trova, a dover far vivere le disposizioni della Convenzione, che
ha una struttura del tipo ‘dichiarazione dei diritti’, in oltre cinquanta Stati,
dotati ognuno di un proprio ordinamento costituzionale e con forti
differenze culturali e politiche43.
5.3.2 Le decisioni della Corte suprema federale degli USA
Nel 2017 viene pubblicato uno studio svolto su 28.000 decisioni della
Corte suprema federale degli Stati Uniti d’America44 distribuite su circa due
secoli, dal 1816 al 2015, e su 240.000 voti dei giudici della Corte. Giusto per
dare un’idea delle dimensioni si deve tenere conto che nell’ultima decade la
Corte ha emesso 70-90 sentenze per anno (term) e una media di 700 voti dei
giudici.
Gli autori hanno tratto le sentenze dal database della Corte, i cui
contenuti e la cui struttura sono particolarmente curati e affidabili45. Ogni
caso contiene no a duecentoquaranta variabili, tra cui variabili
cronologiche, circa l’origine del caso, variabili speci che dei giudici e
variabili di risultato. Molte di queste variabili sono categoriali, assumendo
centinaia di valori possibili; per esempio, la variabile ‘argomento’ può
assumere 384 valori distinti.
Nello studio gli autori si sono avvalsi di alcune classi cazioni che erano
già proprie del database della Corte (SCDB), come quelle riguardanti i
giudici, la sessione, la corte di origine, il nome dell’istante e della
controparte e altri, nonché l’origine del caso, i contrasti e la disposizione
delle corti inferiori, le ragioni della selezione del caso. Per ognuna di queste
variabili gli autori hanno convertito le variabili in modo binario46. Alle
variabili già disponibili presso il database della Corte gli autori hanno
aggiunto altre caratteristiche, come se vi è stata discussione orale per il caso,
il ‘comportamento’ di un giudice, se ci fosse o meno un riesame e la durata
(tra quando il caso era stato discusso e quando la decisione è stata resa) e,
in ne, il tasso di riforme e di dissenso.
Gli autori si sono posti due speci che questioni di predizione: se la Corte
nel suo insieme conferma o riforma lo status quo judgment e se ogni
speci co giudice vota in un senso o nell’altro.
Da un punto di vista tecnico hanno costruito un modello di predizione
machine learning (basato sul metodo random forest47) che tiene conto sia
delle decisioni della corte sia dei voti dati dai giudici. Gli autori riferiscono
di avere avuto predizioni accurate al 70.2% per la decisione nale del caso e
al 71.9% per il voto dei giudici.
Essi rivendicano una performance migliore rispetto al livello di
predizione di studi precedenti, rispetto ai quali costituisce un importante
progresso per la scienza della previsione legale quantitativa e presenta una
gamma di altre potenziali applicazioni. A differenza di studi precedenti, la
cui attendibilità era limitata alle decisioni prese da una corte in una
particolare composizione di giudicanti, il lavoro di Katz e Bommarito ha
caratteristiche tali che i suoi risultati possono essere estesi a tutto il periodo
di attività della corte, e non solo in una certa composizione.
5.3.3 Prevedere cosa farà il legislatore
Sempre nel 2017 viene pubblicato uno studio dedicato a un aspetto
diverso, e no a quel momento poco esplorato, della predizione: la
predizione degli sviluppi legislativi48. Sono evidenti i motivi di interesse nel
momento in cui si stanno impostando attività economiche o investimenti.
Il punto di partenza è costituito dal rilievo che dei quasi 70.000 disegni
di legge presentati al Congresso degli Stati Uniti dal 2001 al 2015, solo 2.513
sono stati approvati e diventati legge, circa il 4%. Con un approccio machine
learning è stata formulata la previsione della probabilità che una proposta
diventi legge.
Per la previsione è stato assegnato un valore a ogni frase di un disegno di
legge, con un modello linguistico che incorpori il vocabolario legislativo in
uno spazio vettoriale ad alta dimensione e semantic-laden. Questa
rappresentazione linguistica consente un’investigazione su quali parole, con
la loro presenza, aumentano la probabilità che una legge su un certo
argomento sia approvata. Per testare l’importanza relativa di testo e contesto,
è stato confrontato il modello di testo con un modello di solo contesto, che
utilizza variabili come, per esempio, se i promotori del disegno di legge sono
nella maggioranza politica49. La combinazione di testo e contesto è
importante per la previsione e l’analisi di sistemi complessi con esiti
altamente squilibrati correlati a dati testuali.
6. Cosa ci dicono questi studi circa la predizione
La predizione dei processi giuridici, legislativi o giurisdizionali su base
quantitativa richiede l’adozione di tecnologie informatiche e di IA che solo
negli ultimi anni hanno cominciato a essere usate su campioni di
dimensioni adeguate.
Alcuni problemi tecnici sono aperti. Un primo, generalissimo, riguarda il
presupposto implicito di ogni predizione basata su dati del passato: è
necessario, infatti, assumere che quei dati siano stabili, altrimenti la
predizione è per de nizione esposta a errori importanti. E noi sappiamo che,
per de nizione, quei dati non sono stabili, in quanto esposti a mutamenti di
ogni tipo, legislativi, giudiziari, politici, culturali e di altro genere.
Inoltre, nota Kevin Ashley, alcuni sistemi, quelli basati su casi (casebased e issue-based prediction), generano una spiegazione della previsione
che è comprensibile per i professionisti del diritto e gli avvocati. Sono
diverse, invece, le previsioni di machine learning (ML) basate su regolarità
statistiche dei dati (data-driven), poiché le regole che l’algoritmo ML
inferisce dai dati non ri ettono necessariamente le conoscenze o le
competenze giuridiche esplicite: esse potrebbero non corrispondere al modo
di ragionare di un esperto e ai criteri di ragionevolezza di un esperto
umano50. È il problema che si pone in generale per le applicazioni Big Data,
che danno all’utente risultati senza mostrare la combinazione precisa di
fattori che hanno prodotto quei risultati51.
Deve poi essere chiaro che gli studi esaminati non hanno scoperto quali
siano le caratteristiche che in uenzano la decisione, ma piuttosto hanno
attribuito un peso a quelle caratteristiche. E comunque il compito di indicare
quali siano le caratteristiche legalmente rilevanti è stato svolto da umani e
non da sistemi automatizzati. In sostanza, rimane aperto il problema
dell’annotazione dei materiali giuridici che vanno a costituire il dataset di
training dell’algoritmo: «to what extent can the features that predictive
models employ be identi ed automatically in the case texts?»52.
La strada che indica Ashley è la seguente: «Automatically annotating
case texts with features that re ect a case’s legal merits, along with other
argument-related information, makes it feasible to apply computational
models of prediction and argumentation directly to legal texts»53.
La predizione quantitativa è, a mio avviso, una strada promettente e
importante, come spiegherò fra breve, non solo nell’ottica stretta del
professionista che, per comprensibili scopi di affermazione nella
competizione tra legali, desidera essere in grado di fare previsioni accurate e,
quindi, più vicine alla realtà degli eventi venturi. Naturalmente vi è ancora
una parte importante di strada da percorrere per passare a un livello di
analisi e di previsione che si cali al livello delle corti di gradi inferiori,
davanti alle quali si svolge la gran parte del lavoro di giudici e avvocati, per
poter avere un’effettiva incidenza sulla professione legale.
Dovranno essere studi realizzati con tecnologie speci che rispetto
all’oggetto d’indagine. In altri termini, gli studi appena riportati adottano
tecniche e strategie di ricerca diverse tra loro, e ciò sia a causa del loro
carattere pionieristico, sia per la necessità di tarare lo strumento di ricerca
rispetto all’oggetto d’indagine. Infatti, per predire è necessario avere una
visione (precomprensione) dell’oggetto, e quindi un’idea del diritto (di cosa
esso sia e di come si formi e trasformi), delle caratteristiche dell’istituzione
che lo usa o dalla quale promana e del modo di operare, e cioè delle regole di
diritto che deve seguire, del modo in cui ragionano i giudici, e altro ancora.
Così, per esempio, è molto diverso lavorare su sentenze che hanno una
struttura prede nita in campi, come le sentenze della Corte EDU, e le
opinions della Corte suprema federale, che non hanno uno schema pre ssato
e che spesso sono il risultato di un’opinione di maggioranza della Corte, di
eventuali opinioni dissenzienti e di opinioni concorrenti (cioè opinioni di
giudici che condividono il dispositivo nale con la maggioranza, ma che
hanno raggiunto quella soluzione per vie diverse). Le opinioni dissenzienti o
concorrenti sono spesso importanti perché introducono nel dibattito
giuridico, anche in vista di decisioni successive, elementi e visioni giuridiche
che al momento non sono condivise. Per esempio, l’opinione concorrente nel
caso Skinner (1942) afferma, per la prima volta, l’esistenza di un diritto a
procreare come un diritto fondamentale che lo Stato non può violare (con la
legge sulla sterilizzazione eugenetica), mentre l’opinione della maggioranza,
che comunque affermava la contrarietà della legge al Bill of Rights, era basata
su argomenti diversi54. Certo anche le sentenze CEDU possono avere
opinioni dissenzienti, che però non in ciano lo schema e le partizioni che la
Corte si è autoimposta.
Così come è diverso decidere in quel margine federale, molto preciso e
limitato, in cui si collocano le decisioni USA, oppure avere da decidere su 50
giurisdizioni europee anche molto diverse una dall’altra (come è per la
CEDU).
Così come è ancora diverso essere un giudice di nomina statale oppure
di nomina politica (come sono i giudici americani, nominati dal Presidente
con audizione al Senato), nomina che legittima la domanda: «will the
Justices vote based on the political preferences of the President who
appointed them or form a coalition along other dimensions?»,
Ognuna di queste caratteristiche richiede strumenti d’indagine
appropriati e diversi, tanto che il rilievo meramente testuale dello studio
europeo potrebbe risultare non abbastanza selettivo negli USA, dove viene
dato grande rilievo al pensiero del singolo giudice.
Fatte tutte queste considerazioni è in ogni caso un bene che la nestra sia
aperta allo studio quantitativo di come i giudici decidono, una questione che
riguarda certo i bisogni di previsione degli avvocati, ma che riguarda i
giudici stessi e i cittadini tutti. A come i giudici decidono è dedicato il
prossimo capitolo.
7. Tre note, a mo’ di conclusione aperta
Nella letteratura di lingua inglese è ormai invalso l’uso dell’espressione
legal industry per riferirsi agli sviluppi organizzativi che l’avvocatura si trova
a fronteggiare per effetto delle tecnologie informatiche. Vi sono persino legal
technology venture create da studi legali, dove all’attività tradizionale della
consulenza e assistenza legale si somma una vera e propria attività di ricerca
e produzione di dispositivi tecnologici e servizi. Si veda il caso di Dentons,
Next Law Labs (http://www.nextlawlabs.com/news, al quale collabora anche
Daniel Katz), mentre in Italia vi è qualche esperimento su scala nettamente
più piccola (vedi sopra, paragrafo 4.3). Ci si può chiedere come l’avvocatura
italiana e gli avvocati italiani si possano sentire nei panni di… industriali.
La quasi totalità dei lavori sull’avvocatura e le information technologies
parla degli avvocati che trattano materie civili. Cosa ne è dei penalisti?55
Come reagiranno gli avvocati italiani alla informatizzazione del settore
giudiziario penale, che nalmente è avviata anche in Italia? Forse bisogna
distinguere per tipo di settore: il diritto penale commerciale o societario
potrebbero avere dinamiche simili al diritto civile. Se si pensa agli illeciti
accertati da CONSOB e Banca d’Italia, ai principi di revisione, molto lavoro
di standardizzazione sarebbe possibile, sia nelle fasi istruttorie, sia nelle
scelte ispettive e di controllo da parte di CONSOB e Banca d’Italia. Si può
pensare che il cambiamento che l’avvocatura civile sta vivendo in Italia (nella
propria organizzazione interna e in relazione al Processo civile telematico)
sia poca cosa, se rapportata alla rivoluzione mentale che il Processo penale
telematico richiederà agli avvocati penalisti?
E cosa ne è delle donne? Il mondo delle tecnologie dell’informazione e
dell’intelligenza arti ciale sembra avere poche donne coinvolte. Sarebbe
interessante indagarne le ragioni. È una storia segreta, come suggerisce Clive
ompson (THOMPSON 2019)?
Alla base del «lavorare diversamente» proposto da Susskind vi è un
concetto fondamentale, senza del quale non si riescono a cogliere i
cambiamenti successivi che egli propone: il decomposing. «Decomporre»
vuol dire letteralmente separare «into components or basic elements», cioè
separare qualcosa nei suoi componenti o nei suoi elementi di base. Il
qualcosa da decomporre o disaggregare sono le varie attività che un
avvocato pone in essere nella sua attività professionale. Così, per esempio,
l’attività di litigation è decomposta in document review, legal research, project
management, litigation support, electronic disclosure, strategy, tactics,
negotiation, advocacy. Analogamente l’attività che viene svolta nel corso di
una transazione si può decomporre in sotto attività di minore (più povero)
contenuto giuridico, come per esempio due diligence, legal research,
negotiation, bespoke draing, document management, legal advice, risk
assessment. Tutte queste attività di contenuto giuridico più povero (e,
soprattutto, aventi una maggiore omogeneità interna rispetto all’attività
aggregata prima della decomposizione) possono essere affidate a tecnologie
automatiche o a specializzazioni che consentono di ridurre i costi e avere un
risultato in tempi più rapidi (more-for-less). Ma il less è il risultato di
applicazione di nuove tecnologie e nuovi modi di lavoro, che è un aspetto
che apre al problema successivo della disponibilità di queste tecnologie e
della scala dell’attività di uno studio legale che permette di investire quel
tanto che consente di ottenere quel less. Della fragmentation del diritto si
parlerà nel Capitolo 8.
SUSSKIND 2017, p. 14.
FRIEDMANN 2016: l’autore ripropone nel 2019 lo stesso interrogativo
(https://remakinglaw rms.com/classic-is-biglaw-having-its-kodak-moment-asked-ron-friedmann/,
visitato il 20 giugno 2019) ma dice di non vedere, per il momento, sul mercato una reale alternativa ai
grandi studi legali (il caso Kodak è l’esempio tipico di una società con un marchio famosissimo e una
quota di mercato assai importante che perde il passo dello sviluppo tecnologico – foto digitali – e
fallisce).
3
Secondo una stima di McKinsey & Company ripresa in CHUI – MANYIKA – MIREMADI 2015.
4
La rilevazione, compiuta dalla International Federation of Robotics, è consultabile al sito:
https://ifr.org/.
5
Dati elaborati da WORLD ECONOMIC FORUM 2018.
6
Sull’esperienza della Holbertson School si veda LOHR 2018.
7
«e most easily disrupted area of the value chain is the lower, more commoditised end of the
spectrum of legal services, such as the reviewing of large amounts of documents. e adoption of
technology has elevated the type of work we do and the value we provide to clients. Our people can
now focus on higher-level, strategic services, rather than spending time on lower-value tasks. For
young associates, due diligence type activities were considered a rite of passage. Now, with these
technologies, their focus is on issues of more value to the client»: SCHNEIDER 2018.
8
LawGeex https://www.lawgeex.com/. LawGeex è uno degli sponsor del Global Legal Hackathon
2019.
9
Dati tratti da WOOD 2018. Si veda anche https://www.gartner.com/newsroom/id/3872933.
10
SUSSKIND 2017, p. 43; HONGDA et al. 2018.
11
Per esempio, Rocket Lawyer e LegalZoom.
12
https://www.tylertech.com/products/modria visitato il 22 agosto 2019.
13
SUSSKIND 2017, p. 3.
14
LAW 2050. A forum about the legal future, un’iniziativa del professore J.B. Ruhl presso la
Vanderbilt University (USA), https://law2050.com/2018/10/17/45-legal-practice- elds-that-didntexist-5-years-ago-or-even-yesterday/ visitato il 19 aprile 2019.
15
SUSSKIND 2017, p. 133 [traduzione mia].
16
Vedi CIMPANELLI 2019.
17
MICROSOFT 2018.
18
«Technology that is not human-centered will not be a solution»: DANGEL – HAGAN –
WILLIAMS 2018, p. 9.
19
MAHONEY 2019.
20
HAGAN 2016 [traduzione mia].
1
2
Royal
Society,
Making
better
decisions
in
groups,
disponibile
presso
https://royalsociety.org/-/media/policy/Publications/2018/making-better-decisions-in-groups.pdf.
Fondata nel 1660, la Royal Society è una istituzione accademica indipendente inglese dedicata alla
promozione dell’eccellenza nella scienza.
22
NATURE | EDITORIAL, Meet the challenge of interdisciplinary science. Problems of modern
society demand collaborative research. Nature 534, 589-590 (30 June 2016) doi:10.1038/534589b.
23
THOMAS 2017.
24
Presentazione del corso Giuffrè Francis Lefebvre su legal design, Maggio 2019,
http://g formazione.eduplanweb.it/EduPlanWS/Download/E/E01611201905FICAT_MI_LEGAL%20DESIGN_SEDE_1.pdf?
utm_source=mailup&utm_medium=email&utm_campaign=legaldesign2 visitato il 22 agosto 2019.
25
Dedicandogli il capitolo nale (SUSSKIND 2017, pp. 184-185).
26
Citato in ZETTERBERG –WOJCIK 2017.
27
PITTELLI 2019. Il rapporto può essere richiesto presso https://landinglegisway.wolterskluwer.com/2019-future-ready-lawyer-report-legal-departments-thank-you.
28
Dati stimati dal centro ricerche Legalcommunity.it e pubblicati sul «Corriere della sera», inserto
«Economia» del 10/06/2019, p. 53.
29
Gli studi legali che hanno risposto a un questionario dettagliato, proposto da Altalex, sono
Dentons, Hogan Lovells, Lexant, Lexia, Littler, Orrick, Rödl & Partner, Toffoletto De Luca Tamajo.
30
Claudia Morelli, Studi legali: parte la corsa all’innovazione… proprietaria I trend: gestionali
customizzati, brevetti soware e intelligenza artificiale, Altalex, 25 marzo 2019,
https://www.altalex.com/documents/udi-legali-gestionali-customizzati-brevetti-soware-intelligenzaarti ciale (visitato il 26 aprile 2019).
31
https://incubateur-ibp.com/ visitato il 10 giugno 2019. L’Ordine degli avvocati di Milano sta
esplorando tale possibilità. Da segnalare https://sweetlegaltech.com/ che mette insieme general legal
counsels di multinazionali e i rappresentanti delle aziende tecnologiche più avanzate nel mondo del
legal tech per confrontarsi in workshop a porte chiuse sull’analisi di casi concreti per testare la
rispondenza delle soluzioni offerte secondo un approccio partecipativo. L’obiettivo è di veri care non
solo quale sia la tecnologia più adatta a risolvere l’esigenza singola dello studio legale, ma di veri care
come le soluzioni tecnologiche riescano ad integrarsi tra loro e con quelle eventualmente già utilizzate
all’interno dell’organizzazione.
32
La rivista «Questione Giustizia» dell’associazione di magistrati «Magistratura Democratica»,
dedica ampia parte del Fascicolo 4/2018 al tema «Una giustizia (im)prevedibile?», pubblicando ben
diciotto contributi di notevole interesse. Tra questi mi limito a segnalare GROSSI 2018. La rivista è
liberamente accessibile online.
33
Si vedano, tra i tanti, GROSSI 2014; BOBBIO 1951.
34
HOLMES 1897, p. 1.
35
KATZ 2013.
36
LEVY 2010.
37
MANYIKA et al. 2011.
38
PEEK et al. 2014.
39
Sugli studi sulla predizione legale sin dal 1974, si veda ASHLEY 2017, p. 108 ss.
40
ALETRAS et al. 2016, «Previous work on predicting judicial decisions, representing disciplinary
backgrounds in political science and economics, has largely focused on the analysis and prediction of
judges’ votes given non textual information, such as the nature and the gravity of the crime or the
preferred policy position of each judge».
21
Il campione è selezionato secondo i seguenti criteri: «We then select an equal number of
violation and non-violation cases for each particular article of the Convention. To achieve a balanced
number of violation/non-violation cases, we rst count the number of cases available in each class.
en, we choose all the cases in the smaller class and randomly select an equal number of cases from
the larger class. is results to a total of 250, 80 and 254 cases for articles 3, 6 and 8, respectively.
Finally, we extract the text under each part of the case by using regular expressions, making sure that
any sections on operative provisions of the Court are excluded. In this way, we ensure that the models
do not use information pertaining to the outcome of the case. We also preprocess the text by lowercasing and removing stop words (i.e., frequent words that do not carry signi cant semantic
information)
using
the
list
provided
by
NLTK
(https://raw.githubusercontent.com/nltk/nltk_data/ghpages/packages/corpora/stopwords.zip)».
42
Rule
7a
–
Contents
of
the
judgment,
disponibile
presso
https://www.echr.coe.int/documents/rules_court_eng.pdf, visitato il 4 maggio 2019.
43
Sulla particolarità della giurisdizione della Corte europea dei diritti dell’uomo e sulle sue
implicazioni giuridiche generali si rinvia al Capitolo 8.
44
KATZ et al. 2017. Sul lavoro di Daniel Katz si veda anche https://www.lexpredict.com/.
45
Il database è diviso in SCDB Modern, che raccoglie materiali dal 1946, e SCDB Legacy, che
contiene i dati dal 1791: vedi http://scdb.wustl.edu/ visitato il 5 maggio 2019.
46
«For each of these variables, we follow standard practice and convert the categorical variables
into binary or indicator variables».
47
«Our model is based on the random forest method developed in Breiman L. Random forests.
Machine Learning, 2001; 45(1):5–32. https://doi.org/10.1023/A:1010933404324]». A p. 7 rivendicano,
inoltre, la superiorità della scelta tecnologica rispetto ad altre esistenti: «Random forests outperformed
other common approaches including support vector machines (LibLinear, LibSVM) and feedforward
arti cial neural network models such as multi-layer perceptron models implemented with Chollet F.
Keras:
Deep
Learning
library
for
TensorFlow
and
eano,
Github,
2015;
https://github.com/fchollet/keras».
48
NAY 2017.
49
«We predict enactment probabilistically. It’s important to make probabilistic predictions for high
consequence events because even small changes in probabilities for events with extreme implications
can have large expected values. Probabilities provide much more information than a simple ‘enact’ or
‘not enact’ prediction»: NAY 2017.
50
«Since an ML algorithm learns rules based on statistical regularities that may surprise humans,
its rules may not necessarily seem reasonable to humans. ML predictions are data-driven. Sometimes
the data contain features that, for spurious reasons such as coincidence or biased selection, happen to
be associated with the outcomes of cases in a particular collection. Although the machine-induced
rules may lead to accurate predictions, they do not refer to human expertise and may not be as
intelligible to humans as an expert’s manually constructed rules. Since the rules the ML algorithm
infers do not necessarily re ect explicit legal knowledge or expertise, they may not correspond to a
human expert’s criteria of reasonableness»: ASHLEY 2017, p. 111.
51
ASHLEY 2017, p. 120 dove cita REMUS – LEVY 2015, p. 62.
52
ASHLEY 2017, p. 120, p. 125.
53
ASHLEY 2017, p. 126.
54
La Corte suprema all’unanimità dichiara incostituzionale lo Habitual Criminal Sterilization Act
(Oklahoma), che prevedeva la sterilizzazione punitiva per i criminali abituali, perché vi sono «limiti
alla possibilità che una maggioranza rappresentativa legislativa possa condurre esperimenti biologici a
scapito della dignità e personalità e dei poteri naturali di una minoranza», mentre solo l’opinione
41
aggiuntiva di uno dei giudici parla della capacità di procreare come di un diritto fondamentale.
Sull’argomento si rinvia a SANTOSUOSSO 2001, p. 97 ss.
55
Vanno segnalati alcuni contributi recenti in materia penale: PARODI – SELLAROLI 2019;
GIALUZ 2019; BASILE 2019.
4. L’intelligenza artificiale e i giudici
e ultimate goal of all scientific methods is
reliable prediction of future events. Reliable
prediction is also one of the ultimate goals
of law. Successful prediction in law depends
on understanding the law, understanding
the facts and understanding the people, especially
judges1.
1. Verrà un giorno…
Al congresso IAIIL del 2017, Richard Susskind cita un passo
premonitore di Reed C. Lawlor del 1963:
Verrà un giorno in cui si sarà in grado di inserire un insieme di dati in una macchina che
ha al suo interno precedenti, regole di diritto e regole di ragionamento e in cui la macchina
sarà capace di offrire, passo dopo passo, il ragionamento attraverso il quale si può essere in
grado di arrivare a una decisione. Noi potremo studiarlo e decidere se la macchina ha proposto
qualcosa di giusto o sbagliato. In alcuni casi la macchina non dirà quale potrebbe essere la
soluzione, ma vi è una probabilità che la risposta sia corretta, e questa probabilità è del novanta
per cento2.
Questo capitolo è dedicato principalmente all’IA e al mondo della
giustizia e, quindi, a cosa cambia o stia cambiando nel modo in cui i giudici
decidono, in casi sia civili sia penali. Le domande alle quali dà risposta sono:
i giudici utilizzano tecniche di IA? Se sì, quali? E i giudici italiani? In che
modo tutto ciò incide sulle decisioni dei giudici? E sulla motivazione dei
loro atti? I giudici sono parte delle istituzioni dello Stato: in che modo questi
problemi si pongono nella pubblica amministrazione in generale? E negli
apparati di polizia? A che punto è la previsione di Lawlor? È preferibile
essere giudicato da un robot o da un umano (a proposito del caso Loomis)?
Un tabù è infranto (o, almeno, così sembra) il 3 e il 4 dicembre 2018, a
Strasburgo, dove la Commissione europea per l’efficienza della giustizia3 del
Consiglio d’Europa (CEPEJ) approva il documento European Ethical Charter
on the Use of Artificial Intelligence in Judicial Systems and their environment
e, così, accosta le parole ‘giudice’ e ‘intelligenza arti ciale’. D’intelligenza
arti ciale e giudici si può, quindi, parlare nei 47 Paesi del Consiglio
d’Europa e anche in Italia, nonostante diffuse resistenze (e qualche radicale
avversione).
Tra gli scopi dichiarati del documento vi è quello di accrescere la
prevedibilità del modo di applicazione della legge e la coerenza delle
decisioni giudiziarie. Proposito, questo, che conferma l’affermazione con la
quale avevamo chiuso il capitolo precedente, dicendo che la questione della
predizione delle decisioni non è solo interesse degli avvocati, ma un aspetto
importante del funzionamento dell’intero sistema giuridico e della società.
Soprattutto è un problema sociale unitario, che può essere guardato da più
parti, avvocati, giudici, apparati amministrativi, singoli cittadini e… altri
ancora. Secondo l’opinione risalente all’inizio degli anni Sessanta4 dello
scorso secolo, posta in esergo di questo capitolo, una predizione affidabile
dell’attività dei giudici dipende dalla comprensione scienti ca del modo in
cui il diritto e i fatti incidono sui decisori rilevanti, cioè i giudici.
Il documento CEPEJ si rivolge non solo ai giudici, ma anche a tutte le
istituzioni incaricate di prendere decisioni nel campo legislativo e
regolamentare sull’intelligenza arti ciale.
Nei prossimi paragra vengono prima (paragrafo 2) esaminati i
documenti e i progetti europei su intelligenza arti ciale e digitalizzazione in
campo giuridico e giudiziario, con un punto nale sullo stato dell’arte in
Italia. Viene poi posta la domanda se tutto ciò possa rientrare nel concetto di
IA (paragrafo 3). Il paragrafo 4 risponde alla domanda come decidevano,
decidono e decideranno i giudici (tra rule-based e data-driven decision
making). Il paragrafo 5 è dedicato alla motivazione delle sentenze e delle
decisioni pubbliche. Il paragrafo 6 contiene una proposta tra diritto e
tecnologia, improntata a un realismo temperato, dove la
motivazione/sentenza è de nita come «aggregato temporaneo di dati».
2. Giustizia, istituzioni europee e intelligenza artificiale
Negli ultimi due anni non vi è istituzione europea, intesa in senso ampio,
quindi non solo Unione Europea, ma anche Consiglio d’Europa e network
dei consigli superiori delle magistrature dei singoli Paesi UE, che non abbia
preso posizione circa l’uso dell’intelligenza arti ciale nell’amministrazione
della giustizia. È un segno dell’attenzione verso il tema e, anche, delle
preoccupazioni che sono presenti nelle nostre società, che portavano al
blocco anche del solo parlare di IA associata al diritto.
Qui di seguito esamino le iniziative principali e più recenti.
2.1 La Commissione europea per l’efficienza della giustizia (CEPEJ)
La Carta etica europea sull’uso dell’intelligenza arti ciale nei sistemi
giudiziari (European Ethical Charter on the Use of Artificial Intelligence in
Judicial Systems and their environment, 2018)5 dichiara apertamente che «nel
2018, l’uso di algoritmi di intelligenza arti ciale nei sistemi giudiziari
europei rimane principalmente un’iniziativa commerciale del settore privato
rivolta a compagnie assicurative, dipartimenti legali, avvocati e singoli
individui». Per il momento i giudici negli Stati membri del Consiglio
d’Europa non sembrano fare alcun uso pratico e quotidiano di soware
predittivi. Test locali e lavori accademici sono stati condotti per esplorare il
potenziale di queste applicazioni, ma non sono ancora state applicate su
vasta scala6.
Questo è il punto di partenza realistico, che avrebbe forse consigliato un
titolo meno altisonante, come Carta etica sugli usi, solo possibili o futuri,
dell’intelligenza arti ciale. Il documento inoltre è basato su dati
dichiaratamente scarsi e su una letteratura internazionale proveniente
prevalentemente dagli USA. Rimane, alla ne, l’importanza dei principi etici
enunciati in via ipotetica e per il futuro:
– Principio di rispetto per i diritti fondamentali: assicurarsi che la
progettazione e l’attuazione di strumenti e servizi d’intelligenza arti ciale
siano compatibili con i diritti fondamentali.
– Principio di non discriminazione: prevenire lo sviluppo o
l’intensi cazione di qualsiasi discriminazione tra individui o gruppi
d’individui.
– Principio di qualità e sicurezza: nel trattamento delle decisioni
giudiziarie e dei dati, utilizzare fonti certi cate e dati immateriali con
modelli elaborati in modo multidisciplinare, in un ambiente tecnologico
sicuro.
– Principio di trasparenza, imparzialità ed equità: usare metodi di
elaborazione dati accessibili e comprensibili.
– Principio ‘sotto controllo utente’: preclude un approccio prescrittivo e
garantisce che gli utenti siano attori informati e che abbiano il controllo
delle scelte fatte.
Il documento distingue, quindi, i diversi usi possibili. Alcuni vanno
incoraggiati, come le tecniche di machine learning per la ricerca della
giurisprudenza e la visualizzazione dei risultati, l’utilizzo di chatbots per
facilitare l’accesso alla giustizia, migliorarne l’efficienza rendendo possibile,
ad esempio, effettuare valutazioni quantitative e qualitative e fare proiezioni
circa le risorse umane e di bilancio necessarie. Altri usi richiedono
considerevoli precauzioni metodologiche, come, per esempio, il supporto
alla ricerca di soluzioni transattive in cause risarcitorie sulla base di
predizioni effettuate dalle compagnie assicuratrici, le soluzioni di liti con
sistemi online (per i quali è importante che le parti siano informate con
chiarezza) oppure l’uso di algoritmi nelle investigazioni criminali al ne di
individuare dove un crimine sta per essere commesso. Altri usi richiedono
ulteriori studi scienti ci, come, per esempio, la pro lazione dei giudici o la
previsione delle decisione dei giudici, o che vanno presi con estrema cautela,
come l’utilizzo di sistemi di pro lazione degli individui nei processi penali,
che può portare a esiti discriminatori e a effetti deterministici e il rischio
della cristallizzazione dei precedenti.
In conclusione, il documento esprime preoccupazione che possa essere
posto in pericolo il primato della legge e la sovrana discrezionalità del
giudice (si vedano i paragra 5 e 6 sulla motivazione). In ne, il documento
suggerisce i mezzi per monitorare questo fenomeno sotto forma di una
Carta etica, sottolineando la necessità di un approccio cauto all’integrazione
di questi strumenti nelle politiche pubbliche, con il coinvolgimento di tutte
le parti interessate, siano esse professionisti legali, società di tecnologia
legale o scienziati. Interessante la checklist nale, che consente di valutare
agevolmente se i sistemi che sono introdotti rispettano i principi etici
fondamentali.
2.2 Giustizia europea digitale
Promuovere la giustizia digitale è il titolo di uno dei progetti principali
del Network europeo dei consigli superiori della magistratura (European
Network of Councils for the Judiciary, ENCJ) per gli anni 2018-2021.
Quest’organizzazione, fondata a Roma nel 2004, sostenuta dalla
Commissione Europea e con un ufficio permanente a Bruxelles, è aperta a
istituzioni come il nostro Consiglio Superiore della Magistratura e analoghe
appartenenti agli altri Stati membri dell’Unione Europea7.
Il 4 maggio 2018, ad Amsterdam, il network discute di tecnologie
informatiche, inclusi l’intelligenza arti ciale e il legal design thinking. Dai
resoconti emerge la consapevolezza che digitale è la nuova normalità e che le
corti devono seguire il resto della società, che è già ampiamente avviata su
questa strada. I temi concreti in discussione sono, in verità, quelli di base, se
si vuole, della digitalizzazione e dell’uso delle tecnologie informatiche
(database di registrazione; automazione d’ufficio; sistemi di usso di
lavoro/gestione dei casi; comunicazione digitale; siti web) e delle correlate
difficoltà politiche, legislative (anche per gli effetti sulle norme procedurali),
nanziarie e tecniche (governance dei progetti IT e scelte tecniche
strategiche). Sono intraviste anche alcune opportunità in termini di
miglioramento dell’accesso alla giustizia, e dell’imparzialità e dell’integrità,
nonché l’eliminazione degli ostacoli ( sici, economici, informazione).
Detto tutto questo, e apprezzata l’apertura a un mondo in cui le
tecnologie informatiche sono la regola e non l’eccezione e, quindi, alla
necessità di un cambio di mentalità nel guardare alle procedure («Change of
mind – change the way we look at the procedure»), vi è veramente poco di
intelligenza arti ciale, nel senso proprio del termine, se non qualche
ri essione, più che altro speculativa, su se l’utilizzo (futuro) di tecnologie di
IA sia conforme al principio del giusto processo previsto dall’art. 6 CEDU,
che richiede che l’esito sia trasparente e che possa essere spiegato come si è
raggiunto un certo risultato. Una questione che si rivedrà più avanti a
proposito di motivazione8.
L’Unione Europea ha una visione più precisa e concreta, come dimostra
il Progetto di strategia in materia di giustizia elettronica 2019-2023 e il Piano
d’azione 2019-2023 in materia di giustizia elettronica, che vengono qui di
seguito descritti nei tratti essenziali.
Progetto di strategia in materia di giustizia elettronica 2019-20239
La modalità digitale delle procedure e la comunicazione elettronica tra i
soggetti coinvolti in procedimenti giudiziari sono per la Commissione
Europea un elemento essenziale del funzionamento efficace del sistema
giudiziario negli Stati membri. La giustizia elettronica europea è considerata
un mezzo per migliorare l’accesso alla giustizia in un contesto paneuropeo e
sviluppare tecnologie dell’informazione e della comunicazione. La giustizia
elettronica dovrebbe contribuire allo sviluppo del mercato unico digitale,
che è uno degli obiettivi dell’eGovernment10.
L’obiettivo è migliorare l’accesso all’informazione nel settore della
giustizia nell’Unione Europea (per esempio, EUR-Lex è stato arricchito con
nuove tipologie di documenti e strumenti di ricerca). Degno di nota il
richiamo alla dematerializzazione dei procedimenti giudiziali e
stragiudiziali, che dovrebbe essere proseguita al ne di offrire un accesso più
facile e più veloce ai tribunali e di agevolare il ricorso ai procedimenti
stragiudiziali mediante l’uso di strumenti sicuri di comunicazione
elettronica, segnatamente e-CODEX, in situazioni transfrontaliere.
Secondo il Piano d’azione 2019-2023 in materia di giustizia elettronica11
l’intelligenza arti ciale potrebbe svolgere un ruolo importante nel settore
della giustizia, in quanto potrebbe sviluppare strumenti pratici per
anonimizzare o pseudoanonimizzare automaticamente le decisioni
giudiziarie, rendere reperibili in modo veloce e affidabile informazioni utili.
I dati giuridici possono essere utilizzati in formato Open Data per aiutare i
cittadini, le imprese e le autorità giudiziarie a studiare e raccogliere dati al
ne di analizzarli e contribuire alle applicazioni che utilizzano tali dati,
anche avvalendosi dell’intelligenza arti ciale. Un vocabolario controllato e
identi catori come ECLI (European Case Law Identifier, Identi catore
europeo della giurisprudenza) potrebbero consentire di indicizzare il
contenuto e agevolare il trattamento di dati e il reperimento di informazioni.
L’intelligenza arti ciale può rendere possibile l’analisi di Big Data in ambito
giuridico. Il piano prevede lo sviluppo di uno strumento di IA per l’analisi
delle decisioni giudiziarie e lo sviluppo di applicazioni destinate all’uso da
parte dei magistrati nazionali. Il portale europeo della giustizia elettronica,
dal quale è possibile accedere a tutti i servizi digitali, è stato rinnovato nella
veste gra ca e arricchito con pagine informative, strumenti di ricerca e
moduli dinamici12.
Quello delineato dall’Unione Europea è un sistema imponente e
importante, che punta a essere (e in parte è già operativamente) a
disposizione di ogni operatore, cittadino, avvocato, giudice o altro. I sistemi
di giustizia elettronica possono essere utilizzati per facilitare il
funzionamento di varie reti esistenti a livello europeo, quali la rete
giudiziaria europea in materia civile e commerciale e la rete giudiziaria
europea in materia penale13. Vi è il limite, da non discutere qui, del carattere
volontario dell’attuazione di questo orientamento da parte di ciascuno Stato
membro. Tuttavia, nella misura in cui gli Stati si adeguano, la
dematerializzazione dei procedimenti giudiziali e stragiudiziali e tutta la
digitalizzazione, dalla pubblica amministrazione (PA) alla giustizia nei
diversi settori, produce quella massa di dati che è il presupposto materiale
per l’effettiva introduzione di tecnologie di AI: per ora una speranza, con un
occhio ai rischi per la protezione dei dati e l’etica.
2.3 Giustizia italiana e digitalizzazione
In Italia una parte notevole e crescente dell’attività giudiziaria viene
svolta con modalità digitali. Ciò riguarda il processo civile telematico, che è
l’espressione più avanzata, ma anche altri settori.
Il processo amministrativo (PAT) è diventato telematico dall’1 gennaio
2017 per tutti i nuovi ricorsi proposti davanti ai TAR (in primo grado) e
davanti al Consiglio di Stato (in secondo grado). Dal 1° gennaio 2018 il PAT
è applicato anche per i ricorsi che erano stati proposti prima del 1° gennaio
2017. I depositi di atti e documenti riguardanti tali ricorsi sono quindi
eseguiti in forma digitale secondo le nuove regole del PAT14.
Anche nella giustizia tributaria il processo tributario telematico (PTT) è
attivo dal 15 luglio 2017 su tutto il territorio nazionale. La digitalizzazione
delle fasi della noti ca, del deposito del ricorso e dei documenti comporta
vantaggi notevoli per tutti gli attori del processo tributario in termini di
sempli cazione, trasparenza degli adempimenti processuali e di durata del
contenzioso15.
Il processo civile telematico (PCT) è sicuramente la realtà più estesa e di
più ampia portata e rappresenta la realtà più avanzata di digitalizzazione16. È
applicato, sia pure in modo quantitativamente non omogeneo sul territorio
nazionale, nei tribunali e nelle corti d’appello, mentre, per quanto riguarda
la Corte di Cassazione è stata nel 2018 avviata la digitalizzazione dei sistemi
di cancelleria (SIC) e l’infrastruttura per avviare il processo civile telematico.
Ancora non è attuato presso il giudice di pace, dove è stato esteso per ora
solo l’impiego dei sistemi elettronici di gestione dei registri.
Per dare un’idea della realtà del PCT, basti considerare che, anche solo in
termini di accessibilità dei sistemi da parte di utenti esterni agli uffici
giudiziari, il sistema telematico, che rende disponibili i servizi telematici ai
professionisti e agli enti, ha registrato da gennaio 2014 a dicembre 2018 ben
32.678.329 di depositi da parte di avvocati e professionisti, con 8.600.000
depositi nel 2018. I giudici hanno depositato, sempre nello stesso periodo
2014-2018, 19.190.504 di atti (5.216.169 nel 2018), di cui 1.286.568 di
sentenze e 10.164.721 di decreti e ordinanze. Le comunicazioni telematiche
di cancelleria sono state (2014-2018) 72.906.104, in media 1.425.359 al
mese17.
Il processo penale telematico (PPT) è in una posizione più arretrata per
una serie di ragioni che non è questa la sede per approfondire. Tuttavia, vi
sono importanti segni di una ripresa del processo di digitalizzazione a
partire dal «Portale delle Notizie di Reato, la cui diffusione (per numero di
uffici di procura e per numero di fonti/tipologia di atti trasmessi) è in
continuo aumento, accompagnato da interventi sempre più capillari volti
alla totale integrazione, in attesa dello sviluppo del sistema unico, tra registri
e gestore documentale»18, mentre sono state poste le basi in alcune realtà
pilota per il usso completo di informazioni dalle Procure ai Tribunali, alle
Corti d’appello e alle Procure generali.
2.4 L’importanza dell’atteggiamento mentale
Un raffronto tra la realtà della digitalizzazione dell’attività giudiziaria in
Italia e negli altri Paesi non è tra gli scopi di questo saggio e porterebbe via
troppo spazio.
Si può sinteticamente ricordare come Dory Reiling, considerata una
leader della digitalizzazione a livello internazionale e chiamata a fare la
relazione introduttiva al meeting di Amsterdam del Network dei Consigli
Superiori, intervistata da Anne Wallace, dica che in Olanda « no a
settembre 2018, oltre 2000 casi erano stati trattati [in via telematica].
Tuttavia, la procedura non è stata implementata come previsto negli altri
nove tribunali di primo grado. Il motivo principale è che l’implementazione
sarebbe troppo impegnativa e richiede troppe risorse»19. Quanto al Regno
Unito, Richard Susskind annuncia con soddisfazione che, nalmente, dopo
34 anni di sue sollecitazioni, il 25 novembre 2015 il governo ha annunciato
un investimento di oltre 700 milioni di sterline per digitalizzare
integralmente le corti20. Mentre i numeri in Italia sono di ben altra entità!
Alla ne, un problema cruciale è quello della forma mentis dei giudici.
L’abito mentale richiesto per il lavoro giudiziario non aiuta l’innovazione. Il
lavoro giudiziario è rivolto a eventi passati e implica la decisione su chi ha
commesso errori in qualcosa che non è andato per il verso giusto. Innovare,
invece, signi ca sperimentare e sperimentare signi ca provare, e vi sarà
sempre qualcosa che non va bene. Ma se questo signi ca che è possibile
essere incolpati di ciò che non è andato bene, poche persone vorranno
correre questo rischio21. Alla ne il problema è quello di riuscire a cambiare
l’idea che le tecnologie servano a supportare le procedure cartacee, mentre
esse in realtà servono a innovare radicalmente i processi.
3. E l’intelligenza artificiale?
All’esito di questo rapido excursus su cosa sta accadendo nel campo delle
applicazioni tecnologiche alla giustizia in Europa e in Italia e su cosa si sta
discutendo a livello europeo e italiano, si può dire che al momento, e fatta
eccezione per le poche esperienze di cui si dirà più avanti e che riguardano
solo il processo civile, non vi è alcuna reale applicazione di tecnologie di
intelligenza arti ciale22. La discussione nei documenti esaminati è soltanto
teorica, tratta talora da esperienze e pubblicazioni in altri Paesi (specie USA)
e tesa a porre principi etici o giuridici per evitare la paventata rivoluzione
dell’IA.
Non vi è necessariamente IA nei processi di digitalizzazione, se, come
spesso accade, essi sono meramente intesi a trasferire su supporto digitale le
tradizionali attività cartacee o meramente intese alle comunicazioni
(giudici-avvocati-cancellerie-cittadini). È bene chiarire che si può parlare di
IA solo laddove la grande quantità di dati prodotti quotidianamente, in
contesti e in sistemi digitalizzati, sia organizzata in un modo che consenta
operazioni di big data analysis attraverso l’uso di tecniche di machine
learning, al ne di estrarre informazioni da quei dati. Ciò richiede una
struttura di raccolta e organizzazione di quei dati (con le loro caratteristiche
di dati strutturati, non strutturati e semistrutturati, dove strutturato sta per
leggibile e processabile da un computer, mentre esempio di dato non
strutturato è un’immagine), cioè di magazzini di dati (big data warehouse).
Il Ministero della giustizia italiano ha introdotto il datawarehouse della
giustizia civile per scopi statistici e di analisi organizzativa, e ora si propone
di
basare lo sviluppo dei nuovi sistemi sulla condivisione dei dati e la circolarità delle
informazioni: la valorizzazione del dato e della sua aggregazione si tradurrà nella
progettazione, realizzazione ed evoluzione di datawarehouse sempre più performanti. La
gestione del dato, nella prospettiva futura e più aderente alle attuali tecnologie deve infatti
superare la dicotomia di sistemi registro-centrici o documento-centrici. In particolare, gli
sviluppi in corso tendono al superamento della integrazione delle informazioni da evento con
le informazioni da atto ed alla costruzione di sistemi di rappresentazione cognitiva. L’obiettivo
è ottenere una piattaforma comune di informazioni, collegate tra loro ed interdipendenti le une
dalle altre in una unica catena del valore del processo23.
Questo è il salto oggi possibile e alle porte, con la consapevolezza che
importanti esperienze sono in corso a Singapore e in Corea del Sud24 e che,
da questo punto di vista l’Italia è in una posizione buona, che potrebbe
diventare anche ottima, se la costruzione di data warehouse si dovesse
accompagnare alla messa a diposizione dei giudici di strumenti tecnici che
consentano la produzione di documenti di buona qualità informatica25.
3.1 È meglio essere giudicato da un robot o da un umano? I nodi del caso Loomis
Il caso Loomis è diventato l’emblema della difficoltà di chiarezza nel
dibattito sulle applicazioni di IA in ambito giudiziario.
Il signor Loomis, condannato per una sparatoria in cui era coinvolta
anche la polizia, si è visto aumentare la pena per rischio di recidiva in una
misura che ha ritenuto eccessiva. Il difensore, intenzionato ad appellare, ha
scoperto che il giudice aveva quanti cato la pena facendo ricorso a un
sistema automatico chiamato COMPAS, sistema usato nelle corti americane.
Il caso è giunto no alla Corte suprema del Wisconsin, che ha ritenuto che
non vi fosse lesione del diritto al due process, perché l’uso del sistema
COMPAS non escludeva l’obbligo del giudice di spiegare quali fattori
aggiuntivi avessero portato a quella speci ca quanti cazione. Il sistema
COMPAS è un sistema privato basato sulla raccolta per molti anni di dati
statistici sui condannati, sui fattori di rischio presenti nei vari casi
(alcolismo, droga, prostituzione e simili) e sulle recidive. Il giudice,
inserendo i dati sui fattori di rischio del proprio imputato, riceve una
risposta statistica che proietta sul caso in decisione i dati contenuti nel
database.
La questione merita di essere messa a fuoco con cura26.
Se il problema è la proprietà privata del sistema COMPAS (o simili), con
i conseguenti diritti di privativa che escludono di conoscere nel caso
speci co la logica e il modo di funzionamento del sistema, ci si può
chiedere: se (in via meramente teorica) il Ministero della giustizia italiana,
invece di limitarsi a fornire computer e calcolatrici per i giudici penali,
fornisse anche un sistema del genere COMPAS, sistema preventivamente
conosciuto nella sua logica e architettura, discusso e approvato da ordini
degli avvocati e dai giudici, sarebbe esso accettabile? Se il sistema fosse in
mano pubblica e la sua architettura fosse conosciuta e condivisa dalla
magistratura e dall’avvocatura, sarebbe comunque da ri utare?
Se il problema sono i possibili bias del sistema (dataset e/o algoritmi
applicati), essi potrebbero essere oggetto di discussione preventiva e di
continuo monitoraggio applicativo, rimanendo fermo che il giudice può
giusti care i fattori aggiuntivi e particolari che portano a una
determinazione diversa (come ha ricordato anche la Corte suprema del
Wisconsin nel caso Loomis).
Se invece il problema è quello di affidarsi a un aiuto tecnologico nella
condanna ci si può chiedere: dovremmo fare più affidamento su un
ragionamento giuridico esclusivamente umano, nel quale possono annidarsi
bias cognitivi del giudicante (coperti talora da motivazioni apparenti),
piuttosto che su dati quantitativi, che possono essere ulteriormente discussi
prima della sentenza nale?
Detto tutto questo, contano anche le differenze culturali. Nel 2015, in
occasione di un dibattito sul futuro del diritto organizzato a New York dal
centro CodeX-e Stanford Center for Legal Informatics, il chairman chiese
al pubblico se avessero preferito essere giudicati da un robot o da un giudice
umano: l’uditorio rispose in stragrande maggioranza che avrebbe preferito
un robot. Qualche mese dopo, rientrato in Italia, in un corso intensivo
europeo su Neuroscience and Law, ebbi l’idea di riproporre la stessa
domanda. La prima risposta della maggioranza fu un tipicamente europeo
«dipende». All’ulteriore mia domanda «da cosa» furono date risposte che si
possono così sintetizzare: se sono innocente, preferisco un robot (che si
presume non commetta errori), mentre, se sono colpevole, preferisco un
umano che, tra errori e pietas, è più probabile che mi assolva.
4. Come decidevano, decidono e decideranno i giudici
(regole e dati)
Se il cambiamento nel modo di decidere dei giudici si dovesse misurare
sulla quantità di intelligenza arti ciale effettivamente applicata negli
apparati giudiziari italiani ed europei, si dovrebbe dire che nulla è, almeno
no ad oggi, cambiato.
Al solito la questione è più complessa. Come si è visto nello scorso
paragrafo, quello che è stato avviato, ed è sollecitato dalle istituzioni
europee, è un percorso di digitalizzazione dell’attività giudiziaria, che, pur
non essendo sinonimo d’intelligenza arti ciale, ne costituisce un
presupposto essenziale.
4.1 Effetti della digitalizzazione
A dispetto di quello che larga parte dei giudici italiani, che pure usano il
sistema Consolle, pensa, depositare una sentenza attraverso quel sistema non
è come usare una semplice videoscrittura. Per effetto di una digitalizzazione
avanzata (che produca dati strutturati o semi strutturati) il tradizionale atto
giuridico (sentenza, ordinanza, decreto, atto di citazione, comparsa, legge,
provvedimento amministrativo, eccetera), una volta inserito in un ambiente
informatico, subisce alcune trasformazioni importanti e correlate: in primo
luogo, si delocalizza rispetto al suo autore/produttore (in quanto, anche
materialmente, viene a trovarsi in un server, che può essere in un luogo
remoto, rispetto all’ufficio di provenienza). In secondo luogo, si trasforma da
documento compatto in aggregato di informazioni, che possono essere
disaggregate e che possono popolare ulteriori aggregati di informazioni, ai
quali possono contribuire soggetti diversi e in una posizione istituzionale,
professionale e personale diversa. Gli elementi di questi aggregati possono
persino appartenere a fonti sovranazionali, comunitarie o di altri Paesi
(posto che, da un punto di vista contenutistico, non si può escludere che un
caso o una fonte extranazionale sia concettualmente più prossima al caso da
decidere di quanto non lo sia una fonte o un precedente nazionale: sono
queste le dinamiche tipiche del diritto transnazionale)27.
Sono documenti (o informazioni o dati) di questo genere quelli sui quali
potranno applicarsi le tecnologie di IA e che, però, già oggi hanno prodotto
alcuni cambiamenti importanti nel lavoro dei giudici:
– I materiali di un fascicolo possono essere facilmente reperiti online
durante lo studio della causa o la decisione (monocratica o collegiale
della camera di consiglio), anche se l’ufficio di cancelleria è chiuso.
– Anche nella fase della decisione in Camera di consiglio è possibile
accedere, tramite uno schermo di dimensioni appropriate, a materiali
della causa, a banche dati, a fonti nazionali o internazionali.
– Il giudice può avere accesso ai materiali anche dalla propria abitazione o
dall’estero.
– Il processo si dematerializza e l’uso della carta viene eliminato o, almeno,
si riduce fortemente. Nel periodo giugno 2015- marzo 2017 l’utilizzo del
Processo Civile Telematico presso la Corte d’Appello di Milano ha
portato, oltre a una notevole riduzione dell’arretrato, anche a una
drastica riduzione del consumo di carta di circa il 38%.
4.2 Dalla grande quantità di dati a Big Data Analytics
Arrivati a questo punto, cosa accadrà quando su questa massa di dati,
che ogni giorno di più vengono prodotti nel processo civile e che stanno
cominciando a prodursi anche nel processo penale, si applicheranno
tecnologie di IA? Cioè quando su questi grandi dati si comincerà a lavorare
con strumenti di big data analysis e, dunque, di machine learning?
Questa realtà, ovviamente, non riguarda solo la giustizia. Alcuni
elementi dell’attuale panorama tecnologico sono chiari e ampiamente
descritti.
Siamo nell’era della quarta rivoluzione industriale, le cui caratteristiche
principali sono la connettività, l’intelligenza distribuita, l’industrializzazione
di ogni processo. Gli investimenti riguardano principalmente l’infrastruttura
cloud/digitale, con data center di grande capacità e comunicazioni dati ad
alta velocità. Le diverse sfaccettature di tale realtà sono: a) Internet di tutto,
che include il (diciamo vecchio) Internet delle cose (Internet of ings),
ovvero la connessione veloce attraverso il cloud (e 5G nel prossimo futuro)
di servizi, attività industriali, ospedali e tutti gli aspetti delle città intelligenti,
e l’Internet delle persone (Internet of people, quando le entità connesse sono
esseri umani: si veda Capitolo 7); b) l’enorme quantità di dati che producono
tutte queste connessioni; c) l’analisi dei big data come mezzo per governare
tutti questi dati e sfruttarli attraverso l’uso di tecnologie di apprendimento
automatico, cioè l’intelligenza arti ciale e la scienza dei dati.
L’analisi dei big data utilizza estensivamente metodi e strumenti di
machine learning, che rendono possibile esaminare grandi quantità di dati,
scoprire correlazioni nascoste e dedurre altre informazioni. L’analisi dei big
data è anche utile per progettare nuovi sistemi di ragionamento e decisione
automatizzati e autonomi. Si tratta di un settore in continua evoluzione.
Basti citare i Real-time Analytics, strumenti di analisi che realizzano risultati
in tempi molto brevi, o il motore di ricerca di Google Dataset Search28.
Naturalmente anche il mondo del diritto è coinvolto. Sotto due pro li, il
primo riguarda il diritto delle tecnologie, come diritto che regola le
tecnologie, con riguardo alla proprietà dei dati, alla responsabilità, alla
proprietà intellettuale, alla privacy, all’etica dei big data, all’etica della ricerca
su Internet. Il secondo pro lo riguarda il diritto come campo esso stesso di
ricerca con sistemi di analisi big data. In questo senso, il diritto è visto come
un’entità tecnologizzata in cui è possibile applicare l’analisi dei big data. E
naturalmente sono coinvolte anche le professioni degli avvocati e dei giudici.
Il processo decisionale basato sui dati come campo di ricerca sia nei
settori della scienza-tecnologia sia in quello sociale (e quindi etico e
giuridico) è una possibilità che si è appena aperta e, nonostante alcune
preoccupazioni diffuse, è ancora in gran parte inesplorato in profondità. Ma
quello che è chiaro sin d’ora è che big data does not equal big knowledge29,
almeno automaticamente.
4.3 Processi decisionali nell’era delle decisioni basate sui dati
Oggi le decisioni che vengono prese nei più diversi campi sono
distribuite lungo una scala che va dal processo decisionale basato su regole
al ragionamento statistico no all’apprendimento automatico e all’IA vera e
propria. Di fatto, il processo decisionale basato sui dati e il processo
decisionale basato sulla conoscenza tradizionale (come i sistemi basati su
regole) coesistono in diverse combinazioni a seconda dei campi di
applicazione, delle situazioni e, in gran parte, della disponibilità di dati.
Tuttavia, i due sistemi sono diversi per genere, ipotesi e ispirazione, tanto
che non si può dire che questa convivenza sia semplicemente
complementare. Sono allora necessari nuovi paradigmi etici e giuridici per
affrontare questi aspetti?
Sulla linea che va dalle decisioni basate sulle regole verso quelle basate
sui dati, sorgono alcuni noti problemi:
– Bias nel set di dati. La qualità e le caratteristiche del set di dati utilizzato
sono essenziali: da dove provengono i dati? Come vengono raccolti e
selezionati30?
– Bias negli algoritmi applicati. Anche per gli algoritmi applicati si pone un
problema di qualità e caratteristiche. Come affrontiamo i pregiudizi
umani inerenti? Può o dovrebbe questo processo d’imitazione rimuovere
i pregiudizi umani? Quali sono i pericoli di questo processo? Come può
un sistema legale salvaguardare la sicurezza e la riservatezza dei dati
personali necessari per addestrare tali algoritmi? Qual è l’attuale quadro
giuridico? Il nuovo regolamento generale sulla protezione dei dati n.
2016/17 è uno strumento adeguato?
– La spiegabilità dei risultati che l’IA ha prodotto. Ammesso che il set di
dati e gli algoritmi applicati siano di qualità e caratteristiche adeguate,
rimane il problema che questi processi non sempre sono spiegabili (per
il rapporto tra spiegabilità e motivazione delle decisioni giuridiche si
veda avanti ai paragra 5 e 6).
La domanda che si può porre è la seguente: se i giudici decidono oggi
seguendo le regole di diritto, con l’IA cambierà il loro modo di decidere, nel
senso che le loro decisioni saranno non più prese secondo le regole, ma
guidate dai dati forniti da sistemi di IA? Passeranno così da un sistema rulebased a uno data-driven? È corretta l’opposizione rule-based v. data-driven
decision making?
4.4 Decisioni giuridiche
A prima vista il processo decisionale giuridico, tradizionalmente basato
su regole (quale che ne sia la natura), è messo in discussione da sistemi
decisionali basati su analisi dei dati. Tuttavia. l’individuazione del vero
problema in gioco richiede una comprensione un po’ più approfondita.
È utile partire dal chiarimento di alcuni punti:
– «Processo decisionale basato su dati» non è sinonimo di «decisione
basata su prove», come potrebbe apparire dal tenore letterale delle parole
usate. Data-driven decision making non signi ca decisione evidence
based («basata su prove») in opposizione a decisioni arbitrarie: è un
modo diverso di ragionare e decidere.
– «Processo decisionale basato su regole» (rule-based decision-making),
inoltre, non è sinonimo di «decisione presa in modo giuridico», poiché il
processo decisionale basato su regole copre un campo meno ampio. Nel
suo senso proprio e più rigoroso, è il modo di decidere secondo una
regola scritta e chiaramente de nita. Frederick Schauer, autore di uno
studio fondamentale su come giocare secondo le regole, afferma molto
chiaramente che «il processo decisionale governato da regole è un
sottoinsieme del processo decisionale legale, piuttosto che essere
congruente con esso»31. Secondo la sua de nizione, molto esigente, se un
tribunale legittimamente nominato prende una decisione secondo il
criterio (pur previsto da una legge) del «miglior interesse» del bambino
o del paziente, o secondo il sistema di equità o determina l’entità di una
condanna penale (in cui un numero illimitato di fattori può svolgere un
ruolo), quel tribunale prende sicuramente decisioni legali, che però non
possono dirsi decisioni basate su regole, a causa della natura e della
qualità intrinseca della norma che è stato applicata (che non è
chiaramente de nita e che lascia ampi margini di ulteriore de nizione a
opera proprio del giudice).
– Nel campo più ampio delle decisioni giuridiche (che include quelle
basate sulle regole) si incontra un’importante divisione/opposizione,
come quella tra formalismo e realismo giuridico, dove il punto cruciale è
quello del ruolo che le regole svolgono nella decisione: se sono il criterio
e la guida per distribuire diritti e torti o sono solo una giusti cazione expost di una decisione presa secondo altre (personali, politiche, sociali,
emotive e più) ragioni. Il dibattito italiano sulla motivazione risente del
fatto che nel nostro Paese non ha mai avuto un riconoscimento
signi cativo la scuola del realismo giuridico, molto più attiva in altri
Paesi32.
– Un sistema di decisione basato su dati è un sistema in cui la decisione
viene presa in base a ciò che emerge dall’applicazione degli algoritmi di
apprendimento automatico. Da questo punto di vista è importante la
distinzione tra impostare «un problema in avanti [forward] e un
problema inverso [inverse]», dove l’approccio forward – che va dal
modello ai dati osservabili – è quello usato tradizionalmente in approcci
sperimentali o quasi-sperimentali, mentre «l’approccio inverso è il cuore
dell’apprendimento automatico», dove «si usano i dati osservabili per
costruire il modello piuttosto che usare il modello per assegnare peso
causale ai dati osservabili»33. In altri termini, il rapporto ipotesi-test, alla
base del metodo scienti co moderno, è invertito ed è l’analisi con
tecnologie machine learning di un appropriato insieme di dati a far
emergere un possibile modello da poi testare.
– In termini teorici, la questione della natura e dell’interpretazione dei
risultati prodotti con l’uso di algoritmi è cruciale. Seguendo l’analisi della
situazione proposta da Kevin Ashley (2017), «poiché un algoritmo di
machine learning (ML) impara regole basate su regolarità statistiche, che
possono sorprendere gli umani, le sue regole potrebbero non sembrare
necessariamente ragionevoli per gli stessi umani. Le previsioni ML sono
basate sui dati. A volte i dati contengono caratteristiche che, per motivi
spuri, come la coincidenza o la selezione parziale, sono associati ai
risultati dei casi in una particolare raccolta. Sebbene le regole indotte
dalla macchina possano portare a previsioni accurate, esse non si
riferiscono all’esperienza umana e potrebbero non essere così
comprensibili per l’uomo come le regole costruite manualmente da un
esperto. Poiché le regole che l’algoritmo ML inferisce non ri ettono
necessariamente le conoscenze o le competenze giuridiche esplicite,
potrebbero non corrispondere ai criteri di ragionevolezza di un esperto
umano»34.
In conclusione, si può dire che i sistemi decisionali basati sui dati e quelli
basati su regole hanno diversi vantaggi e svantaggi. I tipici problemi delle
decisioni basate sui dati sono la qualità dei dati raccolti e i modi delle loro
analisi e interpretazione, tanto che qualsiasi errore e/o pregiudizio in uno
dei passaggi può in uire pesantemente sulla decisione. Del tutto
diversamente, il problema dei sistemi decisionali basati su regole è che
basarsi su regole signi ca semplicemente che determinate regole sono state
seguite, indipendentemente dalla qualità e/o dall’efficienza della decisione
presa. Le combinazioni tra i due sistemi non sono agevoli e richiedono
accortezze particolari.
La risposta alla domanda sopra posta, circa il cambiamento che l’utilizzo
di sistemi decisionali data-driven induce nel lavoro dei giudici (come di
qualsiasi decisore), è che certamente vi sarà un cambiamento importante
nella logica della decisione. Ciò apre a un’ulteriore domanda: come possono
coesistere la natura intrinseca degli schemi emergenti dall’analisi giuridica (e
la loro limitata spiegabilità) e il diritto alla spiegazione delle decisioni
pubbliche, che disposizioni costituzionali fondamentali riconoscono?
5. La motivazione delle decisioni pubbliche
La motivazione dei provvedimenti giurisdizionali e, in generale, delle
decisioni pubbliche che riguardano speci ci individui è un punto realmente
critico nelle applicazioni di tecnologie di IA al diritto.
5.1 La preoccupazione in alcuni documenti internazionali
L’utilizzo di tecnologie di IA «è conforme al principio del giusto
processo»? Questa è la domanda che si pone il network europeo dei consigli
superiori (ENCJ) già citato sopra, richiamando l’Art. 6 CEDU, secondo il
quale l’esito del processo deve essere trasparente e deve poter essere spiegato
come si è raggiunto un certo risultato. Anche la Commissione europea per
l’efficienza della giustizia (CEPEJ, vedi sopra) si pone problemi analoghi. In
particolare, si chiede se l’utilizzo di tecniche di IA possa avere effetti quasi
prescrittivi, creando una nuova forma di normatività, che potrebbe integrare
la legge limitando la discrezionalità sovrana del giudice e portando, in una
prospettiva a lungo termine, a una standardizzazione delle decisioni
giudiziarie, che verrebbero a essere non più basate sul ragionamento caso
per caso dei tribunali, ma su un puro calcolo statistico. In de nitiva, il
problema è se «tali soluzioni siano compatibili con i diritti individuali
sanciti dalla Convenzione europea dei diritti dell’uomo (CEDU)», in
particolare il diritto a un processo equo (il diritto a un giudice naturale
stabilito dalla legge, il diritto a un tribunale indipendente e imparziale e
l’uguaglianza delle armi nei procedimenti giudiziari)35. D’altra parte, anche
l’art. 111 della Costituzione italiana prevede, sin dalla sua originaria
formulazione, che «tutti i provvedimenti giurisdizionali devono essere
motivati», un aspetto importante del diritto a un giusto processo.
Insomma, la motivazione delle decisioni giurisdizionali si presenta come
uno dei punti più delicati, forse il più delicato, del raccordo tra IA e principi
giuridici. Al punto da far ritenere impossibile o preclusivo l’utilizzo di
qualsiasi sistema di IA che impedisca la spiegabilità di ogni passaggio della
speci ca decisione giudiziaria come decisione dello speci co caso. Tali
posizioni, e preoccupazioni, sono perfettamente comprensibili e meritano la
massima attenzione (come si è visto a proposito del caso Loomis: paragrafo
3.1). Tuttavia, mi pare sia necessario, quando si pongono in luce i limiti della
decisione presa con l’ausilio di tecniche di IA, che s’individui esattamente
quale sia il termine di comparazione. In altri termini, bisogna spiegare cosa
si presupponga a proposito di motivazione quando si esclude l’utilizzabilità
di tecniche di IA nel corso di una decisione giurisdizionale: si presuppone
forse che, secondo quanto previsto dalle norme vigenti e quanto praticato
nelle corti, ogni passaggio delle decisioni debba essere o sia effettivamente o
potenzialmente spiegato o spiegabile?
La realtà presenta sfumature numerose e chiaroscuri che meritano
attenzione. Il tema della motivazione è molto complesso ed è stato trattato
numerose volte in dottrina. Qui di seguito faccio solo cenni ad alcuni aspetti
cruciali, a proposito di quale sia la natura della motivazione e cosa ad essa si
richieda, con lo scopo di proporre qualche argomento che possa contribuire
a ridimensionare l’ansia da spiegabilità della decisione, che sembra
pervadere alcune posizioni contrarie pregiudizialmente all’uso dell’IA nel
decidere. Per esempio si può cominciare ad accettare che gli umani hanno i
loro pregiudizi e un loro modo unico e non conoscibile di prendere
decisioni:
Non comprendiamo appieno il pensiero umano, ma accettiamo ancora i suoi errori. Se si
commette un errore in un test di matematica, si potrebbe essere in grado di tornare indietro e
capire dove si è veri cato l’errore e come risolverlo per la prossima volta. Ma nessuno ha idea di
come il cervello stesso sia arrivato internamente alle sue conclusioni! Le neuroscienze non
sono ancora a questo punto e non abbiamo grossi problemi a cavarcela senza quella
conoscenza. Se vogliamo affrontare alcune delle questioni etiche e giuridiche dell’intelligenza
arti ciale all’interno di settori sensibili agli errori, come l’assistenza sanitaria e la nanza, non
ha davvero senso lavorare sull’interpretabilità. Si tratta più di applicare l’IA nel modo giusto36.
5.2 Alle origini della motivazione
Da un punto di vista storico è una conclusione quasi universalmente
accettata tra gli studiosi che non esistesse un obbligo di motivazione sia nel
diritto romano, sia nel diritto antico e medio-antico, in genere, mentre l’idea
di fornire una spiegazione logico razionale della decisione iniziò a far
capolino col secolo dei lumi e al tramonto della visione ‘teistica’ del giudice
bouche de Dieux37.
Per quanto riguarda l’Italia, l’obbligo di motivazione risale alle
costituzioni giacobine di ne Settecento, con funzione principalmente
interna al processo a tutela dei diritti delle parti, mentre la funzione di
controllo esterno del potere giudiziario era rimesso alla Corte di cassazione,
cui era devoluto il controllo sulla attuazione del principio di subordinazione
del giudice alla legge38.
Come si è visto, in Italia è l’art. 111 della Costituzione a prevedere per la
prima volta in modo esplicito in un testo di legge non ordinaria39 l’obbligo di
motivazione. Ma se si volesse trovare un ricco dibattito sull’origine di tale
disposizione nei lavori preparatori, il risultato sarebbe deludente e a fatica si
troverebbero indicazioni circa i contorni e il contenuto dell’obbligo di
motivazione. Poco se n’è parlato nei lavori preparatori e, quando lo si è fatto,
è stato in considerazione di pro li del tutto particolari, come il ruolo delle
giurie popolari nei processi penali. L’unico ancoraggio certo è costituito dal
rinvio al principio di legalità, che, nello stabilire che «i giudici sono soggetti
soltanto alla legge», pone, per un verso, un argine alle pretese di controllo
del potere politico e, al tempo stesso, traccia un con ne all’interno del quale
i giudici sono autorizzati a esercitare il loro potere: l’operare nei limiti della
legge fonda il potere dei giudici e trova dimostrazione e conferma
nell’esplicitazione dei motivi che hanno portato a una certa decisione (art.
101, comma 2 della Costituzione).
D’altra parte, anche se riconosciuto in tutti gli ordinamenti affini al
nostro, non sempre l’obbligo di motivazione è esplicitamente previsto nelle
costituzioni o nei Bill of rights. Per esempio, la costituzione tedesca, il
Grundgesetz, non ha una norma corrispondente al nostro art. 111 Cost.,
tanto che «la giurisprudenza della Corte costituzionale dovette far
riferimento al ‘principio dello Stato di diritto’ per affermare l’obbligo di
motivazione, inteso come dovere generale dei pubblici poteri»40.
A livello delle carte internazionali né la Dichiarazione universale dei
diritti dell’uomo né il Patto di New York del 1966 né la Convenzione
Europea dei Diritti dell’uomo contengono l’obbligo di motivazione delle
decisioni giudiziali, pur prevedendo altre cautele, come la pubblicità dei
processi, l’imparzialità del giudice e il giusto processo.
In de nitiva si può dire che in epoca relativamente recente sia emersa
una sensibilità giuridica condivisa circa l’opportunità, e in una certa misura
l’obbligatorietà, che chi detiene il potere giurisdizionale, come qualsiasi altro
potere, debba rendere conto delle proprie decisioni argomentandole41.
Tuttavia, fermo restando il solido ancoraggio nei principi fondamentali degli
ordinamenti occidentali (essenzialmente il giusto processo e il principio di
legalità), l’obbligo di motivazione dei provvedimenti giurisdizionali non ha
un unico e univoco modo di essere riconosciuto e, soprattutto, di essere
inteso. Si può dire sinteticamente: motivazione vi deve essere, ma cosa essa
sia è ampiamente da vedere.
5.3 Profili teorici
A livello dottrinario molti pro li sono stati posti in luce.
Secondo la formula di più largo impiego, la motivazione è «l’espressione
dell’iter logico-giuridico attraverso il quale il giudice è pervenuto alla
decisione»42. In termini tecnicamente forse più precisi, e ridotta al minimo,
la motivazione può essere considerata come «l’insieme degli enunciati
linguistici formulati dal giudice in funzione giusti cativa delle proposizioni
che adempiono a un ruolo prescrittivo (dispositivo)»43. In epoca più recente
la motivazione della sentenza è stata ritenuta, sia sotto il pro lo della teoria
del linguaggio, sia anche della teoria generale del diritto (debitrice, per
questo aspetto, nei confronti della prima), un discorso giusti cativo, ossia
«un discorso atto a far risultare, mediante ragioni, che qualcosa è giusto»44.
Tuttavia, anche tali minime e comprensive de nizioni sono esposte a
critiche importanti. In generale è diffusa l’idea che i motivi espressi nella
sentenza siano incapaci di rispecchiare la ricchezza delle intuizioni e del
lavorio logico che ha guidato il giudice alla formulazione del dispositivo. Di
qui una degradazione del loro valore, ridotto alla stregua di apparato
formale destinato a manifestarsi come punto di emergenza di una realtà
dalle radici ben più profonde, anche se, è l’opinione di Amodio, «per le parti
la motivazione costituisca tuttora una garanzia ineliminabile oggetto di
costante invocazione».
Vi è poi chi fa notare che «la stessa natura giuridica della motivazione
non sia identi cabile al di fuori di un approccio globale del fenomeno». La
motivazione, quindi, può essere indagata e considerata sotto due pro li,
come segno linguistico e come fonte d’indizi. La motivazione segno riguarda
l’esposizione dei motivi con i quali il giudice comunica le ragioni della
decisione alle parti e al pubblico (e al giudice dell’impugnazione), mentre la
motivazione come fonte di indizi allude alla sua attitudine a esprimere, oltre
il suo signi cato intenzionale, altri fatti, quali lo stato psicologico, il livello
culturale, le opinioni e lo stato sociale dell’autore45.
Quali debbano essere i requisiti della motivazione è stato storicamente
oggetto di indagine da parte della Corte di cassazione, che, investita ( no
alla riforma del 2012) del controllo del rispetto dell’obbligo di motivazione
da parte dei giudici, ha adottato un concetto di motivazione con signi cati
assai diversi, «dalla pura e semplice esistenza gra ca dello scritto, alla
presenza di proposizioni che assumano come punto di partenza certi
contenuti, per giungere no alla pretesa dell’analiticità dell’accertamento o
della persuasività degli enunciati del giudice»46.
Un crinale interessante è costituito dalla visione della motivazione come
operazione logica (o persino psicologica) e come esposizione di tutti gli
elementi probatori assunti nel processo, che si riferiscono a un fatto da
accertare: in altri termini come il giudice seleziona ciò che è emerso nel
processo ai ni della motivazione in fatto. Nel processo civile, può valere
anche per i motivi in diritto che una parte ha fatto valere e che, sia se accolti
sia se rigettati, richiedono una spiegazione e risposta (vedi avanti).
Si pro la così un’opposizione tra una visione della motivazione come
oggetto/entità razionale in sé, i cui enunciati si giusti cano per la loro
reciproca coerenza interna e in relazione ad altri enunciati teorici, che
possono provenire da precedenti giudiziari e/o dalla dottrina (non
necessariamente che dia conto di tutto quanto emerso nel processo), e la
visione della motivazione come elaborato logico giuridico che contiene, e
deve contenere, una completa analisi delle questioni, di fatto o tesi di diritto,
emerse nel corso del processo (per esempio i fatti e le prove). La questione è
rilevante in sede di analisi delle decisioni e loro predizione (vedi Capitolo 3).
6. Una proposta tra diritto e tecnologia
Oggi ci si trova di fronte a tre tipi di difficoltà. Alle due principali
tradizionali, quella incarnata dalla corrosione scettica, tipica del realismo
giuridico, e quella della motivazione intesa in senso meramente formale
(staccata dal processo e dalle difese delle parti), si somma l’emergere dei
problemi di spiegabilità di elaborazioni eventualmente prodotte dall’uso di
sistemi di intelligenza arti ciale, preoccupazione quest’ultima di cui si fanno
carico i documenti internazionali citati sopra e un certo sentire diffuso.
Premesso che l’idea di fare semplicemente argine all’uso di IA non ha
molto senso, perché, ammesso anche che sia possibile, comunque lascerebbe
sul tappeto i primi due problemi, va ricordato che le diverse tesi tradizionali
riguardano e mettono in luce funzioni e aspetti diversi della motivazione,
che sono rilevanti e acquistano maggior peso quando si aggiungono i
problemi della spiegabilità. Alcune tesi considerano la motivazione come
mero sillogismo (dalla norma astratta alla sua applicazione al caso
speci co), altre come resoconto del percorso decisorio, altre come
razionalizzazione a posteriori, altre come esposizione che parte dallo stato
dell’arte (scopo/statement/dichiarazione di scienza).
Qui di seguito esaminiamo alcuni aspetti che assumono rilievo con
l’emergere del problema della spiegabilità dei risultati raggiunti con tecniche
di IA. L’obiettivo è di capire se, cosa e come il problema dell’explainability
aggiunga ai precedenti problemi e quali prospettive apra il possibile utilizzo
di tecnologie di IA.
6.1 La motivazione come razionalizzazione a posteriori
Un punto di partenza utile per la nostra indagine è costituito dalla
convinzione che la motivazione non sia rappresentazione del processo
decisionale. Che la motivazione non fosse o non potesse essere il «fedele
resoconto» del processo attraverso il quale il giudice giunge alla decisione
era chiaro già negli anni Cinquanta del Novecento, quando Calamandrei
sosteneva che essa fosse «l’apologia che il giudice elabora a posteriori della
decisione stessa»47.
Ciò autorizza il ricorso alla distinzione tra il momento dell’esplorazione e
della ricerca della soluzione (giuridica) di un caso (context of discovery) e
quello della sua giusti cazione (context of justification/explanation). In
termini pratici, un conto è il complesso percorso che il giudicante compie
per arrivare alla decisione della lite e «un altro è il discorso giusti cativo che
il medesimo costruisce, al ne di rendere conto della propria decisione»48.
Una visione di questo genere è, alla ne dei conti, in linea con le
previsioni normative.
Sono ben noti, e regolati dalla legge, i casi di manifesta scissione tra il
momento della decisione e quello della motivazione. L’art. 544 del Codice di
procedura penale prevede che «qualora non sia possibile procedere alla
redazione immediata dei motivi in Camera di consiglio, vi si provvede non
oltre il quindicesimo giorno da quello della pronuncia» e che, «quando la
stesura della motivazione è particolarmente complessa, […] il giudice […]
può indicare nel dispositivo un termine più lungo». Le regole di procedura
civile prevedono un’analoga possibile scissione tra momento decisorio e
momento di deposito della motivazione nelle cause in materia di lavoro (art.
420 cpc), dove è prevista la lettura del dispositivo e il successivo deposito
della motivazione, e in tutte le altre materie che applicano il rito del lavoro o
riti a esso ispirati (come nelle impugnazioni di sanzioni CONSOB o della
Banca d’Italia).
In tutti questi casi, penali e civili, il giudice decide di
assolvere/condannare/dichiarare/costituire o altro, e poi ha un termine per
motivare quell’antecedente decisione.
Si può quindi dire, a un primo livello di approssimazione, che, ben prima
dell’avvento dell’IA, la motivazione non è resoconto di tutto quanto accaduto
nel processo e nella fase decisoria, ma sua giusti cazione a posteriori.
Questo signi ca che vi è uno iato, o un possibile disallineamento, tra
motivazione e quello che un fedele resoconto potrebbe dire del percorso che
ha portato a quella decisione.
6.2 Tra il pensare e lo scrivere
In questo iato, che riguarda sia il tempo della stesura sia la natura stessa
dell’atto-motivazione (resoconto ≠ giusti cazione), si possono inserire
diversi elementi e considerazioni, di tipo sia teorico sia fattuale, cui qui di
seguito si fa cenno.
A livello teorico si considerino le applicazioni della defeasible logic, cioè
di quella logica che supera i limiti della logica monotonica (secondo la quale
il sistema giuridico è una base assiomatica, alla quale si applica una logica
monotona) e che, per evitare la derivazione di conclusioni incompatibili con
nuove norme prevalenti, accetta che tale base assiomatica sia modi cata
corrispondentemente. Nota Giovanni Sartor, a sostegno della necessità di
adottare una logica defeasible:
Nel ragionamento giuridico hanno particolare importanza i precedenti. In generale, il fatto
che un caso precedente P1 sia stato deciso in un certo modo fornisce una ragione per decidere
nello stesso modo un nuovo caso simile C, che condivida con P1, almeno in parte, gli aspetti o
fattori che hanno motivato la decisione di P1. Si tratta di una ragione defeasible, che può essere
superata da ragioni in contrario. In particolare, agli argomenti che richiamano il precedente
P1, si possono opporre considerazioni basate su aspetti o fattori la cui presenza o mancanza
distingue il nuovo caso C da P1, argomentando che tali differenze richiederebbero una
decisione diversa per C. Tali considerazioni possono essere rafforzate dal richiamo ad altro
precedente P2, nel quale si sia raggiunta una decisione diversa da quella di P1, e che condivida
con C la presenza di fattori assenti in P1 o l’assenza di fattori presenti in P149.
Premesso che quanto detto a proposito del precedente vale, con solo lievi
modi che, anche per l’applicazione di norme di legge, chiunque abbia un
minimo di dimestichezza con il modo in cui si giunge a una decisione
giurisdizionale non farà fatica a riconoscere in questa esposizione teorica
alcune dinamiche tipiche della formazione della decisione.
Lo studio preliminare della causa richiede, in una prima fase, la messa in
ordine dei fatti esposti dalle parti e delle norme/teorie giuridiche che esse
hanno indicato a sostegno delle domande proposte al giudicante. In questa
fase il giudice ipotizza applicazioni di norme/precedenti e procede per
tentativi e veri che delle priorità logico-giuridiche delle questioni e della
tenuta delle ipotesi prospettate. Realizzato un sufficiente grado di chiarezza e
convinzione, il giudice decide secondo un ragionamento (poi si vedrà
meglio quale) che è nella sua mente, nei suoi appunti, in una bozza di
sentenza, e poi, dopo aver formulato e letto il dispositivo50, fornisce il
quadro completo delle motivazioni in un testo (sentenza), che rende
pubblico attraverso il deposito.
Ogni persona, non necessariamente un giudice, che abbia esperienza di
scrivere, non dico un saggio teorico, ma anche una semplice lettera a
chicchessia (amico, familiare o amministratore di condominio), sperimenta
facilmente la delicatezza del passaggio dalla fase, magmatica o meditata, di
formazione di un’idea di quello che si intende scrivere nella lettera e lo
scrivere effettivamente una serie di enunciati che corrispondano a quell’idea,
e sperimenta tutta la differenza che può intervenire tra pensare un enunciato
e porlo in forma scritta. Questo accade quotidianamente ai giudici, che
talora scoprono ulteriori buoni motivi della decisione presa (intuita?) sulla
base dello studio preliminare e dell’esperienza e la difficoltà di porre una
sequenza di parole, frasi e concetti che abbiano un fondamento logico e
razionale.
Può capitare che si scopra che un fatto, al quale era stato dato un peso x,
in realtà ne abbia uno nettamente maggiore o minore. A quel punto la
decisione può cambiare nel tipo di giusti cazione che del dispositivo si dà,
che, a causa dell’emergere di elementi di fatto o di diritto che vadano in
senso contrario, deve seguire una via diversa da quella immaginata
inizialmente. Tutto questo, si badi bene, non è, e giustamente, oggetto di
rendiconto nella motivazione.
6.3 La ricchezza caotica del contesto della ricerca
Sempre a proposito di cosa possa collocarsi nell’intervallo logico
temporale tra dispositivo e motivazione, ci si può chiedere se possa accadere
che in questo spazio non oggetto di rendiconto si inserisca anche l’uso di
tecniche di IA, in occasione di una ricerca giurisprudenziale o normativa
avanzata o alla ricerca di un suggerimento argomentativo.
Una volta che siano rispettati gli obblighi di motivare secondo una
«razionalità di tipo ‘quasi-logico’» (di cui parla Patrizia Borsellino), correlata
a criteri logico metodologici comunemente ritenuti corretti alla luce di un
quadro di riferimento, anche normativo, di cui la prima cornice è
rappresentata dalla Costituzione, sembra difficile negare questa possibilità.
A meno che non si voglia negare l’uso in camera di consiglio di una
calcolatrice, di una scoperta a posteriori di qualsiasi natura, anche di un
fatto politico o una novità scienti ca, sempre che non si tratti di tecniche di
cui sia esplicitamente proibito l’uso o di elementi della decisione per i quali
sarebbe necessario suscitare il contraddittorio delle parti.
La possibilità di raggiungere una soluzione giuridica di un caso
utilizzando anche un sistema di machine learning o deep learning, che
produca un risultato che i giudici fanno proprio e che, dopo averlo fatto
proprio, riescono a giusti care in termini giuridici tradizionali, fa scandalo
solo se si assume l’idea che la motivazione debba essere una specie di verbale
di quanto accaduto nel corso del processo decisionale, che ha inizio con il
primo studio della causa e che si conclude con la camera di consiglio (e
anche dopo, no al deposito della motivazione). Ma, lo si è visto sopra, la
motivazione processo o rendiconto del percorso e dell’andirivieni, che ogni
causa un minimo complessa richiede, non è teorizzata o richiesta da
nessuno.
D’altra parte, anche il risultato dell’applicazione di tecnologie di IA a
dataset giuridici non può essere neanche mitizzato e può rientrare in quel
context of discovery, dove si fa ricorso e concorrono fonti ed elementi diversi.
Tra queste vi possono essere un libro sullo scaffale dello studio del giudice,
una ricerca in una banca dati messa a disposizione dell’ufficio, la memoria
personale di un giudice che ricorda un lontano precedente, l’intuizione di un
collega o di un judicial assistant (oggi presenti nei nostri tribunali e nelle
nostre corti sotto la denominazione di tirocinanti ex art. 73) o, perché no?, i
risultati di una esplorazione di un dataset con tecniche di machine learning.
Questi risultati, pur potendo apparire prima facie non corrispondenti alla
ragionevolezza umana (come ci ricorda Kevin Ashely: vedi sopra, ma anche
alcune opinioni espresse in camera di consiglio possono non essere
ragionevoli!), hanno comunque una natura che non può essere per ciò solo
causa di loro esclusione dal percorso decisionale.
Quei risultati possono essere l’invisibile che viene reso visibile, cioè
quello che è presente nell’esperienza giuridica che ha preso la forma di quelle
raccolte di dati e che noi non vediamo o perché i dati sono tanto numerosi
da essere defatigante, o di fatto impossibile, una nostra esplorazione, o
perché la nostra esplorazione è affetta da uno dei bias cognitivi umani (vedi
sopra) che ci impediscono di vedere qualcosa che pure sarebbe sotto i nostri
occhi e che, invece, un sistema automatico (che avrà altri bias, ma non i
nostri) riesce a correlare. Tutto sommato, e al netto della distanza di tempo,
non siamo lontani dalla visione di Norberto Bobbio:
non diversamente da un artigiano che sia insieme anche un artista, questi strumenti il
giurista non se li trova già pronti per l’uso davanti a sé: per usarli deve prima di tutto andarseli
a cercare (e qualche volta sono lontani e nascosti), poi foggiarseli secondo lo scopo proposto, e
talora anche fabbricarseli con le proprie mani51.
Lo vedremo poco più avanti. Intanto quello che è importante è che il
coacervo, talora disomogeneo e apparentemente disordinato, della fase di
discovery, trovi il modo di prendere la forma e di metamor zzarsi in un
testo ispirato a quella razionalità che Patrizia Borsellino dice di «tipo logico
o ‘quasi-logico’», degno del nome «motivazione». Questa idea, però, non è
condivisa da chi sostiene che la decisione/motivazione resa sulla base delle
risposte date da un sistema di IA sia irrimediabilmente in ciata dalla natura
di black box di quel sistema.
6.4 Scatole nere: una metafora non chiara
Secondo un’idea corrente la maggior parte dei sistemi di apprendimento
automatico (machine learning), e soprattutto quelli di deep learning, sono
essenzialmente scatole nere (black boxes), in cui non si può davvero
controllare come l’algoritmo raggiunga il risultato che raggiunge.
La black box è una metafora atecnica e suggestiva, al pari di altre, come
per esempio essere un ‘oracolo’52. In realtà, come si è visto per la motivazione
in generale, anche la comprensione di cosa venga considerata una scatola
nera richiede una chiari cazione su cosa si intenda per spiegazione. La
scatola nera, infatti, si de nisce proprio in opposizione a quello che è
ritenuto spiegabile o spiegato, rispetto al quale la scatola nera, per la quale
conosciamo solo gli stimoli in entrata (input) e le risposte in uscita (output),
si presenta come un’unità le cui operazioni interne non possono essere
oggetto di indagine53.
È stato fatto notare che la spiegazione può essere intesa in almeno due
modi. Se si chiede a una persona perché ha fatto qualcosa (sempre che si
tratti di una decisione presa con attenzione) si parte dal presupposto che la
persona abbia avuto una buona ragione per aver agito in quel modo e,
fondamentalmente, ci si chiede quale sia stato il ragionamento attraverso il
quale quella persona ha preso quella decisione, e ci si aspetta che abbia
pesato i pro e i contro e abbia scelto una linea d’azione in previsione di un
risultato atteso.
Se invece, ed è il secondo modo di intendere la spiegazione, ci si chiede
perché qualcosa sia andato storto, si sta chiedendo una sorta di spiegazione
a posteriori di un fallimento. Ad esempio, dopo un incidente d’auto, si
potrebbe volere una spiegazione di cosa ha causato l’incidente. L’autista era
distratto? Un’altra macchina lo ha fatto sterzare? In questo caso, più che un
ragionamento, si cerca, più o meno, l’evento critico che ha causato una
reazione particolare al di fuori del normale comportamento54.
La spiegazione che si vorrebbe ricevere o che ci si aspetterebbe, quando
si pensa all’intelligenza arti ciale, sembra essere quella del primo tipo (la
ragione per la quale abbia scelto una linea d’azione sulla base di quale
risultato atteso), anche se per lo più i sistemi sono simili al secondo tipo;
cioè, ricevono stimoli ai quali reagiscono. Di solito, quindi, bisogna
prendere atto che è più difficile capire le ragioni per le quali è stata presa una
decisione particolare.
In realtà, i sistemi di machine learning e di deep learning non sono scatole
nere, nel senso proprio del termine, perché sono costituiti da un insieme di
reazioni elementari, ciascuna delle quali sarebbe in sé spiegabile. Ma esse
sono molto numerose, e quindi non facili da ricostruire da un umano,
oppure, nel caso dei modelli di deep learning (o neural networks), le
interazioni sono non-lineari, che signi ca non solo che non vi è un unico
percorso tra input e output, ma che l’effetto di cambiare un input può
dipendere dai valori di altri input. Questo rende molto difficile da concepire
mentalmente cosa stia accadendo nel sistema, anche se i dettagli sono
nondimeno trasparenti e del tutto disponibili per un’eventuale ispezione.
La situazione si può anche rovesciare. Nelle ricerche sulla visione umana,
per esempio, si sta tentando, con i sistemi di machine learning, di imitare il
comportamento umano usando solo gli input e gli output. In tal caso, se
considerato dal punto di vista di un sistema di machine learning, è l’umano a
costituire la scatola nera55.
In sintesi, si può dire che difficoltà di conoscenza e di ricostruzione delle
decisioni sicuramente esistono, ma sono difficoltà materiali (come, per
esempio, l’eccessiva onerosità e quindi non convenienza economica della
ricostruzione) e non il risultato di chissà quale mistero del sistema.
D’altra parte, non sono queste difficoltà le uniche che si incontrano nella
nostra vita sociale. Un segreto industriale, per esempio, è un ostacolo
giuridico alla conoscenza che può avere, che si tratti della formula della
Coca Cola o del soware proprietario con il quale i giudici americani
calcolano l’aumento di pena per rischio di recidiva (il caso Loomis, vedi
paragrafo 3.1), effetti di blocco della conoscenza che non sono da meno. Gli
esempi in ambito giuridico possono continuare. Un effetto black box è creato
dal divieto, o dal non uso, della pubblicazione dell’opinione di minoranza, e
quindi dissenziente, nella decisione di un collegio: l’effetto è di rendere
inesplorabile il confronto di opinioni che si è sviluppato in un collegio.
Così come alcuni contributi scienti ci nelle consulenze tecniche e nelle
perizie. Ricordo un caso in cui una parte, che agiva in giudizio contro
l’autore di una contraffazione di un brevetto, si ri utò di far accedere il
consulente tecnico, nominato dal giudice, al proprio processo di
fabbricazione, valutando più dannosa per sé la rivelazione delle speci che
tecniche di quel processo rispetto al rischio di non fornire la prova o di non
consentire l’accesso alla prova. Ancora una volta un black box giuridico e
tecnico. Vi sono poi alcune prassi decisionali basate banalmente su inerzie
che somigliano a scatole nere, come quando un giudice decide sulla base di
una sentenza della Cassazione di cui esamina solo il dispositivo o la
massima, senza prestare attenzione al caso concreto dal quale quella
affermazione di diritto prende le mosse.
In conclusione, le black box, nel diritto o nelle prassi, esistono, così come
esistono nella medicina56 o nel pilotaggio degli aerei, come è emerso nei
disastri dei Boeing 737 Max nel 2019. Si tratta di capire come gestirle e come
integrare i processi decisionali. Non va, poi, sottovalutato il fatto che non
tutto è negativo e che può essere importante, anche in campo giuridico, la
scoperta di relazioni che prima non erano mai state considerate57.
Sembra andare in questa direzione il progetto di ricerca su come
decidere About, By and Together with Algorithmic Decision Making Systems
(ADM), promosso dall’Hans-Bredow-Institut di Amburgo, che si propone di
rispondere a domande come le seguenti:
In che modo gli umani prendono decisioni sugli altri umani rispetto a come i sistemi ADM
prendono le stesse decisioni sugli umani? In che modo gli esseri umani in congiunzione con i
sistemi ADM prendono decisioni su altri umani? Quali sono i limiti in cui le macchine
dovrebbero prendere decisioni sulle persone? E come possono gli Stati decidere se i sistemi
ADM dovrebbero essere utilizzati all’interno dei sistemi di giustizia penale58.
6.5 Di cosa è fatta la motivazione di una decisione
È utile, a questo punto, tornare a porsi una domanda, più profonda, se si
vuole: di cosa è fatta una sentenza/motivazione, quali sono i suoi
componenti, come è/deve essere organizzata al suo interno e cosa deve
contenere rispetto alla totalità del materiale contenuto nel processo e nei
suoi atti?
La risposta più convincente è, a mio avviso, che la motivazione, sia essa
penale o civile, è l’insieme degli elementi che provengono dal processo e che
hanno costituito oggetto di prospettazione da parte dei difensori delle parti
(o dalle parti stesse) e che il giudice pone in un proprio ordine logico
giuridico.
Non paia una de nizione riduttiva. Essa è l’unica in grado di rispondere
alla regola che vieta al giudice di decidere oltre le richieste delle parti o al di
fuori di esse (no ultra petita o extra petita59) e al principio del
contraddittorio, secondo il quale il giudice che ritenga «di porre a
fondamento della decisione una questione rilevata d’ufficio» deve assegnare
alle parti un termine per poter interloquire con il deposito di memorie (Art.
101 cpc). Dal che si deduce che il giudice deve pronunciare sulle questioni
proposte dalle parti60 e non può porre a fondamento61 della decisione
questioni sulle quali le parti non abbiano potuto esercitare il diritto di difesa.
Potrà certo, se lo ritiene, approfondire o anche sviluppare, ma a partire da
una questione che sia stata oggetto d’interlocuzione.
A stretto rigore si può dire che il giudice non aggiunge argomenti, ma
organizza e gerarchizza quelli esistenti in modo funzionale alla decisione e
che, quindi, una buona motivazione è una motivazione che rende esplicito il
perché e il come, e secondo quale ordine, il giudice abbia deciso di aggregare
quegli elementi giuridici: niente di più e niente di meno. Questo perché la
decisione e la motivazione arrivano all’esito di un processo governato dalla
regola fondamentale, non tanto e non soltanto della legalità, quanto del
contraddittorio, espressione massima del diritto di difesa e del giusto
processo.
7. La sentenza: un aggregato temporaneo di dati
Il passo successivo è chiedersi quale sia la natura di questi
elementi/argomenti giuridici che vanno a popolare la motivazione della
sentenza. Essi sono norme di legge, norme costituzionali o di trattati
internazionali, norme provenienti da altri ordinamenti giuridici (caso
sempre più frequente, soprattutto e non solo in ambito europeo),
elaborazioni dottrinarie.
Tutti questi materiali, si noti, sono gli stessi e vengono tratti da fonti
condivise con gli avvocati, gli studiosi dell’accademia, le amministrazioni in
vista di loro decisioni o gli stessi legislatori. La differenza sta solo nel modo
in cui ognuno di questi professionisti o di questi enti organizza le
informazioni, modo che dipende dalle proprie nalità istituzionali e dai
propri con ni deontologici.
Quanto alla forma, queste informazioni sono espresse in linguaggio
naturale, cioè nel linguaggio usato nella speci ca comunità di vita. Nella
sentenza possono concorrere, anche coesistere, diversi linguaggi naturali,
come capita talora con fonti europee quando sono espresse solo in inglese e
francese62. Inoltre, in quanto contenuti giuridici inseriti in contesti
informatici/digitali, essi hanno natura di dati, che possono essere strutturati,
semistrutturati o non strutturati63.
Si può, quindi, precisare l’affermazione di cui sopra dicendo che il
giudice non aggiunge dati (argomenti), ma li organizza e gerarchizza in
modo funzionale alla decisione e che, quindi, una buona motivazione è una
motivazione che esplicita il perché, il come e il modo in cui il giudice abbia
deciso di aggregare quei dati (elementi giuridici).
Se gli elementi giuridici di cui è composta la sentenza sono dati bisogna
trarne la conclusione che la sentenza (al pari con gli atti degli avvocati e
delle fonti dalle quali quei dati provengono) è un aggregato di dati, che il
giudice ha ricomposto e organizzato in un modo idoneo a giusti care
razionalmente la sua decisione. Ecco perché la motivazione non aggiunge
dati ma organizza dati in modo funzionale alla decisione, e una buona
motivazione ha il compito di esplicitare il perché e il come del modo di
aggregazione adottato. Tutto ciò è comune al campo civile e a quello penale,
all’avvocato e al giudice, all’amministratore pubblico come al legislatore a
qualsiasi livello. I loro atti sono tutti aggregati di dati scomponibili e
ricomponibili in varia maniera.
Uno dei risultati pratici è che le sentenze depositate in sistemi
informatici (Consolle civile e penale) vanno a costituire un insieme di
decisioni che, se ben organizzato in un magazzino di dati (datawarehouse), è
interrogabile con ricerche per parola, come negli attuali database, o
esplorabile con modalità tecniche più raffinate, come i sistemi di machine
learning.
È utile, però, che le sentenze (e tutti gli atti del processo, anche quelli
degli avvocati) siano organizzati in modo da andare a costituire un insieme
di dati (dataset) di buona qualità, poiché migliore la qualità iniziale del dato,
migliore è l’esito delle operazioni di IA. Negli ultimi anni numerosi gruppi di
lavoro sono stati istituiti in ambito giudiziario e numerosi (talora lunghi)
documenti sono stati dedicati alla cosiddetta sinteticità degli atti. Ho sempre
sostenuto che il problema non fosse la sinteticità, ma la struttura logica che
sorregge l’atto e la sua organizzazione in parti adeguatamente distinte e
gerarchizzate. Un atto di tal genere, che alla ne sarà anche più sintetico, è
candidato a essere un atto di buona qualità nell’ottica del datawarehouse.
Un datawarehouse ben organizzato e alimentato con dati di buona
qualità può essere interrogato con algoritmi che possano aiutare il giudice
rendendo visibili quelle informazioni che a occhio nudo non si riesce a
vedere o, anche, proponendo una bozza della sentenza da scrivere e dei
precedenti e delle norme applicabili, una volta che al sistema siano state
fornite le coordinate spazio-temporali e di materia della questione da
decidere (document builder).
A quel punto al giudice resta il compito, più difficile e di più alto pregio
intellettuale e professionale, di selezionare quel materiale e quella proposta
di motivazione, di s darla, cambiando o precisando alcuni parametri, o
alcuni elementi di fatto e di diritto che contraddicono e cambiano la
consequenzialità della proposta del sistema. È probabile che si stia
avvicinando «quel giorno» preconizzato da Reed C. Lawfor, con il quale
abbiamo aperto il capitolo.
È necessaria una visione della motivazione come creazione non isolata
ma inserita in un usso di informazioni organizzate come dati, dove essa
rappresenta soltanto un passaggio, per quanto di grande importanza pratica
e sociale64.
E qui il cerchio si chiude. La motivazione, e il suo alto valore
costituzionale, non sono posti in pericolo dall’uso di tecniche di IA.
L’importante è avere la giusta visione del lavoro del giudice e della funzione
del diritto nelle nostre società. Di ulteriori conseguenze di questa visione si
parlerà nel capitolo conclusivo.
LAWLOR 1963, p. 339.
Questo passo di Reed C. Lawlor è stato presentato da Richard Susskind al congresso IAIIL del
2017, http://www.iaail.org/?q=page/keynote-speeches-icail visitato il 19 agosto 2019 [traduzione mia
dall’inglese].
3
La European Commission for the Efficiency of Justice (CEPEJ) è costituita dai rappresentanti di 47
Stati membri del Consiglio di Europa.
4
LAWLOR 1963.
5
European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their
environment (Strasbourg, 3-4 December 2018), disponibile presso https://www.coe.int/en/web/cepej/european-ethical-charter-on-the-use-of-arti cial-intelligence-ai-in-judicial-systems-and-theirenvironment.
6
Il documento CEPEJ riporta con un certo scetticismo un esperimento che sarebbe stato condotto
per tre mesi in due Corti d’appello francesi: «Douai and Rennes Courts of Appeal in France conducted
a three-month trial in 2017 with a soware programme labelled ‘predictive’ by a panel of judges». Tra i
documenti che considerano gli usi in ambito giudiziario è degno di rilievo VAN EST – GERRITSEN
– KOOL 2017, pp. 42-43.
7
A patto che siano indipendenti dal potere esecutivo e legislativo, o che siano autonome e che
assicurino la responsabilità nale per il sostegno del potere giudiziario nell’impartire la giustizia in
modo indipendente: https://www.encj.eu/encj-guide visitato il 19 agosto 2019.
8
Le informazioni sul meeting di Amsterdam sono tratte dal Report ENCJ Digital Justice Forum
https://pgwrk-websitemedia.s3.eu-west-1.amazonaws.com/production/pwk-web-encj2017p/GA%2018/Report%20ENCJ%20Digital%20Justice%20Forum%20Amsterdam%202018.pdf visitato
il 10 maggio 2019.
9
https://data.consilium.europa.eu/doc/document/ST-12794-2018-REV-3/it/pdf visitato il 10
maggio 2019.
10
Piano d’azione dell’UE per l’eGovernment 2016-2020 – Accelerare la trasformazione digitale della
pubblica amministrazione.
11
http://data.consilium.europa.eu/doc/document/ST-11724-2018-REV-4/it/pdf, visitato il 10
maggio 2019.
12
https://e-justice.europa.eu/home.do?action=home&plang=it, visitato il 12 maggio 2019.
13
Entrambe accessibili dal portale https://e-justice.europa.eu/, visitato il 12 maggio 2019.
14
https://www.giustizia-amministrativa.it/processo-amministrativo-telematico, visitato il 12
maggio 2019. L’utente ha l’opportunità, previa registrazione attraverso il portale dedicato, di accedere
al sistema informativo della Giustizia Tributaria (SIGIT – PTT) e di depositare gli atti e i documenti
processuali già noti cati alla controparte. Inoltre, i giudici tributari, i contribuenti, i professionisti e gli
enti impositori, potranno consultare da casa o dai propri uffici il fascicolo processuale contenente tutti
gli atti e documenti del contenzioso cui sono interessati.
15
https://www.giustiziatributaria.gov.it/gt/processo-tributario-telematico-ptt-sigit, visitato il 12
maggio 2019.
16
CAROLLO – REALE 2018. L’articolo riporta in modo accurato le varie fonti normative.
17
Fonte http://pst.giustizia.it/PST/resources/cms/documents/PCT_Dati_2014_2018.pdf, visitato il
12 maggio 2019.
18
Relazione del Ministero sull’amministrazione della giustizia anno 2018, resa in occasione
dell’inaugurazione
dell’anno
giudiziario
2019.
https://www.giustizia.it/resources/cms/documents/anno_giudiziario_2019_dog.pdf (visitato il 12
maggio 2019). Negli anni 2016-2017 il Ministero della giustizia-Direzione generale dei servizi
informatici e automazione ha nanziato presso gli uffici giudiziari milanesi un progetto pilota (che ha
1
2
preso il nome Justech), coordinato dalla Corte d’appello (con delega all’autore di questo volume) per la
promozione della digitalizzazione penale. Il progetto è stato rilevante non solo per i risultati raggiunti,
ma anche per la modalità di collaborazione tra uffici giudiziari e istituzioni accademiche.
19
WALLACE 2019, pp. 1-3: «By September 2018, over 2000 cases had been led and dealt with.
However, the procedure has not been implemented as planned in the other nine rst instance courts.
e main reason given was that implementation would be too much of an effort requiring too many
resources. is complexity was the result of a large number of decisions, for instance in the new
procedural legislation, that made development and implementation much more difficult than rst
foreseen».
20
SUSSKIND 2017, p. 105.
21
WALLACE 2019, pp. 1-3.
22
L’idea è condivisa da CUCCHIARA 2018.
23
Relazione del Ministero sull’amministrazione della giustizia anno 2018, resa in occasione
dell’inaugurazione
dell’anno
giudiziario
2019:
https://www.giustizia.it/resources/cms/documents/anno_giudiziario_2019_dog.pdf, visitato il 9
maggio 2019.
24
WALLACE 2019, pp. 1-3. «ere are interesting developments, such as the discussion about
arti cial intelligence and what that can mean for the judiciary. I will keep writing about it on this, my
own
Technology
for
Justice
blog»,
dice
Dory
Reiling:
http://doryreiling.blogspot.com/2019/02/#6270147854396689119, visitato il 9 maggio 2019.
25
A livello accademico si può citare il progetto LAILA, nanziato dal Ministero dell’Università
(PRIN 2019), promosso dalle Università di Pavia, Torino, Napoli e Bologna (principal investigator
prof. G. Sartor).
26
Tra i vari commenti si vedano GIALUZ 2019; BASILE 2019, p. 21. Per una denuncia dei bias
razziali nei sistemi di previsione di recidiva si veda ANGWIN 2016.
27
SANTOSUOSSO 2011, p. 377.
28
SAPORITI 2018; PIVA 2019.
29
WEBSTER 2019, articolo nel quale si trova il seguente interessante parallelo: «Applying the
standard pantheon of data analytics and data visualization techniques to large biological datasets, and
expecting to draw some meaningful biological insight from this approach, is like expecting to learn
about the life of an Egyptian pharaoh by excavating his tomb with a bulldozer».
30
Si veda RICHARDSON et al. 2019.
31
SCHAUER 1991, p. 11 [traduzione mia].
32
LEVI 1949; HOLMES 1897.
33
KATZ 2013.
34
ASHLEY 2017, p. 111 [traduzione mia].
35
European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their
environment
(Strasbourg,
3-4
December
2018),
p.
27,
disponibile
presso
https://www.coe.int/en/web/cepej/cepej-european-ethical-charter-on-the-use-of-arti cialintelligence-ai-in-judicial-systems-and-their-environment.
36
SEIF 2018. Si veda anche FORZA – MENEGON – RUMIATI 2017.
37
BISCOTTI 2012, che cita TARUFFO 1974.
38
DENTI 1987, p. 5.
39
La motivazione era già prescritta nel codice di procedura civile del 1865 e in quello del 1940, nel
testo vigente no alla riforma del 2009, come le «ragioni di fatto e di diritto della decisione» (art.132,
co. 2, n.4 c.p.c.).
DENTI 1987.
BISCOTTI 2012, p. 27. Per il potere amministrativo, oltre all’art. 41 CEDU, è degna di nota
Corte Costituzionale (sentenza n. 310/2010): «L’obbligo di motivare i provvedimenti amministrativi è
diretto a realizzare la conoscibilità, e quindi la trasparenza, dell’azione amministrativa. Esso è radicato
negli artt. 97 e 113 Cost., in quanto da un lato, costituisce corollario dei principi di buon andamento e
di imparzialità dell’amministrazione e, dall’altro, consente al destinatario del provvedimento, che
ritenga lesa una propria situazione giuridica, di far valere la relativa tutela giurisdizionale».
42
DENTI 1987, p. 12.
43
AMODIO 1977, p. 199.
44
BORSELLINO 2009, pp. 141 ss.
45
AMODIO 1977, p. 184, che cita TARUFFO 1974, pp. 43-44, 50-52, 59.
46
AMODIO 1977, p. 181.
47
CALAMANDREI 1954, p. 101, citato in BISCOTTI 2012, p. 10.
48
BISCOTTI 2012, p. 11.
49
SARTOR 2015, p. 304 in particolare. L’autore così spiega un ragionamento non-monotono:
«Supponiamo che Tizio abbia causato un danno a Caio, ma che Tizio fosse incapace di intendere e di
volere, essendo in stato di ubriachezza. La prima delle nostre norme ci condurrebbe a ritenere che
Tizio sia responsabile (passo 1), ma la seconda norma, più speci ca, fornisce un’eccezione alla prima,
e quindi Tizio non sembrerebbe responsabile (passo 2). In ne, la terza norma escludendo
l’applicazione della seconda (che avrebbe escluso la prima) ci conduce a ritenere che la prima si
applichi e quindi che Tizio sia responsabile. Si tratta di un ragionamento non-monotono: se
aggiungiamo nuove premesse (eccezioni) a una teoria giuridica T (un insieme di norme e fatti)
vengono meno alcune conclusioni derivabili da T» (p. 300).
50
Ciò vale di solito nei processi penali e anche in quelli civili quando si applica il cosiddetto «rito
lavoro» e simili: vedi sopra.
51
BOBBIO 1970, p. 154.
52
Che infatti non si trova in testi tecnici come quello di Russell e Norvig. La metafora dell’oracolo è
usata, invece, nell’editoriale di «Nature» dopo la vittoria di Alpha GO: Digital intuition, «Nature», 28
January 2016, vol. 529, p. 437.
53
La questione è al centro anche di sviluppi tecnologici, nel senso della chiarezza, ai quali sono
interessati anche nel mondo delle imprese. In effetti, deep learning ha la reputazione di essere un
metodo «scatola nera». Diverse storie di successo per la costruzione di «scatole di vetro» hanno
utilizzato modelli per migliorare la trasparenza e l’interpretazione. Alcuni progetti nel campo
dell’intelligenza arti ciale spiegabile sono riportati in MORDE 2018. Degno di nota l’interesse degli
apparati militari al tema della spiegabilità: sul punto si veda POWERS 2017.
54
CARD 2017.
55
CARD 2017, ritornando così all’origine del concetto di «black box» nella psicologia
comportamentale.
56
NICHOLSON PRICE 2018.
57
HOLM 2019, pp. 26-27: l’autrice cita tra l’altro il caso di uno studio che ha impiegato un sistema
di deep learning per diagnosticare la retinopatia diabetica, individuando a sorpresa una serie di altri
fattori di rischio concorrenti come il sesso e l’età.
58
Il progetto è promosso dall’Hans-Bredow-Institut (un istituto indipendente e non-pro t che
opera dal 1950 in collaborazione con l’Università di Amburgo): https://hans-bredowinstitut.de/en/projects/opportunities-and-limitations-of-adm-systems, visitato il 23 maggio 2019.
40
41
Codice di procedura civile, art. 112 (Corrispondenza tra il chiesto e il pronunciato): «Il giudice
deve pronunciare su tutta la domanda e non oltre i limiti di essa; e non può pronunciare d’ufficio su
eccezioni, che possono essere proposte soltanto dalle parti».
60
Incluse le prove e il loro risultato, che non può essere ignorato in nome della pura consistenza
razionale interna all’elaborato sentenza. D’altra parte, il testo attuale dell’art. 360 cpc prevede il ricorso
per Cassazione «per omesso esame circa un fatto decisivo per il giudizio che è stato oggetto di
discussione tra le parti».
61
Altra cosa sono gli obiter dicta.
62
Il che apre al problema del multilinguismo, di cui si parlerà nel Capitolo 8.
63
Per il signi cato di questi termini si veda sopra paragrafo 3.
64
Ho presentato questi argomenti al convegno «Della motivazione degli atti civili e penali»,
organizzato a Milano il 3 aprile 2017 dalla Scuola Superiore della Magistratura – Ufficio decentrato di
Milano. Nell’occasione ho riconosciuto il lavoro fatto sin dal 2015 con i colleghi della sezione Prima
civile e Impresa della Corte da me presieduta, il gruppo di lavoro Corte/Tribunale/Ordine avvocati di
Milano su La Forma dell’Atto e la relazione presentata al convegno il 19 febbraio 2016, Aula Magna,
Quando il diritto incontra la tecnologia (presentazione con Cons. C. de Sapia e Avv. M.G. Monegat), il
Coordinamento del progetto Justech -Ministero della giustizia-DGSIA-UNIMI-UNIPV per la
promozione del sistema informatico penale presso gli uffici giudiziari di Milano (dicembre 2015dicembre 2017), la linea 3 del progetto Justech, con la collaborazione di Giulia Pinotti (studente di
dottorato presso l’Università Statale di Milano) ed Elettra Currao (art. 73 presso la Corte). In data 20
giugno 2018 il Consiglio superiore della magistratura (CSM) e il Consiglio Nazionale Forense (CNF)
hanno approvato Le linee guida in tema di esame preliminare delle impugnazioni e modalità stilistiche
di redazione dei provvedimenti, alle quali ho contribuito (collaborando con la presidente della Corte
d’appello di Milano, dott.ssa Marina Anna Tavassi) mettendo a frutto le mie precedenti, appena citate,
esperienze.
59
5. Blockchain e smart contract: un diritto
senza avvocati, giudici e… Stato?
Proprio come ‘cloud’ significa computer di
qualcun altro e ‘AI’ significa un algoritmo
ottimizzato,
‘blockchain’ significa un database
lento e costoso1.
You can’t stop technology; the world’s going
to continue to move forward. I would love to
see technological productivity change the social
contract and how people think […]2.
1. Il 10% del PIL del mondo!
Il World Economic Forum prevede che entro il 2025, e nonostante i
problemi tecnici e giuridici ad essa legati, ben il 10% del PIL del mondo sarà
prodotto da attività e servizi che saranno erogati e distribuiti con le
tecnologie blockchain3.
L’argomento non può, dunque, essere sottovalutato ed è, quindi,
giusti cato che a esso sia dedicato questo capitolo. Di qui in avanti si parlerà
dunque di blockchain (modo universalmente usato per parlare della catena
di blocchi o del registro distribuito) e di smart contract (contratti
intelligenti). È una materia in rapidissima espansione e molto ricca di
sfaccettature e aspetti teorici e pratici.
Blockchain e smart contract non appartengono, a stretto rigore, al campo
dell’IA. Essi hanno alcuni evidenti collegamenti con l’intelligenza arti ciale,
ma sono essenzialmente legati a Internet sulle cui spalle viaggiano.
Internet, si può ricordare, è formato da una pluralità di protocolli che,
quando combinati, creano diversi livelli di comunicazione (uno dei quali è il
ben noto TCP/IP). La tecnologia blockchain utilizza protocolli applicativi
capaci sia di trasmettere dati sia di immagazzinare informazioni e di
eseguire alcuni processi di computazione, in un modo che non dipende da
nessun operatore centralizzato4. L’aspetto principale è, quindi, l’utilizzo di
Internet, ma con due signi cative varianti: la prima, costituita dal fatto di
utilizzare la rete come luogo nel quale non solo trasmettere, ma anche
immagazzinare dati (cioè i blocchi concatenati) e, la seconda, di costituire
un network paritario e non gerarchico, basato su un meccanismo di
consenso e un meccanismo virtuale decentralizzato che gestisce e valida dati
e svolge attività computazionale. I servizi centralizzati, che pure esistono in
una blockchain e interagiscono con essa, operano in modo indipendente dal
sottostante network paritario.
In questo capitolo il paragrafo 2 fornisce alcune informazioni di base su
blockchain, la sua origine, la sua natura, il rapporto con le criptovalute (come
bitcoin) e con l’intelligenza arti ciale e l’Internet of ings, con un cenno ai
numerosi campi nei quali questa tecnologia ha cominciato a essere applicata;
il paragrafo 3 introduce gli smart contract in generale; il paragrafo 4 analizza
la relazione speciale, che intercorre tra smart contract e blockchain; il
paragrafo 5 apre al tema se gli smart contract siano contratto o mero
soware, tema che sarà ripreso nel Capitolo 8, dove ci si occuperà di
computazione e diritto; il paragrafo 6 si occupa del modo di risoluzione
delle controversie che possono trarre origine da smart contract (non ha
senso, infatti, ricorrere a questo mezzo tecnologico avanzato, se poi bisogna
ritornare alle lentezze dei modi di soluzione giuridica delle controversie nei
tribunali pubblici); il paragrafo 7 tratta delle regole che è necessario (se è
necessario) adottare per blockchain e smart contract (troppe regole o poche,
troppo tardi o troppo presto); in ne, il paragrafo 8 pone in luce alcuni
problemi aperti per lo sviluppo di una tecnologia (blockchain) tanto
promettente quanto, almeno al momento, dispendiosa di energia.
Le domande alle quali dà risposta il capitolo sono le seguenti: è la
blockchain una tecnologia importante quanto Internet e tale da poterla
soppiantare? In quale senso uno smart contract è intelligente? Che rapporto
c’è tra blockchain e IA e Internet (per esempio, un sistema di risoluzione dei
con itti basato solo su un sistema automatico)? Si può fare a meno di regole,
e quali? È blockchain il regno della totale ne del patto di soggezione allo
Stato?
2. Blockchain
È il 1991 quando Stuart Haber e Walter Scott Stornetta5 lavorano alla
prima catena di blocchi protetta da crittogra a. Nel 1992 gli stessi Haber e
Stornetta incorporano i markle tree (struttura schematica ad albero) alla
blockchain, realizzando così un miglioramento dell’efficienza del sistema nel
raccogliere più documenti in un unico blocco.
Dal 1993 al 2008 la tecnologia blockchain rimane per lo più un’idea di
difficile applicazione pratica, anche se vi era un chiaro potenziale. La prima
blockchain viene distribuita ed elaborata nel 2008 da un gruppo di persone
anonime (che, a rigore, potrebbe anche essere una sola persona) che si sono
attribuite il nome di Satoshi Nakamoto. L’anno seguente è implementata
come componente principale della valuta bitcoin e con la funzione di libro
mastro contenente tutte le informazioni pubbliche delle transazioni.
2.1 Cosa è blockchain
Letteralmente blockchain signi ca «blocchi concatenati» e, pur in
mancanza di un’unica de nizione, è possibile immaginarla come una
concatenazione di blocchi costituiti dall’insieme delle transazioni
veri cabili, con struttura verticale o ad albero, in grado di collegare diversi
nodi (formati sicamente dai server di ciascun partecipante), che vengono
utilizzati dai soggetti per prendere parte alla decisione. Una delle
caratteristiche fondamentali della blockchain è di essere equiparabile a un
libro mastro in cui ogni operazione viene registrata nel sistema e non può
essere in alcun modo cambiata, modi cata o manomessa. In realtà, più che
di tecnologia sarebbe corretto parlare di un paradigma o, più in dettaglio, di
un modo di interpretare un sistema ispirato alla decentralizzazione delle sue
dinamiche e alla partecipazione di un numero di soggetti potenzialmente
molto ampio. La grande versatilità del sistema spiega perché esistano diverse
de nizioni e spiegazioni di blockchain, che dipendono anche dall’utilizzo.
Secondo una prima de nizione la blockchain è un database di
transazioni: «La blockchain è una tecnologia che permette la creazione e
gestione di un grande database distribuito per la gestione di transazioni
condivisibili tra più nodi di una rete»6. Questa de nizione valorizza la
natura di database strutturato in blocchi tra loro collegati, ciascuno dei quali
contiene più transazioni, che sono validate dalla rete stessa. Ogni nodo della
catena è costituito sicamente dal server attraverso il quale ciascun
partecipante ha accesso alla blockchain, vede, controlla e approva tutte le
transazioni.
Per altri, invece, la blockchain esprime al meglio l’evoluzione del concetto
di ledger, ossia di «libro mastro». Prima dell’avvento della blockchain, vi
erano sistemi che già consentivano lo scambio di transazioni e informazioni,
ma con una logica centralizzata, nella quale tutto faceva riferimento ed era
gestito da una singola unità o autorità, con la quale i soggetti avevano un
rapporto di ducia. Con il concetto di decentralized ledger l’informazione si
decentralizza: essa non è più custodita da un’unica unità centrale, ma si
trova distribuita nelle periferie, che assumono sempre più rilevanza nella
transazione.
L’innovazione decisiva, però, è rappresentata dal passaggio dal concetto
di decentralized ledger a quello di distributed ledger: questo è il punto che più
caratterizza l’avvento della tecnologia blockchain. Il concetto di un libro
mastro distribuito in copie uguali di informazioni a una moltitudine di
persone (chiunque possegga una chiave criptogra ca può partecipare a una
blockchain pubblica) consente l’evoluzione verso una nuova logica di
governance, un contesto in cui non esiste più la possibilità che un’unità
prevalga sulle altre (come le autorità centrali su quelle locali). La logica
primaria diventa, invece, quella della ducia tra tutti i soggetti: il processo
decisionale passa attraverso la costruzione del consenso tra tutti i
partecipanti, ognuno dei quali ha le stesse informazioni degli altri.
Si può concludere con le seguenti parole sdrammatizzanti e un po’
scettiche:
La cosa principale che distingue una blockchain da un database normale è che ci sono
regole speci che su come inserire i dati nel database. Cioè, non può entrare in con itto con
altri dati che sono già nel database (coerenti), è immutabile (append-only) e i dati stessi sono
bloccati su un proprietario (possessore), è replicabile e disponibile. In ne, tutti sono d’accordo
su quale sia lo stato delle cose nel database (canonico) senza un ‘partito’ centrale
(decentralizzato)7.
2.2 Blockchain, criptovalute e bitcoin
In un primo tempo la tecnologia blockchain è stata associata alle
criptovalute, come Ethereum e Ripple e, in particolare, il bitcoin. Il bitcoin
ha toccato i suoi massimi storici a ne 2017, a circa ventimila dollari, e poi è
sceso sotto i tremila dollari a dicembre 2018, riprendendosi poi nel 2019 con
una quotazione a oltre undicimila8. La stampa economica specializzata
presta molta attenzione al fenomeno:
Per fare degli esempi pratici, Samsung e Htc hanno presentato degli smartphone con
‘wallet’ dedicati alle criptovalute; Facebook ha annunciato che potrebbe lanciare la sua
criptovaluta per i pagamenti dall’app, mentre Fidelity vorrebbe rendere accessibili le valute
digitali almeno alla clientela professionale. […] Il bitcoin capitalizza quanto Eni e Enel messe
insieme, Ethereum come Unicredit o Ferrari, mentre Ripple all’incirca come Snam.
Complessivamente, invece, il mercato delle monete virtuali capitalizza poco più di 250 miliardi
di dollari, ovvero meno di un terzo della sola Apple o di Google, e circa un quarto di Microso.
[…] Inizialmente i bitcoin sono saliti alla ribalta per le loro caratteristiche di investimento
altamente speculativo. Oggi, invece, la criptovaluta viene utilizzata anche negli acquisti più
comuni, o addirittura per pagare un immobile o un’opera d’arte. A Rovereto, nel Trentino,
esiste una vera e propria bitcoin Valley, dove è possibile fare gli acquisti più disparati: dall’ottico
ai ristoranti, dal benzinaio ai bar. Addirittura ci sono alcuni esercenti che pagano lo stipendio
ai loro dipendenti in criptovaluta (sul sito quibitcoin.it è possibile vedere chi accetta bitcoin).
Insomma, si sta sviluppando una vera e propria moneta parallela. E lo diventerà ancora di più
nel momento in cui le banche italiane, o le app di pagamenti operative sul nostro territorio,
permetteranno di comprare e scambiare bitcoin9.
A giugno 2019 Facebook annuncia di mettere in circolazione, sia online
sia offline, una moneta digitale alternativa a quelle correnti e supportata da
altre aziende:
ci sono i colossi delle telecomunicazioni Vodafone e Iliad, i portali Spotify, Booking, Ebay e
Uber e le società di pagamento Mastercard, Visa e PayPal […] e gestiranno lo sviluppo della
rete alla base di Libra — così si chiama la criptovaluta — e il suo funzionamento. Facebook è
presente nella lista con Calibra, una sussidiaria creata ad hoc per tenere separate le sue attività
tradizionali dal nuovo progetto nanziario10.
Ma l’idea di creare una sorta di ‘valuta globale’ gestita da un’entità con
scopo di pro tto suscita numerose reazioni e il 21 agosto 2019 le agenzie di
stampa diffondono la notizia che l’autorità antitrust della Commissione Ue
«sta indagando su possibili pratiche anticoncorrenziali» legate
all’introduzione della nuova moneta virtuale. L’iniziativa di fatto, in breve
volgere di tempo, si blocca. Rimane l’interesse delle grandi aziende Google,
Amazon, Apple e Facebook a introdurre forme proprie di pagamento, non
tanto con l’idea di entrare in un mercato molto regolato, come quello
nanziario, quanto con l’obiettivo di raccogliere ancora altri dati sui
consumatori.
2.3 Blockchain, IA e IoT
Le interazioni di blockchain con altre tecnologie sono ricche e
interessanti. Come si è già detto, sarebbe erroneo e riduttivo associare in
modo esclusivo blockchain ai bitcoin e alle criptovalute, come dimostra il
suo sviluppo a livello mondiale nei settori più diversi.
Se Blockchain è basata su Internet è anche vero che anche l’IA è
strettamente collegata a Internet, che rappresenta in qualche modo
l’ambiente comune11.
Gli smart contract sono machine readeable e, quindi, possono essere usati
da sistemi autonomi e IA. Sistemi di IA possono assemblare contratti
standardizzati utilizzando sia clausole espresse in linguaggio naturale sia
smart contract espressi direttamente in codice. Meir Dan-Cohen, nel volume
Rights, Persons and Organization12, delinea uno scenario interessante: una
società dotata di un sistema di IA che ricompra tutte le sue azioni, di modo
che alla ne la società non abbia più un proprietario. Questo scenario, con lo
sviluppo di blockchain e dell’IA, sta gradatamente diventando realistico13.
Per quanto concerne, invece, la correlazione tra Internet of ings (IoT) e
blockchain, IBM e Samsung hanno elaborato un sistema che prende il nome
di ADEPT14 (telemetria peer-to-peer autonoma decentralizzata), nel quale
una tecnologia simile alla blockchain fornisce la spina dorsale per una rete
decentralizzata di IoT, funzionando come libro mastro per gestire una
massiccia quantità di dispositivi. ADEPT non è l’unico progetto che ha
cercato di unire la tecnologia blockchain e l’IoT, come dimostra l’esistenza di
numerose startup che stanno cercando di utilizzare le potenzialità della
tecnologia in combinazione con l’IoT.
2.4 La nuova pietra filosofale (altri ambiti di applicazione)
La pietra losofale è «una fantasiosa composizione chimica, invano
cercata dagli alchimisti, la quale avrebbe dovuto possedere straordinarie
virtù, come quella di trasformare qualsiasi metallo vile in oro»15. Ecco, a
leggere le cronache che riportano le più varie e mirabolanti applicazioni
della blockchain sembra proprio di trovarsi di fronte alla pietra losofale.
Qualcosa di vero ci deve essere se, come visto in apertura, viene stimato che
il 10% del PIL mondiale nei prossimi cinque anni sarà collegato alla
blockchain, così come deve esservi qualcosa di poco plausibile se si
considerano i problemi tecnici e energetici che il sistema, almeno nella
con gurazione attuale, ancora ha.
In attesa della prossima trasformazione in oro di qualche vile metallo,
qui di seguito vengono riportati alcuni dei principali campi di applicazione
della blockchain, realizzati o intravisti16.
A livello internazionale la blockchain ha portato grandi novità nel settore
dei trasferimenti di denaro: essa rende possibile un usso di pagamento più
diretto tra colui che versa e il bene ciario, anche se i soggetti della
transazione si trovano oltre i con ni della propria nazione, senza bisogno di
intermediari, a tariffe molto vantaggiose e a velocità quasi istantanea.
Potrebbe essere una vera e propria rivoluzione nanziaria attraverso sistemi
che si basano sulla blockchain e che possono risolvere problemi come il
rilevamento di frodi o minacce o i furti d’identità, garantendo un alto livello
di sicurezza.
Un secondo settore di utilizzo è quello della cybersecurity17. Pur
consistendo in un registro accessibile al pubblico, la tecnologia blockchain
utilizza chiavi crittografate che consentono di veri care e inviare i dati al
proprio interno, garantendo che le informazioni giungano corrette dalla
fonte ai destinatari senza che vi sia il rischio d’intercettazione e
manipolazione durante il procedimento di trasmissione. Goldman Sachs
sostiene che la vera forza di questo sistema, de nito quasi impenetrabile, è
proprio il fatto di eliminare completamente la necessità d’interventi umani, e
quindi la possibilità di errore umano, di hackeraggio e di corruzione. Però,
per quanto ben si sposi anche con il recente regolamento europeo sulla
privacy (GDPR), la tecnologia conserva alcune criticità riguardanti, ad
esempio, il fatto che i dati inseriti nella blockchain siano conservati
illimitatamente nel tempo.
Una terza, e non più così ipotetica, applicazione della blockchain è
costituita dall’autenti cazione dei titoli e dei certi cati accademici. La
Holbertson School of Soware Engineering, con sede a San Francisco, ha
annunciato l’intenzione di utilizzare questa tecnologia in sede di
autenticazione dei titoli rilasciati. Questa intenzione è già realtà al
Massachusetts Institute of Technology (MIT), che da luglio 2018 ha avviato
un progetto pilota per la certi cazione dei titoli accademici sfruttando la
piattaforma blockchain. Il primato viene vantato anche dall’Università di
Cagliari, che nella sessione di laurea di luglio 2018, per il corso
d’informatica, ha utilizzato una piattaforma blockchain per l’autenticazione
dei titoli di laurea18.
Un ulteriore settore di utilizzo è quello del voto elettorale. In realtà
questo ambito applicativo si sposa molto bene con le funzioni che la
blockchain permette: un’attività di autenticazione dell’identità degli elettori,
la conservazione dei registri in sicurezza e un’attività di spoglio e conteggio
precisa e trasparente, assicurando così agli elettori che nessuna modi ca,
aggiunta o cancellazione dei voti sia possibile. La blockchain è stata già
utilizzata in fase di test durante le elezioni americane con il sistema
denominato follow my vote19, che permette un voto online trasparente e
sicuro.
Lo scorso anno, poi, Visa e DocuSign hanno elaborato una relazione in
cui documentano un progetto per il comparto del leasing delle vetture. Il
progetto consiste nell’utilizzo di registri distribuiti, che costruiscono un
sistema che culmina nella concessione di un leasing di un’auto in modo
completamente autonomo e senza l’intervento di nessun operatore. L’utilizzo
della blockchain, quindi, ha avuto un esito positivo anche nel settore del
leasing delle autovetture e non è difficile immaginare che in un futuro si
possa applicare anche per l’acquisto di un’auto con la relativa registrazione
presso i registri pubblici.
La tecnologia blockchain è utilizzata, anche se forse può sorprendere,
nell’ambito musicale. «Billboard»20, nota rivista musicale, riporta che tre
aziende stanno cercando di risolvere i problemi legati alla gestione e alla
liquidazione dei diritti d’autore promuovendo il fatto che il pagamento
avvenga direttamente agli artisti e l’utilizzo di smart contract per gestire
automaticamente i problemi di licenza. Numerosi progetti, poi, si stanno
sviluppando sul fronte delle piattaforme musicali autogestite che, attraverso
registri distribuiti, permetteranno di ascoltare la musica e pagare
direttamente gli autori.
Altri due apparentemente sorprendenti campi di utilizzo sono quelli
della pubblica amministrazione e del monitoraggio e compravendita di
armi. Per quanto riguarda la pubblica amministrazione, il ramo della
distribuzione degli aiuti pubblici e del welfare potrebbe essere molto
sempli cato garantendo così una governance pubblica migliore e
trasparente. Per quanto riguarda, invece, il secondo settore, il monitoraggio
e la compravendita di armi, la startup Blockafe sta cercando di progettare un
sistema blockchain-based, che dovrebbe permettere agli utenti di tracciare
una pistola in tutto il mondo e di sapere se la suddetta arma ha sparato
recentemente21.
I casi di applicazione nei servizi di intelligence e sicurezza sono
principalmente due: da una parte vi è una maggiore garanzia nella gestione e
nel monitoraggio delle prove e, dall’altra, nelle indagini di polizia, un
registro distribuito garantirebbe maggiore integrità e immutabilità delle
prove stesse, andando così a elevare il livello di attendibilità garantito
all’interno del processo. Elliptic, ad esempio, ha raccolto più di 7 milioni di
euro e ha sviluppato un sistema che scansiona costantemente i registri
Bitcoin in modo da poter evidenziare operazioni sospette e allertare le forze
dell’ordine22.
Tra le applicazioni più rilevanti è degno di nota il comunicato stampa
dell’ottobre 2017 del Consiglio Nazionale del Notariato, che presenta la
Notarchain: una nuova modalità di archiviazione dei dati digitali in una
duplice modalità, ossia i registri diffusi (blockchain) e i registri volontari
digitali. L’implementazione della blockchain all’interno del Notariato mira ad
agevolare la procedura di alimentazione, gestione e tenuta dei registri
pubblici immobiliari, societari e dello stato civile, tipica del lavoro del notaio
quale pubblico ufficiale delegato dallo Stato.
L’applicazione della tecnologia in Italia passa anche attraverso il settore
alimentare: sono diversi i progetti che si avvalgono della blockchain per
tracciare il percorso di liera del prodotto nito come, ad esempio, la
Torrefazione Caffè San Domenico che, in collaborazione con foodchain, sta
sviluppando una blockchain in grado di tracciare il percorso del caffè; altri
progetti, come il Wine Blockchain EY, invece, mirano a tracciare il percorso
di liera del vino, permettendo così l’autocerti cazione all’interno del
processo produttivo.
Tornando al settore nanziario, numerosi progetti, tra cui Marco Polo,
R3, B3i e We.Trade, si avvalgono di consorzi di banche e assicurazioni, come
UniCredit, Mediolanum, Banca Intesa Sanpaolo, Generali e Unipol, che
promuovono lo scambio di merci con pagamenti automatici o la gestione, il
monitoraggio e la protezione delle transazioni tra le PMI Europee,
registrando così l’intero processo commerciale e avvalendosi, naturalmente,
di forme di contratto automatizzate e digitali denominate, appunto, smart
contract, di cui si parla qui di seguito23.
3. Smart contract
Gli smart contract inseriti in blockchain rappresentano una piccola parte
della più ampia categoria che potremmo de nire dei contratti computabili
(Computable Contracts), costruiti cioè con modalità tecniche iniziali simili
agli smart contract24, ma non necessariamente poggianti in blockchain. A
loro volta, i contratti computazionali sono, ad oggi, una minima parte della
realtà globale dei contratti.
Detto questo per dare una misura del problema, è innegabile che gli
smart contract siano un campo di applicazione di blockchain che coinvolge il
diritto civile. Per esempio, i testamenti potrebbero avvantaggiarsi della
blockchain, visto che le maggiori dispute ad essi legate riguardano proprio la
prova reale e concreta della volontà del defunto. Se tutti i documenti
riguardanti la proprietà e i diritti goduti dalla persona che fa testamento
fossero in registri blockchain, molte controversie potrebbero essere evitate e
chi è interessato alla consistenza patrimoniale del defunto potrebbe avere
accesso a dati più affidabili e veri cabili rispetto a quello che consentono i
sistemi attuali. Analogamente si potrebbe ragionare per i precedenti
lavorativi di un candidato a un impiego: la tecnologia di registri distribuiti
consentirebbe di controllare la verità delle precedenti esperienze lavorative,
con grande risparmio di tempo degli addetti alle risorse umane. Recruit
Technologies, in collaborazione con Ascribe.io25, ha sviluppato certi cati
crittogra ci di autenticità dei titoli e dei curriculum basati proprio su una
tecnologia di catene di blocchi.
Quanto agli smart contract vi è da dire che non ne esiste una de nizione
univoca. Sono oggi associati alla tecnologia blockchain, ma in realtà
risalgono a un’esperienza studiata già dagli anni Novanta, quando si diffonde
la pratica del cosiddetto «assemblaggio di documenti legali», attraverso
l’utilizzo di alcuni soware utili allo scopo. Il risultato che si voleva
raggiungere era di ridurre al minimo l’immissione di dati, il tempo speso per
la redazione dei documenti e l’errore umano. Il soware estrae le
informazioni giuridiche attraverso un questionario che viene generato dal
sistema stesso, che, poi, restituisce il documento agli utenti. Con il passare
del tempo sono stati utilizzati soware sempre più avanzati, no ad arrivare
a parlare apertamente di ‘contratti intelligenti’26. Alla ne si può dire che
oggi
sotto molti pro li, gli smart contract non sono differenti dai tradizionali accordi scritti. Per
eseguire uno smart contract le parti devono prima negoziare i termini del loro accordo no a
quando non raggiungono una volontà comune (meeting of the minds). Una volta raggiunto
l’accordo le parti ne memorizzano tutte le parti nel codice dello smart contract che è triggered
da transazioni basate su blocchi rmati digitalmente27.
Il concetto è stato per la prima volta discusso da Nick Szabo, scienziato
informatico, studioso di diritto e crittografo, che de nisce gli smart contract
come «protocolli di transazione informatizzati, che eseguono i termini di un
contratto». Più precisamente, Nick Szabo suggerisce che traducendo clausole
contrattuali in codici e incorporandole in hardware o soware in grado di
autoapplicarle è possibile ridurre al minimo la necessità di intermediari tra
le parti e il veri carsi di eccezioni dannose o accidentali28. Una seconda
de nizione, più esaustiva, è stata data nel 2015 da Massimo Chiriatti che
de nisce i contratti intelligenti come «protocolli per computer che facilitano,
veri cano, o fanno rispettare la negoziazione o l’esecuzione di un contratto,
o che evitano il bisogno di una clausola contrattuale»29. Accanto, quindi, alla
garanzia di un più alto livello di sicurezza, vi è anche la riduzione della
componente di costi delle transazioni contrattuali.
Il carattere del contratto intelligente è rappresentato dal fatto che le parti
raggiungano un accordo sulle clausole contrattuali e sui tempi sfruttando
poi la logica del if-this-then-that, ossia se si veri ca un presupposto (this),
allora consegue un risultato (that); per il resto il contratto intelligente ha la
capacità di far rispettare le proprie clausole ed entrare in esecuzione senza il
supporto di una parte esterna (si pensi, per esempio, a una clausola inserita
nello smart contract stipulato tra Tizio e Caio che prevede il versamento di
una somma di denaro in caso di inadempimento contrattuale: al veri carsi
della condizione di inadempimento la somma pattuita a titolo di penale
verrà versata automaticamente dal conto di Tizio a quello di Caio). In un
secondo articolo, nel 2016, Pierangelo Soldavini torna a de nire i contratti
intelligenti come contratti che funzionano in maniera molto simile ai
contratti non smart, de nendoli «accordi con validità legale basati su un
insieme concordato di termini e condizioni che legano diverse prestazioni di
servizi»30, ma con la peculiarità di essere programmati elettronicamente e
basati su registri distribuiti, come quelli disponibili grazie alla tecnologia
blockchain, che permette di attivare automaticamente alcune azioni non
appena si veri cano le condizioni concordate, senza necessità di veri che o
procedure sia cartacee sia manuali31.
4. Blockchain e smart contract
Qui di seguito è esposta una breve spiegazione di come la tecnologia
blockchain si applichi a uno smart contract e di come un contratto possa
materialmente assumere una forma direttamente tecnologica, diversa dal
linguaggio naturale (quello nel quale ci si esprime normalmente).
Il centro della struttura contrattuale è composto di tre elementi
principali: account, beni di cui si dispone (assets) e contratto. Per account
s’intende un indirizzo in grado di identi care una persona, un’entità o un
gruppo di persone che andrà a interagire con il libro mastro in questione, il
cosiddetto ledger. I beni (assets) ricomprendono sia beni materiali sia
servizi, fatture e unità di valore scambiate. Più genericamente, i beni
possono essere de niti come l’insieme di valori scambiati e posseduti da una
o più parti, le quali possiedono la chiave crittografica che consente di dar
luogo al contratto. L’ultimo requisito è rappresentato dal contratto vero e
proprio, inteso come sequenza logica di azioni che media il trasferimento di
valuta e dati tra le parti32.
I suddetti account inviano al registro mastro aggiornamenti, che
consistono in transazioni autorizzate, modi candone così lo stato. Le
transazioni, prima di essere aggregate e sequenziate in un blocco, sono
inviate perché siano veri cate la loro integrità e l’integrità dei dati.
Tutte le transazioni sul libro mastro sono rmate digitalmente dal
titolare di un account sulla rete. Il libro mastro ha tre proprietà chiave, che lo
differenziano dal traffico di rete tradizionale: a) l’autenticazione, in quanto
una parte malintenzionata non può mascherarsi usando l’account di una
parte della transazione, se parte non è; b) l’integrità, in quanto la ricevuta
della transazione non può essere modi cata dopo il fatto; c) la non
malleabilità, in quanto eventuali modi che alla transazione invalideranno la
rma dell’emittente, invalidando così anche la transazione.
Ogni clausola viene discussa e approvata da entrambe le parti prima di
essere immessa nella catena. Una volta approvata, essa viene inserita nel
primo blocco e, in tale momento, subisce la trasformazione da linguaggio
naturale in linguaggio crittografato in grado di essere compreso dal sistema.
Le operazioni che le parti compiono sono le seguenti: immettere, attraverso
le proprie chiavi crittogra che, sia le clausole che intendono inserire nel
contratto sia le operazioni che il sistema svolgerà in automatico, nel caso di
violazione di una delle suddette clausole. Grazie alla sequenza if/then, se il
sistema registrerà l’avveramento del fatto di cui a una certa clausola (if), il
contratto progredirà; se, al contrario, il contenuto della clausola sarà violato,
il contratto automaticamente esperirà i rimedi previsti dalle parti stesse o
dalla legge. Grazie al sistema backup non sarà possibile trovarsi nella
situazione in cui una parte vanti l’esistenza di alcune clausole e l’altra parte
vanti clausole diverse del medesimo contratto. Proprio come avviene per le
tecnologie che si utilizzano tutti giorni, dai cellulari ai computer, anche la
blockchain è dotata di un sistema di salvataggio dei dati33.
Oltre al sistema di salvataggio, il contratto viene anche duplicato, in
modo che, in caso di sua modi ca, sia sempre chiaro quale sia l’originale
condiviso dalle parti stesse34. Una copia dell’intero registro è memorizzata su
ogni dispositivo-nodo di ciascun partecipante, in modo che ogni record
informativo contenga sia la copia delle transazioni e dei dati corrispondenti
in un formato prestabilito, sia il blocco contenente le transazioni eseguite in
ordine temporale, protetto poi da un codice Hash. Per capire tale
funzionamento si può immaginare un diagramma ad albero: da un unico
punto di partenza, rappresentato dall’accordo delle parti, si rami cano
diverse strade, di cui una sola porta alla conclusione e alla piena esecuzione
del contratto, mentre le altre sono tutte possibili rami cazioni di situazioni
diverse che si possono veri care35.
5. Contratto o software? O entrambi?
Il lettore che abbia avuto la pazienza di seguire queste spiegazioni si
chiederà, di fronte a questo intreccio tra tecnologie soware e termini
tradizionali (volontà delle parti, accordo, contenuto del contratto), se lo
smart contract sia ancora un contratto (sia pure di un nuovo tipo) o sia
un’entità informatica (soware, codice, network), che nulla ha del
tradizionale contratto, sia nella sua struttura sia nelle forme di espressione
della vincolatività per le parti sia per la possibilità di fare ricorso a
un’autorità terza (tribunale?) nel caso in cui le cose non funzionino.
Markus Kaulartz, che lavora per CMS (un gruppo di avvocati che opera a
livello internazionale nel settore delle nuove tecnologie36) e che si
autode nisce un tech lawyer37, in un intervento alla Università Humboldt su
Smart contract Dispute Resolution, afferma testualmente che «uno smart
contract fondamentalmente non è un contratto. È solo soware che esegue
un’obbligazione sotto condizioni prede nite»; inoltre «i casi complicati, e
dove sono necessarie valutazioni giuridiche, vanno trattati con tecniche di
IA», mentre, «quando vi sono da valutare solo fatti e pochi argomenti
giuridici», allora sono utili e necessari gli smart contract, per i cui possibili
contrasti che riguardino errori di programmazione (there are always bugs!)
la soluzione è l’arbitrato38.
L’affermazione, al netto di un tono un po’ semplicistico per un avvocato
(eseguire un’obbligazione è comunque un fatto giuridico!), ri ette la duplice
apparenza dello smart contract, duplicità che si manifesta non tanto tra
contratto tradizionale e soware, ma tra accordo tra parti espresso in
linguaggio naturale (come è da sempre accaduto39) e accordo tra parti che è
ssato in un linguaggio formale (quale è quello del codice e del soware
attraverso il quale l’accordo è formalizzato nella blockchain). La questione va
oltre il tema degli smart contract e delle blockchain e riguarda piuttosto il
rapporto tra computazione e diritto (computation and law), che sarà trattata
nel Capitolo 8.
Rinviando l’esame più approfondito a quella sede, qui si può
preliminarmente notare che l’affermazione secondo la quale lo smart
contract non è un contratto implica e assume un’idea di contratto che è ssa
nel tempo, bloccata alla sua ultima de nizione prima dell’avvento dell’IA e
di Internet, mentre non bisogna mai dimenticare che il contratto (nelle tante
diverse connotazioni che assume nei diversi linguaggi e culture) è
probabilmente lo strumento più essibile e aperto ai cambiamenti nel tempo
che la storia giuridica dell’umanità conosca. Così come l’idea che tutto il
diritto sia computabile e che i linguaggi naturali siano superabili da un
linguaggio formale è una sempli cazione, che pur ri ettendo un certo
spirito (o entusiasmo) dei tempi, poco sembra avere a che fare con la
complessità della storia (anche futura) dell’umanità.
Un paio di questioni tecniche meritano, comunque, di essere affrontate
subito, quella della forma del contratto cosiddetto «informatico», e quella
della risoluzione delle controversie. Lo faremo nei prossimi due paragra .
5.1 Una questione di forma
La questione della forma dei contratti cosiddetti «informatici» è stata
affrontata più volte negli scorsi decenni dalla dottrina, con soluzioni che, in
linea di massima, non appaiono utili a proposito dello sviluppo odierno
delle tecnologie40. Anche a livello internazionale si è posto il problema di
come de nire la forma elettronica e come trattare i connessi problemi
giuridici. La Commissione delle Nazioni Unite per il diritto commerciale
internazionale (UNICITRAL) si è occupata di questi problemi in diversi
momenti, a partire dalla raccomandazione dell’Assemblea generale, l’11
dicembre 198541. In tempi più recenti ha adottato un particolare metodo per
la risoluzione dei problemi riguardanti la forma elettronica: il fuctional
equivalent approach42, che consiste nell’individuare, caso per caso, la
funzione della scrittura e la sua sostituibilità con la forma elettronica,
secondo il principio della neutralità tecnologica (il diritto non sceglie la
tecnologia che consente di implementare i principi giuridici).
Il codice civile italiano, all’art. 2702, stabilisce che il requisito della forma
scritta è soddisfatto quando il documento è scritto e sottoscritto dalle parti.
Più di recente, un intervento legislativo, recante le modi che e le
integrazioni al Codice dell’Amministrazione Digitale, prevede che il
documento informatico soddis il requisito della forma scritta e che faccia
piena prova:
Il documento informatico soddisfa il requisito della forma scritta e ha l’efficacia prevista
dall’articolo 2702 del Codice civile quando vi è apposta una rma digitale, altro tipo di rma
elettronica quali cata o una rma elettronica avanzata o, comunque, è formato, previa
identi cazione informatica del suo autore, attraverso un processo avente i requisiti ssati
dall’AgID ai sensi dell’articolo 71 con modalità tali da garantire la sicurezza, integrità e
immodi cabilità del documento e, in maniera manifesta e inequivoca, la sua riconducibilità
all’autore. In tutti gli altri casi, l’idoneità del documento informatico a soddisfare il requisito
della forma scritta e il suo valore probatorio sono liberamente valutabili in giudizio, in
relazione alle caratteristiche di sicurezza, integrità e immodi cabilità. La data e l’ora di
formazione del documento informatico sono opponibili ai terzi se apposte in conformità alle
Linee guida43.
Secondo questa disposizione, quindi, il documento assume valore,
secondo l’art. 2702 cc., anche quando il suo autore sia previamente
identi cato e il processo di creazione del documento garantisca l’identità e
l’immodi cabilità del documento creato.
Al ne di veri care se, e come, la tecnologia di scrittura blockchain
utilizzata dagli smart contract soddis i requisiti della forma previsti dal
Codice Civile, è utile richiamare il sistema SPID, un sistema
d’identi cazione del cittadino cui viene attribuita un’identità digitale. Si
potrà, quindi, identi care informaticamente il soggetto. Ma è proprio questo
sistema a consentire la tecnologia blockchain. Ciò che la blockchain è idonea
a garantire è l’immodi cabilità, l’integrità e la sicurezza del documento e la
riconducibilità all’autore44.
6. Le controversie che sorgono da smart contract
I sostenitori della natura particolarissima e diversa degli smart contract
pongono in luce tre aspetti caratterizzanti. In primo luogo, si tratta di
programmi/codici determinati dagli eventi, che danno esecuzione alle regole
del codice: i contratti di tipo deterministico contengono informazioni
sufficienti a determinare un risultato senza bisogno di informazioni esterne
(come, per esempio, un ordine di trasferimento di fondi da un portafogli a
un altro a una certa data). Inoltre, e in teoria, uno smart contract non ha
bisogno di intermediari, avvocati, giudici, banche, assicurazioni, in sintesi
non ha bisogno di ricorrere all’autorità di una parte terza. In ne, laddove
sorgano contrasti il rimedio è l’arbitrato.
Tuttavia, anche l’arbitrato, per come si è venuto affermando nella prassi
blockchain/smart contract, ha le sue insufficienze. Intanto perché alcune
forme di arbitrato sono degli oracoli, nel senso che la soluzione è data da
una votazione senza alcuna spiegazione45, e, poi, perché l’arbitrato ha alcuni
suoi limiti intrinseci, come lunghezza e costi, che sono ancora più elevati se
si considera che si tratta di arbitrati che, nella migliore delle ipotesi sono
assimilabili agli arbitrati irrituali del diritto civile italiano. Essi hanno natura
di contratti rispetto ai quali la parte interessata non ha altra scelta che
avviare una procedura di esecuzione in un tribunale pubblico, affrontando
gli stessi problemi che l’arbitrato intende prevenire. A quel punto che il
contratto sia stato ottenuto attraverso un sistema automatico o di
intelligenza arti ciale è una magra soddisfazione.
Su questa realtà, e sulla considerazione che nel sistema giuridico generale
il tempo e le risorse che una parte deve impiegare per ottenere l’esecuzione
di un contratto sono decisamente superiori a quello impiegato per il
raggiungimento dell’accordo contrattuale e la sua stesura, si basa la proposta
di JUR, una giovane realtà nel campo blockchain e smart contract, che
formula uno schema interessante:
Grazie a blockchain, la giustizia può passare da un sistema centralizzato a uno
decentralizzato, mentre gli smart contract trasformeranno un processo lento e costoso in uno
che è economico, affidabile, veloce e conveniente. JUR unisce queste due tecnologie per offrire
un sistema di risoluzione delle controversie su scala globale, in cui l’essere decentralizzato è il
valore fondamentale per creare trasparenza, qualità e incorruttibilità. […] JUR è nato quando il
CEO e co-fondatore Alessandro Palombo ha realizzato che la sostituzione dei contratti
tradizionali con contratti intelligenti non era sufficiente per lo scopo di cambiare il sistema
giuridico. Certo, si possono creare contratti automatizzati con smart contract, ma una decisione
giudiziaria da parte di un tribunale è sempre necessaria per ottenerne l’applicazione nel vero
sistema legale. Ciò signi cava che il potenziale innovativo contenuto all’interno degli smart
contract veniva annullato46.
Il sistema progettato da JUR distingue i diversi livelli ai quali un
contratto smart è self-executing e realisticamente riconosce che, in molti casi,
il contratto sarà solo parzialmente self-executing o addirittura dipenderà da
valutazioni soggettive, con la conseguenza che il ricorso a un sistema di
risoluzione delle liti che offra garanzie è una condizione essenziale per lo
sviluppo applicativo degli smart contract.
La proposta può così sintetizzarsi: a) il giudizio non è decentralizzato e
prevede che uno o tre arbitri emettano una decisione scritta (gli arbitri
guadagnano lo stesso importo indipendentemente dalla loro decisione); b)
sulla decisione il sistema esegue una peer review decentralizzata e cieca; c)
l’arbitro che viene valutato rimane anonimo; c) tre revisori, selezionati in
modo casuale, valutano la decisione e guadagnano o perdono token e
reputazione a seconda che votino per o contro la maggioranza; d) l’arbitro
che viene valutato riceve o perde punti-reputazione in conformità con il
voto dei reviewers.
Secondo i proponenti, in questo modo, si crea un ecosistema che
garantisce la qualità dei giudizi e la presenza di un giudice imparziale. Il
tutto accade all’interno del sistema blockchain senza ricorso a autorità
pubbliche.
Una iniziativa del Regno Unito parte da un’analoga valutazione del
sistema attuale.
Secondo Sir Geoffrey Vos gli smart contract potranno nalmente
decollare solo quando i partecipanti al mercato e gli investitori avranno
ducia in essi. Gli investitori tradizionali devono ancora essere convinti che i
loro diritti in termini giuridici possano essere tutelati quando commerciano
in cryptoassets e stipulano contratti intelligenti47.
Questa è la considerazione sulla quale nel Regno Unito è stata lanciata
nel maggio 2019 una pubblica consultazione su blockchain e smart contract.
Un assunto molto pragmatico che, pur con un’impostazione certamente
statalista (se vista con gli occhi dei grandi sostenitori di queste tecnologie),
ri ette la consapevolezza diffusa che il punto di equilibrio tra
regolamentazioni, statali o internazionali, e blockchain sia ancora tutto da
trovare. Il dilemma è stato così sintetizzato:
Regolare troppo presto potrebbe fornire una valida guida ai ni di un uso legittimo della
tecnologia blockchain, ma potrebbe bloccare alcuni potenziali bene ci. Regolare troppo tardi
può dissuadere gli attori meno propensi al rischio dall’esplorare le blockchain a causa
dell’incertezza giuridica e potrebbe contemporaneamente consentire ad alcuni socialmente
discutibili aspetti della tecnologia di emergere48.
Qui di seguito si riportano gli aspetti principali della regolamentazione
europea e italiana.
6.1 L’Unione Europea
Un documento elaborato dal Parlamento Europeo nel febbraio 2017
affronta esplicitamente il tema di come la tecnologia blockchain potrebbe
cambiare le nostre vite: How blockchain technology could change our life49. È
stato, poi, istituito nel febbraio 2018 un Osservatorio Europeo su blockchain
al quale hanno aderito numerosi Stati, tra i quali l’Italia, che il 28 settembre
2018 è entrata a far parte della ‘blockchain partnership’ europea. L’accordo
prevede un’erogazione di 300 milioni di euro che la Commissione investirà
in progetti riguardanti questa tecnologia tra il 2018 e il 202050.
Nel documento del Parlamento europeo vengono trattati i vari ambiti di
applicazione che la tecnologia blokchain potrebbe rivoluzionare: alcuni sono
già citati nei paragra precedenti, come il sistema e-voting e gli smart
contract, o l’enorme potenziale che l’applicazione della tecnologia potrebbe
avere sulla pubblica amministrazione; altri, invece, sono innovativi, come il
contributo che potrebbe esservi nel mondo dei brevetti. I bene ci che questi
settori potranno trarre dall’utilizzo della tecnologia in questione sono
innumerevoli e ampiamente spiegati nel documento, ma anche confermati
dalla risoluzione approvata dal Parlamento Europeo il 3 ottobre 2018 in
tema di tecnologia di registro distribuito (DTL) e blockchain51.
Più in particolare, la risoluzione affronta i temi dell’applicazione della
tecnologia al mondo universitario e della ricerca per la certi cazione dei
titoli di studio e dei titoli accademici; al diritto d’autore e al mondo della
proprietà intellettuale, invitando la Commissione e la Banca centrale
europea (BCE) a un’analisi puntuale dei rischi connessi alla volatilità delle
criptovalute come metodo alternativo di pagamento e di trasferimento di
valore. La risoluzione invita, poi, la Commissione a promuovere
l’elaborazione di un’analisi approfondita sul quadro giuridico esistente nei
vari Stati membri in relazione all’applicabilità dei contratti intelligenti. Un
ulteriore possibile ambito di applicazione è quello delle infrastrutture, in
modo da prevenire abusi di posizioni dominanti. Il documento, poi, insiste
sulla maggiore trasparenza, affidabilità e razionalizzazione nel trattamento
delle informazioni che la tecnologia potrebbe produrre nell’ambito del
settore pubblico dell’UE; l’idea è anche di creare una rete di blockchain
condivisa tra gli Stati membri, intesa a memorizzare i dati dei cittadini in
modo sicuro e essibile incoraggiando, poi, uno studio più approfondito sui
casi di e-voting.
L’ultimo ambito trattato dalla risoluzione è la regolamentazione delle
ICO (offerte iniziali di moneta), quale strumento di investimento alternativo
per nanziare le piccole e medie imprese (PMI) e le start-up innovative. Più
in generale, la Commissione e le autorità nazionali sono invitate ad acquisire
le competenze tecniche e normative al ne di intervenire il prima possibile a
livello legislativo e regolamentare dove è opportuno.
L’Europa è attiva anche nel campo della giustizia. Nel Progetto di piano
d’azione 2019-2023 in materia di giustizia elettronica (di cui si è parlato nel
Capitolo 452) viene tra l’altro indicato l’obiettivo di esaminare i casi d’uso
delle tecnologie blockchain nel settore della giustizia elettronica e di avviare
uno studio per analizzare le condizioni giuridiche ed eventuali opportunità
e/o ostacoli.
6.2 Italia
Il Governo italiano ha manifestato un interesse nel voler trattare il tema
del rapporto tra blockchain e diritto positivo. Un primo passo è stato
compiuto nel Decreto legge ‘sempli cazione’, che dà una prima de nizione
di DLT (distributed ledger technology). Il legislatore si ispira a un principio di
non discriminazione della validità e della certezza degli atti per il solo fatto
di essere stati certi cati con la tecnologia blockchain. Il testo dell’art. 8 ter è il
seguente:
Tecnologie basate su registri distribuiti e smart contract.
1. Si de niscono ‘tecnologie basate su registri distribuiti’ le tecnologie e i protocolli
informatici che usano un registro condiviso, distribuito, replicabile, accessibile
simultaneamente, architetturalmente decentralizzato su basi crittogra che, tali da consentire la
registrazione, la convalida, l’aggiornamento e l’archiviazione di dati sia in chiaro che
ulteriormente protetti da crittogra a veri cabili da ciascun partecipante, non alterabili e non
modi cabili.
2. Si de nisce ‘smart contract’ un programma per elaboratore che opera su tecnologie
basate su registri distribuiti e la cui esecuzione vincola automaticamente due o più parti sulla
base di effetti prede niti dalle stesse. Gli smart contract soddisfano il requisito della forma
scritta previa identi cazione informatica delle parti interessate, attraverso un processo avente i
requisiti ssati dall’Agenzia per l’Italia digitale con linee guida da adottare entro novanta giorni
dalla data di entrata in vigore della legge di conversione del presente decreto.
3. La memorizzazione di un documento informatico attraverso l’uso di tecnologie basate su
registri distribuiti produce gli effetti giuridici della validazione temporale elettronica di cui
all’articolo 41 del regolamento (UE) n. 910/2014 del Parlamento europeo e del Consiglio, del 23
luglio 201453.
La norma rappresenta certo un passo avanti. Ad oggi (agosto 2019),
però, non sono state emanate le linee guida, che sono la parte decisiva.
7. Tra grandi possibilità e seri limiti tecnici
Il futuro di blockchain e degli strumenti collegati (si pensi agli smart
contract) è oggetto di valutazioni quanto mai discordanti. Si va dalla
valutazione del World Economic Forum, con la quale abbiamo aperto il
capitolo, che vede ben il 10% del PIL del mondo collegato alle tecnologie
blockchain, al giudizio di chi considera blockchain non solo una pessima
tecnologia ma anche una brutta visione per il futuro54.
L’unica cosa certa sono alcuni limiti tecnologici obiettivamente esistenti.
Essi riguardano, secondo autori tutt’altro che ostili, la mancanza di potenza e
di velocità rispetto ad altre tecnologie: i network blockchain esistenti al
momento gestiscono poche transazioni, se comparate al totale dei messaggi
email o ai milioni di transazioni che quotidianamente gestiscono le società
delle carte di credito, e a una velocità molto bassa. In più, il fatto che i
database di blockchain siano append-only, cioè non permettono modi che (è
uno dei pregi dell’idea!), comporta che ogni nuova transazione causa una
crescita di tutto il network, rendendo la scalabilità del sistema molto
laboriosa. Ricerche per risolvere questi problemi sono in corso e potrebbero
dare frutti a breve55,
E anche l’idea che blockchain sia la ne del contratto sociale e dello Stato
è la seconda volta che fallisce, dopo la prima ondata di Internet56.
«Just like ‘cloud’ means someone else’s computer and ‘AI’ means a tweaked algorithm,
‘blockchain’ in this context means a slow, expensive database»: SONG 2018.
2
She, Robot. A Conversation With Helen Greiner, Foreign Affairs, January/February 2015
1
«During 2017 and 2018, blockchain has received considerable hype regarding its potential to
create wide-reaching impact, with proponents projecting that it could account for as much as 10% of
global GDP by 2025»: World Economic Forum (in collaboration with PwC and Stanford Woods
Institute for the Environment), Building Block(chain)s for a Better Planet, September 2018, p. 8. Degno
di nota anche l’evento organizzato dall’OECD: OECD Global Blockchain Policy Forum. e Policy
Environment for Blockchain Innovation and Adoption, 12-13 September, Paris (France)
http://www.oecd.org/ nance/OECD-Global-Blockchain-Policy-Forum-2019-Agenda.pdf, visitato il
19 agosto 2019.
4
DE FILIPPI – WRIGHT 2018, pp. 46-48.
5
HABER – STORNETTA 2010. Nella ricostruzione della storia di blockchain e argomenti
correlati, in questo e nei prossimi paragra 2.2, 2.4, 3, 4 e 5.1, mi avvalgo del lavoro di Francesca
Arrigo, Un’evoluzione tecnologica del contratto: il caso degli smart contract e della blockchain, tesi di
laurea in Giurisprudenza parzialmente pubblicata il 29 aprile 2019 in «Altalex». Ringrazio l’autrice per
la sua gentile concessione.
6
BELLINI 2019.
7
SONG 2018, p. 9 [traduzione mia dall’originale inglese].
8
PETRUCCIANI 2018.
9
PETRUCCIANI 2018. Esistono diversi modi per acquistare una criptovaluta. La via principale è
quella dell’exchanger, ovvero di un cambiavalute. L’offerta del mercato è molto vasta, «ma per
muoversi in sicurezza è consigliabile aprire un account su exchanger che sono regolati da normative –
avvisa Menon – come Bitsmap, che è basato in Europa ed è vigilato come intermediario cambiavalute,
Kracken oppure Coinbase. […] c’è anche un’app tutta italiana, Conio, che permette di acquistare e
vendere Bitcoin. La società è stata fondata da Christian Miccoli e Vincenzo Di Nicola e ha come
partner industriale Poste Italiane».
10
PENNISI 2019.
11
Sul rapporto tra Internet e IA si veda PASERELLA 2018.
12
MEIR 1986.
13
Secondo DE FILIPPI – WRIGHT 2018, p. 146.
14
https://www.internet4things.it/industry-4-0/blockchain-ibm-e-microso-tracciano-la-rotta-perliot-di-nuova/generazione/ (consultato il 22 luglio 2018).
15
Enciclopedia Treccani, Pietra filosofale, in http://www.treccani.it/enciclopedia/pietralosofale_%28Enciclopedia-Italiana%29/, consultato il 27 giugno 2019.
16
Per questo paragrafo rinvio al lavoro di Francesca Arrigo (vedi sopra, nota 5).
17
BOLDRINI 2018.
18
SALERNO 2018.
19
https://www.blockchain4innovation.it/brand/follow-my-vote/, visitato il 17 agosto 2019.
20
LEVINE 2018.
21
YOUNG 2017.
22
https://www.elliptic.co (consultato l’1 dicembre 2019).
23
Rivoluzione blockchain: 331 progetti nel mondo. Quali in Italia?, in «TechEconomy», 18 aprile
2018:
https://www.techeconomy.it/2018/04/18/rivoluzione-blockchain-331-progetti-nel-mondoquali-italia/ visitato il 17 agosto 2019. Il «Sole 24 Ore» dell’1 dicembre 2019 (p. 9) dà notizia
dell’utilizzo della blockchain per combattere la «guerra al cobalto sporco».
24
Si veda a tale proposito il progetto di un Legal Specification Protocol, promosso da Oliver
Goodenough
e
dal
Centro
Codex
presso
l’Università
di
Stanford,
USA:
3
https://law.stanford.edu/publications/developing-a-legal-speci cation-protocol-technologicalconsiderations-and-requirements/ visitato il 10 novembre 2019
25
Si veda l’interessante storia del gruppo berlinese Ascribe presso https://www.ascribe.io/, visitato
il 18 agosto 2019.
26
DE FILIPPI – WRIGHT 2018, p. 72.
27
DE FILIPPI – WRIGHT 2018, p. 74.
28
SZABO 1997; si veda anche LEWIS 2015.
29
CHIRIATTI 2015.
30
SOLDAVINI 2016.
31
Cosa
sono
gli
smart
contract?,
in
«Next
generation
currency»,
https://nextgenerationcurrency.com/smart-contracts/, visitato il 18 agosto 2019.
32
https://www.adjoint.io/docs/architecture.html#components, consultato il 9 settembre 2017.
33
F. Arrigo, Un’evoluzione tecnologica del contratto: il caso degli smart contract e della blockchain,
tesi di laurea in Giurisprudenza non pubblicata.
34
ROSIC 2016.
35
RUNDO – CONOCI 2017.
36
https://cms.law/en/DEU/.
37
https://cms.law/en/DEU/People/Markus-Kaulartz.
38
Smart contract is not a contract. It is soware which executes an obligation under predefined
conditions, https://www.youtube.com/watch?time_continue=30&v=N4jtK4HaKfQ, visitato il 26
giugno 2019.
39
La cautela è d’obbligo a fronte degli studi di Amedeo Conte su unwritten law. Circa la possibilità
di unspoken norms si veda CONTE 2011; SACCO 2007; si veda anche avanti in Capitolo 8.
40
Tra i testi di riferimento si possono ricordare FINOCCHIARO 1997; PARISI 1987, p. 21 e ss.;
BORRUSO 1988, p. 257 e ss.; FRANCESCHELLI 1989, p. 228 e ss.
41
Risoluzione 40/71, United Nations Commission on International Law Yearbook, 1985, vol. XVI,
Part One, United Nations Publications.
42
De nibile «Approccio funzionale equivalente» consultabile presso il Report of the Working
Group on International Payments on the work of its twenty-fourth session, United Nations
Commission on International Trade Law, venticinquesima sessione.
43
Decreto Legislativo 13 dicembre 2017 n. 217, di modi ca dell’art.20, comma 1-bis, del testo della
legge del 2005. Per un commento si veda NICOTRA – TRAVIA 2018.
44
NICOTRA – TRAVIA 2018.
45
Per una rassegna dei sistemi esistenti si veda CAPPIELLO 2019.
46
Jur’s debut: the token of justice (JUR) is on public sale from 28th August, https://medium.com/jurio/jurs-debut-the-token-of-justice-jur-is-on-public-sale-from-28th-august-ab0ffd8cbb59, visitato il 19
agosto 2019.
47
Dalla Prefazione di Sir Geoffrey Vos, Chancellor of the High Court, al documento UK
Jurisdiction Taskforce of the LawTech Delivery Panel, che ha lanciato il 9 maggio 2019 la public
consultation su blockchain e smart contract (Consultation on the status of cryptoassets, distributed ledger
technology
and
smart
contracts
under
English
private
law):
https://www.lawsociety.org.uk/news/stories/cryptoassets-dlt-and-smart-contracts-ukjt-consultation/,
visitato il 25 giugno 2019.
48
DE FILIPPI – WRIGHT 2018, p. 57.
49
How
blockchain
technology
could
change
our
life:
http://www.europarl.europa.eu/RegData/etudes/IDAN/2017/581948/EPRS_IDA(2017)581948_EN.pd
f, consultato l’1 settembre 2017.
50
FOTINA 2018.
51
Inserto «Novà», del «Sole24ore», Il Parlamento UE approva risoluzione sulla blockchain e le
criptovalute, 7/10/2018, https://fulviosarzana.nova100.ilsole24ore.com/2018/10/07/il-parlamento-ueapprova-risoluzione-sulla-blockchain-e-le-criptovalute/, visitato il 19 agosto 2019.
52
http://data.consilium.europa.eu/doc/document/ST-11724-2018-REV-4/it/pdf, visitato il 10
maggio 2019.
53
Testo del decreto-legge 14 dicembre 2018, n. 135 (in Gazzetta Ufficiale – Serie generale – n. 290
del 14 dicembre 2018), coordinato con la legge di conversione 11 febbraio 2019, n. 12 (in questa stessa
Gazzetta Ufficiale alla pag. 6), recante: «Disposizioni urgenti in materia di sostegno e sempli cazione
per le imprese e per la pubblica amministrazione» (19A00934) (GU Serie Generale n.36 del 12-022019): articolo 8 ter.
54
Kai Stinchcombe, Blockchain is not only crappy technology but a bad vision for the future, 5 aprile
2018, https://medium.com/@kaistinchcombe/decentralized-and-trustless-crypto-paradise-is-actuallya-medieval-hellhole-c1ca122efdec, visitato il 10 agosto 2019.
55
Si veda LEUNG et al. 2019. Gli autori promettono un sistema su basi nuove: sicuro, scalabile e
decentralizzato. Computable and Smart Contracts sono stati uno dei temi discussi al IACCM
Academic Symposium on Contract and Commercial Management, svoltosi a Stanford (USA) l’8
novembre 2019.
56
Si veda DE FILIPPI – WRIGHT 2018, pp. 56-57 e p. 50.
6. L’accademia giuridica e l’innovazione
digitale
Are we preparing the next generation of lawyers
to be more flexible, team based, technologically
sophisticated, commercially astute,
hybrid professionals, who are able to transcend
legal and professional boundaries,
and speak the language of the boardroom?
[…] My fear is that we are training lawyers
to become 20th-century lawyers and not
21st-century lawyers1.
1. Un mondo sempre più piccolo e tecnologico
Questo capitolo si occupa della distanza tra la formazione che le facoltà
di giurisprudenza e le scuole giuridiche offrono agli studenti e le nuove
gure di professionisti legali. Queste nuove gure stanno emergendo, e tutto
lascia prevedere che emergeranno ancora di più nel futuro.
All’origine di questo cambiamento vi sono lo sviluppo delle relazioni
internazionali, con le accresciute occasioni di contatto tra professionisti e
ordinamenti diversi, e l’innovazione digitale. Sono forze di tipo diverso, ma
connesse e che si potenziano reciprocamente.
Sul fatto che lo studio del diritto nelle università debba cambiare, se
vuole essere al passo con l’evoluzione sociale e tecnologica, vi è una
consapevolezza crescente, come testimoniano varie pubblicazioni. Per
esempio, il volume di Cathy N. Davidson è dedicato a un rinnovamento non
più rinviabile che metta gli studenti in grado di affrontare, una volta laureati,
un mondo in rapido cambiamento. È ormai quasi storico il volume di Carel
Stolker, che nel 2014 dava un quadro globale delle facoltà di giurisprudenza
e della necessità di innovare l’insegnamento, così come la ricerca e i risultati
perseguiti. Più di recente Alberto Alemanno e Lamin Khadar hanno posto
in luce un aspetto particolare di metodologia, come l’utilizzo di legal clinics2
su particolari temi come modo per superare un insegnamento del diritto
che, specie in Europa, è, a loro avviso, storicamente formalistico, dottrinario,
gerarchico e passivo per gli studenti. Altre pubblicazioni, come quella di
Adam Chilton e altri, puntano l’attenzione sulla qualità e sulle caratteristiche
richieste al corpo docente3. Altri autori puntano la loro attenzione sul
coltivare una mentalità di crescita, perché un’educazione giuridica più
moderna avrebbe bisogno di una maggiore enfasi su etica, tecnologia e arti,
come mezzo per stimolare l’immaginazione e incoraggiare atti di cocreazione4. Anche in Francia e in Germania sono stati pubblicati alcuni studi
su come insegnare il diritto oggi. In Italia, a oggi, le ri essioni di questo
genere sono rare o si riferiscono solo ad alcuni particolari settori del diritto5.
Intanto, nei dipartimenti di giurisprudenza, un po’ dappertutto qualcosa
ha cominciato a muoversi, con l’inserimento di alcuni nuovi corsi e di nuove
metodologie, dalle simulazioni di processi (moot court) a seminari sul coding
a «cliniche giuridiche», oltre alla creazione di nuovi corsi di master e centri
di ricerca.
In questo capitolo vengono prima (paragrafo 2) messi a fuoco i bisogni
di cambiamento nell’organizzazione dell’insegnamento del diritto emersi a
proposito delle nuove tecnologie, con l’interessante contributo del punto di
vista di un gruppo di giovani giuristi (paragrafo 2.1); poi (paragrafo 3) viene
presentata sinteticamente l’offerta delle università americane, europee e
italiane, e, in ne (paragrafo 4), viene esaminato il dibattito accademico sul
che fare, sotto il pro lo (paragrafo 4.1) delle partizioni disciplinari e delle
implicazioni teoriche e (paragrafo 4.2) dell’interrogazione più profonda su
quale idea del diritto stia emergendo (con un rinvio ai capitoli successivi).
Le domande alle quali si dà risposta sono: quali sono i bisogni di
formazione dei futuri giuristi oggi? Qual è il punto di vista dei diretti
interessati (cioè i giovani giuristi)? Il tipo formazione che le facoltà di
giurisprudenza e le scuole di diritto offrono sono adeguate ai tempi? Quali
sono i termini del dibattito all’estero e in Italia? Questo dibattito riguarda se
e quali nuove discipline siano da inserire o si tratta di un problema più
ampio e profondo?
2. La capacità di lavorare in team interdisciplinare vale più di
mere nozioni
Larga parte degli autori che si sono occupati d’innovazione tecnologica e
di IA in ambito giuridico si sono chiesti se il tipo di formazione che le
facoltà di giurisprudenza e le scuole di diritto offrono ai giovani siano
adeguate ai tempi. Il punto di partenza è l’osservazione dello scarto tra le
istituzioni di formazione giuridica e i bisogni dei giovani, del mercato legale
e, anche, della ricerca.
Così Daniel Katz, l’autore di importanti contributi in materia di legal
prediction, di cui si è parlato nel Capitolo 3, invita a prepararsi per uno
sviluppo vigoroso, pena la sopravvivenza, nell’era dell’IA applicata al diritto.
A suo avviso la grande transizione in corso nel mercato dei servizi legali
richiede una pari grande transizione nell’educazione giuridica, visto che le
law school statunitensi stanno laureando il doppio di giovani rispetto alle
opportunità di lavoro che si aprono. Per Katz la formazione dovrebbe essere
più adeguata alle realtà economiche del nuovo mercato del lavoro legale, che
sono guidate direttamente o indirettamente dalla tecnologia. La sua
proposta è che siano abbattute alcune barriere disciplinari (hothouse walls,
letteralmente «muri di serra»):
La Law School deve passare dalla sua predisposizione verso le arti liberali a un’operazione
politecnica di ricerca e insegnamento. Dal punto di vista sia delle borse di studio sia della
formazione, è il momento di prendere sul serio scienza, computazione, analisi dei dati e
tecnologia. [Esiste] un’opportunità di scambio vantaggioso nel mercato dell’istruzione legale
[…] per un’istituzione che vada verso una Law School del MIT6.
Margaret Hagan, la studiosa di Stanford che suggerisce agli avvocati di
«imparare a lavorare in gruppi di esperti interdisciplinari», sollecita la
formazione accademica a farsi parte attiva di questo cambiamento. Le scuole
di diritto dovrebbero promuovere questo tipo di formazione
interdisciplinare e insegnare come essere buoni membri di un team. Si
dovrebbe andare oltre l’imparare a scrivere, ragionare e ricercare come un
avvocato. Ciò non è abbastanza, perché gli avvocati devono integrare i loro
approcci per risolvere i problemi con gli altri professionisti, in modo che
possano collaborare con essi7.
Anche Richard Susskind insiste su questa tendenza del giurista/avvocato
a sviluppare sempre più doti multi e interdisciplinari, come dimostra il fatto
che molti avvocati già operano come strateghi, consulenti di management,
esperti di mercato o esperti di psicologia dell’organizzazione. La s da è
costruire il legal hybrid (legale ibrido), a patto che sia chiaro che bisogna
essere formidably schooled in quelle discipline, senza illudersi di acquistare
con poca spesa nuove capacità disciplinari. Susskind premette che vi sono
alcune differenze tra le law school americane, che sono graduate schools
(dopo il college) e quelle inglesi ed europee, che si possono frequentare
direttamente dopo le scuole superiori (undergraduate), e mette in luce le
differenze tra i professori di diritto nel Regno Unito e nell’Europa
continentale (dove, invece, possono fare anche la professione di avvocato) e
la reciproca diffidenza che vi è, in alcuni Paesi, tra giuristi della cattedra e
del foro. Alla ne denuncia la debolezza principale di scuole e facoltà di
giurisprudenza, che a suo avviso è di non preparare gli studenti alla realtà
dell’industria legale. Non si nasconde, però, alcune difficoltà:
In molte facoltà di giurisprudenza, il diritto è insegnato come negli anni Settanta del secolo
scorso, da professori che hanno poche idee o interesse nel cambiamento del mercato legale.
Troppo spesso poca attenzione è prestata a fenomeni come la globalizzazione,
commoditization8, tecnologia, gestione d’impresa, valutazione del rischio […] Dovremmo per
questo motivo aumentare le rimesse a law school e college per includere altre discipline? C’è
posto per il futuro nell’affollato curriculum di giurisprudenza?9
Anche in ambito scienti co, realizzare l’interdisciplinarietà non è facile
in sé e, di fatto, è penalizzante nella ricerca di fondi di ricerca. Per risolvere
le grandi s de che la società deve affrontare – energia, acqua, clima, cibo,
salute – scienziati e scienziati sociali devono lavorare insieme. Ma la ricerca
che trascende i con ni accademici convenzionali è più difficile da fare,
revisionare, pubblicare, essere nanziata e riconosciuta ai ni della
carriera10. L’esperienza dei centri di ricerca interdipartimentali nelle
università italiane ri ette questa realtà, visto che il sistema di assegnazione e
gestione dei fondi rimane in larga parte nelle mani dei dipartimenti, rispetto
ai centri di ricerca interdisciplinari.
Carol Dweck, una psicologa dell’università di Stanford, ha elaborato la
nozione di mindset (che potremmo tradurre come abito mentale). Ha
distinto, quindi, un fixed e un growth mindset, dove il primo (che potremmo
dire ‘statico’) porta a sfruttare, piuttosto che a sviluppare, la propria
intelligenza e le abilità acquisite, mentre il secondo, di crescita, porta a
credere nell’idea di sviluppo costante, di recupero rispetto alle disavventure
(resilienza) e a essere maggiormente in grado di cogliere i bene ci offerti
dall’esperienza, anche degli altri. Il problema è che l’educazione giuridica è
oggi basata sul rafforzamento di una mentalità statica11, come nota Rory
Unsworth:
Al ne di formare la mentalità ci dovrebbe essere una maggiore varietà di moduli alla law
school, tra cui statistica e logica, sviluppo di sistemi e spiegazioni di base delle moderne
tecniche di computazione, come intelligenza arti ciale, text mining, blockchain ecc. Oltre a
incoraggiare una mentalità di crescita, un’educazione giuridica più moderna richiederebbe
maggiore enfasi su etica, tecnologia e arti come mezzo per stimolare l’immaginazione e
incoraggiare atti di co-creazione12.
Cecilia Magnusson Sjöberg va un po’ più in profondità nell’analisi dei
diversi bisogni13. In risposta alla diffusione dei computer a partire dagli anni
Sessanta, le facoltà di diritto di tutto il mondo hanno riconosciuto
l’informatica giuridica come una nuova disciplina legale emergente14.
Alcune università hanno negli anni cominciato a studiare la trasformazione
di aspetti di diritto sostanziale tradizionale nel nuovo ambiente digitale.
Altre istituzioni si sono concentrate su aspetti metodologici associati alla
progettazione, sviluppo, implementazione e gestione dei sistemi legali. Per
fare un breve esempio: la creazione di un sito web ‘legalmente sicuro’ per i
consumatori potrebbe richiedere non solo di comprendere no a che punto
vi sia un’esigenza formale di una rma che abbia valore di conclusione di un
accordo, ma anche sapere se una rma elettronica, secondo il livello di
sicurezza esistente, soddis i requisiti giuridici per un valido contratto. Va
notato che non solo gli studenti di giurisprudenza, ma anche quelli di
tecnologia potrebbero bene ciare della consapevolezza giuridica di
situazioni che si creano per effetto della digitalizzazione. Problemi analoghi
si pongono per l’inquadramento giuridico dei cosiddetti smart contract (vedi
Capitolo 5) o per il riconoscimento dei diritti di copyright per i soware e
altro ancora. Questo ha fatto sorgere la domanda se non sia il caso di creare
una partizione disciplinare autonoma chiamata IT Law:
gli avvocati di oggi possono essere sorprendentemente ignoranti quando si tratta di nuove
infrastrutture giuridiche riguardanti l’elaborazione automatica dei dati, la documentazione
elettronica, ecc. Sfortunatamente, questo vale non solo per le generazioni precedenti, ma anche
– in qualche modo sorprendentemente – per i più giovani. Ad esempio, i modelli di business
indicati come soluzioni di Cloud Computing possono benissimo necessitare di una spiegazione
in classe in modo da evitare fraintendimenti e illusioni di transazioni che si svolgono in uno
‘spazio esterno’ senza alcun server hardware in una posizione geogra ca ssa15.
2.1 La visione di un gruppo di giovani giuristi: Law School of the future
Che cosa pensano i diretti interessati, gli studenti e quelli che hanno da
poco completato gli studi, dell’insegnamento ricevuto?
Non esistono, a oggi, vere e proprie indagini dedicate all’argomento. Un
piccolo test, del tutto informale, è stato fatto con i partecipanti al corso
intensivo Technological Innovation and Law (TIL 2019) svoltosi presso
l’Università di Pavia a febbraio 201916.
A questo gruppo di ventisette giovani, provenienti da diverse istituzioni
italiane ed europee, è stato assegnato il compito di indicare i motivi di
insoddisfazione del modo in cui hanno ricevuto l’insegnamento del diritto e
di tracciare le linee di quella che, secondo la propria sensibilità, potesse
essere la «Law School of the future»17. Il risultato non è un saggio sugli studi
giuridici né una critica rivolta a una particolare università né il risultato dei
temi dibattuti nel corso intensivo, nel quale non era stato trattato
l’argomento dell’organizzazione delle facoltà di giurisprudenza. Si tratta della
manifestazione di bisogni di un piccolo gruppo di giovani giuristi, che, pur
non costituendo un campione in senso tecnico, era comunque signi cativo
per università di provenienza (le più prestigiose università di Milano –
Statale, Cattolica e Bocconi –, oltre la scuola Sant’Anna di Pisa e altre18) per
livello di preparazione (selezionati in relazione ai titoli accademici ottenuti,
oltre che alla motivazione) e per capacità di seguire lezioni impartite in
inglese da un corpo docente proveniente da Paesi europei e dagli USA, oltre
che dall’Italia, e di dialogare con docenti e colleghi in inglese.
Quanto ai modi d’insegnamento sono stati rilevati problemi di
metodologia (molto tradizionale), in particolare nel modo di svolgimento
delle lezioni e degli esami, come l’impossibilità di seguire le lezioni via
remoto e la mancanza di specializzazione. È stata lamentata anche la scarsa
internazionalizzazione, l’assenza di alcuni corsi ritenuti necessari, la scarsità
di contatti con il mondo del lavoro e l’assenza di un servizio efficace di avvio
alla carriera.
Ricca la gamma delle proposte:
– Valorizzare attività come i processi simulati (moot court) e legal clinics e,
in generale, adottare un approccio come quello usato nei Paesi di lingua
inglese, dove gli studenti ricevono il materiale prima della lezione, in
modo da poter poi concentrare il rapporto con il professore sugli aspetti
più problematici e sulle criticità, in modo da agevolare l’interazione in
classe, evitando gli aspetti negativi della tipica lezione frontale.
Videoregistrare le lezioni e caricarle su piattaforme online.
– Nei contenuti è sentito il bisogno di un approccio maggiormente pratico,
dando maggior peso alla casistica giudiziaria.
– Rendere obbligatori i corsi d’informatica giuridica e di programmazione
base e promuovere corsi di scrittura giuridica.
– Aumentare il numero di esami scritti e, in quelli orali, favorire gli esami
a ‘libro aperto’.
– Concentrare la maggior parte degli esami obbligatori nei primi anni di
università e favorire un percorso più specializzato, scelto dallo studente,
per gli ultimi due anni.
– Sviluppare maggiore interdisciplinarietà (con seminari o convegni su
temi dove concorrono discipline diverse) e avere un adeguato numero di
crediti per insegnamenti mutuati da altri corsi di laurea (come per es.
psicologia, economia ecc.)
– Prevedere incentivi per accordi internazionali tra le università europee al
ne di facilitare gli scambi e facilitare la partecipazione a eventi
internazionali. Una maggiore offerta di corsi di lingue straniere, nella
direzione dello ‘studente europeo’, in modo che sia possibile valutare
concretamente la possibilità di lavorare all’estero dopo la laurea.
– Promuovere un contatto reale con il mondo delle professioni forensi,
con il coinvolgimento di professionisti nelle lezioni universitarie e con
stage obbligatori presso studi legali e/o di consulenza.
– Introdurre una smart card per l’accesso ai servizi offerti dall’università
(biblioteca, mensa ecc.), compresi i servizi di tutoraggio (da ampliare) e
un supporto psicologico gratuito.
Queste richieste sono espressione di bisogni che meritano un’attenzione
adeguata e non certo di essere irrisi (come qualche professore può essere
tentato di fare), visto che sono problemi di contenuti, metodo e interazione
interdisciplinare, che si possono trovare in Susskind o in Margaret Hagan o
nei vari autori che sono stati richiamati in questo e in altri capitoli.
Sono degni di nota, piuttosto, il respiro internazionale delle richieste (è
una generazione che esprime una visione globale del diritto, anche quando
parla di quello nazionale) e il modo maturo e consapevole di rapportarsi alle
nuove tecnologie e all’intelligenza arti ciale. In altre parole, questo gruppo
di giovani giuristi non chiede qualcosa d’altro, rispetto a ciò che è stato loro
insegnato, ma qualcosa di più e di diverso nel modo di studiare, nel quale sia
il collegamento con esperienze giuridiche (e non) di altri Paesi sia le
tecnologie siano coessenziali.
È interessante che questi giovani giuristi abbiano adottato il modello di
‘avvocato a forma di T’ (T-shaped lawyer), che è una de nizione emersa
alcuni anni fa come risposta alla richiesta di un nuovo tipo di professionista
legale capace di far fronte alle s de degli sviluppi tecnologici, ai
cambiamenti nel mercato dei servizi legali e ai nuovi dilemmi etici in una
società complessa. L’«avvocato a forma di T» si sostiene che sia in grado di
far fronte a queste s de perché si basa su profonde conoscenze e abilità
giuridiche, anche di tipo tradizionale, se si vuole (la colonna verticale della
T), sulle quali poggia la componente orizzontale della T, che contiene una
vasta gamma di altre discipline e abilità accademiche, come design thinking,
data analysis, project management, business leadership, risk mangament,
technology & data19.
Il problema è che, appunto, l’attuale educazione giuridica non prepara
sufficientemente alle competenze che si trovano nella parte orizzontale. E i
giovani allievi del corso TIL 2019 non hanno mancato di rilevarlo.
3. L’offerta delle università
In questo paragrafo sono riportati l’offerta di alcune principali università
e alcuni sviluppi recenti. Non vi è alcuna pretesa di completezza. Sono
informazioni che servono solo a dare un’idea del quadro in movimento, per
poter poi discutere alcuni aspetti teorici.
3.1 Negli Stati Uniti
Oliver Goodenough, uno dei leader del processo di innovazione e diritto
negli Stati Uniti e Direttore del Center for Legal Innovation presso la
Vermont Law School (USA), in un articolo del 2013 riferisce con stupore
come al LegalTech 2013 di New York quasi nessun professore di diritto fosse
presente:
LegalTech è il bazar commerciale dedicato a questo nuovo modo di intendere la professione
legale e, come la maggior parte dei bazar, è rumoroso, disordinato, divertente. Viene distribuita
una gran quantità di gadget, dalle chiavette USB gratuite alle tazze da caffè da usare in
automobile, e vi sono continuamente conferenze in programma. L’elenco dei relatori prevedeva
dirigenti delle aziende in esposizione, soci e amministratori provenienti da studi legali, anche
diversi giudici e pubblici ministeri, e un professore di diritto, Daniel Katz della Michigan State
University. Tale sotto-rappresentazione dell’ambiente accademico è stata continua sullo sfondo
dell’evento, tanto che ho incontrato solo pochi dei miei colleghi di altre Law School. Questa
separazione è impressionante. Una rivoluzione basata sulla tecnologia sta capovolgendo il
modo in cui l’America pratica il diritto, gestisce la pubblica amministrazione e dispensa la
giustizia, e no a ora la rivoluzione è passata quasi completamente inosservata da parte di
coloro che insegnano agli aspiranti giuristi20.
Ecco il punto. Siamo nel 2013 a New York, mezzo mondo delle
professioni giuridiche è partecipe o mostra almeno curiosità, mancano
all’appello coloro i quali insegnano ai futuri giuristi. Ho avuto occasione di
partecipare al LegalTech 2015 e di essere relatore in un panel dal titolo
Towards e Technology-Driven Future of the Law, organizzato da CODEX
Stanford, e posso confermare l’atmosfera incredibilmente vivace, a tratti
improbabile per il mio occhio di giurista europeo (è possibile che fossi
l’unico presente), che si respirava.
Il quadro negli USA è, comunque, in forte movimento e alcune
importanti università dedicano corsi e programmi esattamente a tale tema.
La Stanford Law School si presenta così nella pagina iniziale del sito:
«Eccellenza, innovazione e un impegno per il futuro, questa è l’eredità che la
Stanford Law School lascia a ogni generazione di studenti e giuristi»21. La
stessa facoltà ha un centro, CodeX – e Stanford Center for Legal
Informatics, la cui ispirazione è interessante:
Presso il Centro ricercatori e imprenditori progettano tecnologie per un migliore sistema
giuridico. La nostra missione è creare tecnologie giuridiche che diano potere a tutte le parti del
nostro sistema giuridico, e non solo alle professioni legali. Queste tecnologie giuridiche aiutano
gli individui a trovare, capire e operare in modo conforme alle regole che governano le loro
vite. Tali tecnologie aiutano i corpi legislativi ad analizzare le leggi proposte in base ai costi, alle
sovrapposizioni e alle incoerenze e aiutano le istituzioni chiamate all’applicazione della legge ad
assicurare il suo rispetto. Tutti questi progressi portano a quella che è la nuova frontiera della
tecnologia giuridica, e che comporta nuovi livelli di trasparenza e maggior potere degli
individui22.
Alla Georgetown University, poi, viene offerto un corso su Technology,
Innovation, and Law Practice e alla Vermont Law School è stato istituito un
Center for Legal Innovation, mentre iniziative analoghe sono in corso ad
Harvard e in altre sedi, come la Brooklyn University. Alla Vanderbilt Law
School di Nashville il professore J.B. Ruhl ha promosso Law 2050, A Forum
About e Legal Future, quello che il suo fondatore chiama «futurismo
legale» (Legal Futurism):
Il futurismo legale considera principalmente domande come: in che modo i cambiamenti
climatici in uenzeranno il diritto di proprietà? In che modo la legge sulla responsabilità
risponderà alla robotica e alla bioingegneria umana? In che modo sarà necessario modi care la
legge sulla regolazione dell’energia per accogliere un futuro di energia rinnovabile? Il futurismo
legale attinge dalle discipline non legali come la piani cazione degli scenari e la previsione dei
cambiamenti per concentrarsi sulle forze sociali, economiche, tecnologiche e ambientali del
futuro che metterà sotto pressione il diritto affinché cambi e aprirà nuove opportunità legali. Il
futurismo legale è quindi sia teorico (come sarà il diritto nel 2050) sia pratico (come fanno gli
avvocati a partecipare a quel futuro legale)23.
Certo sono scuole e nomi di assoluto rilievo e il processo è avviato, ma la
strada da compiere in un continente come gli USA è ancora molta.
3.2 In Europa
In Europa, ma con un approccio proiettato verso tutto il mondo, è degno
di nota il progetto Innovating Justice, un’iniziativa lanciata nel 2009 dallo
Hague Institute for the Internationalisation of Law (HiiL), la Microjustice
Initiative (MJI), la European Academy for Law and Legislation (EALL) e il
Center for International Legal Cooperation (CILC). La loro ispirazione è
degna di nota: «il settore della giustizia è cruciale per avere comunità
sostenibili e relazioni tra comunità e individui che consentano di realizzare
le loro piene capacità. Esso è un’industria in sé, nella quale ogni anno sono
spesi miliardi di dollari»24.
Fino a un certo punto le università hanno tardato a dare risposta ai
bisogni di cui si è parlato nel paragrafo precedente. Ed è indicativo che,
ancora una volta, Susskind nel 2017 debba ammettere «con animo grave»
(with a heavy heart) che non vi è alcuna facoltà di giurisprudenza nel Regno
Unito che abbia un centro dedicato a diritto e tecnologia o un corso dedicato
al futuro dei servizi giuridici, come nelle maggiori università americane25.
Tuttavia, negli ultimi anni vi sono segni di vivacità, come dimostra lo
svilupparsi d’iniziative come il danese Legal Tech Lab: Law, Innovation &
Technology26, che si de nisce come un gruppo interdisciplinare basato alla
facoltà di Giurisprudenza dell’Università di Copenaghen, che lavora
all’intersezione di diritto, tecnologia e innovazione. Oppure il Legal Tech
Lab della Goethe Universität di Francoforte sul Meno27, oppure l’incubatore
di Legal Tech Labs, che ha lo scopo di fornire una piattaforma per
l’innovazione tecnologica nel settore legale28 oppure il Law and Tech Lab
della facoltà di Giurisprudenza dell’Università di Maastricht, che mira a
offrire un’educazione innovativa, a produrre ricerche all’avanguardia e a
costruire una creativa comunità di ricercatori, insegnanti, studenti e
professionisti alle intersezioni di legge, tecnologia e scienza dei dati29.
Oppure il programma LLM su Law & Technology della NOVA University di
Lisbona, la cui loso a è nel motto Bridging e Gap Between Innovation
and Law30. Oppure il Legal Tech Lab, un progetto interdisciplinare della
facoltà di Giurisprudenza dell’Università di Helsinki, che ha lo scopo di
sperimentare tecniche legali e di promuovere la digitalizzazione delle
pratiche giuridiche. Si presenta in modo interessante l’offerta della IE Law
School di Madrid31.
Su questo quadro, che, pur non completo, si presenta obiettivamente
molto mosso rispetto al recente passato, si possono fare due brevi
considerazioni, rimandando al prossimo paragrafo una visione un po’ più
ampia. In primo luogo, risulta confermata l’intensità del bisogno di
cambiamento che la formazione giuridica ha e di cui si è detto nel paragrafo
precedente. In secondo luogo, se queste sono le scelte linguistiche degli
innovatori in campo giuridico, che usano quasi tutti la stessa formula law-
tech-lab, vuol dire che l’innovazione si muove, ma siamo messi non molto
bene quanto a… fantasia.
3.3 L’esperienza dell’Università di Pavia
Presso l’ateneo pavese è stato istituito sin dal 2004 l’European Centre for
Law, Science and New Technologies (ECLT)32, nato dalla collaborazione di
accademici scienziati e giuristi, come sviluppo dell’attività avviata negli anni
precedenti dall’autore di questo volume e da Carlo Alberto Redi, in
collaborazione con Andrea Belvedere, Sergio Seminara e Silvia Garagna
(attuale presidente). Negli stessi anni è stato istituito presso il Dipartimento
di Giurisprudenza un insegnamento «Diritto scienza e nuove tecnologie»
(da me tenuto).
Dopo un decennio in cui è stata svolta un’intensa attività di dibattito e
formazione nel campo di diritto e genetica, diritto e neuroscienze e robotica,
un notevole salto in avanti è stato compiuto nel 2013, quando, grazie a un
nanziamento di Fondazione CARIPLO, è stata avviata una collaborazione
biennale focalizzata sull’innovazione tecnologica nel diritto, in
collaborazione con Oliver Goodenough. È così che ha avuto inizio il
progetto Innovating Legal Studies and Practice (ILSP), che, frutto della
collaborazione tra uffici giudiziari milanesi, Ordine degli avvocati di Milano
e Università degli Studi di Pavia, ha portato al primo corso internazionale su
innovazione tecnologica e diritto (anno accademico 2014-2015). L’iniziativa
partiva dal presupposto che non fosse più attuale l’antica opposizione tra law
in action e law on the books e che era necessario un ripensamento su
entrambi i fronti, poiché l’innovazione riguarda, con pari profondità, sia gli
studi accademici sia il mondo delle professioni, senza che (almeno in
termini generali) la dottrina possa rivendicare una condizione di superiorità
o il mondo delle professioni il vantaggio del conoscere il «vero» diritto,
quello praticato.
Il corso, che si svolge tutto in inglese, ha poi preso la forma di Winter
School o corso intensivo, che è stato replicato, sempre con aggiornamenti di
contenuti e di formula, nel 2017 e nel 2019, da ultimo con la denominazione
TIL 201933. Per il 2020 il corso intensivo ha il titolo Changing your Minds –
TIL 2020, ispirato all’idea che è centrale l’attitudine mentale verso i problemi
(mindset) rispetto ai meri aspetti tecnici.
Dal 2012 l’Università di Pavia, in collaborazione con la European
Association for Neuroscience and Law (EANL) ha organizzato una Law and
Neuroscience Winter School (per i primi tre anni co nanziata dalla
Commissione Europea), la cui ultima versione (settembre 2017), in
collaborazione con il centro interdipartimentale Centre for Health
Technologies (CHT), è stata focalizzata su Big Data, Neuroscience and Law.
3.4 Negli altri atenei italiani
L’Università Bocconi di Milano ha un corso (in inglese) su Economics
and Management of Innovation and Technology, mentre nell’ambito degli
studi giuridici vi è un LL.M. in Law of Internet Technology (a.a. 2019-2020),
un programma interamente dedicato al diritto applicato all’ambito digitale e
dell’innovazione tecnologica, in una prospettiva internazionale. Il corso,
anch’esso impartito interamente in lingua inglese, intende formare gure
professionali capaci di applicare gli strumenti giuridici tradizionali ai nuovi
contesti digitali e produrre soluzioni legali innovative adatte all’economia
dell’informazione e della conoscenza.
L’Università di Bologna offre, per l’anno accademico 2018-2019, il master
universitario di I livello in «Diritto delle nuove tecnologie e Informatica
giuridica», di durata annuale, in lingua italiana, che ha la nalità di fornire le
conoscenze e le capacità richieste nei settori del diritto dell’informatica e
delle nuove tecnologie e di formare professionisti e funzionari di enti
pubblici e privati capaci di affrontare le problematiche giuridicoinformatiche sulla base di un’approfondita preparazione scienti ca,
metodologica e tecnologica34.
L’Università Statale di Milano attiverà un nuovo corso di laurea
magistrale in scienze giuridiche, il cui titolo è Diritto e tecnologie della
comunicazione e informazione (LAW & ICTS), a partire dall’anno
accademico 2021-2022. Il corso viene istituito allo scopo di insegnare agli
studenti come affrontare i complessi problemi giuridici (teorici e pratici)
connessi con lo sviluppo e l’applicazione delle nuove tecnologie
informatiche, attraverso un tipo di approccio interdisciplinare e di fornire
agli studenti l’opportunità di sviluppare le competenze necessarie per
identi care, comprendere, gestire e risolvere i problemi giuridici e normativi
posti dai più recenti sviluppi scienti ci e dalle tecnologie dell’informazione e
della comunicazione. A tal ne, oltre a prevedere corsi obbligatori di
‘alfabetizzazione’ informatica e sistemi informativi (tecnologie per il diritto
digitale), si pre gge di analizzare come la recente rivoluzione scienti ca e
tecnologica stia profondamente incidendo sugli ordinamenti giuridici, tanto
sul piano generale che sui singoli istituti, modi cando principi, concetti e
valori degli ordinamenti giuridici contemporanei. Il corso approfondisce
anche il rapporto tra scienza, tecnologia e diritto, analizzando pro li giuridici
ed etici sollevati dalle nuove tecnologie in relazione alle scienze biomediche,
alle neuroscienze cognitive e alla genetica.
Sempre presso l’Università Statale di Milano è stato istituito nel 2017 un
Centro di Ricerca Coordinato in Information Society Law (ISLC), le cui
principali linee di ricerca riguardano l’informatica giuridica, gli aspetti
tecnologici e della società dell’informazione che inevitabilmente interessano,
oggi, la loso a del diritto, la sociologia del diritto, la deontologia, la
bioetica, il diritto penale, il diritto processuale penale, il diritto del lavoro, il
diritto tributario, l’economia politica e il diritto ecclesiastico35.
4. Il dibattito accademico sul che fare
La questione del che fare negli studi giuridici può essere affrontata in vari
modi, interrogandosi sui contenuti, sul metodo, sulle partizioni e sui
raggruppamenti disciplinari, sulla concezione del diritto che si ha o sugli
sbocchi professionali degli studenti. In questo paragrafo si affronteranno
solo alcuni di tali aspetti: prima, alcuni problemi globali dell’insegnamento
del diritto, poi, alcuni aspetti di contenuto e di discipline e, in ne, la
questione teorica di cosa sia diritto oggi e nel prossimo futuro.
Carel Stolker si è posto il problema dell’importanza di una visione
condivisa tra i membri della professione giuridica su cosa sia l’educazione
giuridica, cosa signi chi creare un buon giurista, quali debbano essere le sue
caratteristiche e quali siano i contenuti e i percorsi più adatti per quel ne.
La questione, già complessa in ambito nazionale, si manifesta ancora più
impegnativa a uno sguardo di maggiore ampiezza. Vi è una grande diversità
tra le diverse facoltà: in alcuni casi possono accedere allo studio del diritto
studenti di 18 anni, mentre in altri casi, laddove la scuola di diritto viene
dopo il college, l’accesso avviene a 24 anni o più; inoltre, in alcuni casi si
tratta di scuole riservate a élite, che si possono permettere tasse molto alte,
mentre in altri casi si tratta di facoltà molto popolari. Vi sono grandi
differenze anche nella durata degli studi, che vanno dai tre anni di solito nei
Paesi di common law no ai sei anni in alcuni Paesi di civil law. Diversi sono
anche i criteri per l’accesso alle professioni forensi, che in alcuni Paesi
richiedono esami per acquisire il titolo di avvocato, in altri casi no. Tutte
queste differenze, nota Carel Stolker, rendono ogni comparazione non facile.
Carel Stolker, preside della facoltà di Giurisprudenza di Leiden, in
Olanda, traccia un quadro dell’insegnamento del diritto a livello globale36,
notando come l’insegnamento del diritto sia tra le prime quattro discipline
mai insegnate nelle università, con un numero di studenti stimato
complessivamente in 3,5 milioni a livello mondiale37. È perciò difficile da
capire perché mai vi sia un così scarso interesse nella ri essione
sull’insegnamento e sull’apprendimento delle teorie.
Se si pensa, tra i tanti temi, alla ricerca in ambito giuridico, risulta subito
evidente che essa è sicuramente sotto nanziata rispetto alle discipline
scienti che. L’autore riporta l’esperienza del 2013, quando il governo
olandese distribuì 156 milioni di euro per la ricerca in tutte le discipline fatta
eccezione per il diritto, e si dà la spiegazione che il diritto ha un focus
tipicamente nazionale ed è costituito da un discorso normativo
argomentativo, privo di un metodo de nito e con scarso interesse nella
ricerca empirica.
Inoltre, per quanto l’educazione giuridica, un po’ in tutto il mondo, non
sia mai stata così legata alle facoltà di giurisprudenza quanto lo sia ora, vi è
comunque una separazione tra il mondo dell’insegnamento e quello della
pratica delle professioni giuridiche. Per esempio, la maggioranza dei più
importanti professori di diritto nelle università americane non ha mai
praticato le professioni legali. Nota ancora Stolker come, per quanto vi sia
una notevole quantità di libri, articoli, siti web che sono dedicati
all’educazione giuridica, la maggior parte di essi sia però orientata
nazionalmente. Sono stati dedicati interi libri allo studio e insegnamento del
diritto e ci sono pubblicazioni nei Paesi di lingua inglese, ma anche in
Germania, Olanda e Francia. Noi possiamo aggiungere in questo caso che in
Italia non risultano essere stati pubblicati libri dedicati speci camente a una
ri essione degli accademici sulla loro attività di professori di diritto (fatta
eccezione per alcune ri essioni settoriali, di cui si è detto sopra).
Proprio da questo punto di vista è interessante il lavoro di Stolker, perché
è un libro scritto da un accademico (professore di diritto e preside di
facoltà), che discute sulla sua stessa professione e che è ispirato a un
profondo senso di responsabilità. Ed è interessante anche perché è scritto in
inglese, pur rivolgendosi a lettori principalmente di Paesi di lingua e cultura
né inglese né americana.
La lettura delle pagine di Stolker colpisce anche per un altro pro lo:
l’autore mette in luce una serie di aspetti critici delle facoltà di
giurisprudenza, ma nulla dice sulle innovazioni tecnologiche (se non
l’intensi carsi dei collegamenti internazionali) né su come sia cambiato il
mondo fuori dalle facoltà di Giurisprudenza, soffermandosi principalmente
sui problemi interni. Dal che si può forse trarre una ulteriore ri essione: la
necessità di ripensare l’insegnamento del diritto precede l’impatto della
tecnologia, che ne costituisce solo (si fa per dire) un potente moltiplicatore.
5. Una disciplina ‘diritto della tecnologia’?
Si è visto sopra (a proposito del contributo di Cecilia Magnusson
Sjöberg) come il diritto negli ultimi decenni abbia creato alcune discipline
che rispondono a speci ci problemi tecnologici, come da ultimo
l’inquadramento giuridico dei cosiddetti smart contract o per il
riconoscimento dei diritti di copyright per i soware e altro ancora, tanto da
far sorgere la domanda se non sia il caso di creare una partizione
disciplinare autonoma, chiamata IT Law. E non mancano certo i settori
speci ci, se si pensa all’e-commerce e al diritto contrattuale oppure ai
documenti elettronici e al relativo contenzioso, al trapianto di organi e al
diritto di proprietà, e così via. D’altra parte sono decine le riviste giuridiche
che rivendicano di occuparsi di questioni giuridiche e tecnologia.
A ben vedere anche la forma a T delle competenze richieste dal nuovo
giurista sembra andare nella stessa direzione: le nuove intersezioni del
diritto con la tecnologia si collocano tutte nella barra orizzontale della T,
mentre le conoscenze tradizionali sono solidamente nello stelo verticale.
Un’idea del genere sembra sottesa anche ai nuovi labs sorti in molte
università europee negli ultimi anni: luoghi di approfondimento di speci ci
problemi.
La domanda è apparentemente banale: vi è bisogno di un’autonoma
disciplina o di una teoria generale del diritto e della tecnologia? I sostenitori
della prima tesi fanno valere alcuni argomenti: perché dovremmo
considerare ogni nuova tecnologia come un fenomeno isolato? In effetti, il
campo in cui la tecnologia e le discipline giuridiche interagiscono ha una
densità relativamente alta38.
In termini generali, la questione è se la valutazione e la reazione a
ciascuna nuova tecnologia isolatamente sia la migliore modalità per la
regolamentazione tecnologica o se una prospettiva più ampia possa meglio
servire l’adeguamento sociale delle nuove tecnologie e se il fatto di tenere
distinte le regolamentazioni possa essere utilmente sostituito o integrato con
una sorta di ‘teoria generale del diritto e della tecnologia’. Una tale teoria
fornirebbe un approccio legale generalizzato all’uso e all’adozione di nuove
tecnologie, speci cando linee guida per affrontare casi in cui una nuova
tecnologia minaccia di destabilizzare istituti, valori e norme sociali esistenti.
La domanda su una teoria generale del diritto e la tecnologia ha
un’apparente giusti cazione: perché non dovremmo avere una nuova teoria
del diritto – ne abbiamo già in abbondanza! - per avere un approccio
migliore a uno degli aspetti più importanti della nostra vita attuale? In
realtà, però, la domanda contiene una serie di questioni molto complesse,
che vanno dalle normative giuridiche su problemi speci ci (come affrontare
ciascuno di essi in termini giuridici pratici) alla meta sica (la tecnologia
come qualcosa che ci priva di una qualità intrinseca dell’uomo). E
soprattutto tale domanda presuppone un’idea della tecnologia che non pare
condivisibile.
L’enfasi che talora viene posta sull’impatto della tecnologia e sulla sua
minaccia alle nostre vite ri ette quell’atteggiamento, chiamato
eccezionalismo, secondo il quale i nuovi problemi richiedono, per
de nizione, la creazione di nuove regole e principi.
L’errore dell’eccezionalismo è sia storico sia concettuale. Da un punto di
vista storico, considerare l’impatto della tecnologia sulla società come un
nuovo problema è contrario alle prove del passato, poiché «la ri essione
loso ca sulla tecnologia è vecchia quanto la stessa loso a». È iniziato
nell’antica Grecia. Infatti, la tecnologia è stata, sotto diversi aspetti, al centro
della speculazione loso ca sin dai tempi di Democrito, Platone e
Aristotele39. Per quanto le nuove tecnologie (a volte) possano porre nuovi
problemi, tuttavia ciò non implica che il rapporto tra diritto e tecnologia nel
suo complesso sia un nuovo problema, né che affrontare nuovi problemi
richieda per de nizione la creazione di nuove regole e principi (che è il
tipico errore dell’eccezionalismo).
Da un punto di vista teorico vi sono almeno due aspetti importanti da
considerare. In primo luogo l’idea di eccezionalità suggerisce che la
tecnologia (in generale) sia qualcosa di aggiunto alla nostra realtà sociale (e,
quindi, qualcosa che possa essere evitato o il cui arrivo possa essere
ritardato). In secondo luogo, anche le tecniche/tecnologie speci che sono
considerate come entità isolate che vengono aggiunte a caso e richiedono
quindi di essere ‘riuni cate’ in una cornice generale. A mio avviso, queste
idee non tengono conto della realtà, poiché la tecnologia è già presente in
tutti gli aspetti della nostra vita sociale, incluso il diritto. È già nelle nostre
società, non è aggiunta a esse e, piuttosto, deriva da loro.
Guardando al diritto, questo implica che anche il diritto (in termini
generali) è già, per molti aspetti, un diritto della tecnologia, nella misura in
cui regola qualsiasi campo (comunque de nito), e che vive negli e con gli
attuali mezzi tecnologici (es. database legali sul web, sistemi esperti e altro).
Pertanto, anziché parlare di come affrontare la tecnologia dovremmo
ammettere di vivere in un ambiente altamente tecnologizzato, anche
nell’ambito del diritto, tanto che parlare di tecnologia in sé, almeno in
termini giuridici, non ha alcun senso.
I recenti sviluppi tecnologici nel campo dell’informatica ubiquitaria (di
cui si parlerà nel Capitolo 7) dimostrano perfettamente ciò che intendo.
L’Internet delle cose (Internet of ings) è caratterizzato da sistemi e
tecnologie incorporati (molti dispositivi collegati in rete sono integrati
nell’ambiente), sensibili al contesto (questi dispositivi possono riconoscere le
persone e il contesto situazionale), personalizzati (possono essere adattati
alle esigenze dei singoli), adattivi (possono cambiare la risposta) e
anticipatorio (possono anticipare i desideri senza mediazione consapevole).
In questa situazione è quasi impossibile trovare qualcosa che non sia
in uenzato dalla tecnologia e, paradossalmente, non c’è nulla (che non sia
già tecnologizzato e quindi) che possa essere contaminato dalla tecnologia.
Questo esempio offre l’opportunità di chiarire due punti:
a) In termini sociali, vi è bisogno di scoprire la tecnologia con cui già
viviamo (come componente delle nostre società) piuttosto che, e prima
di, temere la tecnologia e lottare contro le sue prossime applicazioni.
b) In termini giuridici, se il diritto in generale è diritto della tecnologia
(vedi sopra), seguono almeno due conseguenze:
i) il diritto non ha motivo di trattare la tecnologia in un modo diverso
da qualsiasi altro oggetto sociale;
ii) parlando di qualsiasi aspetto della nostra realtà giuridica potremmo
scoprire anche, tra molti altri, la sua origine tecnologica (a volte
nascosta).
Alla ne, sono dell’opinione (come ho argomentato in altra sede) che
non vi sia alcuna necessità di creare una nuova entità come una teoria
generale del diritto e della tecnologia o, meglio, che le questioni dibattute a
tale proposito siano un utile stimolo per una ride nizione di aspetti cruciali
della teoria giuridica in termini generali. Questo non esclude l’utilità di
affrontare problemi speci ci con tutto il tasso di specialismo necessario
(quale diritto esprima uno smart contract e se e come debba essere regolato
richiede un ne civilista!), a patto che non consideriamo gli smart contract
una diavoleria arrivata da chissà dove a disturbare la quieta perfezione delle
regole sul contratto. L’approccio che mi sembra più convincente è quello di
Ruhl (vedi sopra), dove spiega che quello che chiama «futurismo giuridico»
è sia teorico (come sarà il diritto nel 2050) sia pratico (come fanno gli
avvocati a partecipare a quel futuro legale).
6. Un’idea del e per il diritto
Immaginare la formazione di giovani giuristi presuppone un’idea
sufficientemente chiara di cosa sia il diritto in un certo momento storico e,
lo si è già notato, di quale pro lo abbiano le professioni legali. Questo, pur
vero in generale, assume oggi connotati particolari a causa dei forti, e a
lungo sottovalutati, cambiamenti in ambito giuridico. Negli ultimi anni
qualcosa ha cominciato a muoversi, ma tutto ciò, per importante che sia, è
ancora poco rispetto al cambiamento epocale che gli sviluppi tecnologici
stanno imprimendo al diritto40.
Dicevo che tali cambiamenti sono stati a lungo sottovalutati. Per
esempio, la ssità delle partizioni disciplinari nell’accademia ha per decenni
ignorato (e, quindi, non ha dato risposta a) quanto Philip Jessup descriveva
già nel 1956 come transnational law, un coacervo disciplinarmente spurio,
oggi diventato di uso corrente41.
Tuttavia, oggi il cambiamento giuridico riguarda sia la dimensione
transnazionale assunta dal diritto (di cui si parlerà nei prossimi due
capitoli), sia l’uso sempre più esteso di strumenti informatici raffinati e
complessi in ambito giudiziario, nelle professioni legali e anche nella ricerca.
A fronte di ciò la logica prevalente nell’accademia sembra essere stata la
seguente: per la formazione, che i giovani imparino il diritto ‘come si deve’
(cioè, più o meno alla maniera di sempre!), tutto il resto appartiene a teorici
più o meno visionari o a pratici dell’era digitale. Tuttavia quest’atteggiamento
non pare adeguato ai tempi e l’offerta formativa per i giovani giuristi
dovrebbe essere concepita strutturalmente in modo consono alla nuova
dimensione sovranazionale e tecnologica del diritto, cioè rifondata.
A ben vedere le iniziative crescenti nelle università europee e americane
tendono a sommarsi agli insegnamenti tradizionali e, pur essendo un segno
importante, non rispondono alla necessità di ripensamento profondo circa
cosa sia il diritto e come esso si atteggi nelle nostre società tecnologizzate.
Giusto per fare un esempio, sarebbe forse il caso di fare qualche
ri essione sulla distribuzione degli insegnamenti nelle nostre facoltà di
giurisprudenza. Tradizionalmente il diritto romano viene insegnato al primo
anno, secondo un’idea che si può far risalire al giurista francese Robert
Joseph Pothier (1699-1772) e che aveva informato il Codice Napoleone e,
poi, tutti i codici che a quel modello si sono ispirati: il diritto romano come
bacino di tecniche cui attingere in ogni tempo e, quindi, fonte di principi
generali in qualche modo metastorici.
Non è questa la sede per discutere l’assunto diritto romano = Pandette di
Giustiniano riordinate con criterio sistematico (à la Pothier), ma certo stride
questa universalizzazione astorica del diritto romano a fronte del fatto che,
per esempio, il diritto dell’Unione Europea, dal quale discende la larghissima
parte delle stesse norme nazionali, sia scoperto dagli studenti soltanto al
terzo o al quarto anno. Personalmente credo che il diritto romano debba
essere insegnato, ma come esperienza storica di oltre tredici secoli (dal
diritto romano antico a quello giustinianeo), con tutte le sue trasformazioni,
da diritto di una piccola comunità locale a diritto con dimensione globale,
frutto del pragmatismo della cultura romana. In un’ottica del genere, il
diritto romano può essere insegnato in anni successivi, quando lo studente
ha maturato una visione un po’ più ampia dell’esperienza giuridica,
nazionale, transnazionale, internazionale e globale.
Inoltre, se si pensa al versante tecnologico, ci si può chiedere se, visto il
livello avanzato di digitalizzazione del diritto, abbia senso che l’informatica
giuridica non sia un insegnamento obbligatorio oppure che, a fronte del
sempre più frequente uso dei linguaggi formali in ambito giuridico (vedi
avanti Capitolo 8), non si insegni il coding, cioè le tecniche di utilizzo di
linguaggi formali per esprimere concetti, ragionamenti, strumenti giuridici
(come i contratti) e altro.
E poi vi sono tutti i problemi di metodo e di contenuto che seguono alla
domanda: come si forma un giurista ibrido?
In conclusione, si può dire che la massa di cambiamenti abbia raggiunto
un livello critico che non ammette più sviste e sottovalutazioni, e che ogni
ritardo nel riesame delle nostre idee su cosa sia diritto oggi e su quali siano
le modalità delle professioni legali incrementa il debito che pratici e
accademici hanno in egual misura verso i giovani giuristi42.
Che cosa è in gioco? L’idea stessa di diritto e la sua natura? Una
ri essione complessa e affascinante43, di cui si parlerà nei prossimi capitoli.
1 SUSSKIND 2017, p. 162: «Stiamo preparando la prossima generazione di avvocati a essere più
essibili, capaci di lavorare in team, tecnologicamente so sticati, professionisti ibridi,
commercialmente astuti, che siano in grado di superare i con ni legali e professionali, e parlare la
lingua della sala riunione? [...] La mia paura è che stiamo addestrando gli avvocati diventare avvocati
del XX secolo e non avvocati del XXI secolo» [traduzione mia].
2 Una legal clinic è un corso nel quale, sotto la direzione di professori esperti, studenti di
giurisprudenza svolgono un’esperienza pratica legale fornendo servizi a clienti (gratuitamente). La
descrizione di quella di Stanford si trova presso https://law.stanford.edu/mills-legal-clinic/what-wedo/, visitato il 9 giugno 2019.
3 DAVIDSON 2017; STOLKER 2014; ALEMANNO – KHADAR 2018; CHILTON – MASUR –
KYLE 2019; SCHLAG 2007. Si veda anche GANE 2016.
4 FENWICK – KAAL – VERMEULEN 2018.
5 Si vedano PASCUZZI 2015; ZACCARIA 2013; MACARIO 2018; LIPARI 2002.
6 KATZ, 2013, pp. 909-966 (in particolare pp. 965-966) (traduzione mia da «Law School needs to
transition from its liberal arts predisposition to a polytechnic research and teaching operation. From
both a scholarship and training perspective, it is time to get serious about science, computation, data
analytics and technology. [ere is an] arbitrage opportunity in the market for legal education […] for
an institution(s) [to] move toward an ‘MIT School of Law’». Nota di traduzione: il termine «arbitrage»
è un false friend, perché l’arbitraggio in italiano (il deferimento a un terzo della determinazione di un
elemento di un contratto) è cosa completamente diversa dall’arbitrage americano che indica
l’acquisto/vendita dello stesso bene su mercati diversi dove sono praticati prezzi diversi al ne di
trarne vantaggio economico («e simultaneous purchase and sale of equivalent assets or of the same
asset in multiple markets in order to exploit a temporary discrepancy in prices»: American Heritage®
Dictionary of the English Language, Fih Edition, 2011. Visitato il 9 giugno 2019 da
https://www.thefreedictionary.com/arbitrage).
7 HAGAN 2016. Sull’importanza del lavoro interdisciplinare si veda anche MASSIMI 2018.
8 «Movement toward perfect competition; the process by which a good or service thought to be
unique or superior becomes like other, similar goods and services in the eyes of the market.
Commoditization is the movement toward undifferentiated competition between two or more
companies offering the same good or service. is leads to lower prices»: Farlex Financial Dictionary.
© 2012 (https:// nancial-dictionary.thefreedictionary.com/commoditization, consultato il 28 maggio
2019).
9 SUSSKIND 2017, p. 163 e p. 138 per il legal hybrid.
10 Why interdisciplinary research matters. Scientists must work together to save the world. Editoriale
del numero speciale della rivista «Nature» dedicato all’interdisciplinarietà: «Nature» 525, 305 (17
September 2015) doi:10.1038/525305a.
11 DWECK 2007 citato in UNSWORTH 2019.
12 UNSWORTH 2019, p. 56: «In order to train mindset there should be a greater variety of
modules at law school, including statistics and logic, systems development, and basic explanations of
modern computing techniques such as Arti cial Intelligence, Text Mining, Distributed Ledgers etc. As
well as encouraging a Growth Mindset, a more modern legal education would need greater emphasis
on ethics, technology and the arts as a means of stimulating the imagination and encouraging acts of
co-creation».
13 SJÖBERG 2019.
14 In materia si rinvia, per tutti, a SARTOR 2016.
15 «e lawyers of today can be surprisingly ignorant when it comes to new legal infrastructures
regarding automatic data processing, electronic documentation, etc. Unfortunately, this applies not
only to older generations, but also – somewhat surprisingly – to younger ones as well. For instance,
business models referred to as Cloud Computing solutions may very well need an explanation in the
classroom so as to avoid misunderstandings and illusions of transactions taking place in ‘outer space’
without any hardware servers in a xed geographical location», SJÖBERG 2019, p. 175, traduzione
mia.
16 Il corso si è svolto su iniziativa del Centro di ricerca interdipartimentale ECLT, in
collaborazione con ELSA, il Dipartimento di Giurisprudenza e altre istituzioni accademiche pavesi, e
grazie a un contributo economico di Banca del Monte di Pavia. Programma e corpo docente del corso
intensivo TIL 2019 sono accessibili presso https://www.unipv-lawtech.eu/ les/Schedule-TIL-2019-3febbraio.pdf e presso https://www.unipv-lawtech.eu/ les/Schedule-TIL-2019-3-febbraio.pdf (visitati il
29 maggio 2019).
17 Il dossier contenente gli elaborati, la lista dei partecipanti e le istituzioni di provenienza è
disponibile presso https://www.unipv-lawtech.eu/law-school-of-the-future.html Per un commento di
stampa si veda https://www.altalex.com/documents/news/2019/04/01/la-law-school-di-domani
(visitati il 29 maggio 2019).
18 Leiden University, Vrije Universiteit Brussels, Universidade Nova de Lisboa, Università degli
Studi di Torino, Università degli Studi di Pavia, Università degli Studi di Siena, Università degli Studi
Roma Tre, Università degli Studi di Trento, LUISS Guido Carli (Roma), Università degli Studi di
Palermo.
19 MAK 2017.
20 GOODENOUGH 2013, p. 847 [traduzione mia].
21 «Excellence, innovation, and a commitment to the future – these are Stanford Law School’s
legacy to each new generation of law students and lawyers»: https://www.law.stanford.edu/school.
22 Testo originale presso https://www.law.stanford.edu/school: «At CodeX – e Stanford Center
for Legal Informatics, researchers and entrepreneurs design technologies for a better legal system.
CodeX’s broad mission is to create legal technologies that empower all parties in our legal system and
not solely the legal profession. ese legal technologies help individuals nd, understand, and comply
with legal rules that govern their lives; they help law-making bodies analyze proposed laws for cost,
overlap, and inconsistency; and they help enforcement authorities ensure compliance with the law. All
of these advancements lead to the next frontier of legal technology, bringing new levels of legal
transparency and individual empowerment».
23 Traduzione mia da https://law2050.com/about-law-2050/, visitato il 9 giugno 2019.
24 http://www.innovatingjustice.com/about.
25 SUSSKIND 2017, p. 165.
26 https://jura.ku.dk/english/digitalisationhub/research/legal-tech-lab/, visitato il 7 giugno 2019.
27 https://mkg-jura-studis.de/legal-tech-lab-frankfurt-am-main/, visitato il 7 giugno 2019.
28 http://www.legaltechlabs.com/about-us visitato il 7 giugno 2019.
29 https://www.maastrichtuniversity.nl/law-and-tech-lab, visitato il 7 giugno 2019.
30
https://landings.ie.edu/masterland-law-master-legal-tech-llm?
gclid=CjwKCAjwlujnBRBlEiwAuWx4LYCzv9xZR4SbeFPxPHM7PVZKOSxG01yPnXxFyKHLcMC2B
WKV8EaipxoCiwkQAvD_BwE&gclsrc=aw.ds, visitato il 7 giugno 2019.
31 https://www.ie.edu/law-school/about/our-facilities/, visitato il 17 agosto 2019.
32 Nel 2010 il Centro ha acquistato questa denominazione, che ha sostituito la precedente
«European Center for Life Sciences, Health and the Courts». Nel 2015 il Centro ECLT ha stretto un
rapporto di integrazione e collaborazione con il Centre for Health Technologies (CHT) presso
l’università di Pavia, di cui costituisce il pilastro etico giuridico.
33 Informazioni su queste attività sono accessibili presso https://www.unipvlawtech.eu/innovation---law.html.
34 Il corso è attivato in collaborazione con il Centro Interdipartimentale di Ricerca in Storia del
Diritto, Filoso a e Sociologia del Diritto e Informatica Giuridica (CIRSFID) ed è diretto da Giovanni
Sartor:
http://www.cirs d.unibo.it/didattica/master/master-in-diritto-delle-nuove-tecnologie-einformatica-giuridica.
35 http://islc.unimi.it/.
36 STOLKER 2014, pp. 1-39.
37 STOLKER 2014, p. 5.
38 Ho affrontato e discusso questo tema (con relativa bibliogra a) in SANTOSUOSSO 2015b, pp.
25-31.
39 SINI 2009.
40 Le considerazioni che seguono sulla situazione italiana sono tratte dal mio, purtroppo ancora
attuale, SANTOSUOSSO 2013, pp. 547-558.
41 JESSUP 1956, p. 2 (sul punto si veda Capitolo 8).
42 Sul punto sia consentito rinviare a miei precedenti lavori: SANTOSUOSSO 2010;
SANTOSUOSSO 2014.
43 Magistrali sono le pp. 195-207 di IRTI 2016, dove l’autore pone come centrale, per la
costruzione di una teoria generale del diritto, la questione dell’idea che si ha del diritto e dello
«sguardo giuridi cante».
7. Diritti, storicità, artificialità
«Everybody coming out is wearing masks
because you don’t know what people will do
with the information», Agnes said as friends
nodded in agreement. […] the group was
buying single-trip train tickets with cash
rather than using their stored-value electronic
cash cards that forward information on
travel and locations to a central repository1.
1. Doppio movimento tra umani e tecnologia
Vi è un apparente doppio movimento tra umani e tecnologia.
Gli umani cambiano, come hanno sempre fatto, e sono già cambiati, per
effetto della tecnologia, nel loro modo di essere e nei diritti di cui sono
titolari: si potrebbe dire che essi sono umani (modernamente) tecnologizzati.
La tecnologia pare che diventi più umana, nel senso che è sicamente più
vicina agli umani. Si è passati dalla tecnologia che è ‘presso’ di noi (nelle
nostre tasche, come gli smartphone) a quella che può essere indossata ‘su’ di
noi (wearable) a quella ‘integrata’ nei nostri corpi e che consente un diretto
collegamento, con interfacce invisibili, tra macchine e nostri sistemi
cognitivi (direct neural interface). Oggi siamo nelle fasi ‘presso’ e ‘su’ i corpi
umani, mentre la fase dell’integrazione è alle porte e riguarda la prossima
decade, che si prevede che proceda nella direzione di un’incrementata
prossimità e accessibilità.
George Church, un genetista della Harvard Medical School molto noto
per i suoi studi sulla biologia di sintesi, vede la linea tra uomo e macchine
divenire sfocata, sia perché le macchine acquistano un aspetto più simile
all’umano, sia perché gli umani diventano più simili alle macchine2.
Il progetto Neuralink, presentato da Elon Musk a San Francisco (estate
2019), va esattamente nella direzione di far convergere il cervello umano con
il computer (brain-computer interface). Certo, per sua stessa ammissione
l’idea di consentire alle persone di controllare il proprio smartphone o di
connettersi direttamente a Internet attraverso il segnale cerebrale è lontana e
richiederà molto tempo. Tuttavia i primi esperimenti si potranno fare già dal
prossimo anno e riguarderanno persone paralizzate che possono così essere
facilitate nei loro livelli di autonomia3.
Qualcuno può obiettare che la tecnologia diventa più simile all’umano
ma solo per controllarlo meglio. Il che in qualche misura è innegabile, ma è
altrettanto innegabile, e lo si vedrà più avanti a proposito di IoT, che l’idea di
una società che sia pervasa dal controllo esercitato in modo centralizzato
non pare essere rispondente alla realtà attuale delle cose.
In questo capitolo si parla di alcuni aspetti di questo doppio movimento
e di quale pro lo giuridico emerga da questa immersione tecnologica degli
umani, dedicando un’attenzione anche all’arte in relazione alla tecnologia: la
libertà di espressione artistica in un momento in cui la tecnologia cambia la
percezione del mondo. Nella seconda parte si guarderà ai diritti dal punto di
vista, per così dire, delle macchine, a proposito della non esclusività umana
di alcune caratteristiche, come coscienza e personalità giuridica. Il tutto
intessuto dal tema ricorrente del diritto e dei diritti di fronte all’arti cialità,
o, meglio, di come stiamo cambiando la nicchia ecologica nella quale
viviamo come umani, tecnologizzati.
Le domande alle quali si darà, in qualche modo, risposta sono: il
catalogo dei diritti fondamentali della modernità è ancora valido? Cosa di
questo catalogo sopravvive, e come? Come si sceglie cosa va tolto o
aggiunto? Chi è intitolato ad avere diritti e soggettività giuridica? Lo sono i
robot o i sistemi di intelligenza arti ciale? Cosa signi ca arti cialità nel
diritto? Può un diritto ‘naturale’ regolare la presente realtà tecnologica? La
coscienza è prerogativa unica degli umani? Esiste un solo tipo di coscienza?
2. Libertà, diritti e ambiente tecnologico (l’Internet delle
cose)
È la ne dell’Ottocento, Warren e Brandeis pubblicano sulla Harvard
Law Review un articolo sul diritto alla privacy che è destinato a diventare
notissimo, in verità tanto noto quanto poco letto. Infatti, contrariamente a
quanto, con una certa disattenzione, gli si attribuisce, l’articolo non parla del
diritto di essere lasciati soli, chiudendo la porta della propria abitazione
contro le intrusioni, ma parla di diritti personali che vanno oltre il corpo del
suo titolare, che attengono alle emozioni e ai sentimenti delle persone: il
punto e l’occasione è dato dalla circolazione non autorizzata di ritratti di
persone private, che diventano particolarmente gravi per un duplice
sviluppo tecnico, la fotogra a e la diffusione di giornali a stampa. Un tema
assai moderno e vicino ai problemi di oggi.
2.1 L’Internet delle cose
I computer che ognuno di noi usa sono connessi a Internet perché hanno
un indirizzo numerico (IP, che sta per Internet Protocol), che viene assegnato
a tutti i dispositivi connessi alla rete per identi carli e consentirgli di
interagire l’uno con l’altro. L’interazione ha due versanti, quello dell’accesso
alla rete e quello della rete (e dei suoi siti, che con strumenti di analisi
possono vedere quanti accessi vi siano stati, da quale collocazione
geogra ca, con quale tipo di sistema operativo e per quanto tempo e su quali
pagine, e molti altri dettagli) che può tracciare tutti gli accessi. Questo vale
per qualsiasi dispositivo che abbia un IP e che consenta via web, tramite una
password e un ID, anche di accedere ai cloud per i quali si è abilitati.
Se si pensa che qualsiasi oggetto (cosa) può essere dotato di un IP, si
comincia ad avere una prima idea di cosa sia l’Internet delle cose (IoT,
Internet of ings). Il concetto originale, proposto da Kevin Ashton presso
l’auto-AD Center, è il seguente:
un network informatico che consente la ricerca di informazioni sugli oggetti del mondo
reale per mezzo di un unico ID chiamato electronic product code (EPC) e un meccanismo di
risoluzione (ONS), tramite una rete di sensori, attuatori e oggetti autonomi che interagiscono
tra loro direttamente. La comunicazione da macchina a macchina (machine-to-machine, M2M)
è un altro termine talvolta associato4.
Gli esempi includono «oggetti inanimati come bancali, scatole
contenenti beni di consumo, automobili, macchine, frigoriferi […], così
come oggetti animati, come animali ed esseri umani. Queste sono le cose
dell’Internet of ings – o per usare un termine più chiaro le entità
d’interesse»5.
2.2 Cose e persone finite nella rete
A dispetto del nome, le «entità di interesse», cioè le cose da collegare,
non sono necessariamente cose/oggetti, nel loro signi cato giuridico
tradizionale, come oggetto inanimato opposto all’essere umano o ad altro
animale6. Inoltre, anche quando si tratta di cose/oggetti in termini
tradizionali (quindi, concettualmente opposti alle persone), essi potrebbero
essere in grado di elaborare informazioni, mostrando una capacità
incompatibile con l’idea che le cose, a differenza degli umani, siano
necessariamente passive.
Nel Vocabolario degli Accademici della Crusca (1612) ‘cosa’ è «nome di
termine generalissimo, e si dice di tutto quel ch’è. Lat. res». Nell’italiano
moderno ‘cosa’ è «il nome più indeterminato e più comprensivo della lingua
italiana, col quale si indica, in modo generico, tutto quanto esiste, nella
realtà o nell’immaginazione, di concreto o di astratto, di materiale o
d’ideale»7, ma certo mai persona. Per trovare un essere umano come ‘cosa’
bisogna andare in ordinamenti giuridici che conoscano la schiavitù. Così,
nel diritto romano lo schiavo non è soggetto di diritti, è puro punto di
riferimento oggettivo, cosa appunto.
Tornando all’Internet delle cose, ammesso che «connesso è bello», essere
‘cosa’ lo è molto meno e, alla ne, non risponde nemmeno alla realtà
tecnologica attuale. Questo è il motivo per il quale, mentre ancora l’IoT non
era (come non è anche oggi) del tutto attuato, il campo si è allargato e vi è
chi ha iniziato a parlare dell’«Internet di ogni cosa» (Internet of Everything,
IoE): un’idea che mette in chiaro la pari cazione tra cose e persone che
l’essere connessi alla rete produce. Infatti, l’«Internet di ogni cosa» connette
persone, processi, dati e cose in modo da dare valore alle connessioni a
network: questa la laconica descrizione che la maggior azienda che ha
coniato l’espressione Internet of Everything offre8.
Andando nel dettaglio si può dire che l’IoE racchiuda in sé quattro
grandi categorie che vengono così descritte9: «persone» (connettere persone
signi ca dare valore alle loro scelte e a qualsiasi altro aspetto di interesse);
«dati» (grandi database contenenti milioni di dati legati a preferenze
d’acquisto, routine giornaliere e quant’altro); «processi» (i collegamenti a
livello dei processi hanno la capacità di far arrivare un determinato
comando al macchinario corretto al momento necessario); «cose» (ecco
dove è nito l’Internet of ings, i dispositivi interconnessi, le ‘cose’ nella
rete).
Vi è da essere sicuri che questa corsa al nome più comprensivo e
suggestivo (sono de nizioni spesso provenienti da aziende che vendono
prodotti e servizi!) continui, com’è già accaduto con chi lancia l’Internet of
inking, che vuol dire creare un sistema distribuito intelligente per
infrastrutture smart10. Intanto, l’IoT o l’IoE attendono la loro piena
realizzazione, che richiede la connettività veloce dei sistemi 5G.
2.3 L’Europa e l’IoT
L’Internet delle cose è al centro dell’interesse delle economie sviluppate,
come quelle dell’Unione Europea, e al centro della disputa sulle tecnologie
5G, lo standard di connessione che nei prossimi anni soppianterà il 4G.
L’Europa dedica grande attenzione alla questione e, nella pagina del sito
dell’Unione dedicato al digital single market e all’Internet of ings, proclama
sinteticamente: «Internet of ings (IoT) unisce mondi sici e virtuali,
creando ambienti intelligenti»11. In realtà, già dal maggio 2015 l’UE ha
adottato la strategia per il mercato unico digitale, che comprende elementi
che portano l’Europa ad accelerare gli sviluppi sull’Internet delle cose, in
particolare, evitando la frammentazione e favorendo l’interoperabilità tra i
sistemi e i network al ne di raggiungere il suo potenziale. L’IoT rappresenta
il prossimo passo verso la digitalizzazione della nostra società ed economia.
L’Unione, che stima un grande incremento del valore di mercato dell’IoT
già nel 2020, ha anche realizzato una mappatura dei gruppi sici e virtuali di
imprese, organizzazioni di ricerca e università che si occupano
dell’innovazione, dello sviluppo e dell’implementazione sul mercato delle
tecnologie e delle applicazioni IoT. Questo studio, reso pubblico nel 2019, dà
una visione della distribuzione di queste realtà nei diversi Stati e all’interno
di essi. Colpisce la sostanziale assenza dell’Italia centro-meridionale, specie
se comparata alla maggiore diffusione in Spagna12.
2.4 L’Internet industriale e Industria 4.0
L’Internet industriale è quanto sopra descritto portato nel mondo
dell’industria, e riguarda la possibilità di connettere più macchine
intelligenti, analiticamente avanzate, e le persone al lavoro.
La General Electric, già nel 2012, pre gura la fusione del sistema
industriale globale, tipico della Rivoluzione industriale, con i sistemi aperti
di calcolo e di comunicazione sviluppati come parte della Rivoluzione di
Internet. La sua visione si basava su tre elementi: macchine intelligenti (che
signi ca collegare le macchine, le strutture e le reti con sensori e controlli
avanzate e applicazioni soware), analitica avanzata (che signi ca
combinare il potere degli strumenti di analisi, degli algoritmi predittivi e
dell’automazione, nonché delle grandi quantità di dati disponibili: big data) e
lavoratori (che signi ca connettere i lavoratori all’interno del luogo di lavoro
o in movimento, in qualsiasi momento per supportare operazioni più
intelligenti e servizi di maggiore qualità e sicurezza)13, ancora una volta gli
umani nella rete delle cose.
In Europa la totale automazione e interconnessione delle produzioni (la
cosiddetta «Industry 4.0») è lo strumento scelto per primo dal governo
tedesco per traghettare il Paese verso la «quarta rivoluzione industriale».
Dietro il nome, presentato al pubblico per la prima volta alla Fiera di
Hannover del 201114, vi è l’idea di un’attività industriale caratterizzata
dall’intelligenza, la connettività e la più ampia informatizzazione applicata
alla produzione. Le caratteristiche essenziali sono l’interoperabilità dei
sistemi, il decentramento (dare autonomia e porre intelligenza al più basso
livello operativo, salvo il coordinamento necessario), l’operare in tempo
reale, la virtualizzazione (una copia virtuale della fabbrica intelligente viene
creata collegando i dati dei sensori con modelli virtuali della fabbrica e
modelli di simulazione) e la modularità e essibilità.
A settembre 2015, dopo anni di disinteresse, «Industry 4.0» fa il suo
ingresso ufficiale anche nella politica italiana, in occasione del question time
alla Camera (30 settembre), dove ne parlano rappresentanti dell’industria e il
presidente del Consiglio dell’epoca, Matteo Renzi. A luglio 2019, dopo un
avvio promettente, i nanziamenti sono calati del 43%15. Ma la legge
nanziaria di ne 2019 sembra dare un nuovo slancio.
Una considerazione conclusiva su IoT e IoE. Se potenzialmente tutti gli
oggetti possono essere connessi e se le reti che realizzano l’IoT sono gestite
da entità diverse e possono essere di diversa natura tecnica, i requisiti
tecnologici fondamentali dell’IoT e IoE sono a) la capacità di gestire una
grande diversità e volumi molto grandi di dispositivi connessi e b) l’utilizzo
di standard di interoperabilità che garantiscano il collegamento sicuro a
sistemi IoT. L’UE promuove uno spazio di numerazione IoT interoperabile
per un’identi cazione di un oggetto universale, che superi i limiti geogra ci,
e un sistema aperto per l’identi cazione e l’autenticazione degli oggetti, ma è
evidente che questo è uno degli aspetti più delicati al centro della s da
tecnologica e politica tra USA e Cina, a proposito della tecnologia 5G, che è
quella in grado di garantire uno sviluppo esteso dell’IoT. Senza contare che
essa richiede grandi quantità di energia e produce una altrettanto grande
quantità di calore (tutti aspetti che vanno compensati con i vantaggi dei
nuovi sistemi).
3. Alcuni effetti giuridici
La connessione potenzialmente universale, sopra tratteggiata, richiama
alla memoria un passo di Giorgio Manganelli, che amo citare per la sua
straordinaria capacità visionaria:
Dal momento in cui si è accorto che è impossibile non essere al centro del mondo, e che
questo vale tanto per lui, quanto per ogni essere umano, o animale, o anche sasso, o alga, o
batterio, egli ha dovuto accettare che due sole soluzioni sono date, a descrizione del
comportamento da tenere in quella situazione. O il centro del mondo è attivo, e allora il
mondo, dotato e arricchito da in niti centri, sarà in nitamente attivo; oppure dovrà essere
assediato dalla totalità del mondo; più esattamente essere il bersaglio del mondo16.
Il punto critico, tra essere uno degli in niti centri di questo mondo bello
e affascinante e l’essere assediati dalla totalità del mondo, è la cultura,
l’equilibrio affettivo ed emotivo (la riserva cognitiva di cui parlano i
neuropsicologi), la condizione di salute, la forza degli anni17. Alla ne anche
il lavoro cambierà, e sta già cambiando, più che sparire. E il cambiamento
riguarderà gli aspetti qualitativi:
Capabilities such as creativity and sensing emotions are core to the human experience and
also difficult to automate. e amount of time that workers spend on activities requiring these
capabilities, though, appears to be surprisingly low. Just 4 percent of the work activities across
the US economy require creativity at a median human level of performance. Similarly, only 29
percent of work activities require a median human level of performance in sensing emotion18.
Le emozioni sono in primo piano. Piace pensare a una società che lasci
tutti liberi di essere un centro attivo che brilla per le sue idee, le sue passioni
e le sue iniziative, e che, nello stesso tempo, aiuti chi non abbia quelle
risorse, o le abbia perse, a recuperarle o a vivere un’esistenza comunque
dignitosa19. Su questo piano il diritto e i diritti sono chiamati in gioco.
Il Rathenau Instituut, L’Aia, su commissione del Parlamento europeo, ha
elaborato nel 2017 un rapporto sui diritti fondamentali dell’uomo nell’era
della robotica e dell’intelligenza arti ciale20. La strategia seguita è stata di
passare in rassegna gli articoli della Carta dei diritti fondamentali
dell’Unione Europea (Carta di Nizza) e della Convenzione europea dei
diritti dell’uomo (CEDU) e di veri carne la tenuta alla luce degli sviluppi
tecnologici.
È una prova di resistenza dei diritti nell’attuale ambiente così tanto
tecnologizzato, che avevo avviato già alcuni anni prima con riferimento alla
nostra Costituzione e alla Carta di Nizza e che pare utile ripresentare oggi,
stante la sua perdurante attualità, nella forma di interrogativi che sorgono21.
Cosa ne è, ad esempio, del domicilio inviolabile e della vita privata (art.
14 Cost. it. e art. 7 Carta Nizza), in un luogo dove ambienti privati e pubblici
sono semplici unità interoperative?
Cosa ne è della libertà e della segretezza della corrispondenza e di ogni
altra forma di comunicazione (art. 15 Cost. it.), in un luogo in cui le
comunicazioni avvengono tramite sistemi, i cui contenuti sono memorizzati
e sono richiamabili in qualsiasi momento?
Cosa ne è della libertà di circolare e soggiornare (art. 16 Cost. it. e art. 45
Carta Nizza) o del diritto di riunirsi paci camente o del diritto di associarsi
liberamente (artt. 17 e 18 Cost. it. e art. 12 Carta Nizza), se la presenza di
ogni persona è rilevata da sensori che sono in grado di anticipare i
movimenti, gli stati mentali e, persino, i bisogni?
Cosa ne è del diritto di manifestare liberamente il proprio pensiero (art.
21 Cost. it. e art. 11 Carta Nizza), se, sulla base dei dati raccolti, è estratto un
pro lo di ogni individuo?
E, alla ne, cosa ne è della libertà personale e della sua inviolabilità (art.
13 e art. 6 Carta Nizza)?
È evidente, già a prima vista, che i diritti fondamentali della modernità
furono concepiti in un’epoca in cui (costituitasi, con la ne del Patriarcato,
una sfera pubblica distinta da quella privata) era sicamente immaginabile
un’opacità privata, che poteva essere pensata ancora come residuo, che si
potrebbe dire naturale, che si manifestava per eccellenza nei luoghi di vita
privata (il domicilio ne è l’esempio emblematico) o anche in pubblico (è il
caso della manifestazione del pensiero), dove permane una sorta di riserva
di privatezza, come è evidente nel caso in cui io cammino nella pubblica via
ma ho il diritto che nessuno mi segua o pretenda di sapere dove sto
andando. Inoltre, la rapida rassegna di cui sopra mostra come quel residuo
oggi non esista più o possa esistere solo come deliberata costruzione o
progettazione sociale.
Si può, allora, concludere che, oggi, i diritti e le libertà devono non solo
essere dichiarati, ma deve anche essere costruito il contesto materiale e
giuridico perché essi possano esistere? E che non progettare lo spazio dei
diritti e delle libertà, sarebbe come progettare una città greca senza l’agorà,
perché si riuniscano a deliberare i cittadini, o una moderna capitale senza
l’edi cio dell’assemblea elettiva o del governo?
Un diverso modo di costruire i diritti sembra affacciarsi negli anni più
recenti. Si pensi alla «protezione dei dati n dalla progettazione e protezione
per impostazione prede nita» (comunemente nota come privacy by design),
che impone vincoli di progettazione di determinati prodotti in modo che nel
loro utilizzo siano rispettati quei diritti degli individui, che altrimenti
sarebbero mere enunciazioni. L’articolo 25 del Regolamento (UE) 2016/679
stabilisce:
[…] il titolare del trattamento mette in atto misure tecniche e organizzative adeguate, quali
la pseudonimizzazione, volte ad attuare in modo efficace i principi di protezione dei dati, quali
la minimizzazione, e a integrare nel trattamento le necessarie garanzie al ne di soddisfare i
requisiti del presente regolamento e tutelare i diritti degli interessati.
2. Il titolare del trattamento mette in atto misure tecniche e organizzative adeguate per
garantire che siano trattati, per impostazione prede nita, solo i dati personali necessari per
ogni speci ca nalità del trattamento. Tale obbligo vale per la quantità dei dati personali
raccolti, la portata del trattamento, il periodo di conservazione e l’accessibilità […]22.
È evidente il rovesciamento di prospettiva che questa tecnica di
normazione attua. La sequenza non è più a) dichiarazione del diritto, b) sua
violazione, c) reazione del titolare del diritto davanti a un’autorità di
giustizia, d) ordine di cessazione della condotta dannosa o risarcimento del
danno. Con la nuova tecnica il titolare del trattamento (potenziale violatore
dei diritti) deve preliminarmente porre in essere misure tecniche e
organizzative che rendano impossibile la violazione o ne riducano
fortemente la portata. Si potrebbe dire che una tecnologia, potenzialmente
lesiva, viene privata della sua offensività per via tecnica. Il diritto governa
questo movimento tecnico, ma fa un (mezzo) passo indietro rispetto alla
tradizionale logica violazione/reazione.
Prendendo il problema per un’altra via, ci si può chiedere se alcuni diritti
verso le tecnologie (ammesso che siano in qualche modo riconosciuti)
possano costituire una protezione adeguata in un caso come quello degli
studenti e dei manifestanti di Hong Kong contro la legge imposta dal
governo cinese che modi ca le regole sull’estradizione verso la Repubblica
Popolare cinese. Nella primavera-estate del 2019 essi indossano mascherine
antiinquinamento, non certo per la qualità dell’aria, ma per far fronte ai
raffinati e aggiornatissimi sistemi di riconoscimento facciale usati delle
autorità di Pechino, e comprano biglietti di trasporto in contanti, e solo
andata, per proteggersi da quelle tecnologie intelligenti che servono a far
funzionare meglio i sistemi urbani (smart cities), ma che possono lasciare
tracce anche di spostamenti individuali23.
L’Europa fa un punto di orgoglio della legislazione europea a protezione
dei dati personali. Nel discorso sullo Stato dell’unione del 2016 il presidente,
Jean-Claude Junker, enfaticamente afferma:
Essere europei signi ca avere diritto alla protezione dei propri dati personali mediante
rigorose leggi europee. Perché agli europei non piace essere sorvolati da droni che registrano
ogni loro movimento, né vogliono che le imprese tengano traccia di ogni loro clic in rete. […]
Si tratta di una rigorosa normativa europea sul trattamento dei dati personali che si applica alle
imprese, ovunque abbiano sede. Perché in Europa ci teniamo alla riservatezza. Si tratta di una
questione di dignità umana24.
La questione delle regole da applicare ai sistemi e all’uso dell’intelligenza
arti ciale è stata già affrontata nei suoi termini generali (Capitolo 2), al quel
si rinvia. Qui vengono esaminati alcuni aspetti particolari, come l’esigenza di
ampliare il catalogo dei diritti e dei titolari dei diritti nelle situazioni in cui si
pongono problemi connessi all’IA.
4. Sono necessari nuovi diritti? A right to not be measured,
analysed or coached?
La domanda è la seguente: sono necessari nuovi diritti se Google,
Microso e Facebook continuano ad agire secondo le loro linee di azione,
cioè dell’IA senza norme interne ed esterne, senza controllo e monitoraggio
ravvicinato, tanto da sviluppare e vendere tecnologie che potrebbero
rappresentare un rischio per i cittadini globali25?
La tecnologia del riconoscimento facciale è talmente avanzata da rendere
evidente la necessità di una sua regolazione. Non solo gruppi per i diritti
civili, come l’American Civil Liberties Union (ACLU), hanno preso questa
posizione, ma anche aziende come Microso e Amazon cominciano a
riconoscere che il cambiamento è necessario. Il problema è il come.
Nel rapporto commissionato dal Parlamento europeo di cui si è parlato
sopra, il Rathenau Instituut propone il riconoscimento di un diritto a non
essere oggetto di misurazioni, di analisi e di non essere guidato (right to not
be measured, analysed or coached), come sviluppo dei tradizionali diritti alla
privacy e al rispetto della vita familiare nell’epoca dell’Internet of ings e
dell’intelligenza arti ciale.
Tra gli esempi a sostegno della proposta, il documento riporta le
dichiarazioni dell’ex ministro olandese degli affari economici e del segretario
di Stato per la sicurezza e la giustizia, che, in risposta alle preoccupazioni dei
consumatori in merito al tracciamento Wi-Fi da parte dei proprietari dei
negozi, hanno dichiarato che le persone che non vogliono essere tracciate
dovrebbero semplicemente spegnere il loro smartphone, dando così una
risposta che presuppone che il diritto/potere di tracciare e rintracciare le
persone sia da considerare più importante dei diritti delle persone stesse
(privacy)26.
Quindi, se i governi e i soggetti privati tendono a pro lare le persone
(questo è il risultato delle misurazioni e delle analisi con strumenti di IA),
perché non introdurre uno speci co diritto umano?
È probabile che una proposta del genere, o altre simili, siano ragionevoli
e giusti cate. Tuttavia, prima di muoversi in questa direzione vale la pena di
interrogarsi sull’utilità di in ttire la selva dei diritti riconosciuti formalmente
(e magari ignorati nella pratica) e sulla possibilità di applicare strumenti del
tipo della privacy by design, che s’ispira a una logica diametralmente
opposta.
4.1 Un nuovo Panopticon?
Le risposte ai problemi posti dallo sviluppo tecnologico ri ettono
inevitabilmente un modello di lettura della realtà che esso presuppone.
Un modello interpretativo ricorrente specie negli anni passati, ma che
riaffiora a ogni nuovo sviluppo tecnico, è quello del Panopticon, il progetto
di carcere ideale creato dal losofo e giurista Jeremy Bentham (1791) e reso
popolare da Michel Foucault nel terzo capitolo del saggio molto noto
Sorvegliare e punire:
Il Panopticon di Bentahm è la gura architettonica di questa composizione. Il principio è
noto: alla periferia una costruzione ad anello; al centro una torre tagliata da larghe nestre che
si aprono verso la faccia interna dell’anello; la costruzione periferica è divisa in celle, che
occupano ciascuna tutto lo spessore della costruzione; esse hanno due nestre, una verso
l’interno, corrispondente alla nestra della torre; l’altra, verso l’esterno, permette alla luce di
attraversare la cella da parte a parte. Basta allora mettere un sorvegliante nella torre centrale, e
in ogni cella rinchiudere un pazzo, un ammalato, un condannato, un operaio o uno scolaro.
Per effetto del controluce si possono cogliere dalla torre, stagliantisi esattamente, le piccole
silhouette prigioniere nelle celle della periferia27.
La caratteristica di questo modello è di essere unitario e centralizzato
tanto da essere eretto da Foucault a espressione del potere nella sua purezza
onnivora. Sembra vedere le cose in questo modo il Rathenau Instituut, che
cita il Berlin Telecom Group28, oppure un giornalista, come Pierluigi
Battista, a sostegno della tesi del materializzarsi di un incubo totalitario e
oppressivo (richiamando pour cause Foucault) che distrugge de nitivamente
la privacy29.
Tuttavia, il Panopticon come modello interpretativo dell’IoT e dell’IoE
non convince. A mio avviso, sottovaluta la grande complessità e molteplicità
dei sistemi che rendono possibile l’IoT o l’IoE. Essi funzionano grazie alla
copresenza di network wi- privati e pubblici, appartenenti a diversi Stati e
sistemi, tanto che quello dell’interoperabilità dei sistemi 5G, come si è visto
sopra, è uno dei problemi maggiori e una delle difficoltà maggiori30. Uno
scenario del genere mal si presta a essere spiegato attraverso un unico
sorvegliante che controlla la pluralità delle nostre silhouette.
D’altra parte, è interessante che l’articolo di Battista, per sostenere la sua
tesi foucaltiana, deve fare una lunga lista delle entità che ci controllano: il
potere politico, il potere giudiziario, il potere di polizia, il potere economico
nelle mille facce che ha. Viene da dire: ma se sono in tanti a controllare, si
può dire che la metafora di un occhio occulto, unico e centralizzato, come è
nel modello di Bentham (divulgato da Foucault), sia la metafora giusta?
È possibile anche una visione più dinamica, che valorizza come su scala
globale, le nuove tecnologie abbiano aperto lo spazio a sorveglianze locali
informali, reti che sono espressione di alleanze informali di una varietà di
attori e che hanno il potenziale per alterare radicalmente le relazioni di
potere ortodosse, sfuggendo ai controlli delle informazioni dello Stato e
collegando uno sguardo locale con la comunità globale31. Sono, quindi,
possibili bilanciamenti tra gli aspetti di controllo e quelli abilitanti in senso
democratico proprio usando nuove tecnologie, secondo una visione, che si
può mutuare da Saskia Sassen, che vede la dimensione urbana come
incompleta e non monolitica, suscettibile di reazioni che non sono state
previste dagli ingegneri e che sono invece frutto dei bisogni e della creatività
degli abitanti, come i dimostranti di Hong Kong sembrano imostrare32.
Non si può negare, comunque che alcuni dati sull’avanzamento
tecnologico fanno pensare. In un documento del giugno 2019 la American
Civil Libertirs Union (ACLU), storica organizzazione di tutela dei diritti
civili negli Stati Uniti, ha pubblicato un documento dedicato all’IA applicata
ai sistemi di sorveglianza, che è degno di nota per il tono asciutto e
informativo33. Tra i tanti un dato colpisce: il tempo richiesto per allenare un
sistema di IA a riconoscere immagini è crollato da giugno 2017 a novembre
2018 in modo che quello che si faceva in 60 minuti alla ne del periodo
veniva fatto in meno di 5 minuti. Quali siano le conseguenze applicative è
facile da immaginare34.
Ma la creatività dei cultori di Internet è al lavoro, a partire dal creatore
del World Wide Web, Tim Berners-Lee, che sta lavorando a un nuovo
protocollo (Solid), che dovrebbe «reinventare l’ecosistema tecnologico per
restituire le informazioni nelle mani degli utenti»35 attraverso una radicale
decentralizzazione di Internet. Una chance di libertà o una nuova
articolazione del Panopticon? Chi scrive non avrebbe dubbi, anche se niente
è dato per sempre.
5. Una libertà delicata e essenziale: arte e IA
A prima vista, l’IA può apparire come una minaccia per il diritto
dell’autore di un’opera d’arte, in particolare gurativa.
L’essere autore di un’opera, ed essere riconosciuto come tale, è un diritto
fondamentale. Secondo l’articolo quindici della Convenzione internazionale
sui diritti economici, sociali e culturali36: «e States Parties to the present
Covenant recognize the right of everyone […] to bene t from the protection
of the moral and material interests resulting from any scienti c, literary or
artistic production of which he is the author». Inoltre, la libertà dell’arte è
uno dei diritti che le costituzioni europee del secondo dopoguerra
riconoscono in modo esplicito. Per la Costituzione italiana «l’arte e la
scienza sono libere e libero ne è l’insegnamento» (art. 33).
La domanda che ci si può porre è se l’IA possa essere un pericolo per tale
diritto, sotto due pro li tipici di quelle tecnologie: a) la riproducibilità
illimitata di ogni contenuto culturale una volta digitalizzato37; b) la
possibilità di creare nuove entità artistiche utilizzando opere precedenti
dello stesso autore e applicando algoritmi predittivi alle informazioni da esse
tratte, in modo da ottenere un nuovo lavoro artistico, creato nello stile
dell’autore.
Il caso di un autentico Rembrandt nuovo di zecca (e di altri prodotti
simili) è molto popolare e suggestivo38. Tuttavia, nonostante la sua autoevidenza, questo scandalo non è facile da de nire e, alla ne, non è neanche
uno scandalo.
Quanto all’illimitata riproducibilità, si tratta certo di un tipico effetto
della digitalizzazione. Ora, pur senza giungere all’affermazione
apparentemente paradossale ed eccessiva di omas Hoving, ex direttore del
Metropolitan Museum di New York (secondo il quale il 40% delle opere
esaminate nell’arco di quindici anni era falso39), non va sottovalutata l’idea
che si afferma nel corso del XX secolo e che rovescia la centralità dell’opera
prodotta rispetto all’idea ad essa sottesa. All’opposto, viene posto al centro
dell’arte l’idea che l’autore ha avuto, che può poi dare luogo alla realizzazione
seriale di oggetti che esprimono quella medesima idea.
Questa realtà ha ri essi sui modi di accertamento dell’autenticità di
opere d’arte che sono ispirate a un’idea che nega l’unicità del prodotto
artistico40. La certi cazione, più che essere affidata alle insidie delle
valutazioni di esperti e critici d’arte, è fatta dallo stesso autore che scrive che
una certa opera proviene dal suo atelier. Si potrebbe concludere che idee
come quella dell’arte seriale e simili si affermano prima e
indipendentemente dall’informatica, dalla digitalizzazione e dall’IA e che
queste tecnologie non aggiungono molto al fenomeno, limitandosi, semmai,
ad ampli carlo. Anzi, proprio queste tecnologie (in particolare blockchain)
rendono possibile una tutela dell’autore e dei suoi diritti anche nel caso di
arte grandemente instabile e molto facilmente riproducibile, come la digital
art (dove l’opera si materializza in un semplice le)41.
Anche la creazione di autentiche opere d’arte nuove di zecca (un
ossimoro, secondo l’idea tradizionale) usando algoritmi predittivi è
fenomeno che, a mio avviso, non deve essere sopravvalutato. In primo
luogo, perché queste opere possono essere utili strumenti di studio
retrospettivo, piuttosto che prodotti artistici legati al mercato delle gallerie.
In questo caso l’autore sembra scomparire, sostituito da macchine e
algoritmi. Tuttavia, anche questo scandalo è probabilmente sopravvalutato.
Dagli anni Sessanta del XX secolo un vasto dibattito è in corso circa il
signi cato di essere ‘autore’ e quale sia il suo ruolo. Basti ricordare a tale
proposito l’introduzione da parte di Julia Kristeva del concetto di
intertestualità, che sottolinea le relazioni tra i testi, più che tra gli autori42 e la
posizione provocatoria di Roland Barthes, che nel 1967 dichiara «la morte
dell’autore».
In conclusione, si può dire che l’idea di autore (e di paternità dell’opera) è
in crisi da prima e indipendentemente dalle creazioni degli algoritmi e,
dall’altra parte, che, se si vuole salvare il concetto di autore nella creazione di
AI, si deve riconoscere che anche nella creazione, nella selezione dei criteri e
nella produzione di un’opera d’arte di IA vi è, in ogni caso, un essere umano
dietro.
In altri termini, le creazioni d’intelligenza arti ciale dovrebbero essere
considerate un altro modo di produrre oggetti (opere d’arte), che devono
essere valutati per l’idea che abbiano dentro e il tipo e la qualità della
realizzazione. Si delinea così un altro modo di produrre opere d’arte, frutto
anche del cambiamento della percezione del mondo che la tecnologia
induce, cambiamento che l’artista può cogliere e rendere visibile quello che
non appare allo sguardo dei più.
Il lavoro dell’artista rimane quello di rendere visibile, grazie alla sua
sensibilità e con la peculiarità dei suoi mezzi espressivi, quello che è
invisibile ai più43. In questo, l’intelligenza arti ciale può fare da ponte tra
diversi saperi e pratiche umane: gli algoritmi che estraggono patterns e
graphs da grandi dataset, contenuti che erano invisibili e non conosciuti no
a quel momento e che chiedono di essere interpretati, rendono, appunto,
visibile l’invisibile. Il che è in interessante assonanza con l’arte e
potenzialmente, perché no?, anche con il diritto (vedi Capitolo 8).
6. Scandalo al Parlamento europeo su robot e personalità
giuridica
Il 16 febbraio 2017 il Parlamento europeo approva una risoluzione che
rivolge alcune raccomandazioni alla Commissione a proposito delle norme
di diritto civile da introdurre sulla robotica44. L’art. 59, insieme a una serie di
indicazioni riprese dal dibattito giuridico e etico in materia45, tese a una più
equa distribuzione del rischio per il caso in cui un robot procuri un danno,
contiene un’indicazione che provoca un vero e proprio scandalo. Il punto è
quello nel quale il Parlamento, tra le soluzioni giuridiche che invita la
Commissione a esplorare, indica:
l’istituzione di uno status giuridico speci co per i robot nel lungo termine, di modo che
almeno i robot autonomi più so sticati possano essere considerati come persone elettroniche
responsabili di risarcire qualsiasi danno da loro causato, nonché eventualmente il
riconoscimento della personalità elettronica dei robot che prendono decisioni autonome o che
interagiscono in modo indipendente con terzi.
Mady Delvaux, la parlamentare europea lussemburghese che aveva
redatto la risoluzione, cerca di placare i contrasti e in una comunicazione
chiarisce così il punto:
Sul lungo termine, determinare la responsabilità in caso di incidente diventerà
probabilmente sempre più complesso perché i più so sticati robot, autonomi e dotati di
autoapprendimento, saranno capaci di prendere decisioni per le quali non si può risalire a un
essere umano agente. Per questi casi, la risoluzione chiede alla Commissione di valutare
l’impatto di uno schema di assicurazione obbligatoria, che includa la possibile idea di dare ai
robot lo status giuridico di una personalità elettronica al ne di agevolare il risarcimento delle
vittime per i casi in cui una responsabilità umana non possa essere completamente attribuita.
Reagisce duramente un gruppo di 156 esperti europei d’intelligenza
arti ciale che considera anche la mera ipotesi che i robot abbiano lo status
legale di persone elettroniche un’idea senza senso, ideologica e non
pragmatica. A sostegno della loro posizione richiamano il Parere del
Comitato economico e sociale europeo (CESE) sull’intelligenza artificiale –
Le ricadute dell’intelligenza artificiale sul mercato unico (digitale), sulla
produzione, sul consumo, sull’occupazione e sulla società (2017/C 288/01),
laddove afferma:
Il CESE è contrario all’introduzione di una forma di personalità giuridica per i robot o per
l’IA (o i sistemi di IA), in quanto essa comporterebbe un rischio inaccettabile di azzardo
morale. Dal diritto in materia di responsabilità civile deriva una funzione preventiva di
correzione del comportamento, la quale potrebbe venir meno una volta che la responsabilità
civile non ricade più sul costruttore perché è trasferita al robot (o al sistema di IA). Inoltre, vi è
il rischio di un uso inappropriato e di abuso di uno status giuridico di questo tipo. In questo
contesto, il confronto con la responsabilità limitata delle società è fuori luogo, in quanto è
sempre la persona sica a essere responsabile in ultima istanza.
Essi citano, inoltre, la posizione espressa dalla World Commission on the
Ethics of Scienti c Knowledge and Technology (COMEST UNESCO) in un
rapporto del 2017 su Robotics Ethics il cui articolo 201 (sotto il titolo Moral
status dei robot) dichiara:
How moral status is acquired and lost is a longstanding philosophical issue. Some
philosophers believe that having moral status amounts to having certain psychological and/or
biological properties. From a deontological point of view, to have moral status implies being a
person, and being a person implies having rationality or the capacity for rational and moral
deliberation. In so far as they are able to solve many demanding cognitive tasks on their own,
robots may be said to have some form of rationality. However, it is highly counterintuitive to
call them ‘persons’ as long as they do not possess some additional qualities typically associated
with human persons, such as freedom of will, intentionality, self-consciousness, moral agency
or a sense of personal identity.
Forti di questi autorevoli precedenti i 156 esperti ritengono che
from an ethical and legal perspective, creating a legal personality for a robot is
inappropriate whatever the legal status model:
a. A legal status for a robot can’t derive from the natural person model, since the robot
would then hold human rights, such as the right to dignity, the right to its integrity, the right to
remuneration or the right to citizenship, thus directly confronting the human rights. is
would be in contradiction with the Charter of Fundamental Rights of the European Union and
the Convention for the Protection of Human Rights and Fundamental Freedoms.
b. e legal status for a robot can’t derive from the legal entity model, since it implies the
existence of human persons behind the legal person to represent and direct it. And this is not
the case for a robot.
Al gruppo dei 156 si uniscono Luciano Floridi e Mariarosaria Taddeo
con una breve nota, pubblicata dalla nota rivista scienti ca «Nature», con il
titolo Romans would have denied robots legal personhood, nella quale
sostengono che la posizione del Parlamento europeo è inconsistente perché
sembra rifarsi al modello giuridico delle società, mentre proprio «le società
sono costituite e condotte da umani, ai quali si possono attribuire intenzioni,
piani, obiettivi e diritti e doveri giuridici». Concludono, quindi, che
«l’attribuzione della personalità elettronica ai robot rischia di confondere la
responsabilità morale, la responsabilità per le proprie azioni e il dover dar
conto giuridicamente riguardo ai loro errori e usi impropri. I robot
potrebbero essere incolpati e puniti al posto degli umani»46.
6.1 Un po’ di chiarezza tra questioni giuridiche e ontologiche
Nonostante la qualità degli autori e delle istituzioni coinvolte, non mi
pare che le questioni siano emerse in modo del tutto chiaro e consistente.
Intanto, genera una certa confusione l’accostamento di almeno tre diversi
livelli di analisi, quello etico/morale, quello strettamente giuridico e quello
dei diritti umani, ciascuno dei quali è già sufficientemente complesso,
sfaccettato e bisognoso di chiari cazioni.
I diritti umani (human rights), per esempio, vengono richiamati, secondo
quello che accade spesso nei dibattiti internazionali, per comprendere anche
quelli che nel nostro ordinamento sono a pieno titolo diritti costituzionali,
come il diritto all’integrità personale e i diritti di cittadinanza, o il diritto di
ricevere una retribuzione (che in Italia è costituzionalizzato nell’art. 36 con
riferimento alla necessità di garantire un’esistenza libera dignitosa): tutti
diritti per i quali è possibile portare davanti al giudice altri cittadini o anche
lo Stato stesso. Così come è possibile ricorrere al giudice nazionale o
comunitario o alla Corte europea dei diritti dell’uomo (CEDU) per la
violazione dei diritti riconosciuti dalla European Convention for the
Protection of Human Rights and Fundamental Freedoms (ECHR, in italiano
CEDU) o, a certe condizioni, dalla Charter of Fundamental Rights of the
European Union (Carta di Nizza). La conclusione è che i diritti umani, intesi
come diritti costituzionali o fondamentali, anche riconosciuti da
convenzioni o trattati internazionali, sono diritti pienamente giuridici (e
non solo morali) e di rango superiore47.
Altrettanto chiara deve essere la distinzione tra giudizio morale, o
relativo allo status morale, e regole giuridiche. La posizione di COMEST
circa lo status morale del robot, ritenuto incompatibile con quello di
persona, è coerente e può anche essere condivisa, a patto che si precisi che i
requisiti qualitativi che sono attribuiti alla persona sono quelli della sola
persona umana. Dire che è controintuitivo chiamare persone i robot perché
essi non hanno qualità che sono tipiche delle persone umane, presuppone,
appunto, che siano persone solo gli umani. Il che può essere coerente dal
punto di vista loso co, ma non vede (o relega a mera fictio: si veda avanti)
la secolare esperienza umana delle persone giuridiche.
La questione del tenere ferma la responsabilità del produttore quale
sistema di protezione del consumatore è di grande serietà e impatto pratico.
Il sistema introdotto proprio da fonti europee non può e non deve essere
posto in discussione senza bilanciamenti diversi. Tuttavia, la questione va
affrontata tenendo conto dell’evoluzione della produzione e delle tipologie di
prodotti, che talora rende difficile l’individuazione del produttore, e non può
essere esorcizzata chiudendo a ogni prospettiva di riconoscimento di
soggettività giuridica ai robot.
7. Il modello delle società
Più complesso, e quindi meritevole di qualche attenzione aggiuntiva, è il
parallelo tra robot/IA e società con personalità giuridica, dove talora si
leggono vere e proprie inesattezze.
L’impossibilità di adottare il modello della società viene affermata con
sfumature diverse, che vanno dalla constatazione materiale
dell’imprescindibile presenza degli umani al momento della sua costituzione
così come della sua vita (la società è rappresentata da umani che la dirigono
anche), all’affermazione che è sempre la persona sica a essere responsabile
in ultima istanza, no al rilievo ontologico secondo il quale un robot non ha
quei requisiti (come intenzioni, capacità di formulare piani o di darsi
obiettivi) che fanno di una persona una persona, con la connessa
attribuzione di diritti e doveri.
Il primo fascio di motivi può essere ricondotto all’idea corrente (ancora
oggi nei manuali di diritto) secondo la quale le persone giuridiche sono una
mera nzione che il diritto adotta modellandola sulla persona umana,
mentre il secondo tipo di obiezione riguarda l’ontologia della persona
umana e la non riproducibilità delle sue caratteristiche in un robot o un
sistema di IA, che, per raffinati che siano, sono artefatti: la prova del nove
costituita dalla responsabilità penale48.
Nel primo caso, vi sarà da veri care la tenuta logica e storica
dell’attribuzione della qualità di naturale alla persona umana e arti ciale a
ogni artefatto diverso. Nel secondo, traendo vantaggio dalle conclusioni
raggiunte su dall’esame del primo punto su naturale-arti ciale, si potranno
affrontare anche questioni più complesse, come la responsabilità penale e la
qualità ‘coscienza’ nelle macchine.
8. Creature di Dio e artefatti giuridici
È un autentico pregiudizio, duro a morire, quello che brandiscono i
critici del Parlamento europeo nel dire che l’unica entità degna del titolo
giuridico di persona è l’essere umano, biologicamente inteso come da Dio
creato. Certo, tradizionalmente anche nel diritto inglese (non dissimilmente
da quello continentale) le persons sono «divided by the law into either
natural persons, or arti cial. Natural persons are such as the God of nature
formed us; arti cial are such as are created and devised by human laws for
the purposes of society and government, which are called corporations or
bodies politic»49.
La questione fu affrontata da Hans Kelsen in epoca risalente, ma con una
chiarezza che ancora è utile, soprattutto visto il perdurare di posizioni
contrarie. La coincidenza di «individuo umano» e titolare di diritti e libertà
non è un dato naturale e nasconde anche un errore concettuale. Hans Kelsen
affronta in modo netto i concetti di persona giuridica e di persona sica in
un noto passo della Teoria Generale del Diritto e dello Stato50. Egli critica, in
primo luogo, il modo comune di de nire la «persona sica (naturale)» e
l’uso di formule come «la persona sica è un essere umano, mentre la
persona giuridica in senso stretto non lo è» o la persona sica è «un essere
umano considerato come investito di diritti, o come soggetto a doveri». Di
conseguenza l’affermazione corrente che una persona ha doveri e diritti è
priva di signi cato o è una tautologia vuota, dal momento che «la persona
giuridica non è un’entità separata distinta dai suoi doveri e diritti», ma solo
la loro unità personi cata o – dato che doveri e diritti sono norme
giuridiche – l’unità personi cata di una serie di norme giuridiche.
Il passaggio successivo è costituito dalla seguente domanda: «Che cos’è
che costituisce questo tipo di unità? Quand’è che un complesso di doveri e
diritti, un complesso di norme giuridiche, ha questo tipo di unità?».
La risposta che dà Kelsen è la seguente: dire che un particolare essere
umano ha un certo dovere o diritto signi ca solo che un certo
comportamento di quell’individuo è il contenuto di un dovere o un diritto.
D’altra parte, le norme giuridiche considerano solo particolari azioni o
omissioni e, per quanto possano essere numerose, non regolano mai l’intera
esistenza dell’individuo umano: «nemmeno l’ordinamento giuridico totale
determina mai l’intera esistenza di un essere umano soggetta a
quell’ordinamento, né si interessa di tutte le sue funzioni mentali e
corporali». Per questo motivo, quando diciamo che uno schiavo non è una
persona in senso giuridico, o che non ha personalità giuridica, intendiamo
che «non vi sono norme giuridiche che quali chino una sua azione
giuridicamente rilevante come un dovere o un diritto».
La conseguenza è che la persona esiste (giuridicamente) solo in quanto
ha doveri e diritti; da parte loro, le persone non hanno alcuna esistenza.
De nire la persona sica (naturale) come essere umano non è corretto,
perché «uomo e persona sono non solo due concetti diversi, ma anche il
risultato di due generi di considerazioni completamente diverse. L’uomo è
un concetto biologico e siologico, in breve, un concetto delle scienze
naturali. La persona è un concetto della giurisprudenza, dell’analisi cioè
delle norme giuridiche».
La risposta all’ulteriore aspetto della questione, su ciò che costituisce il
tipo di unità che chiamiamo persona sica (naturale), è la seguente: «l’essere
umano non è la persona sica ma, per così dire, soltanto la ‘delimitazione’ di
una persona sica. Il rapporto fra una cosiddetta persona sica e l’essere
umano, con il quale la prima è sovente erroneamente identi cata, consiste
nel fatto che quei doveri e quei diritti, che sono compresi nel concetto di
persona, si riferiscono tutti al comportamento di quell’essere umano»51.
Perciò, secondo Kelsen, poiché il concetto della cosiddetta persona sica
(naturale) è solo una costruzione giuridica e, come tale, totalmente
differente dal concetto di uomo, la cosiddetta persona sica (naturale) è,
sicuramente, una persona giuridica. La «cosiddetta persona ‘ sica’ è allora
una persona ‘giuridica’ in senso ampio» (p. 96), e non ha quindi una qualità
diversa da quelle che comunemente sono chiamate persone giuridiche:
entrambe sono creazioni del diritto, accomunate dal carattere
dell’arti cialità.
In breve, i principali punti che emergono dal passo di Kelsen possono
essere riassunti come segue: (a) l’essere umano, come entità biologica, è cosa
diversa dalla persona sica in termini giuridici; (b) l’essere umano è il
fondamento della persona sica in termini giuridici come un’unità simbolica
e linguistica; (c) l’essere umano biologico è solo la delimitazione spaziale
(Kelsen usa la parola compasso, tra virgolette) di una persona sica in
termini giuridici; (d) l’essere umano esiste per l’ordinamento solo nella
limitata parte in cui vi siano norme giuridiche che lo assumono come
riferimento di diritti e doveri; (e) la persona sica in termini giuridici e la
persona giuridica (cioè le società di capitali) sono entrambe creazioni
giuridiche aventi in comune il carattere dell’arti cialità52.
La chiari cazione di Kelsen sulle differenze tra giuridico e biologico, pur
non esente da criticità e, certo, non da tutti condivisa, non mina, a mio
avviso, la forza critica di questa visione e, soprattutto, l’incomparabile sua
capacità esplicativa dei nuovi fenomeni di arti cialità.
9. L’agente per il diritto
Si può a questo punto affrontare il tema di quali siano le caratteristiche
che deve avere un’entità capace di essere agente per il diritto. Nel Capitolo 2
si è fatto un rapido cenno all’importanza del contesto storico nel de nire chi
sia titolare di diritti. Qui riprendiamo l’indagine sulle qualità che la persona
per il diritto dovrebbe avere.
Nel suo uso corrente la parola «agente»53 ha signi cati diversi ma tutti
compresi nel concetto essenziale di «causa attiva; causa efficiente»54 e include
tutto ciò (e non necessariamente un umano) che sia in grado di provocare
un cambiamento, cioè una sostanza, una forza naturale, un oggetto della
natura, una persona/essere umano, una persona o una cosa che agisce.
In anni più recenti, grazie anche agli studi dei sistemi adattativi
complessi55, il concetto centrale e comprensivo non è considerato più quello
di causa attiva/efficiente, ma quello di capacità di elaborare informazioni. Si
può, quindi, dire che la capacità di elaborare informazioni diventi la
fondamentale caratteristica di un agente e che robot, agenti soware, clouds
e ogni tipo di sistema automatico (in grado di elaborare informazioni),
nonostante la loro natura di cosa e non di persona sica, possano essere
considerati agenti, quantomeno nel senso più ampio che abbiamo visto
sopra.
La ricerca scienti ca produce nuove entità con capacità di processare
dati. L’ultima frontiera è la creazione in vitro di organoidi utilizzando cellule
cerebrali tratte da malati di Parkinson, cellule che vengono ingegnerizzate e
ritrasferite nel malato. Il nome usato è quello di organoids e minibrain: parti
di materiale cerebrale con alta capacità di processare informazioni, che viene
sviluppato fuori dal corpo umano. Come faceva notare alcuni anni fa
Luciano Floridi:
Noi non siamo immobili al centro dell’universo (rivoluzione copernicana); noi non siamo
innaturalmente distinti e differenti dal resto del mondo animale (rivoluzione darwiniana) e
siamo ben lungi dall’essere cartesianamente interamente trasparenti a noi stessi (rivoluzione
freudiana). Noi stiamo ora lentamente accettando l’idea che potremmo non essere così
nettamente diversi da altre entità e agenti informazionali e intelligenti, e da artefatti
ingegnerizzati (rivoluzione di Turing)56.
L’idea che gli umani siano organismi informazionali (inforgs) inseriti in
un ambiente globale, il cui tratto distintivo è costituito dall’informazione
(inphosfere), apre una prospettiva interessante circa il rapporto tra cose e
persone, anche dal punto di vista giuridico. A questo punto l’indagine
fattuale e teorica su cosa signi chi ‘agente’ si interseca con quella su cosa sia
persona per il diritto, di cui si è parlato nello scorso paragrafo. Le domande
cruciali diventano, dunque, le seguenti: dove il diritto traccia il limite di un
agente, che sia considerato tale dal diritto stesso (qualsiasi tipo di diritto:
civile, penale, amministrativo), cioè che sia un agente in senso giuridico?
Tale limite è o dovrebbe essere coincidente con quello tra cose e persone?
Nel campo del diritto il concetto più vicino a quello di agente sembra
essere quello di individuo o di gruppo cui è consentito dal diritto di
compiere atti giuridicamente rilevanti e, alla ne, di adire le vie legali, come
attore o convenuto. In inglese è la parola «person» che racchiude questo
ampio concetto di essere umano o di organizzazione che ha diritti e doveri.
Nei Paesi di civil law si utilizzano parole e concetti diversi, come «soggetto
giuridico» (italiano), «sujet de droit» (francese) e «Rechtssubjekt» (tedesco).
Nella tradizione giuridica di civil law la distinzione tra persone siche e
giuridiche (come le società) è complessa e non esente da incongruenze ed è
su di esse che si è esercita la critica kelseniana di cui si è detto sopra.
Tuttavia, tutti questi lemmi, nonostante le grandi differenze dei contesti
culturali e giuridici, ricoprono lo stesso fondamentale signi cato di entità
che ha diritti e doveri. E, in effetti, vi sono vari aspetti non controversi dello
status giuridico delle imprese.
È, per esempio, universalmente riconosciuto che una società possa avere
una propria personalità giuridica e abbia suoi diritti di proprietà57. Inoltre,
può avere obblighi, doveri e diritti verso altre società e altri umani. In
termini generali, è ampiamente condivisa l’idea delle società di capitali come
entità arti ciali che possono essere create dal diritto, e che sono trattate
proprio come individui secondo la legge, avendo diritti giuridicamente
tutelati, la capacità di contrarre debiti e di avere crediti, la capacità di avere e
trasferire proprietà, la capacità di stipulare contratti, l’obbligo di pagare le
tasse e la capacità di stare in giudizio (citare ed essere citate). I diritti e le
responsabilità di una società sono indipendenti e distinti dalle persone che
la possiedono o che vi investono58. Di conseguenza, le leggi civili e
amministrative possono sanzionare condotte aziendali illecite, cosa che
realmente accade in diversi Paesi in base alle leggi nazionali. L’enorme
quantità di contenziosi davanti ai tribunali civili e amministrativi dice più di
qualsiasi spiegazione teorica sulle società come agenti giuridici, sia come
person (arti ciale) sia come soggetto giuridico o sujet de droit o Rechtssubjekt.
10. Società commerciali e pene: chi fa schermo a chi
Resta da rispondere all’affermazione ricorrente nel dibattito sulla
risoluzione del Parlamento europeo, secondo la quale è sempre la persona
sica a essere responsabile in ultima istanza, anche nel caso delle società e
che ciò sia vero principalmente per la responsabilità penale.
Il tema della responsabilità penale delle società è diventato cruciale negli
ultimi decenni a causa del preoccupante numero di illeciti ambientali, di
violazione delle norme antitrust, di frodi negli alimenti e nei farmaci, di
false dichiarazioni, di incidenti mortali sul lavoro, di corruzione, di intralcio
alla giustizia e di criminalità nanziaria. Casi importanti, tra i tanti, sono
stati, negli Stati Uniti, il caso Enron e, in Europa, il caso Parmalat (Italia).
In questi e tantissimi altri casi il problema è nettamente diverso da quello
paventato dai critici della Risoluzione del Parlamento europeo. A fronte
della commissione di illeciti penali e amministrativi da parte dei suoi
dirigenti (non per fatto personale, ma nell’interesse e secondo le direttive
degli organi sociali), le società scaricano tutta la responsabilità sulla persona
sica del dirigente e continuano a commettere gli stessi illeciti, pronte a
scaricare nuovamente la responsabilità sul dirigente che ha preso il posto di
quello sotto processo. Per continuare ad agire in questo modo le società
sono pronte a pagare anche ingenti somme ai dirigenti, purché il sistema
non muti. Si pensi che il Contratto Collettivo Nazionale di Lavoro per i
Dirigenti di Aziende Produttrici di Beni e Servizi (art. 15) prevede sin dal
2009 che sia a carico dell’azienda ogni responsabilità civile verso terzi per
fatti commessi dal dirigente nell’esercizio delle proprie funzioni e che, ove si
apra un procedimento penale a carico del dirigente e il dirigente si dimetta
per quel motivo, l’azienda debba pagare, oltre al trattamento di ne
rapporto, un trattamento pari all’indennità sostitutiva del preavviso
spettante in caso di licenziamento, oltre una indennità supplementare al
trattamento di ne rapporto pari al preavviso individuale maturato (un
totale di svariate annualità di retribuzione).
È proprio per questo motivo che diverse giurisdizioni hanno introdotto
la responsabilità penale delle società adottando vari modelli, mentre altri
sistemi non hanno avuto la determinazione per introdurre tale tipo di
responsabilità59.
L’obiezione tradizionale era basata sul principio del XIX secolo secondo il
quale la società non può commettere reati: societas delinquere non potest. Si
argomentava che la società è una nzione giuridica e che, mancando di
corpo e anima, non arriva a integrare l’elemento soggettivo del reato (in
inglese mens rea) e un’azione in propria persona. All’altra obiezione, che
riguarda la pena carceraria, e l’impossibilità di immaginarla applicata alle
società, è stato risposto facendo notare come il diritto penale abbia oggi a
disposizione una vasta gamma di sanzioni diverse da quella carceraria e
dotate di capacità afflittiva non inferiore.
Senza alcuna pretesa di completezza, va ricordato che l’Europa affronta il
tema sin dal 1988 con una Raccomandazione del Comitato del Consiglio dei
Ministri della Comunità Europea che dà conto delle diverse tradizioni
giuridiche europee e della difficoltà, in relazione ad esse, di concepire la
responsabilità penale delle società e invita gli Stati a inserire forme di
responsabilità penale delle persone giuridiche60, mentre a livello
internazionale va ricordata la Convenzione penale sulla corruzione (ETS
n.173), aperta alla rma a Strasburgo il 27 novembre 1998. Sono questi,
insieme alla Convenzione OCSE sulla lotta alla corruzione dei pubblici
funzionari stranieri nelle operazioni economiche internazionali, siglata a
Parigi il 17 settembre 1997, i (principali) precedenti del Decreto legislativo
n. 231 del 2001, che introduce nel sistema italiano forme di responsabilità
(non civile) delle società per alcuni reati.
Rimane il dubbio che la responsabilità penale delle società possa violare
il principio dell’individualità della sanzione penale: un punto molto delicato
in Italia, dove la Costituzione afferma chiaramente che «la responsabilità
penale è personale», art. 27, e molto sentito dai giuristi italiani presso i quali
è radicata l’idea che, a differenza degli esseri umani, le società siano solo
nzioni giuridiche e che, a causa di tale inferiore status, esse non possano
essere ritenute penalmente responsabili. Queste sono le ragioni principali
per cui la legge italiana, al ne di non violare la norma costituzionale della
personalità della pena, ha previsto solo sanzioni amministrative61. Tuttavia,
bisogna notare che la Corte di Cassazione coglie esattamente il punto e, in
forza di un criterio di effettività affermatosi anche nella giurisprudenza della
Corte EDU, ha chiaramente affermato che, quale che sia la denominazione
usata dal legislatore («forse sottaciuta per non aprire delicati con itti con i
dogmi personalistici dell’imputazione criminale, di rango costituzionale, art.
27 Cost.»), le sanzioni previste dalla legge italiana hanno natura sostanziale
di sanzioni penali62.
Tale conclusione è molto importante perché esclude che lo schermo
societario sia solo un modo di coprire le soggettività ‘umane’ retrostanti (e
sempre pronte a riemergere) e conferisce a un tipico artefatto giuridico,
quale la società, sostanziale capacità penale. Alla ne, sembra essere nel
giusto la studiosa americana quando afferma:
Similar to individuals, corporations have an identi able persona and the capacity to express
moral judgments. Corporations have an identi able persona in the sense that they have a
unique presence in the community, different from that of their owners or managers; they have
‘ethos’ that makes them unique and different from the individuals controlling or working for
the corporations. e ethos can be derived from the corporation’s dynamic, structure,
monitoring system, aims, policies, promotion of compliance with the laws, and discipline of
the employees. e United States Supreme Court has decided that corporations have the
capacity to express independent points of view and moral judgments, and their freedom of
speech should not be abridged without a compelling state interest63.
Questo rapido excursus sulla responsabilità degli enti in relazione a quelle degli umani che
li hanno creati e che li dirigono, consente di dire che il dogma ottocentesco, secondo il quale la
società è una mera nzione ed è sempre la persona sica a essere responsabile in ultima
istanza, è ampiamente posto in discussione e in molti casi superato dalla evoluzione giuridica
internazionale e anche italiana. A ben vedere, seguendo i critici della risoluzione del
Parlamento europeo, non sono le società a essere schermo degli interessi umani, ma gli umani
(tanto portati sugli scudi) che niscono con il fare da schermo a potenti interessi economici,
irrispettosi delle esigenze sociali. Gli umani sono, così, sviliti proprio per le attenzioni di coloro
i quali combattono la soggettività degli enti arti ciali in nome dell’umanità (degli uomini),
mentre alla base vi sono interessi umani, troppo umani.
In conclusione, l’idea corrente secondo la quale l’azione considerata dal
diritto sia per de nizione un’azione compiuta da un essere umano, o più o
meno direttamente riconducibile a esseri umani, è falsa, sia perché vi sono
molti esempi di azioni intraprese da non-umani che sono rilevanti per il
diritto, sia perché vi sono diversi esempi di azioni intraprese da esseri umani
che non sono considerate dal diritto, perlomeno in relazione all’uomo che le
ha compiute.
11. Creature artificiali e proprietà ontologiche
Resta, a questo punto, da affrontare il rilievo ontologico secondo il quale
un robot, o un sistema di IA, non ha quei requisiti (come coscienza,
intenzioni, capacità di formulare piani o di darsi obiettivi) che fanno di una
persona una persona nel senso generalmente accettato di ‘persona umana’,
con la connessa attribuzione di diritti e doveri. Questa qualità ci riporta alla
de nizione di IA che è stata discussa nel Capitolo 1: «L’intelligenza arti ciale
è il campo dedicato alla costruzione di animali arti ciali (o, almeno, creature
arti ciali che in contesti appropriati appaiano essere animali) e, per molti,
persone arti ciali (o, almeno, creature arti ciali che in contesti appropriati
appaiano essere persone)».
Esaminiamo, qui di seguito, una qualità ritenuta essenziale delle persone:
la coscienza.
11.1 Una questione di coscienza
Il punto di collegamento tra qualità ontologiche (e biologiche) umane a
proposito di coscienza e la dimensione giuridica intesa in senso lato è la
Dichiarazione Universale dei Diritti dell’Uomo del 194864 che stabilisce la
piena simmetria tra l’entità che ha l’insieme dei diritti e delle libertà e l’essere
umano. Tuttavia, le cose sono più complesse di quanto possa apparire ed è
facile osservare che, da un lato, tale simmetria non è esistita prima della
Dichiarazione del 1948 (tanto da renderla necessaria) e, dall’altro, che è lo
stesso articolo 1 a riaprire immediatamente la questione quando, nella sua
seconda parte, afferma: «Loro [tutti gli esseri umani, nota mia] sono dotati
di ragione e coscienza»65.
L’affermazione che tutti gli esseri umani «sono dotati di ragione e
coscienza», presa alla lettera, sembra supporre che la ragione e la coscienza
siano parte dell’essenza di tutti gli esseri umani e, quindi, costituiscano loro
qualità intrinseche, senza le quali verrebbe meno il carattere dell’umanità. Se
così fosse, la conseguenza sarebbe che un essere umano che manchi di quelle
qualità non sia un essere umano o non sia un essere umano completo o non
abbia il diritto di avere uguali dignità e diritti66.
Su questa base può essere formulato un lungo elenco di ulteriori
questioni su quale sia il signi cato di «ragione e coscienza», sulla possibilità
della loro presenza in artefatti non umani e sullo spazio da riservare alle
entità non-umane che, in ipotesi, ne abbiano un certo grado. Come si è visto
nel paragrafo precedente, la questione delle società e del loro status giuridico
è stata storicamente la principale palestra della teoria del diritto a proposito
di entità non-umane che siano titolari di diritti e doveri.
11.2 Quattro aspetti importanti
Nell’esaminare il problema bisogna tener conto di quattro aspetti
essenziali. Il primo riguarda lo stato delle conoscenze in materia all’epoca
della redazione della Dichiarazione universale e gli obiettivi dei suoi
estensori, il secondo, i tempi di sviluppo negli anni del dibattito sulla
coscienza negli umani, il terzo riguarda le scoperte neuroscienti che a
proposito dell’attività mentale degli animali non umani, il quarto
l’acquisizione che non esiste un solo tipo di coscienza i cui gradi possano
essere misurati secondo un’unica scala, ma esistono diversi tipi di coscienza.
A questi temi ho dedicato un ampio saggio67, al quale rinvio per
argomentazioni di dettaglio e un completo apparato di note, mentre qui mi
limito a riportare le conclusioni essenziali.
Sul primo punto, quello delle idee degli estensori della Dichiarazione, è
interessante notare che vi fosse disaccordo circa l’idea di indicare ragione e
coscienza tra i requisiti degli umani e che per taluni essa fosse ridondante o
fonte di fraintendimenti. Secondo la visione essenzialista, ad avviso di uno
dei più importanti commentatori della dichiarazione, la ragione e la
coscienza sono indicati come attributi dell’essere umano: averli quali ca per
l’appartenenza alla famiglia umana, non averli rende questa appartenenza
discutibile. Questa posizione è sostenuta da Charles Malik, secondo il quale
«e First article of the Declaration on Human Rights should state those
characteristics of human beings which distinguish them from animals, that
is reason and conscience»68. Tuttavia, il testo fu alla ne approvato per due
prevalenti ragioni: evitare un eccessivo riferimento alla cultura occidentale e
porre il con ne degli animali non umani, che costituivano il limite oltre il
quale l’umanità cessava di esistere. Un punto di vista che oggi si de nirebbe
specista, ma che non sorprende che ci fosse all’epoca, perché la
rivendicazione di diritti per gli animali risale solamente ad alcune decadi
successive69 e la conoscenza scienti ca sulla percezione e le forme di
coscienza negli animali non umani arriverà, anch’essa, solo più tardi.
Che questa fosse la situazione del dibattito all’epoca della redazione della
Dichiarazione non deve sorprendere, se si considerano i tempi di evoluzione
del dibattito sulla coscienza negli umani, che è il nostro secondo punto.
Robert Van Gulick, nella sua ampia e aggiornata rassegna loso ca
sull’argomento, sottolinea come «nonostante la rinnovata enfasi nello
spiegare le capacità cognitive come la memoria, la percezione e la
comprensione del linguaggio, la coscienza sia rimasta un argomento
ampiamente trascurato per molti ulteriori decenni» ed è stato solo negli anni
Ottanta e Novanta del XX secolo che «c’è stata una forte ripresa della ricerca
scienti ca e loso ca sulla natura e sulle basi della coscienza. Una volta che
la coscienza è tornata in discussione, c’è stata una rapida proliferazione della
ricerca con un’ondata di libri e articoli, nonché la creazione di riviste
specializzate»70. Se questo è vero, si può essere autorizzati a dedurre che gli
estensori della Dichiarazione delle Nazioni Unite, parlando di coscienza,
non hanno assunto nulla di paragonabile alla ricchezza del dibattito degli
anni successivi e, piuttosto, hanno condiviso le idee di buon senso (se non i
luoghi comuni) sulla coscienza esistenti all’epoca. In termini di
interpretazione giuridica ciò implica che l’attuale ampiezza semantica del
lemma coscienza deve essere principalmente determinata facendo
riferimento a concetti e idee di un’era successiva a quella degli estensori. Il
problema (che di per sé è frequente nell’interpretazione delle leggi, che
acquisiscono nel tempo contenuti normativi nuovi) è reso più difficile
dall’incertezza nel campo loso co, dove ancora oggi le parole ‘cosciente’ e
‘coscienza’ sono usate con una varietà di signi cati e in una vasta gamma di
modi senza che ve ne sia uno nettamente prevalente. Le parole ‘cosciente’ e
‘coscienza’ sembrano termini generali che coprono un’ampia varietà di
fenomeni mentali e sono applicati sia a interi organismi – coscienza della
creatura – sia a particolari stati e processi mentali – coscienza dello stato71.
La coscienza negli animali non umani, che è il nostro terzo punto, è al
centro dell’attenzione di un gruppo di eminenti studiosi e scienziati che nel
2012, presso il Churchill College, Università di Cambridge, ha preso una
posizione netta contro l’idea che solamente gli umani posseggano il sostrato
neurologico che genera la coscienza. In occasione della conferenza sulla
coscienza negli umani e negli animali non umani alcuni di essi hanno scritto
una «dichiarazione di Cambridge» che si chiude così:
evidenze convergenti indicano che gli animali non umani hanno i sostrati neuroanatomico,
neurochimico e neuro siologico insieme alla capacità di mostrare comportamenti intenzionali.
Conseguentemente il peso delle prove indica che gli umani non sono gli unici a possedere il
sostrato neurologico che genera la coscienza. Gli animali non umani, inclusi tutti i mammiferi
e gli uccelli, e molte altre creature inclusi i polpi, posseggono anche questi strati neurologici72.
Naturalmente non tutti gli scienziati sono d’accordo e ve ne sono alcuni
eminenti che non condividono la radicalità o alcuni presupposti di questa
posizione. Tuttavia, da un punto di vista etico e giuridico, non era
immaginabile, solo pochi anni prima, una più forte confutazione dell’idea
comune condivisa dagli estensori della dichiarazione universale. Essa, e
comunque il dibattito intorno ad essa, è chiaramente connessa all’imponente
sviluppo nelle ultime decadi degli studi neuroscienti ci73.
Ma se la coscienza, o almeno uno stato mentale che possa rientrare
nell’idea di coscienza, non è con nabile ai soli esseri umani ci si può
chiedere, ed è il nostro quarto punto, se esista un solo tipo di coscienza in
natura.
Da un punto di vista evolutivo, la coscienza è un tratto che alcuni
animali hanno. La questione è come esso sia distribuito e quali qualità abbia.
Alcuni autori sostengono che la coscienza si può manifestare in un ampio
spettro di gradi di ricchezza e di pienezza. In questo senso è rilevante la
differenza tra le teorie della discontinuità: secondo le discontinuity theories vi
è un punto particolare al quale la coscienza si è originata; le teorie della
continuità (continuity theories) invece concettualizzano l’evoluzione della
coscienza in termini di «una transizione graduale nella coscienza dal non
riconoscibile al riconoscibile»74. Se si assume un punto di vista da
discontinuità (seguendo autori come John Searle, Daniel Dennett e Giulio
Tononi, che ri utano l’idea che la coscienza sia binaria: sì/no) la questione
diventa quella di quali dimensioni e soglie qualitative possano consentire di
distinguere differenti tipi di attività mentale75.
Un recente studio sulle origini evoluzionistiche e genetiche della
coscienza mette in luce le diverse traiettorie evolutive che possono essersi
veri cate. Ci sarebbe una comune base genetica per la coscienza, non
condivisa tra tutti i differenti sensi, ma piuttosto all’interno dei sistemi
sensori individuali attraverso i gruppi di vertebrati (pesci, an bi, rettili,
uccelli e mammiferi). La coscienza stessa sembra essere avanzata attraverso
differenti percorsi nelle differenti linee dei vertebrati76. Inoltre, una rassegna
degli studi sui cetacei mostra come
statements to the effect that cetaceans are ‘remarkably intelligent’, ‘intelligent animals’ are
scienti cally indefensible. ere is no evidence that warrants the assignment of a special
intellectual status to the members of this mammalian order. […] cetaceans are really no
different in terms of behavioral complexity and cognitive sophistication than other mammals,
and likely no more so than a range of other vertebrates77.
Tutto questo alimenta le teorie della discontinuità e mette in discussione
il concetto di una scala unica delle facoltà mentali degli animali. Quindi, alla
domanda se la coscienza sia apparsa prima negli umani o in un precedente
ascendente non umano, e chi/cosa fosse quest’ascendente, si può rispondere
che «la coscienza può essere apparsa molteplici volte, come il volo alare, che
ha avuto evoluzioni indipendenti in insetti, uccelli, pipistrelli e pterosauri»78.
12. Homo sapiens sapiens e i ‘suoi’ diritti
Alla luce di quanto esposto nei precedenti paragra , può essere sostenuta
l’idea che il diritto sia un artefatto (almeno nel senso di prodotto storico) e
che anche le caratteristiche (ontologiche) richieste per il riconoscimento di
diritti e libertà sono artefatti, nel senso di selezione sulla base delle
conoscenze scienti che e delle scelte sociali. La giusta espressione per
indicare gli animali umani come entità biologica potrebbe essere homo
sapiens sapiens, che è una categoria zoologica indiscussa. Dall’altro lato
(quello giuridico), i diritti umani potrebbero essere meglio quali cati come
«diritti di base» (basic rights), che è un’espressione più neutra, in grado di
comprendere anche entità (parzialmente o totalmente) non umane e di
risolvere l’apparente ossimoro di diritti umani attribuiti a entità
parzialmente o totalmente arti ciali79.
Per quanto possa apparire paradossale, solo un diritto arti ciale, nel
senso appena detto e frutto di scelte consapevoli, può umanizzare le
tecnologie di IA. In questo senso, l’IA obbliga a assumersi alcune
responsabilità.
È una questione di stipulazione e, come sempre in tali casi, di
responsabilità degli stipulanti. Ma il punto innegabile mi sembra il seguente:
se dobbiamo immaginare una società popolata da molte entità non
necessariamente totalmente umane, dobbiamo adottare un approccio
inclusivo (anziché l’idea di usare il diritto come difesa della società esclusiva
– umana – contro macchine e alieni). Esso offre i grandi vantaggi di
conoscere, comprendere e dare una cornice giuridica e sociale ai rapporti tra
homo sapiens sapiens, animali non umani e entità parzialmente o totalmente
tecnologizzate.
Anche questo approccio è, ovviamente, discutibile. Stephen Hawking,
per esempio, era tra coloro i quali pensavano che l’intelligenza arti ciale
potrebbe essere un vero pericolo in un futuro non troppo lontano, perché i
robot potrebbero progettare miglioramenti per sé stessi e superare in astuzia
tutti noi80. Non credo sia una giusta previsione, ma, anche se lo fosse, essa
costituirebbe un’ulteriore buona ragione per discutere dei diritti di base (e
delle responsabilità) delle entità arti ciali.
Hong Kong protesters wary of Chinese surveillance technology, June 14, 2019 (Mainichi Japan)
https://mainichi.jp/english/articles/20190614/p2g/00m/0in/081000c (visitato il 14 luglio 2019).
2
CHURCH 2019. Sulla stampa su DNA si veda MELDOLESI 2012.
3
MULLIN 2017.
4
HALLER 2010. Il contenuto del paper fu presentato come un poster alla Conferenza «e
Internet of ings», Tokyo, Japan, 2010: http://www.iot2010.org/. La proposta di Kevin Ashton è
riportata in SARMA – BROCK – ASHTON 2000: «an informational network that allows the look-up
of information about real-world objects by means of a unique ID called Electronic Product Code
(EPC) and a resolution mechanism (ONS), to a network of sensors, actuators and autonomous objects
interacting with each other directly. Machine-to-machine (M2M) communication is another term
sometimes associated with the later», traduzione mia.
5
HALLER, 2010: «the integration of the physical world with the virtual world of the Internet.
ere are physical objects one wants to be able to track, to monitor and to interact with. Examples
include inanimate objects like pallets, boxes containing consumer goods, cars, machines, fridges […]
as well as animate objects like animals and humans. ese are the things of the Internet of ings – or
to use a clearer term, the entities of interest», traduzione mia. La distinzione tra le entità d’interesse e i
dispositivi è importante, perché l’entità di interesse è un oggetto che ha un certo valore per
l’osservatore, mentre il dispositivo è una componente tecnica necessaria per osservare o interagire con
l’entità di interesse.
6
«An entity, an idea, or a quality perceived, known, or thought to have its own existence. [...] Law
at which can be possessed or owned» (e American Heritage Dictionary, 2009, disponibile su
http://www.thefreedictionary.com/).
1
http://www.accademiadellacrusca.it/it/attivita/ristampa-anastatica-vocabolario-accademicicrusca-1612. Dizionario Treccani, http://www.treccani.it/vocabolario/.
8
La rete intelligente è in grado di ascoltare, apprendere e rispondere tramite interfacce aperte per
offrire maggiore sicurezza, semplicità, affidabilità e innovazione a livelli senza precedenti
https://www.cisco.com/c/m/it_it/tomorrow-starts-here/ioe.html; https://www.i-scoop.eu/internet-ofthings-guide/internet-of-everything/ (consultati il 27 luglio 2019).
9
Internet of Everything: cos’è e in cosa si differenzia dall’IoT?, https://www.blog.vestudio.it/internetof-everything/, visitato il 27 luglio 2019.
10
È la proposta di «Accenture»: Infrastructure Creating Intelligent Distributed System for Smart
Infrastructure, https://www.accenture.com/no-en/insight-infrastructure-internet-of-thinking, visitato
il 27 luglio 2019.
11
https://ec.europa.eu/digital-single-market/en/internet-of-things aggiornato al 21 giugno 2019 e
consultato il 16 luglio 2019. Nel marzo 2015 la Commissione europea ha lanciato l’Alliance for
Internet of ings Innovation per sostenere la creazione di un ecosistema di Internet of ings
europeo innovativo e guidato dall’industria. Ciò conferma l’intenzione della Commissione europea di
lavorare a stretto contatto con tutte le parti interessate e gli attori di Internet of ings verso la
creazione di un mercato competitivo europeo dell’IoT e la creazione di nuovi modelli di business.
Oggi l’Alliance for Internet of ings Innovation è la più grande associazione IoT europea.
12
https://ec.europa.eu/digital-single-market/en/internet-of-things/clusters visitato il 20 luglio
2019. L’Unione Europea nanzia, sin dal 2009 (VII programma quadro), un progetto che ha lo scopo
di incrementare la competitività europea e di promuovere una società e un’economia basate
sull’informatica (IERC-European Research Cluster on the Internet of ings). Fonte:
http://www.internet-of-things-research.eu/about_ierc.htm. Per i progetti su Internet of ings and
Enterprise environments si veda http://cordis.europa.eu/project/rcn/95205_en.html.
13
ANNUNZIATA – EVANS 2013.
14
L’idea fu presentata al pubblico per la prima volta alla Fiera di Hannover del 2011 e ha poi preso
la forma di Industry 4.0 Platform. CIOLLI 2014. Informazioni aggiornate sono presso il sito del
Ministero tedesco per gli Affari Economici e per l’Energia: https://www.bmwi.de/, visitato il 29 luglio
2019.
15
DI VICO 2019, p. 41.
16
MANGANELLI 1998, p. 111.
17
COLVIN 2015, p. 192.
18
CHUI – MANYIKA – MIREMADI 2015.
19
Sarebbe d’accordo anche il buon HAJEK 1978, vol. 3, pp. 54-55.
20
VAN EST – GERRITSEN – KOOL 2017, p. 5.
21
Riprendo questa lista di interrogativi dal mio SANTOSUOSSO 2011, p. 284 (I ed.) e p. 319 (II
ed.).
22
L’Articolo 25 del Regolamento (UE) 2016/679 del Parlamento Europeo e del Consiglio, 27 aprile
2016, relativo alla protezione delle persone siche con riguardo al trattamento dei dati personali,
nonché alla libera circolazione di tali dati e che abroga la direttiva 95/46/CE (regolamento generale
sulla protezione dei dati), in «Gazzetta ufficiale dell’Unione europea», 4.5.2016 IT, L 119/1.
23
È il caso riportato in esergo del capitolo. Sulle proteste si veda l’ampia copertura giornalistica del
«New York Times», https://www.nytimes.com/2019/06/10/world/asia/hong-kong-extraditionbill.html?module=inline. Sulle proteste di luglio e sui modi della repressione si veda
https://www.nytimes.com/2019/07/21/world/asia/hong-kong-protest-police.html?
nl=todaysheadlines&emc=edit_th_190722?
7
campaign_id=2&instance_id=11064&segment_id=15430&user_id=0438b7bad298a7bf8be0990f6d4
09e&regi_id=437659280722.
24
Jean-Claude Juncker, State of the European Union speech on 14 September 2016, disponibile
presso
https://publications.europa.eu/it/publication-detail/-/publication/c9ff4ff6-9a81-11e6-9bca01aa75ed71a1, visitato il 20 luglio 2018.
25
SPENCER 2019: l’autore considera il caso di Amazon che vende la tecnologia di riconoscimento
facciale alla polizia, nel 2018, e le voci secondo le quali Google starebbe cercando di sviluppare un
motore di ricerca censurato per la Cina.
26
VAN EST – GERRITSEN – KOOL 2017, p. 5.
27
FOUCAULT 1975, p. 218.
28
Usa espressamente questo termine l’International Working Group on Data Protection in
Telecommunications (Berlin Telecom Group) (2013), in un Working Paper on Web Tracking and
Privacy – Respect for context, transparency and control remains essential, 53rd meeting, 15-16 April
2013, Prague: «is development – while greeted and fostered by marketers and other interested
parties from the broader business community, and assisted by some policymakers at the national and
regional levels – holds an unprecedented risk for the privacy of all citizens in an information society.
e worst case scenario is that it would turn the world as we know it into a global panopticon. e
offline equivalent would be to have somebody unknown to us constantly looking over our shoulders
no matter where we are (in the streets or in the seeming privacy of our homes), or what we do
(watching TV, shopping online, reading newspapers, and even more intimate activities), and without
knowing when he is looking, and when he isn’t».
29
BATTISTA 2019, p. 27. Una visione molto critica verso le tecnologie e preoccupata è quella di
ZUBOFF 2019.
30
EMMERSON 2019: «Private Wi-Fi networks have been around for a couple of decades and this
communication medium is taken for granted in business premises for in-door use. Wi-Fi 6, the nextgen standard runs faster, it improves overall network performance, but what these networks cannot do
is accommodate data-centric, business-critical IoT applications. ey also have difficulty with moving
assets and are not good for outdoor use. erefore there is a need for a businesscentric network that
can deliver the requisite functionality and performance and LTE/4G ts the bill. In fact, it ts several
bills: the different requirements of very large organisations as well as medium-to-large sized
enterprises. LTE-Advanced Pro’s peak rate of 1 Gbps and latency less than 50 millisecond are state-ofthe-art gures: more than adequate for most of today’s IoT business applications. Bandwidth can be
assigned in a very exible way; […] An open market for suppliers. Private LTE and, in the future 5G,
networks represent a market that is driven by the communications requirements of the business
community, facilitated by recent developments in the deployment of spectrum, and enabled by
innovative suppliers. It encompasses new opportunities for MNOs, MVNOs, hardware and network
infrastructure vendors, and many other participants in the enterprise IoT market».
31
GREEN 1999; si veda inoltre SCHNEIDER 2004.
32
Certo, chi ha fede nel Panopticon non si arrende a fronte di questi rilievi e continua a riproporlo
in forme che scontano anche che possano esistere aspetti di interattività e di pluralità del potere: si
veda Isidoro Re http://www.quadernidaltritempi.eu/benvenuti-nella-vera-panopticon-revolution/.
33
STANLEY 2019.
34
SHOHAM et al. 2018.
35
Berkman Klein Center, e future of the decentralized web, disponibile presso
https://medium.com/berkman-klein-center/the-future-of-the-decentralized-web-707915f12360,
visitato il 2 agosto 2019, con interventi di Jonathan Zittrain e Tim Berners-Lee, che conlude in questo
modo: «We could end up with a really interesting world in which the privacy question is turned
upside down. So there you go! is is Solid. at’s the idea»; ZUCKERMAN 2019.
36
Adottata nel 1966 dal Consiglio economico e sociale delle Nazioni Unite, ed entrata in vigore il 3
gennaio 1976.
37
Sul punto si veda BENJAMIN 2011.
38
e Next Rembrandt, https://news.microso.com/europe/features/next-rembrandt/.
39
HOVIG 1997, p. 17. Sul tema del falso nell’arte si veda anche BELLET 2019.
40
DONATI – FERRARIO – SIMONCELLI 2018.
41
Molto interessante la ricostruzione dei modi di tutela della digital art posti in essere dal gruppo
Ascribe negli ultimi anni in relazione allo sviluppo di blockchain: https://www.ascribe.io/, visitato il
18 agosto.
42
KRISTEVA 1967.
43
OBRIST 2019 (Hans Ulrich Obrist è un noto curatore e critico d’arte, ha analizzato il rapporto
che intercorre tra arte e intelligenza arti ciale, il futuro della tecnologia, attingendo a una vasta
gamma di progetti artistici per dimostrare le possibilità che l’intelligenza arti ciale offre per la
creazione di nuove forme d’arte).
44
Norme di diritto civile sulla robotica. Risoluzione del Parlamento europeo del 16 febbraio 2017
recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica
(2015/2103(INL)): disponibile presso http://www.europarl.europa.eu/doceo/document/TA-8-20170051_IT.html e consultato il 25 luglio 2019.
45
Si veda LEROUX – LABRUTO 2012; SANTOSUOSSO – BOSCARATO – CAROLEO 2012, pp.
494-516.
46
«Attributing electronic personhood to robots risks misplacing moral responsibility, causal
accountability and legal liability regarding their mistakes and misuses. Robots could be blamed and
punished instead of humans»: FLORIDI – TADDEO 2018 (gli autori sono membri dell’Oxford
Internet Institute dell’Università di Oxford, UK). Per le altre citazioni del dibattito si veda
go.nature.com/2t5mgov e go.nature, com/2wxlwg6, vistati il 2 agosto 2019.
47
Ai quali si può applicare la distinzione tra diritti costitutivi e regolativi, con attribuzione ai primi
della intrinseca capacità generativa di ulteriori diritti.
48
SANTOSUOSSO – BOTTALICO 2017.
49
BLACKSTONE 1765, p. 119: «[le persone sono] divise dalla legge o in persone siche o
arti ciali. Le persone siche sono tali a come Dio ci ha creati; quelle arti ciali sono tali a come
vengono create e concepite dalle leggi umane ai ni della società e del governo, le quali prendono il
nome di imprese o organismi politici» [traduzione mia].
50
KELSEN 1945, pp. 93-95. L’opera è apparsa in traduzione italiana, con Prefazione di Ettore Gallo
e Introduzione di Gaetano Pecora, presso l’editore ETAS. Per i riferimenti alle pagine utilizzo la quinta
edizione (1966), nella ristampa del 1974, nella quale il passo sulla persona sica è alle pp. 93-96.
Kelsen aveva già posto la questione nella Dottrina pura del diritto (1933). Nondimeno utilizzo la
Teoria generale in quanto opera che, a causa del contatto con l’ambiente culturale americano, contiene
alcuni interessanti rilievi di contesto (che ho posto in luce in altri lavori). Questo tema, di cui mi ero
occupato in un risalente lavoro (SANTOSUOSSO 2002b, pp. 525-547), è stato da me ripreso anche in
successive occasioni a causa della sua decisiva centralità, specie nel dibattito giuridico italiano, tuttora
ancorato a modelli concettuali diversi, che, a null’altro dire, mostrano sicuramente una minore
capacità esplicativa dei nuovi fenomeni sociali (si veda SANTOSUOSSO 2014, pp. 28-48).
51
Questo passaggio è stato criticato da vari autori per la sua contraddittorietà: Kelsen, che si dà
l’obiettivo di formulare una teoria giuridica depurata di elementi naturalistici, nisce
contraddittoriamente per assegnare all’essere umano-entità biologica il compito di delimitare, e quindi
de nire, un concetto giuridico centrale, come quello di persona per il diritto.
52
SANTOSUOSSO 2002b, pp. 525-547. Molto netto sull’arti cialità del diritto è anche IRTI 2016,
pp. 182-183 in particolare.
53
In questo paragrafo mi avvalgo del mio lavoro SANTOSUOSSO 2014, pp. 28-48.
54
Vi sono quattro principali insiemi di signi cato della parola agente: a) «Una forza o una sostanza
che provoca un cambiamento: un agente chimico; un agente infetto» oppure «una forza naturale o un
oggetto che produce o che è usato per ottenere speci ci risultati: molti insetti sono agenti di
fecondazione»; b) «Colui che [presumibilmente un essere umano: nota mia] agisce o ha il potere o
l’autorità di agire» o «una persona o una cosa che agisce o che ha il potere di agire»; c) «Colui che è
autorizzato ad agire in rappresentanza di un altro: l’agente di uno scrittore; un agente assicurativo»; d)
in linguistica, «il sostantivo o gruppo nominale che de nisce la persona o il mezzo attraverso il quale
l’azione è effettuata» o «il sostantivo o gruppo nominale, che denota un essere animato che compie o
provoca l’azione espressa dal verbo». (Questi signi cati sono tratti dal lemma “agent” Random House
Kernerman Webster’s College Dictionary, 2010, presso https://www.thefreedictionary.com/agent,
visitato il 28 dicembre 2019).
55
MILLER – PAGE 2007. Dalla vasta letteratura su questi argomenti si può trarre il concetto di
agente autonomo come «un sistema complessivamente autocatalitico che eseguendo uno o più cicli di
lavoro termodinamico: (1) misura variazioni utili dell’equilibrio da cui può essere estratto lavoro; (2)
scopre dispositivi da agganciare a fonti di energia così che il lavoro possa essere estratto; (3) impiega il
lavoro per sviluppare vincoli per estrarre ulteriore lavoro»: traduzione italiana mia da GAMBHIR et
al. 2004; LIU – KAVAKLI 2018.
56
FLORIDI 2008, p. 95.
57
Anche se i diritti di proprietà aziendale possono essere considerati una s da alla concezione
liberale dei diritti di proprietà: MAY 1986. TORRENTE – SCHLESINGER 2009, p. 939: la società è un
«soggetto, sorto in forza del contratto sociale [tra i soci], che è dotato di una propria distinta
soggettività e opera con una sua autonomia (ad es. compra, vende, diventa creditore o debitore, ecc.)».
58
http://legal-dictionary.thefreedictionary.com/corporations (visitato l’8 dicembre 2013).
TORRENTE – SCHLESINGER 2009, p. 964: «caratteristica fondamentale della ‘società per azioni’ è
‘che per le obbligazioni sociali risponde soltanto la società con il suo patrimonio’».
59
Per uno sguardo ampio e aggiornato si veda FIORELLA, GAITO – VALENZA 2018, pp. 177196,
disponibile
anche
presso
http://www.editricesapienza.it/sites/default/ les/5816_Responsabilita_Ente_Reato_OA.pdf, visitato il
31 luglio 2019. Per una panoramica si veda DE MAGLIE 2005; POP 2006. Si veda anche BUELL 2006;
NAFFINE 2003.
60
Rec(88)18 20/10/1988, Concerning liability of enterprises having legal per-sonality for offences
committed
in
the
exercise
of
their
activities,
disponibile
presso
https://search.coe.int/cm/Pages/result_details.aspx?ObjectID=09000016804f3d0c, consultato il 31
luglio 2019.
61
Decreto legislativo n. 231/2001.
62
Cass. Pen., Sez. III, 30 gennaio 2006 (Caso Jolly Mediterraneo), creando così quello che una
parte della dottrina considera un sistema ibrido, non penale, ma con una sanzione nominata
amministrativa e in itta dal giudice penale. Si veda, tra gli altri, DE SIMONE 2012, accessibile presso
https://www.penalecontemporaneo.it/upload/1351253564De%20Simone%20de nitivo.pdf, visitato il
31 luglio 2019.
63
Traduzione italiana mia: «similmente agli individui, le società hanno una personalità
identi cabile e la capacità di esprimere giudizi morali. Le società hanno una personalità identi cabile
nel senso che esse costituiscono una presenza unica nella comunità, differente da quella dei suoi
proprietari o dirigenti; esse hanno un ethos che le rende uniche e differenti dagli individui che le
controllano o che lavorano per esse. L’ethos può essere rilevato dalla dinamica della società, dalla
struttura, dal sistema di controllo, dagli scopi, dalle policies, dalla promozione del rispetto delle leggi e
dalla disciplina dei dipendenti. La Corte Suprema degli Stati Uniti ha deciso che le società hanno la
capacità di esprimere punti di vista e giudizi morali indipendenti, e che la loro libertà di espressione
non deve essere compressa in mancanza di un prevalente interesse dello stato»: POP 2006. La
decisione della Corte Suprema Federale degli Stati Uniti sulla libertà di parola è First National Bank Of
Boston V. Bellotti, 435 U.S. 765, 787-795 (1978). Si vedano anche: FRIEDMAN 2000; BUCY 1992;
LEDERMAN 2000.
64
La Dichiarazione Universale dei Diritti dell’Uomo fu adottata dalla risoluzione dell’Assemblea
Generale 271A nella sua terza sessione a Parigi il 10/12/1948: «Tutti gli esseri umani sono nati liberi e
uguali in dignità e diritti» (articolo 1) e «A ogni individuo spettano tutti i diritti e le libertà enunciati
nella presente Dichiarazione, senza distinzione alcuna per ragioni di razza, colore, sesso, lingua,
religione, opinione politica o di altro genere, origine nazionale o sociale, ricchezza, nascita o altra
condizione» (articolo 2).
65
MORSINK 1999, pp. 296-302.
66
Ma così non è a una analisi dei lavori preparatori. Sul tema e sul rilievo della ragione e coscienza
negli artefatti non umani rinvio a SANTOSUOSSO 2015a.
67
Mi riferisco a SANTOSUOSSO 2015a, pp. 203-237.
68
La discussioni tra gli estensori sono tratte da MORSINK 1999, pp. 296-299 (l’opera di Morsink è
ancora oggi una delle più accurate ricostruzioni dei lavori preparatori della Dichiarazione). Si veda
anche BEITZ 2009. All’interno dell’ampio dibattito loso co circa la coscienza nei robot è ancora
interessante DENNETT 1991.
69
RYDER 1971, pp. 41-82; SINGER 1990.
70
VAN GULICK 2014, p. 6.
71
VAN GULICK 2014, p. 7 e p. 13.
72
Disponibile
all’indirizzo:
http://fcmconference.org/img/CambridgeDeclarationOn
Consciousness.pdf. Traduzione mia dall’originale: «Convergent evidence indicates that non-human
animals have the neuroanatomical, neurochemical, and neurophysiological substrates of conscious
states along with the capacity to exhibit intentional behaviors. Consequently, the weight of evidence
indicates that humans are not unique in possessing the neurological substrates that generate
consciousness. Nonhuman animals, including all mammals and birds, and many other creatures,
including octopuses, also possess these neurological substrates».
73
Commenti sono riportati in ALLEN – TRESTMAN 2014, p. 5.
74
Le differenti posizioni sono riportate in ALLEN – TRESTMAN 2014, p. 33.
75
«What graded dimensions or qualitative thresholds might be available to distinguish different
kinds of minds»: si veda ALLEN – TRESTMAN 2014, p. 34.
76
FEINBERG – MALLATT 2013, p. 4.
77
MANGER 2013, pp. 664-696.
78
ALLEN – TRESTMAN 2014, p. 42.
79
Tema affrontato nel mio saggio SANTOSUOSSO 2015a.
80
Chris Matyszczyk, Stephen Hawking: AI could be a ‘real danger’, June 16, 2014,
http://www.cnet.com/news/stephen-hawking-arti cial-intelligence-could-be-a-real-danger/ (visitato
il 28 dicembre 2019). Per un approccio visionario si veda anche KURZWEIL 2005. L’argomento della
dominanza è anche discusso in HUBBARD 2011, p. 454.
8. Il diritto molecolare: un complesso campo
di ricerca
La scienza, prima di essere esperimenti,
misure, matematica, deduzioni rigorose, è
soprattutto visioni. La scienza è attività innanzitutto
visionaria. Il pensiero scientifico
si nutre della capacità di ‘vedere’ le cose in
modo diverso da come le vedevamo prima1.
1. Una visione molecolare del diritto
Se il diritto2, qualsiasi tipo di diritto, dovunque esistente e quale che ne
sia la sua fonte e la sua forma, fosse fatto di piccole molecole giuridiche e se
queste piccole molecole giuridiche avessero la speciale caratteristica di
connettersi-disconnettersi/aggregarsi-disaggregarsi una con le altre secondo
le loro intrinseche proprietà (qualità, caratteristiche) e le contingenze
dell’ambiente in cui si trovano, e se queste combinazioni di proprietà interne
e di contingenze ambientali fossero varie, in continuo cambiamento e non
necessariamente spiegabili in termini lineari/deterministici, allora si
potrebbe dire che una spiegazione dello stato generale del diritto, e della sua
dinamica, richiede una descrizione3 di come, e secondo quali limitazioni,
quelle connessioni/aggregazioni a) emergono/scompaiono e b)
interagiscono l’una con l’altra.
Quello che viene presentato in questo capitolo è un tentativo di rendere
possibile questa descrizione. Può essere inteso come lo schizzo di una
«teoria molecolare del diritto» (Mol)4 o, piuttosto, come un complesso
programma di ricerca, articolato in una mappa pluralistica, realistico nei
suoi assunti circa lo stato attuale delle evidenze disponibili, con revisioni di
alcuni concetti troppo restrittivi5.
Nei capitoli precedenti sono stati affrontati diversi importanti pro li che
attengono al modo di essere del diritto nella presente realtà tecnologica,
pro li che in questo capitolo è utile portare a una qualche coerenza.
Si pensi al rapporto tra aspetti razionalmente spiegabili nel diritto e
aspetti che lo sono molto meno o che richiedono logiche diverse6, così come
al rapporto tra linguaggio formale (per alcuni una lingua universale del
diritto del futuro) e i tanti linguaggi naturali in cui è ancora oggi espresso il
diritto, con tutte le incongruenze logiche che esso presenta. Si sono visti, nel
Capitolo 2, i limiti dell’approccio logicista nella stessa intelligenza arti ciale,
un approccio che non regge se applicato a tutte le attività cognitive, che
richiedono una capacità di calcolo molto alta. Questo tipo di problemi pone
al diritto la domanda se possa essere usata anche nel diritto una
combinazione dei diversi approcci (logicisti e non), similmente a quanto
accade nel mondo dell’IA.
Questi aspetti sono indiscutibilmente e direttamente collegati al modo in
cui può essere adempiuto l’obbligo democratico e costituzionale di
motivazione degli atti giudiziari nel momento in cui si utilizzano tecniche di
IA (Capitolo 4), dove ritornano in gioco i rapporti tra spiegazione della
decisione, forma di razionalità (di tipo ‘logico’ o ‘quasi-logico’) e le scatole
nere dei dispositivi di IA. Si è visto come la sentenza possa essere
coerentemente de nita come un aggregato temporaneo di dati: qualcosa che
ora è tempo di capire e spiegare meglio.
L’esperienza giuridica globale, sotto l’impatto di tecnologie dirompenti
(disruptive), come per esempio document automation, la risoluzione delle liti
online (online dispute resolution, ODR), la capacità di analisi di grandi
quantità di dati e documenti (machine learning e big data analytics, una
tecnologia di IA che è appena all’inizio) e la possibilità di risposte
automatiche a quesiti giuridici posti con linguaggio naturale (legal question
answering), appare come una galassia in espansione, nelle cui aree
periferiche non è chiaro se vi sia ancora diritto (l’horror vacui del giurista!)
e, se sì, come esso possa essere concettualizzato (questioni di cui al Capitolo
3).
Anche gli smart contract pongono esattamente questo tipo di problema.
Uno smart contract è ancora un contratto (sia pure di un nuovo tipo) o è
un’entità informatica (soware, codice, network) che nulla ha del
tradizionale contratto, sia nella sua struttura sia nelle forme di espressione
della vincolatività per le parti sia per la possibilità di fare ricorso a
un’autorità terza nel caso in cui le cose non funzionino (Capitolo 5).
È emerso, nel Capitolo 6, anche il profondo bisogno di revisione degli
studi del diritto. Insegnare diritto, in generale, implica una visione di cosa il
diritto sia, ma l’accademia giuridica sconta (fatte salve rare eccezioni) un
ritardo nel porsi il problema nel fuoco del cambiamento attuale.
Bene, in questo capitolo si cercherà di dare forma e coerenza a questo
insieme di aspetti, con la consapevolezza che un mutamento, come quello
appena avviato nella storia dell’umanità, richiederebbe risorse straordinarie
e grande coraggio per prendere orientamenti radicali.
Da queste considerazioni scaturiscono alcune domande: quali sono le
principali caratteristiche del diritto, oggi e nel prevedibile futuro? Cosa
signi ca che il diritto oggi si presenta frammentato, non gerarchico,
digitalizzato, multilingue? Qual è il rapporto tra computazione e diritto? È
computabile il diritto? Interoperabilità e reazione immunitaria nei concetti
giuridici possono dare un barlume di coerenza? Cosa signi ca che la
motivazione di una sentenza (o altro atto giuridico, privato o pubblico) è un
aggregato temporaneo di dati? Il linguaggio formale è un’alternativa a quello
naturale nel diritto?
Ma ora è tempo di rimboccarsi le maniche e di mettersi al lavoro.
2. Alcuni chiarimenti sul lessico molecolare
L’adozione della metafora molecolare richiede la creazione di un lessico
dotato di un grado adeguato di coerenza. In questo paragrafo vi sono alcune
speci cazioni.
2.1 ‘Molecole giuridiche’: a proposito di una metafora
Il diritto non è costituito da molecole e le ‘molecole giuridiche’ non
esistono in natura. La parola «molecola» è una metafora che vuole suggerire
l’idea di una ne granularità, una caratteristica visibile del diritto, oggi. Una
metafora alternativa (che ho usato in alcuni miei precedenti lavori) è
‘particelle elementari’ o, semplicemente, ‘particelle’, ma nessuna delle due ha
resistito a una veri ca più stretta. Non ‘particelle’, perché le particelle non
esistono neanche nella sica delle particelle, dove ‘particelle elementari’
sono particelle la cui sottostruttura non è conosciuta (in modo simile a
come era in passato per gli atomi), e perché esse, usate come metafora,
alluderebbero a qualcosa di troppo piccolo per il diritto7, almeno nell’ottica
adottata in questo lavoro (forse potrebbero soddisfare un sostenitore della
trasformazione dell’intero diritto in linguaggio formale).
Al contrario una molecola è tradizionalmente de nita nel modo
seguente:
Molecules are made up of two or more atoms, either of the same element or of two or more
different elements, joined by one or more covalent chemical bonds. According to the kineticmolecular theory, the molecules of a substance are in constant motion. e state (solid, liquid,
or gaseous) in which matter appears depends on the speed and separation of the molecules in
the matter. Substances differ according to the structure and composition of their molecules. A
molecular compound is represented by its molecular formula; for example, water is
represented by the formula H2O. A more complex structural formula is sometimes used to
show the arrangement of atoms in the molecule. Molecules differ in size and molecular weight
as well as in structure. In a chemical reaction between molecular substances, the molecules are
oen broken apart into atoms or radicals that recombine to form other molecules [corsivo mio],
i.e., other substances. In other cases, two or more molecules will combine to form a single
larger molecule, or a large molecule will be broken up into several smaller molecules.
Molecules can assume many shapes and sizes8.
Quindi una molecola può essere più riconoscibile come un’entità
giuridica, piccola e di grana ne, dotata però di un sufficiente grado di
speci cazioni, da essere compatibili con un valore normativo (come
‘contratto’, ‘consenso informato’ oppure ‘contratto swap’) e rimanendo
abbastanza
essibili da permettere cambiamenti e combinazioni,
considerato che, come si è visto sopra, in una reazione chimica «le molecole
si rompono spesso in atomi o radicali che si ricombinano per formare altre
molecole», una proprietà che può tornare utile nella nostra descrizione.
Nell’ambiente dell’interoperabilità giuridica (vedi avanti, paragrafo 8), le
molecole potrebbero avere un’ulteriore speci cazione: a) «grandi molecole»
(questo potrebbe essere il caso di «consenso informato», «contratto swap» e
simili), b) «molecole regolari» (come «contratto» e simili) e c) «sottomolecole», dove i componenti atomici della molecola guadagnano il primo
piano (come «proibizione», «autorizzazione» e simili concetti giuridici
molto nemente dettagliati, che hanno meno limiti nel collegarsi con altre
entità ancora diverse nel loro genere).
In conclusione, l’uso della parola «molecola» come metafora serve solo a
evocare una suggestione di granularità ne nel diritto, che comporta alcune
conseguenze:
– Esso non implica che tutte le caratteristiche e le dinamiche del concetto
chimico/ sico abbiano una precisa corrispondenza nel mondo del
diritto.
– Non è un modo di prendere una posizione nel dibattito scienti co sulla
struttura della materia.
– In un certo senso è semplicemente una metafora tratta da un concetto
scienti co manipolato, che può aiutare a chiarire alcune idee e
ispirazioni della Mol. Non bisogna sorprendersi di questa
manipolazione. Gli aspetti non formali sono importanti anche nelle
teorie scienti che: «molte componenti della struttura di una teoria,
come metafore, analogie, valori e opinioni politiche hanno una natura
non matematica e ‘informale’, e rimangono implicite o nascoste»9.
2.2 Qualsiasi tipo di diritto
Uso la parola «diritto« nel suo senso più ampio di ‘insieme di norme’
espresse in qualsiasi modo, con parole o in qualsiasi altro modo. Per il
rapporto tra norme e istituzioni si veda avanti il paragrafo 4.1.3).
Riferirsi a «qualsiasi tipo di diritto» è cruciale nella prospettiva del
diritto molecolare: lavorare a livello di molecole ha senso solo se il diritto
molecolare è in grado di a) comprendere qualsiasi tipo di manifestazione
giuridica (almeno potenzialmente) e b) dare una spiegazione che altre teorie
non sono in grado di dare.
Il punto è sviluppato più avanti. Lavorare a un livello micro è una
necessità, similmente a quanto accade in tutte le discipline quando differenti
incompatibili teorie spiegano parzialmente i fenomeni e l’unica speranza è
quella di andare a un livello ancora più piccolo di granularità allo scopo di
guadagnare una visione più ampia e capace di comprendere entità diverse.
2.3 Non necessariamente spiegabile in termini lineari/deterministici
Il problema non è decidere se il diritto è o non è spiegabile in termini
deterministici, come, ad esempio, se il diritto, tutto il diritto, sia computabile
o meno. La prospettiva molecolare assume di essere in grado di
comprendere ciò che è spiegabile in termini deterministici e ciò che non lo
è10. È una questione di dimostrazione teorica ed empirica per mostrare
questa proprietà.
2.4 Una fenomenologia del diritto oggi
La Mol può essere considerata una fenomenologia del diritto oggi. Più
esattamente è una fenomenologia dell’attuale stato del diritto,
profondamente intrecciato con la tecnologia. Una condizione che è più
evidente nei Paesi sviluppati. Questo approccio consente di esaminare
attentamente le difficoltà delle teorie tradizionali del diritto nel fornire una
spiegazione soddisfacente ai problemi del diritto oggi.
Una precisazione preliminare va data a proposito di diritto e tecnologia.
Come si è visto già nei capitoli precedenti, considerare l’impatto della
tecnologia sulla società come un problema ‘nuovo’ è contrario a quanto
insegna il passato, essendo la tecnologia coessenziale all’umano11.
Dal punto di vista della storia della tecnologia e dell’evoluzione, la
situazione è più complessa e interessanti intuizioni potrebbero venire dal
concetto di costruzione di nicchia. Vale la pena citare un brano di un autore
profondamente coinvolto nell’attuale dibattito sulla teoria evoluzionistica:
Organisms are not passive entities, malleable at will by selection. e metabolic and
behavioural activities of biological populations (to build a termite mound, to erect a dam on
the river, or to pursue a cultural and technological advancement) change the ecological niches,
thus in uencing the environmental resources and the selective pressures that in turn retro-act
on organisms themselves. Such a process produces a recursive phenomenon, called ‘niche
construction’, which according to the reformists […] is essential in evolution. Organisms
actively change their environment and the environments selectively change organisms. It
means that the organism is an active player who co-directs its own evolution, systematically
changing the environments and thus in uencing the frame of selective pressures. If this is true,
then any biological population inherits from the previous generation not only a package of
genes, but also an amended ecological niche. Inheritance is then inclusive and multiple:
genetic, epigenetic, ecological and cultural12.
Pertanto, bisogna ammettere che viviamo in un ambiente altamente
tecnologizzato e questo vale anche per il diritto, tanto che parlare di
tecnologia in sé, almeno in termini giuridici, non ha alcun senso.
3. I quattro stati essenziali del diritto oggi
Lo stato in cui si trova il diritto oggi, e che viene descritto qui di seguito
in quattro partizioni, non è sempre il risultato dell’avvento di nuove
tecnologie: la tecnologia, quindi, non è detto che in tutti i casi sia una
condizione necessaria e sufficiente dello stato del diritto oggi. Spesso la
tecnologia funziona piuttosto come un acceleratore di dinamiche giuridiche
interne, che a causa dello sviluppo tecnologico diventano più evidenti.
Nella prospettiva della teoria molecolare del diritto, i principali ‘stati’ (nel
senso di ‘condizione in cui si trova’) del diritto oggi sono i quattro presentati
qui di seguito:
I. Il diritto è un insieme di ‘molecole giuridiche’ (frammentazione).
II. Il diritto non è gerarchicamente strutturato (la gerarchia, quando esiste,
non è necessariamente stabile e/o vincolante).
III. Il diritto è ampiamente digitalizzato e immerso in un ambiente globale
altamente tecnologico.
IV. Il diritto è, e presumibilmente sarà, multilingue.
4. Il diritto è un insieme di ‘molecole giuridiche’
(frammentazione): primo ‘stato’ essenziale
Guardare l’attuale realtà del diritto in tutto il mondo con la vecchia lente
delle categorie giuridiche tradizionali porterebbe a scrivere un lungo elenco
di eccezioni e ad aumentare il livello di frustrazione teorica. In effetti, se
volgiamo lo sguardo al concetto di sovranità di Westfalia, si potrebbe
concludere che qualcuno ci ha gettato nel pianeta sbagliato.
Secondo il primo stato essenziale, il diritto appare come un insieme di
molecole giuridiche, ognuna delle quali, alla sua scala, ha un numero di
caratteristiche molto scarso. Tale status impoverito rende ogni molecola
giuridica in grado di stabilire un’elevata quantità di connessioni, nello spazio
e nel tempo, e di interagire con molte altre molecole, a volte anche diverse
nel genere o nel modo in cui sono espresse (come è evidente per le lingue
diverse).
Il diritto emerge come un insieme di molecole giuridiche all’esito di un
processo di frammentazione giuridica. L’essere frammentato e molecolare
sono caratteristiche strettamente collegate all’essere digitalizzato (terzo
‘stato’), ma non strettamente consequenziali a esso. Infatti, la
frammentazione si è manifestata (si pensi alla descrizione di Jessup, vedi
Capitolo 6 e avanti) prima dello sviluppo pervasivo della tecnologia
informatica e, quindi, può essere considerata una caratteristica che dal
punto di vista concettuale è relativamente autonoma dalla tecnologia.
La frammentazione è una condizione del diritto, che è sia a)
empiricamente osservabile, sia b) spiegabile in termini teorici. Nel paragrafo
qui di seguito vengono presentati alcuni elementi di questa osservazione.
Nel paragrafo successivo viene presentato uno schizzo di alcuni background
teorici che, anche se incapaci o non intenzionalmente in grado di dare una
risposta esaustiva a quanto descritto come frammentazione, incorporano
una visione dell’esperienza empirica, che è coerente con o, almeno, non in
contrasto con quanto descritto come frammentazione.
La frammentazione come fenomeno e i singoli frammenti, nonché la
loro forma, non sono una volta per sempre. Lo stesso frammento/molecola
potrebbe mostrare uno stato diverso, anche in natura, in un’ulteriore
aggregazione con molecole diverse in diverse condizioni di spazio e
situazione (come si è visto sopra nella descrizione chimica delle molecole).
4.1 La frammentazione come condizione empirica osservabile del diritto
In questo paragrafo sono elencati diversi fenomeni osservabili
empiricamente, che oggi possono essere considerati prove dello stato di
frammentazione del diritto. Qui di seguito se ne riportano alcuni.
Il diritto transnazionale. Già nel 1956 veniva descritta l’esistenza di a)
qualcosa (azioni ed eventi) che accade oltre i limiti dei con ni nazionali e b)
del diritto che regola tali azioni ed eventi al di là delle categorie legali
standard. Philip Jessup coniò l’espressione ‘diritto transnazionale’ per
includere «il diritto che regola azioni e eventi che trascendono le frontiere
nazionali. Sono inclusi il diritto internazionale sia pubblico sia privato, così
come altre norme che non rientrano in queste categorie standard»13. Bene,
tale diritto (a quel tempo non concettualizzato nella dottrina giuridica) è
strutturalmente in una condizione instabile, cioè la condizione di frammenti
staccati dal corpo disciplinare del diritto da cui provengono (o si pensa che
dovrebbero provenire), funzionanti e in attesa di collocazione. Oggi
l’esistenza di ussi di standard e concetti giuridici attraverso i con ni
nazionali è un fatto non più posto in discussione e al centro di una vivida
discussione nella comunità internazionale di giuristi, studiosi e giudici14.
L’atteggiamento verso una realtà così magmatica ha attualmente
acquisito la posizione di un discrimine nel dibattito giuridico internazionale.
Harold Hongju Koh sostiene che la distinzione tra nazionalisti e
transnazionalisti ha sostituito negli Stati Uniti quella tradizionale tra
nazionalisti (dei singoli Stati) e federalisti:
e transnationalist and the nationalist philosophies differ, inasmuch as the
transnationalists tend to believe in the political and economic interdependence of nations,
while nationalists focus instead on preserving U.S. autonomy. e transnationalists recognize
that international and domestic law are merging into a hybrid body of transnational law, while
nationalists preserve a rigid division between domestic and foreign law. Transnationalists
believe that domestic courts have a critical role to play in incorporating international law into
domestic law, while the nationalists claim that only the political branches are authorized to
domesticate international legal norms. e transnationalists argue that U.S. courts should use
their interpretive powers to help develop a global legal system, while nationalists believe that
courts should focus solely on the development of a U.S. legal system. And nally,
transnationalists see the power of the executive branch as constrained by the concept of comity
and by the institution of judicial review, while the nationalists would have federal courts give
extraordinarily broad deference to executive power in matters of foreign affairs15.
Parole profetiche, verrebbe da dire con il senno del poi e pensando alle
politiche dell’attuale amministrazione americana. In breve, Koh sostiene (tra
gli altri aspetti) che le loso e transnazionaliste e nazionaliste differiscono,
in quanto i transnazionalisti tendono a credere nell’interdipendenza politica
ed economica delle nazioni, mentre i nazionalisti si concentrano sulla
conservazione dell’autonomia degli Stati Uniti.
I diritti umani. I diritti umani sono una questione che tradizionalmente
va oltre i con ni nazionali. Mentre il diritto internazionale, per sua natura
originaria (si potrebbe dire), mira a proteggere i valori e gli interessi degli
Stati, il diritto internazionale dei diritti umani (incluso il diritto
internazionale umanitario e il diritto penale internazionale) mette sempre
più alla prova i principi di base del diritto internazionale generale, tanto che
«per essere accettato come diritto della comunità mondiale, il diritto
internazionale generale deve ri ettere meglio i valori e gli interessi di una
più ampia gamma di attori, incluso l’individuo»16.
Presenterò qui di seguito solo tre esempi, rilevanti alla luce di questo
lavoro.
In primo luogo, la Convenzione europea dei diritti dell’uomo, entrata in
vigore il 3 settembre 1953 «è stata il primo strumento internazionale che ha
dato effettività ad alcuni dei diritti riconosciuti dalla Dichiarazione
universale dei diritti dell’uomo e a renderli vincolanti»17. Da allora gli
individui hanno diritto di chiamare in giudizio, davanti alla Corte
internazionale EDU, il proprio Stato, perché responsabile della violazione
dei diritti riconosciuti dalla Convenzione, e, di fatto, usano questo diritto
con grande ampiezza18. Il ruolo dei cittadini e degli individui quali esseri
umani nell’arena internazionale è una novità giuridica straordinaria, se si
considera che, secondo la tradizione giuridica, i soggetti del diritto
internazionale sono solo gli Stati (e organizzazioni analoghe)19. Gli Stati
nazionali ora hanno il dovere di conformare la propria legislazione alle
disposizioni della Convenzione e la Corte ha il compito di controllare la
coerenza delle norme giuridiche nazionali interne.
Questa è un’ulteriore conferma dell’instabilità del diritto nazionale. Il
fatto che la Corte possa porre nel nulla un atto legislativo nazionale,
isolandolo dal suo contesto e valutandolo alla luce di criteri che superano la
legittima emanazione da parte degli organi costituzionali interni (la Corte
ha creato un nuovo standard legale per de nire ciò che, indipendentemente
dal nome, è legge nell’area dei Paesi rmatari della CEDU20) può essere
considerato un caso evidente di frammentazione del diritto
interno/internazionale.
La Convenzione interamericana sui diritti umani (istituita nel 1979), e la
relativa corte, sono ispirate a criteri simili a quelli della Corte europea, anche
se esistono rilevanti differenze. I soggetti legittimati a presentare petizioni
sono le persone (non è necessaria la quali ca di ‘vittima’) o gruppi di
persone, e anche organizzazioni legalmente riconosciute in uno dei Paesi
membri:
Le decisioni rese in sede contenziosa sono vincolanti e inappellabili, salva l’ipotesi in casi
eccezionali di una revisione del giudizio; l’eventuale condanna dello Stato per la presenza
nell’ordinamento di una norma incompatibile con la Convenzione implica l’obbligo per lo
stesso di rimuoverla ovvero modi carla per renderla coerente con la Convenzione. […] la
Corte può utilizzare come parametro non solo la Convenzione, ma anche le garanzie contenute
nelle norme internazionali sui diritti umani presenti negli altri trattati ‘vigenti’ negli Stati
membri dell’OAS21.
La Corte è un organo composto di sette membri designati dagli Stati che
hanno rati cato la Convenzione ed è titolare di funzioni contenziose e di
funzioni consultive. Il caso Barrios Altos contro il Perù ha segnato
l’evoluzione della Corte. Esso trae origine dal «massacro di quindici civili
durante un intervento da parte di membri dell’esercito peruviano e il
successivo tentativo del regime di Fujimori di approvare leggi di amnistia
per proteggere gli autori da azioni penali». La Corte ha ritenuto che lo Stato
abbia violato la Convenzione interamericana sui diritti umani e «ha
sottolineato che le leggi sull’autoamnistia provocano la mancanza di difese
delle vittime di violazioni dei diritti umani e provocano l’impunità per gli
autori. Di conseguenza, tali leggi contravvengono direttamente agli obiettivi
e allo spirito stesso della Convenzione americana». Nel suo parere concorde,
il giudice Antônio Augusto Cançado Trindade ha affermato che «nel parere
consultivo della Corte interamericana dei diritti umani del 1986, la Corte ha
stabilito che la parola ‘legge’, come indicato nell’articolo 30 della
Convenzione, richiede che i suoi contenuti riguardino il benessere generale
e che le leggi statali di amnistia, consentendo ai funzionari statali di coprire
le violazioni dei diritti umani, erano direttamente contrarie al benessere
generale. Pertanto, le leggi sull’amnistia non avevano validità legale secondo
i principi del diritto internazionale dei diritti umani»22.
Al commento sopra effettuato per la CEDU si può aggiungere che
decisioni come questa contengono una valutazione penetrante del contenuto
della legge e una serie di ordini di riparazione, che rendono molto forte
l’ingerenza della Corte nell’ordinamento interno del singolo Stato.
Sovranità nazionale come responsabilità. I fenomeni transnazionali sono
comuni a tutti i campi del diritto. Nel diritto internazionale, in occasione
della crisi della ex Jugoslavia, fu elaborata in ambito ONU la teoria della
responsabilità degli Stati di proteggere i propri cittadini e, in caso di
inadempienza, del dovere di intervento da parte della comunità
internazionale23. Una proposta più recente condivide l’idea che sia
necessario rinnovare il concetto di sovranità nazionale costruito intorno alle
prerogative degli Stati (risalente alla pace di Westphalia), ma cerca di
risolvere il problema per una via diversa, recuperando il concetto di
sovranità in chiave di ‘obbligazioni sovrane’:
What goes on inside a country can no longer be considered the concern of that country
alone. Today’s circumstances call for an updated operating system – call it World Order 2.0 –
that includes not only the rights of sovereign states but also those states’ obligations to others.
Such a concept of «sovereign obligation», it is worth pointing out, differs from the notion of
‘sovereignty as responsibility’, which lies at the heart of the legal doctrine known as ‘the
responsibility to protect’ [and] clearly represents a potential infringement on classic
Westphalian sovereignty […]. By contrast, sovereign obligation is about what a country owes
to other countries. It stems from a need to expand and adapt the traditional principles of
international order for a highly interconnected world24.
Alla luce di questo lavoro, entrambi gli approcci, anche se
concettualmente diversi (basato il primo – duty to protect – sul valore
prevalente dei diritti umani e, il secondo, su una ride nizione delle regole
internazionali circa la sovranità degli Stati), implicano che la legittimità e il
rispetto dell’attività nazionale potrebbero avere una doppia vita. Una
‘legittimità nazionale interna’, secondo il suo sistema giuridico, e, allo stesso
tempo, una ‘illegittimità internazionale’, secondo considerazioni di fatto che
l’ordine internazionale considera rilevanti. Naturalmente, si tratta di
questioni molto discutibili e tale discutibilità è conferma del fenomeno della
frammentazione: gli Stati nazionali sembrano porosi e l’effetto è la mancanza
di stabilità e certezza delle norme giuridiche.
In conclusione, questa breve carrellata mostra che molti eventi che si
veri cano in ambito internazionale e una vasta bibliogra a descrivono
diversi aspetti delle dinamiche transnazionali, attraversate oggi da alcune
tendenze che meritano tuttavia di essere chiarite immediatamente: mi
riferisco a globalizzazione (giuridica) e multilateralismo.
4.1.1 Globalizzazione e multilateralismo: fine o cambiamento
Tra gli studiosi che lavorano sul transnazionalismo e la globalizzazione
del diritto era senso comune che «il diritto è stato tradizionalmente la
provincia dello Stato nazionale, i cui tribunali e la polizia provvedono a
applicare. Al contrario, il diritto internazionale è stato relativamente debole,
con scarsi poteri di applicazione effettiva. Ma la globalizzazione sta
cambiando i contorni del diritto e creando nuove istituzioni e norme
giuridiche globali»25.
Ora la situazione sembra cambiata radicalmente e si parla apertamente
di ne della globalizzazione26. La globalizzazione o non è più o sembra
trasformarsi in qualcosa di diverso da quel sinonimo di ‘americanizzazione’
del mondo, di cui si è parlato no a un certo punto. Il tutto accade su uno
sfondo di un ‘mondo alla rovescia’, in cui a tratti è la Cina a presentarsi come
garante di globalizzazione e multilateralismo e, in molti Paesi dell’Unione
Europea (Italia tra i primi!) e negli Stati Uniti, un’ondata politica pone gli
interessi e la sovranità nazionali in primo piano (first) nell’agenda politica,
come reazione alla globalizzazione economica e al suo impatto sulle classi
medie occidentali.
Due sembrano essere gli sviluppi possibili. In una prima prospettiva,
sarebbe solo una questione di tempo: in pochi anni l’ondata della
globalizzazione perderà de nitivamente forza e anche le istituzioni
accademiche e culturali si allineeranno con la tendenza politica. A favore di
questa posizione, c’è l’idea del ‘ritorno della storia’27 e vi è, anche, qualche
segnale nel mondo accademico. In un’altra prospettiva, si può pensare che i
fenomeni transnazionali siano così radicati nell’attuale modo di vivere e fare
affari e nella tecnologia, tanto che dovrà essere l’ondata politica ad allinearsi,
alla ne, con la tendenza sociale e culturale globale. In questa ottica, vi
sarebbe solo la ‘ ne’ di una fase della globalizzazione, mentre il mondo
rimarrà, in un modo o nell’altro, collegato più che in passato.
Se s’indagano meglio alcune dinamiche economiche alla base della
globalizzazione e si adotta uno sguardo di lungo periodo, potrebbero esservi
pro li e possibilità diversi.
L’economista Richard Baldwin parte dalla situazione in cui si trovavano
le economie locali quando i trasporti, a causa della loro lentezza, rendevano
necessario che il luogo del consumo delle merci fosse prossimo a quello di
produzione, in modo tale che produzione e consumo erano forzosamente
uniti, impacchettati. Tutta la storia successiva è la storia di progressivi
spacchettamenti dei «tre costi determinati dalla distanza: i costi del
trasporto di beni, del trasporto di idee e del trasporto di persone»28. Per
esempio, la Rivoluzione industriale (inizio XIX secolo) ha visto un drastico
ridursi dei costi di trasporto, mentre quelli della circolazione delle idee e
delle persone sono rimasti molto cari.
All’inizio degli anni Novanta del XX secolo ha inizio una nuova fase
della globalizzazione (quella che sarebbe oggi esaurita e che, nel lessico di
Baldwin, è il «secondo spacchettamento») ed è segnata dalla rivoluzione
delle tecnologie dell’informazione e della comunicazione, che ha ridotto
drasticamente il costo di trasferimento delle idee. Nell’economia ciò
«comporta la separazione delle fabbriche a livello internazionale» e, con
esso, una ride nizione dei con ni internazionali della conoscenza: «Oggi i
contorni della mappa della competitività sono de niti sempre più dalle reti
internazionali della produzione, anziché dai con ni nazionali».
A questo punto, risolto il trasferimento di beni e di idee, quello che
rimane alto è il costo del trasferire persone, in quanto collegato alle
retribuzioni dei manager e dei tecnici, anche se le tariffe aeree sono scese.
Ma vi sono due sviluppi tecnologici che potrebbero cambiare lo scenario
consentendo di separare sicamente le prestazioni di lavoro dei lavoratori:
Il primo sarebbe costituito dalla creazione di strumenti in grado di sostituire efficacemente
persone che si spostano da un Paese all’altro per fornire brain services. Queste tecnologie, note
come ‘telepresenza’, non sono fantascienza. Esistono già ma sono molto costose. Il secondo
sviluppo sarebbe costituito dalla realizzazione di strumenti in grado di sostituire efficacemente
persone che si spostano da un Paese all’altro per fornire servizi manuali. Questo sistema è detto
‘telerobotica’ e prevede che un operatore diriga da un certo luogo dei robot che operano
altrove. La telerobotica esiste già, ma è ancora molto costosa e i robot sono poco essibili. […]
Ad esempio, ingegneri giapponesi potrebbero riparare beni strumentali in Sudafrica
controllando so sticati robot da Tokyo.
La posizione di Baldwin supera l’alternativa globalizzazione no/sì e ne
vede piuttosto l’evoluzione sulla base dello sviluppo tecnologico. Alla ne,
conferma la ne delle frontiere degli Stati nazionali, piuttosto che una loro
ripresa di importanza. I loro margini di manovra rimangono ridotti e
presumibilmente dovranno cambiare. A tale proposito, e ripensando alla
diffusissima richiesta/manifestazione di bisogno di introdurre regole su IA e
tecnologie (vedi Capitolo 2), un solo Stato, per grande che sia, difficilmente
potrebbe avere questa capacità, mentre si tratta di un bisogno che può
trovare risposta a livello di cooperazione tra Stati, cosa non facile nel
nazionalismo trionfante di questi giorni, ma unica prospettiva realistica.
Altro aspetto interessante messo in evidenza da Baldwin è
l’individualizzazione delle situazioni economiche: la posizione di vincente o
perdente non si distribuisce tra Stati, ma tra settori economici all’interno
degli stessi Stati, no ad arrivare ai singoli lavoratori, le cui prestazioni si
separano sicamente dal luogo sico in cui essi si trovano e da essi stessi, in
qualche modo.
Tutti
questi
fattori
vanno
nel
senso
della
frammentazione/ricomposizione economica e sociale indotta dalle nuove
tecnologie, un fenomeno che si collega e accompagna alla frammentazione
giuridica.
Una visione plausibile potrebbe essere che il nazionalismo oggi dilagante
possa cambiare la politica (in senso protezionistico), ma non possa restituire
coerenza e armonia a ordini giuridici nazionali disaggregati per effetto di
fenomeni di lunga durata. La frammentazione del diritto sembra essere un
fenomeno storico di lungo termine, più profondo, e in un certo senso di
natura diversa, che potrebbe durare nonostante il vento soffi contro, in
super cie. Alla ne non bisogna dimenticare che i cicli economici sono di
solito meno lunghi di quelli politici (e geopolitici), che hanno cicli
nettamente di maggiore durata. I mutamenti giuridici, a loro volta, sono più
lenti di quelli geopolitici e di periodo ancora più lungo.
In termini teorici è importante che una teoria giuridica si rapporti ai
movimenti di questi strati meno super ciali e sia, quindi, in grado di fornire
una descrizione che possa essere in grado di resistere almeno alla svolta
successiva della storia.
4.2 La frammentazione del diritto come è presupposta da rilevanti teorie
Lo stato di frammentazione del diritto è (direttamente o indirettamente)
esplicitamente o implicitamente, tra i presupposti di parti importanti della
teoria generale del diritto. Qui di seguito mi limito a fare solo alcuni
richiami a importanti autori che confermano la visione sostenuta in questo
lavoro29.
Hans Kelsen, nei suoi scritti autobiogra ci, racconta in modo discorsivo
la progressiva sua scoperta della identità tra diritto e norma e, quindi,
dell’identità tra sistema giuridico e norma e, in ne, tra Stato e norma:
[…] il diritto è per sua natura norma, e […] ogni teoria giuridica deve presentarsi come
una teoria delle norme, come una dottrina delle norme giuridiche, e, in quanto tale, come una
dottrina del diritto oggettivo, cioè positivo. […] Da questa concezione ricavai il signi cato
totalmente normativo, e non psicologico, del concetto di volontà proprio della teoria giuridica.
Dalla convinzione che il diritto fosse necessariamente norma risultò inoltre che ogni diritto
soggettivo deve essere ricondotto al diritto oggettivo, e che va quindi abolito il dualismo tra
diritto soggettivo e diritto oggettivo, così dannoso alla nostra sistematica. Bisognava passare
dall’opposizione tra due sistemi […] a una distinzione intrasistematica. Incontrai un’esigenza
del tutto analoga nel dualismo tra diritto pubblico e diritto privato. […] La mia critica mirante
alla purezza del metodo giuridico si scontrava […] soprattutto con il sincretismo di un
approccio giuridico che si accostava alle norme e al loro contenuto commista a una visione
sociologica o psicologica, rivolta cioè all’effettivo compimento dell’individuo e al suo realizzarsi
secondo le leggi naturali. […] mi resi conto anche del terzo dualismo, ancor più signi cativo
dei precedenti, che sta alla base della dottrina dominante: il dualismo tra Stato e diritto, sul
quale si fondano le due dicotomie già enunciate del diritto soggettivo e oggettivo, nonché del
diritto pubblico e privato. […] mi portarono all’importante concezione della necessaria unità
sistematica di tutte le norme di diritto positivo presupposte come valide30.
Per Kelsen esiste un solo sistema giuridico, che include nella sua unica
gerarchia normativa sia il diritto interno che quello internazionale. La
natura unitaria dell’universo giuridico (e il primato al suo interno del diritto
internazionale) è per Kelsen un’opzione molto generale a sostegno
dell’oggettività della conoscenza: presuppone una ‘ragione oggettiva
universale’. In questa epistemologia dell’unità e dell’obiettività della scienza
del diritto, la dimensione della soggettività statale, e persino l’individuo e i
suoi diritti fondamentali, sono subordinati all’oggettività del sistema legale
universale31.
La posizione teorica di Kelsen implica una visione del diritto che appare
uniforme e distribuita in un solo sistema. Il diritto mostra un’elevata
granularità, che potrebbe essere compatibile con l’idea di entità
frammentate, ma in Kelsen esse ritrovano unità all’interno di un sistema
unico. Distinzioni e differenze sono intra-sistematiche.
Il quadro cambia radicalmente nel diritto dell’ultimo Kelsen, quello della
General eory of norms, dove viene meno il collante sistemico e la gerarchia
come ordine interno. La norma si riduce ad atto di volontà32, non
conoscibile razionalmente e persino non comunicabile. Questa visione è
perfettamente compatibile con quella della frammentazione del diritto e,
come si vedrà più avanti, con quella della assenza di gerarchia33, che è alla
base della visione molecolare del diritto qui proposta.
Il fatto che nel diritto si trovino, oltre alle norme, anche istituzioni il cui
compito è creare il diritto (legislatori), applicarlo (giudici e apparati
amministrativi) e farlo rispettare (polizia) non risponde alla domanda su
quale sia la natura di quelle istituzioni e sulla base di quale entità operino:
perché, se operano secondo norme e sono stati istituiti mediante atti
normativi, quelle istituzioni ben possono essere particolari aggregazioni di
norme, altrimenti non si saprebbe dove reperire il criterio di fondazione e di
funzionamento. Né, d’altra parte, il fatto che esistano svariati tipi di norme
sembra essere incompatibile con la visione del diritto, a un livello molto
generale e di prima analisi, come insieme di norme.
Sul rapporto tra rules e legal system (inteso come ‘insieme di norme’) è
interessante la visione di Frederick Schauer, che nella sua fondamentale
opera Playing by the rules (1991) coglie ulteriori interessanti sfumature. Il
diritto è un sistema di regole, anche se, secondo la sua visione molto
rigorosa di rule, il sistema utilizza altri strumenti che sono giuridici, ma non
sono rules, come best interest e equity34.
4.3 Tre commenti su Jessup, Kelsen e Slaughter
Sulla frammentazione come stato attuale del diritto si può dire che
Philippe Jessup dà una descrizione dell’esistenza di entità giuridiche che
sfuggono alle partizioni disciplinari classiche del diritto. È degna di nota la
chiarezza della sua visione più che la sua consistenza teorica. Il diritto
transnazionale è descritto come un contenitore semantico capace di
comprendere parti di diritto che si trovano in una condizione di disagio
nelle discipline dalle quali provengono. E anche oggi si può dire che
l’approccio transnazionale costituisca una buona descrizione della gran
quantità di eccezioni che si possono registrare alla tradizionale idea di Stato
nazionale, che però non offre un coerente quadro concettuale per queste
eccezioni.
Quindi, quella di Jessup è una descrizione della realtà del diritto, che, pur
molto diversa come consistenza teorica, condivide con quella di Kelsen
l’abbandono delle tradizionali partizioni disciplinari e dei con ni nazionali.
Ai ni di questo lavoro, Kelsen è importante per la sua concezione
secondo la quale tutto è norma, indipendentemente dalle discipline e dalle
categorie giuridiche (e istituzioni). Potremmo dire che Kelsen ha una
concezione molecolare del diritto, a qualunque categoria esso appartenga.
Tuttavia, il suo approccio è, almeno no alla Teoria generale delle norme,
unitario e fortemente gerarchico, con il diritto internazionale in una
posizione di primato.
All’inizio del nuovo millennio, una studiosa americana di diritto
internazionale elabora l’idea del transgovernmentalism per descrivere lo stato
in cui versavano le istituzioni statali a fronte della globalizzazione. La
proposta, sebbene controversa, aveva una forza esplicativa innegabile per
quanto riguarda lo stato attuale di istituzioni, soggetti e agenzie. Tuttavia, il
transgovernmentalism, che si occupava essenzialmente della disaggregazione
degli Stati nazionali, ha lasciato inesplorata la disaggregazione dei sistemi
giuridici, dei corpi di leggi, dell’insieme di regole e delle loro gerarchie
interne. In altre parole, il passaggio che propongo va dalle istituzioni (come
gli Stati nazionali) a regole e set speci ci di regole. A mio avviso, le domande
cruciali sono se possiamo dire che i sistemi giuridici siano disaggregati e che
cosa questo signi chi. In caso affermativo, quale sia il risultato di questo
fenomeno di frammentazione (si potrebbe dire ‘cosa resta sul terreno’) e
come interagiscano tra loro questi residuati (molecole?)35.
In conclusione del primo ‘stato’ del diritto, come assunto dalla teoria
molecolare, si può dire che ciò che è molecolare è la descrizione e l’analisi
del risultato della fase distruttiva (frammentazione), dove il primo obiettivo
e problema era quello di disaggregare i componenti e di mostrare l’essenziale
granularità di ciò che si supponeva che fosse compatto e omogeneo. Sembra
giusti cata, sia empiricamente, sia a livello teorico, la tesi che il diritto
globalmente considerato possa essere descritto come un insieme di molecole
giuridiche.
5. Secondo ‘stato’ essenziale: il diritto non è organizzato in
modo stabilmente gerarchico
Ogni atto legislativo, norma giuridica o precedente giudiziario
vincolante non ha più un posto sicuro (all’interno di un Codice,
Commentario o case book) e i suoi rapporti con il sistema nel suo insieme e
con altre norme (più ampie o più ristrette, superiori o subordinate)
diventano plurali e talora non chiari. È come se ogni disposizione, norma
giuridica, articolo avesse più vite, una regolare (data dalla sua collocazione
originaria nel Codice, Commentario o case book) e altre adulterine. In
queste altre vite acquisiscono nuovi signi cati, nuovi contenuti normativi
secondo fonti esterne di legge, indipendentemente dal fatto che si tratti di
regole costituzionali, trattati sovranazionali, norme giuridiche straniere o
giurisprudenza, e così via. Questi rapporti tendono a legittimarsi sul solo
fatto della loro esistenza.
Questo quadro sintetico è collegato alle dinamiche di frammentazione
(sopra descritte), perché le seconde e terze vite sono rese possibili proprio
dall’emergere di una granularità più ne del diritto, dove elementi che
facevano parte di un aggregato, considerato no a ieri compatto, acquistano
autonoma visibilità e vita.
5.1 Fenomenologia dell’assenza di gerarchia
L’assenza di gerarchia è evidente per effetto della pluralità di fonti
concorrenti nella medesima area geogra ca e su materie affini. Il caso
emblematico è costituito dall’art. 53 della Carta di Nizza, per la cui
descrizione mi avvalgo di mie precedenti ricerche36.
La Carta di Nizza e la CEDU sono due fonti sovranazionali (sia pure a
diverso titolo e ampiezza), che condividono larga parte delle previsioni e
che, proprio per questo, pongono delicati problemi. Per esempio, come
avvengono i travasi dall’una all’altra, visto che la CEDU impegna tutti i Paesi
del Consiglio d’Europa, mentre la Carta soltanto il più ristretto gruppo dei
Paesi dell’Unione Europea? E poi, visto che i cittadini dei diversi Paesi UE
sono titolari dei diritti e delle libertà riconosciuti dalle loro Costituzioni
nazionali e anche di quelli europei che derivano dalla Carta di Nizza, quali
norme prevarranno in caso di con itto o diversità tra i due testi?
Gli estensori della Carta di Nizza si sono posti il problema e hanno
introdotto una speci ca clausola di salvaguardia, secondo la quale «nessuna
disposizione della presente Carta deve essere interpretata come limitativa o
lesiva dei diritti dell’uomo e delle libertà fondamentali riconosciuti […]
dalle Costituzioni degli Stati membri» (art. 53: Livello di protezione).
La clausola risolve un punto fondamentale: in caso di contrasto tra Carta
e Costituzioni nazionali, non prevale la fonte astrattamente di grado
superiore (e cioè la Carta), ma quella che garantisce il maggiore livello di
protezione, di modo che la Carta possa solo incrementare le tutele e mai
limitare quelle esistenti a livello nazionale.
Tuttavia, l’aver superato la gerarchia formale, e stabile, apre a una serie di
problemi circa i criteri sulla base dei quali si ridisegna la nuova gerarchia e a
opera di chi. Per esempio, ci si può chiedere se le disposizioni della Carta
debbano essere raffrontate ai soli testi delle Costituzioni degli Stati membri
o anche alle interpretazioni che delle norme costituzionali hanno dato i
giudici, costituzionali e non, dei diversi Paesi. E se la risposta è affermativa,
come pare ragionevole, è inevitabile rilevare che la decisione sulle
limitazioni o sulla ampiezza dei diritti e delle libertà fondamentali nisca
con l’essere, ancora una volta, materia di interpretazione giurisprudenziale,
con le sue naturali oscillazioni.
Un problema simile si era posto anche per la Convenzione di Oviedo, il
cui art. 27 prevede un’analoga clausola di salvaguardia, secondo la quale
nessuna disposizione della Convenzione «può essere interpretata nel senso
di limitare o interferire in qualche modo con la facoltà di ciascuna parte
rmataria di garantire […] una tutela più intensa di quella prevista dalla
presente Convenzione». Anche in questo caso la valutazione dell’intensità
della tutela è operazione concettuale di particolare complessità e i concetti di
wider e di plus étendue, dei testi ufficiali inglese e francese, non potranno che
essere valutati dai giudici nella loro quotidiana opera interpretativa.
In entrambi i casi (per la Carta come per la Convenzione di Oviedo) non
sarà sempre facile stabilire una gerarchia di ampiezza o intensità di
protezioni e garanzie. Se si considera che le autorità con le quali l’individuo
si confronta (e che possono porre limiti ingiusti cati a quei diritti) possono
avere natura diversa, e che un conto è stabilire, per esempio, se vi siano
maggiori garanzie verso un potere coercitivo di tipo sanitario (dove
l’operazione è relativamente semplice, data la natura autoritaria del rapporto
e il carattere verticale della relazione) e un conto è stabilire una scala
gerarchica di garanzie in relazioni orizzontali o di tipo negoziale (come, per
esempio, nel campo medico, nella riproduzione assistita o nei test genetici),
si deve allora dedurre che la scala sulla quale si colloca una certa protezione
(e quindi la sua intensità) sia inevitabilmente frutto di scelte interpretative
rimesse ai giudici.
In conclusione, se si esamina, alla luce delle rispettive clausole di
salvaguardia, l’intreccio tra Carta di Nizza, Convenzione di Oviedo e
ordinamento nazionale, e se si considera che il funzionamento di tali
clausole coinvolge direttamente l’interazione tra diritto di formazione legale,
sue interpretazioni giurisprudenziali e diritto di formazione
giurisprudenziale, emerge come la de nizione del livello delle libertà e dei
diritti individuali sia frutto di un intersecarsi particolarmente complesso di
elementi, ciascuno dei quali ha, a sua volta, una notevole mobilità37.
Il che comporta il venir meno di ogni gerarchia che abbia carattere di
stabilità, poiché le scelte assiologiche del singolo interprete avranno capacità
ordinante tra due fonti di rango costituzionale.
Sulla questione della relazione tra Costituzioni nazionali e fonti
normative internazionali, la dottrina ha assunto due posizioni principali38.
Una teoria attribuisce alla Costituzione la supremazia su tutte le altre fonti
del diritto. Altri autori ritengono che le Costituzioni nazionali e le fonti
normative internazionali (come, ad esempio, la Carta diritti fondamentali
dell’Unione Europea) possano interagire in maniera orizzontale e non in
modo strettamente gerarchico39. Per i sostenitori di tale tesi, i diritti e le
libertà fondamentali possono trovare il loro riconoscimento e la loro
vincolatività nelle fonti nazionali, europee, internazionali o sopranazionali, a
seconda che, nello speci co caso, garantiscano, come appena visto, un livello
di maggior protezione rispetto a fonti che pure sarebbero sovraordinate
secondo una scala gerarchica staticamente intesa.
Il concetto è quello della gerarchia/non-gerarchia: non-gerarchia, se
s’intende la gerarchia quale stabile posizione o classi cazione a un
determinato livello; gerarchia, se ci si riferisce alla ratio decidendi dello
speci co caso, nel quale, conformemente al criterio della maggiore
protezione, la preminenza di una fonte normativa sull’altra deve essere
ricostruita e affermata su un fondamento di ordine assiologico. Questo
secondo tipo di ordine, o gerarchia, è speci co del caso e può essere
contraddetto in un futuro caso (ove diverso o, anche uguale, se ricostruito
secondo un ordine concettuale diverso, che non si può escludere che esista)
oppure riconfermato in un caso simile, sempre che non vi siano dei nuovi
aspetti che lo differenzino dal precedente40.
In altri termini, si può dire che un ordine gerarchico, per quanto
essenziale a ogni speci ca decisione (senza gerarchia non vi è neanche
possibilità di ragionamento giuridico), sembra non offrire garanzie di
stabilità. E anche quando un criterio appare chiaro e incontroverso (ad
esempio, quello di maggiore protezione), esso deve comunque essere
interpretato e applicato da una Corte in uno speci co caso. Ne deriva che le
oscillazioni, che dipendono dalla concreta applicazione del principio,
possono essere assai ampie. Di qui la diffusa sensazione di mancanza di
stabilità del sistema, non più solo frammentato in singole molecole
giuridiche, ma con molecole in costante movimento.
Inutile dire che la responsabilità del singolo interprete (lo si può
chiamare ‘autore’?) cresce grandemente. In un sistema digitalizzato,
molecolare e non gerarchico gli strumenti e i materiali sui quali lavorano i
diversi professionisti coinvolti sono gli stessi, mentre cambiano, come visto
nel Capitolo 4 a proposito della motivazione, la possibilità di accesso,
parziale/totale, il tipo e la nalità del contributo, e quindi di aggregazione di
materiali in un certo modo (sentenza, atto di impugnazione, ricorso, articolo
di dottrina o studio teorico, analisi normativa in vista di monitoraggio
amministrativo o modi che legislative, e altro) e il signi cato/valore
giuridico che la diversa provenienza conferisce al nuovo aggregato. Un conto
è un atto legislativo, altro un parere o una sentenza. Tutto ciò rende centrale
la formazione dei giovani giuristi di cui si è parlato nel Capitolo 6 in modo
particolare.
5.2 Alcuni aspetti teorici
La menzionata presenza simultanea di fonti legislative nazionali,
internazionali e comunitarie è un ulteriore punto critico che s da i
tradizionali concetti di con ni e identità nazionali.
L’art. 117 della Costituzione italiana, modi cato nel 2001, mostra
chiaramente, e al massimo livello costituzionale, come la stessa potestà
legislativa nazionale si svolga ormai all’interno di vincoli e obblighi di
origine sovranazionale: «La potestà legislativa è esercitata dallo Stato e dalle
Regioni nel rispetto della Costituzione, nonché dei vincoli derivanti
dall’ordinamento comunitario e dagli obblighi internazionali» (art. 3 della
Legge costituzionale 18 ottobre 2001, n. 3).
Affermare il carattere non gerarchico è cosa diversa dall’affermare
l’assenza di gerarchia nel ragionamento giuridico, che, anzi, ne è
caratteristica essenziale. Il punto è diverso e riguarda uno degli effetti della
transnazionalità. Senza bisogno di superare le giurisdizioni dei singoli Paesi
e le loro prerogative, il solo fatto di collegare ogni caso giurisprudenziale o
materiale legislativo a quello simile proveniente da altre realtà, da diverse
fonti e lingue comporta che la composizione dei materiali giuridici
(molecole giuridiche), realizzata al ne di individuare la regola di un caso e
l’ordine (gerarchia) che la sostiene, potrebbero non ripresentarsi in alcun
altro caso e che, pertanto, il sistema, globalmente inteso, non abbia alcuna
generale e stabile gerarchia.
Una delle caratteristiche di questa non gerarchia/gerarchia sta nel fatto
che gli elementi che la compongono possono essere disomogenei o, meglio,
sono non necessariamente omogenei.
Emblematico è il caso della Carta di Nizza rispetto alle costituzioni
nazionali. La Carta dichiaratamente e ufficialmente riguarda esclusivamente
il diritto comunitario, mentre i giudici hanno cominciato a utilizzarla come
Bill of rights di tutti gli europei in tutti i campi41. Questo ‘miracolo’
interpretativo i giudici lo hanno compiuto facendo ricorso a quella gamma
di argomentazioni che sono tipiche della pratica del ragionamento giuridico.
In alcuni casi si tratta di logica deduttiva stringente, mentre in altri casi si
tratta di argomentazioni ad colorandum o a scopo persuasivo o obiter dicta,
secondo la gamma degli interventi che il costituzionalista Norman Dorsen
prospettò nell’aprire un notissimo dibattito organizzato dall’Associazione dei
costituzionalisti americani e tenutosi all’American University Washington
College of Law il 13 gennaio 2005. Ai due giudici della Corte suprema
federale americana, Antonin Scalia e Stephen Breyer, chiamati a
rappresentare visioni diverse e lontane del diritto (su un caso in cui la Corte
suprema aveva richiamato fonti normative non americane), Dorsen pose, a
proposito delle possibili interazioni tra elementi giuridici diversi,
provenienti anche da diversi ordinamenti statali, le seguenti domande:
When we talk about the use of foreign court decisions in U.S. constitutional cases, what
body of foreign law are we talking about? Are we limiting this to foreign constitutional law?
What about cases involving international law, such as the interpretation of treaties, including
treaties to which the U.S. is party? When we talk about the use of foreign court decisions in
U.S. law, do we mean them to be authority or persuasive, or rhetorical? If, for example, foreign
court decisions are not understood to be precedent in U.S. constitutional cases, are they
nevertheless able to strengthen the sense that U.S. assures a common moral and legal
framework with the rest of the world? If this is so, is that in order to strengthen the legitimacy
of a decision within the U.S., or to strengthen a decision’s legitimacy in the rest of the world?42
Questo scenario mostra diversi possibili tipi di interazione all’interno del
sistema giuridico statunitense: a) interazione con il diritto costituzionale
straniero; b) interpretazione di trattati internazionali o decisioni di corti
straniere, con valore che può essere di ‘precedente da seguire’ (authority)
oppure solo persuasivo o retorico; c) gli USA che assicurano l’esistenza di un
contesto morale e giuridico condiviso con il resto del mondo. Ed è da notare
come ognuna di queste interazioni cada all’interno di discipline e aree
concettuali diverse, interazioni che cercano un livello di spiegazione43.
Se bisogna farsi carico di un tale livello di varietà e disomogeneità
normativa, si potrà allora farsi carico anche delle sfumature che vengono
poste in evidenza da chi tiene ferma la differenza tra norme e istituzioni e
distingue tra norme che regolano comportamenti individuali (prevedendo
permessi, obbligazioni, proibizioni e diritti), norme che prevedono a quali
condizioni nuove norme sono create oppure che stabiliscano chi ha il potere
di decidere le controversie che riguardano norme e altro ancora44.
Paolo Grossi ritiene che siano proprio le «miserie del diritto positivo
[che] spingono a guardare più in alto, a un livello superiore […] di
giuridicità che è diritto, ma in cui si riesce a non separare essere e dover
essere, giuridicità formale e giustizia, che le correnti positivistiche avevano
irrimediabilmente diviso»45. Ora, senza spingersi no a tal punto si può dire
che la teoria molecolare consenta uno sguardo così ampio da comprendere
tutte le varie manifestazioni di rapporto tra le molecole giuridiche.
Questo secondo ‘stato’ del diritto (non gerarchia) oggi è uno sviluppo
autonomo del primo ‘stato’ (essere molecolare). È autonomo, perché un
sistema può essere molecolare (e anche descritto come molecolare) e, allo
stesso tempo, essere unitario e gerarchico, come era nel Kelsen nella fase
precedente la Teoria generale delle norme (vedi sopra). Può quindi essere
condivisa l’idea che il diritto non sia un «insieme di entità stabili e astratte» e
che sia permanentemente in costruzione:
Se ogni atto ha natura sia di atto di creazione del diritto sia di applicazione del diritto, esso
non è né l’uno né l’altro. È una sintesi di entrambi. A questa sintesi sono stati dati nomi diversi
in diverse tradizioni teoriche. […] Queste varie concezioni non contano. Ciò che conta è che
fare questo passo segna la ne del positivismo giuridico poiché altera fondamentalmente
l’impegno ontologico della teoria giuridica. La legge non è più considerata prodotta e destinata
a rimanere ferma lì. Piuttosto, il diritto è in uno stato permanente di riproduzione46.
Un approccio di questo genere è in radicale contrasto con l’idea secondo
la quale il diritto sia mero strumento nelle mani del potere politico. Tale
idea, infatti, ha alla base un’idea strumentale del diritto, come strumento
pronto per essere utilizzato dal sovrano o da qualsiasi altro potente attore
sociale (anche giuristi e giudici), qualunque siano i loro scopi. Questa idea è
tipica dell’impostazione positivista e oggi è tutt’altro che universalmente
accettata. Il diritto non può essere considerato come una ‘cosa’ tangibile, la
cui esistenza e forma siano incontrovertibili, e uno strumento manovrabile.
Parlare del diritto come tecnica è, inoltre, lontano da tutti gli approcci
teorici che, in opposizione a una visione positivistica rigorosa47 (cioè
focalizzata solo sulla legge come atto del potere legislativo), sottolineano
l’origine storica del diritto e il suo ordinarsi spontaneamente piuttosto che
come mero risultato di una decisione politica48.
Un diritto permanentemente in costruzione, e quindi anche defeasible49,
somiglia al meccanismo della memoria, che non sta nella nostra mente
come insieme di entità incastonate, ma come corpo vivo in perenne riesame
e rielaborazione.
6. Terzo ‘stato’ essenziale: il diritto è ampiamente
digitalizzato
Il diritto si intreccia con la tecnologia in due modi fondamentali, come
diritto della tecnologia, in quanto tratta qualsiasi aspetto della realtà sociale,
anche quegli aspetti con una più alta densità di tecnologia (vale a dire
l’informatica e l’IA: vedi Capitolo 2), e come un’entità in sé tecnologizzata,
nel senso che il diritto (comunque de nito) vive con gli attuali mezzi
tecnologici. Qui ci si occupa di questo secondo aspetto e principalmente
delle tecnologie di intelligenza arti ciale, che caratterizzano l’attuale
ambiente giuridico come un ambiente altamente tecnologizzato.
La digitalizzazione non dipende (teoricamente) dalla molecolarità.
Dipende piuttosto dalla tecnologia e, quindi, apre all’interazione tra
tecnologia e diritto sotto un particolare pro lo. La digitalizzazione consente,
in un certo senso, uno sguardo alla condizione molecolare del diritto da un
diverso punto di vista, che ne conferma la molecolarità, moltiplicandola.
L’essere il diritto ampiamente digitalizzato e vivere in un’era in cui parti
crescenti di informazioni disponibili (anche giuridiche) sono espresse in
forma digitale è sotto gli occhi di tutti ed è anche un’ipotesi fattuale del
lavoro di Kevin Ashley sull’intelligenza arti ciale e l’analisi giuridica, il cui
sottotitolo è signi cativamente Nuovi strumenti per la pratica legale nell’era
digitale.
A proposito di analogico e digitale è utile un chiarimento:
In analog representation, properties of the representational medium ape (or re ect or
model) properties of the represented state-of-affairs. (In obvious contrast, the strings of binary
digits employed in digital representation do not represent by means of possessing some
physical property – such as length – whose magnitude varies in proportion to the magnitude of
the property that is being represented.) Analog representations form a diverse class. Some
examples: the longer a line on a road map, the longer the road that the line represents; the
greater the number of clear plastic squares in an architect’s model, the greater the number of
windows in the building represented50.
In termini generali, la digitalizzazione è il processo di conversione delle
informazioni in un formato digitale. In questo formato, le informazioni sono
organizzate in unità di dati discrete (chiamate bit) che possono essere
indirizzate separatamente (di solito in gruppi a più bit chiamati byte). Questi
sono i dati binari che i computer e molti dispositivi con capacità di
elaborazione (come fotocamere digitali e apparecchi acustici digitali)
possono elaborare. Testo e immagini possono essere digitalizzati in modo
simile: uno scanner acquisisce un’immagine (che può essere un’immagine di
testo) e la converte in un le di immagine (bitmap). Un programma di
riconoscimento ottico dei caratteri (OCR) analizza un’immagine di testo per
le aree chiare e scure e identi ca ogni lettera alfabetica o cifra numerica,
convertendo ciascun carattere in codice ASCII51.
6.1 La digitalizzazione come una condizione empirica osservabile del diritto
Il tema affrontato in questo paragrafo è come cambia il diritto per il fatto
di essere digitalizzato e immerso nell’attuale ambiente tecnologico52. Mi
avvalgo, a tal ne, di quattro autori che, per il loro lavoro teorico e per
l’impegno pratico nel campo, possono essere considerati rappresentativi
dello scenario attuale: Oliver R. Goodenough, Kevin D. Ashley, Giovanni
Sartor e Henry Prakken.
6.1.1 Tre racconti della medesima storia
Oliver Goodenough, tra i leader statunitensi nell’innovazione
tecnologica e il diritto, ha presentato tre stadi nel cambiamento giuridico
determinato dalla tecnologia, che riprendono in parte le partizioni di
Susskind viste nel Capitolo 3: «nel primo stadio, la tecnologia dà agli attuali
attori umani maggiore efficienza all’interno del sistema corrente. Molte
attività giuridiche possono essere compiute meglio, più velocemente e a
minor costo», ma «queste nuove applicazioni hanno migliorato quello che i
giuristi già facevano»53.
Nella seconda fase, 2.0, «la tecnologia sostituisce un numero crescente di
attori umani all’interno del sistema. L’innovazione giuridica
tecnologicamente guidata comincia a diventare dirompente e non solo
abilitante. Una parte della pratica del diritto viene eliminata in questa nuova
fase». L’uso della codi ca predittiva (predictive coding) e altri approcci di
apprendimento automatico nell’e-discovery54 e nei servizi analitici e
nell’analisi dei big data ne sono esempi. Di conseguenza, si veri cano
enormi cambiamenti nel mondo delle professioni legali. Tuttavia, questa
modi ca «è ancora integrata nel sistema esistente. L’attuale rete di regole e di
contratti in linguaggio naturale, la risoluzione delle controversie in sede
giudiziaria e lo stato legislativo/regolamentare rimangono sostanzialmente
intatti. La giurisprudenza si evolve, ma non cambia radicalmente», afferma
Goodenough.
Ora «ci si sta avvicinando rapidamente a un terzo stadio, 3.0, in cui la
potenza della tecnologia computazionale per la comunicazione, la
modellazione e l’esecuzione consente una riprogettazione radicale, se non
una sostituzione completa, dell’attuale sistema stesso. […] Nel diritto, si
scopre che il codice del computer è notevolmente migliore del linguaggio
naturale come mezzo per esprimere la struttura logica di contratti,
regolamenti e statuti». Goodenough esempli ca il prossimo scenario:
If the United States Internal Revenue Code or its Clean Air Act were embodied in code as
their original mode of enactment, a good technological parsing engine (rather than the limited
biological parsing engine of a lawyer’s brain) could give advice on compliance quickly and
cheaply. But, in a true 3.0 environment, both of these legal domains probably reshape
themselves around somewhat different questions and outcomes. Technology can drive
jurisprudence. Stated in computer code, complicated consumer credit transactions become
transparent to a consumer with a good outcome ‘dashboard’, perhaps run by the US Consumer
Financial Protection Bureau. Regulatory compliance could be built directly into computational
objects like a ‘smart security’, which would keep track of its ownership and the applicable
trading rules.
Kevin Ashely, un autorevole studioso americano di intelligenza arti ciale
e diritto, si occupa di temi analoghi concentrandosi, però, maggiormente
sugli strumenti offerti alla pratica legale dall’intelligenza arti ciale e
dall’analisi giuridica (legal analytics). Ricorda, in primo luogo, le ricerche
condotte dal 1980 sulla risposta alle domande (QA), l’estrazione di
informazioni (IE) e la ricerca per argomenti, che hanno portato a
programmi come Watson e Debater di IBM. A suo avviso, la capacità di
eseguire ragionamenti giuridici è il punto cruciale per il futuro:
Programmi come Watson e Debater non eseguiranno ragionamenti giuridici. Potrebbero
essere in grado di rispondere a domande giuridiche in modo super ciale, ma non potrebbero
spiegare le loro risposte o elaborare argomentazioni giuridiche. Gli strumenti di analisi del
testo open source su cui si basano, tuttavia, faranno una profonda differenza nello sviluppo di
nuove applicazioni giuridiche. Identi cheranno le informazioni relative all’argomento in testi
legali che possono trasformare l’estrazione di informazioni giuridiche in un nuovo tipo di
estrazione di informazioni concettuali: estrazione di argomenti55.
In Watson/Debater della IBM il sistema non risponde direttamente alla
domanda. Piuttosto, le informazioni richieste su un argomento «guidano il
sistema nell’identi cazione dei testi che rispondono alla domanda» in modo
da trovare un documento, ammesso che esista, le cui proposizioni si
riferiscono all’argomento pro o contro (pp. 166-167). Pertanto, la capacità di
eseguire il ragionamento giuridico è l’obiettivo di una diversa linea di
ricerca: quella dei modelli computazionali di ragionamento giuridico (LMC)
e il suo sottoinsieme chiamato «modelli computazionali di argomentazione
legale» (LMC), che implementano «un processo di argomentazione legale
come parte del loro ragionamento» (p. 4).
e newly extracted argument-related information will connect the computational models
of legal reasoning (CMLRs) and argument directly with legal texts. e models can generate
arguments for and against particular outcomes in problems input as texts, predict a problem’s
outcome, and explain their predictions with reasons that legal professionals will recognize and
can evaluate for themselves. e result will be a new kind of legal app, one that enables
cognitive computing, a kind of collaborative activity between humans and computers in which
each performs the kinds of intelligent activities that they can do best. […] e goal of much of
the research in AI & Law has been to develop CMLRs that can make legal arguments and use
them to predict outcomes of legal disputes. A CMLR is a computer program that implements a
process evidencing attributes of human legal reasoning56.
Tuttavia, Ashley individua il collo di bottiglia della rappresentazione
della conoscenza (representation bottleneck) che «ha impedito i progressi nel
contribuire alla pratica legale» e che è sostanzialmente ancora lì, anche se «i
recenti sviluppi nel QA computerizzato, IE dal testo e l’estrazione di
argomenti promettono di cambiare questo»:
Finora, le sostanziali conoscenze giuridiche impiegate dai loro modelli computazionali
hanno dovuto essere estratte manualmente da fonti giuridiche, ovvero da casi, statuti,
regolamenti, contratti e altri testi che i professionisti legali utilizzano effettivamente. Cioè, gli
esperti umani hanno dovuto leggere i testi legali e rappresentare parti rilevanti del loro
contenuto in una forma che i modelli computazionali potevano usare. L’incapacità di collegare
automaticamente i loro modelli computazionali di ragionamento giuridico direttamente ai testi
legali ha limitato la capacità dei ricercatori di applicare i loro programmi nell’estrazione,
previsione e decisione alle informazioni legali nel mondo reale57.
Tuttavia, c’è una speranza. Analisi del testo (text analytics) o mining del
testo (text mining) si riferisce alla scoperta di conoscenze che possono essere
trovate negli archivi di testo. Quando i testi da analizzare sono giuridici, si
può fare riferimento a ‘analisi di testi giuridici’ o più semplicemente a
‘analisi giuridica’58:
Le tecniche di analisi del testo possono aprire il collo di bottiglia nell’acquisizione delle
conoscenze che ha ostacolato a lungo i progressi nel campo delle applicazioni giuridiche
intelligenti. Invece di affidarsi esclusivamente a tecniche manuali per rappresentare il
signi cato di testi giuridici in modi che i programmi possono utilizzare, i ricercatori possono
automatizzare il processo di rappresentazione della conoscenza59.
In un certo senso si può dire che siamo all’inizio della storia. Le
domande di Ashley sono: «possono i computer ragionare utilizzando le
informazioni giuridiche tratte dai testi? Possono aiutare gli utilizzatori a
formulare e veri care ipotesi giuridiche, formulare argomenti giuridici, o
predire l’esito di una lite?»60 e, alla ne, la risposta che si dà è la seguente:
«e answers appear to be ‘Yes!’ but a considerable amount of research
remains to be done before the new legal applications can demonstrate their
full potential» (p. 5).
Henry Prakken, professore presso l’Università di Utrecht (NL) e
Giovanni Sartor, professore presso l’Istituto universitario europeo di Firenze,
partono dal presupposto che «il diritto è un campo di applicazione naturale
per l’intelligenza arti ciale [e che] l’intelligenza arti ciale potrebbe essere
applicata al diritto in molti modi (ad esempio, l’elaborazione del linguaggio
naturale per estrarre informazioni signi cative da documenti, data mining e
machine learning per estrarre tendenze e modelli da grandi corpi di
precedenti)». Tuttavia, gli autori considerano semplicistica l’idea che «una
volta che un testo giuridico e un insieme di fatti sono stati chiaramente
rappresentati in un linguaggio formale, le conclusioni giuridiche seguiranno
da tale rappresentazione come una questione di deduzione», e per diversi
motivi:
Il diritto non è solo un sistema concettuale o assiomatico, ma ha obiettivi sociali ed effetti
sociali, che possono richiedere il superamento o la modi ca di una norma giuridica. Inoltre, i
legislatori non possono mai prevedere completamente in quali circostanze la legge debba
essere applicata, quindi la legislazione deve essere formulata in termini generali e astratti, come
‘dovere di diligenza’, ‘uso improprio di segreti commerciali’ o ‘intenzione’, e prevedendo
categorie generali di eccezione, come ‘autodifesa’, ‘forza maggiore’ o ‘irragionevole’. Tali concetti
ed eccezioni devono essere interpretati in casi concreti, che creano incertezza e spazio per il
disaccordo. Ciò è rafforzato dal fatto che i casi giuridici spesso coinvolgono interessi
contrastanti di parti opposte. […] Tutti questi aspetti del diritto, vale a dire il suo orientamento
verso situazioni future e non completamente previste, la tensione tra le condizioni generali
della legge e i particolari di un caso e le procedure giuridiche improntate alla regola del
contraddittorio, fanno sì che il ragionamento giuridico vada oltre il signi cato letterale delle
norme legali e comporti il ricorso a precedenti, principi, politiche e scopi61.
Inoltre, per gli autori, nel ragionamento giuridico vi sono alcune attività
(come derivare conseguenze legali dai fatti classi cati), in cui il modo
deduttivo di ragionamento deve lasciare «spazio alle tecniche
nonmonotoniche per far fronte alle eccezioni alle regole, sia statutarie sia
basate su un principio e scopo, e scegliere tra regole contrastanti sulla base
della gerarchia generale dei sistemi legali, con regole provenienti da fonti
diverse»62. Il punto cruciale torna a essere quello visto sopra dei diversi tipi
di norme e di funzioni (vedi sopra paragrafo 5.2).
6.2 Sulla coerenza di alcune teorie su computazione e diritto
I tre approcci sopra riportati (Goodenough, Ashley, Prakken-Sartor), per
quanto differenti sotto molti pro li, hanno alcuni punti in comune che
possono consentire di tracciare una mappa del campo computazione-diritto
alla luce della teoria molecolare.
La tesi di Goodenough sembra essere la più radicale. Secondo il suo
autore costituisce computazione qualsiasi processo che sia governato da
regole e per gradi (stepwise). La teoria della computazione fornisce un
mezzo per formalizzare questi processi, un po’ come l’alfabeto e la scrittura
permettono la speci cazione di formulazioni linguistiche nella stampa per la
conservazione e il riutilizzo in un momento successivo. Quello che può
essere speci cato in un linguaggio naturale può essere frequentemente
speci cato in alcuni altri modi, come il codice binario usato dai nostri
computer digitali. In conclusione, le regole giuridiche, che siano contenute
in contratti, leggi o decisioni giudiziarie, hanno lo stesso tipo di logica di
costruzione graduale, passo dopo passo. La complessità conta ma non
contraddice il punto centrale: il diritto è spesso anche computazione.
La chiave di questa posizione sembra trovarsi dell’avverbio «spesso». Ma
«spesso» signi ca ‘molte volte’, ‘frequentemente’, ed è chiaramente diverso da
«sempre», salvo eccezioni. L’avverbio «sempre» avrebbe implicazioni
nell’idea stessa di diritto e quindi nella sua ontologia, mentre «spesso»
signi ca che il diritto può essere computabile e può anche non esserlo, a
seconda del suo contenuto, della sua funzione o della sua posizione.
«Spesso» signi ca che nell’attuale scenario tecnologico il diritto può essere
rappresentato, a dispetto della sua complessità, direttamente in un soware.
Naturalmente l’autore è consapevole di tutto ciò e in una nota del suo lavoro
del 2015 annuncia che «determinare i con ni di questa affermazione è un
progetto di ricerca di informatica giuridica, che è in corso e include il lavoro
dell’autore di questo paper». In ogni caso lo scenario è concettualmente
chiaro:
[…] when law is computation, we can represent it in soware as well. Not emulate63 it in
soware, but represent its logic and process directly in the code [italics mine]. at said, in some
areas of law, such as those where the processes of judicial interpretation have created not only
complexity but variability and uncertainty in its speci cation, we can approach the modeling
process from the other direction, using learning algorithms and other sophisticated data
mining tools to look for emergent patterns that do emulate rather than replicate the process64.
In conclusione, secondo Goodenough, il diritto è ‘anche’ computazione.
Ciò accade ‘spesso’ e, quando accade, è possibile rappresentare la sua logica e
il suo processo direttamente nel codice (e non emularlo in un soware). Ma
vi sono alcune aree del diritto dove sono necessari diversi approcci, come
learning algorithms e altre so sticate tecniche di data mining per osservare i
modelli emergenti che emulano il processo («emergent patterns that do
emulate the process»).
Kevin Ashley offre un quadro sfaccettato dell’interazione tra IA e diritto,
che include alcuni degli aspetti considerati da Goodenough. Se la visione di
Goodenough sembra suggerire uno sviluppo lineare (ogni giorno di più
saremo in grado di rappresentare nuovi contratti, leggi e decisioni
giudiziarie direttamente nel codice, e, una volta che noi avremo fatto questo
lavoro, l’area del «diritto uguale computazione» avrà guadagnato terreno)
Ashely propone una differente visione e apre un problema di grande
interesse, quello dell’isomorfismo, cioè la condizione che si veri ca quando
c’è una corrispondenza individuale (uno a uno) tra le regole del modello
formale (vedi avanti, 8.3) e le unità del testo in linguaggio naturale che
esprimono le regole nelle fonti legali originali, come sezioni della
legislazione.
È facile immaginare come anche una parziale modi ca legislativa o
l’intervenire di una rilevante decisione giudiziaria possano cambiare tutte le
connessioni esistenti nel sistema.
Una possibile risposta alle difficoltà poste dall’isomor smo potrebbe
essere quella di superare la situazione attuale (in cui esistono ancora due
versioni della legge, la prima rappresentata in linguaggio naturale e l’altra
rappresentata nel modello formale), abbandonare radicalmente il linguaggio
naturale e usare esclusivamente un linguaggio formale. Si tratta di una
prospettiva a lungo termine che apre altre due domande: i. è fattibile,
concepibile e desiderabile che tutto il diritto del mondo sia rappresentato in
un linguaggio formale? ii. Siamo sicuri che la rappresentazione e il
ragionamento formali siano uguali al ragionamento umano? E, in caso
contrario, quali sono le implicazioni di tale prospettiva?
Alla prima domanda (che ci riporta a quella che sembra essere la
posizione Goodenough) dedicherò uno dei prossimi paragra . Circa la
seconda, è interessante riportare di nuovo alcuni passaggi del lavoro di
Ashley:
La tecnologia non è in grado di leggere i testi nel senso in cui gli umani leggono, ma vi
saranno tecniche per elaborare in modo intelligente i testi, identi cando quegli elementi che
sono rilevanti per un problema e portandoli all’attenzione dell’utente in modo appropriato.
Signi cativamente, le conoscenze del programma per valutare la pertinenza, cioè per
identi care, classi care e presentare soluzioni o elementi candidati, vengono acquisite non
principalmente manualmente ma automaticamente estraendo modelli da alcune raccolte di
dati speci ci del dominio utilizzando ML65.
Almeno, questo è l’obiettivo. Anche se attualmente nessuno sa
esattamente come implementare il cognitive computing in ambito giuridico.
Il raggiungimento di questo obiettivo è soggetto all’affrontare le s de di
cui sopra, che sono sostanziali ma che tuttavia sembrano realizzabili nei
prossimi anni. L’analisi del testo e l’annotazione semantica non
consentiranno ai sistemi di leggere testi nel senso in cui gli umani lo fanno,
almeno, no ad oggi. Perché un programma può elaborare in modo
intelligente informazioni relative agli argomenti, ma non comprende gli
argomenti in un senso più profondo.
Prakken e Sartor sono certamente aperti all’uso dell’IA in campo
giuridico, anche se considerano semplicistica l’idea che «una volta che un
testo legale e un insieme di fatti siano stati chiaramente rappresentati in un
linguaggio formale, le conclusioni legali seguiranno da quella
rappresentazione in deduzione». La loro critica si basa sulla considerazione
delle molte sfaccettature che il diritto ha, come visto sopra nel paragrafo
precedente, e sulla natura non solo normativa, ma anche istituzionale del
diritto e dei diversi tipi di norme giuridiche.
Potremmo aggiungere la natura mutevole delle norme che, in modo
simile al processo di memoria nel nostro cervello, sono in qualche modo
riscritte ogni volta che vengono usate.
Insomma, l’idea della totale computabilità del diritto, la convinzione che,
alla ne, sarà reso in linguaggio formale che soppianterà il linguaggio
naturale è insostenibile, teoricamente, e un po’ naif dal punto di vista
applicativo, perché sembra dimenticare che il diritto, visto dal punto di vista
degli strumenti di IA, assomiglia a quella scurrying prey, la preda sfuggente
(di cui si è parlato nel Capitolo 2), che mette a dura prova le capacità di
calcolo logico dei sistemi di IA.
Sembra esserne consapevole chi sostiene che un giorno si potrà
esprimere tutto il diritto con un linguaggio formale, ma questo linguaggio
dovrà essere defeasible, cioè sovrascrivibile, in modo da permettere diverse
interpretazioni giuridiche (anche inconsistenti tra loro) ma capaci di
coesistere66.
6.3 Di quale diritto si sta parlando? Un passo di lato nel mondo empirico
A questo punto pare necessario un chiarimento: di quale diritto parlano
gli autori sopra citati? Quali sono le caratteristiche che essi presumono che il
diritto abbia? In altre parole, quale sica presuppongono le loro teorie?
Questo è importante perché la Mol è una fenomenologia del diritto,
piuttosto che un’ontologia del diritto. Pertanto, de nire l’oggetto della ricerca
anche nei suoi termini empirici è un passo cruciale.
A mio avviso, un approccio quantitativo al diritto mette in luce la
difficile sostenibilità di alcune idee sul diritto del futuro. Secondo il
Programma delle Nazioni Unite per l’ambiente, la popolazione mondiale è
attualmente di oltre 7.000 milioni di persone, con un drammatico aumento
dal 1500 d.C., quando era di circa 443 milioni di persone.
L’impatto sul diritto è evidente: il fatto che vi siano più individui in tutto
il mondo implica che vi siano più contatti, più attività economiche,
maggiore necessità di rispettare le regole, più violazioni e più contenziosi. In
breve, si può supporre che l’esperienza del diritto si espanda
proporzionalmente alla crescita e ai bisogni della popolazione umana.
Secondo il World Justice Forum più di 1 miliardo e mezzo di persone
(una su cinque in tutto il mondo) hanno bisogni legali insoddisfatti, che
vanno dalle controversie sulla terra, sul debito e sui servizi pubblici di base
no ai reati, violenti e piccoli, non denunciati67.
Inoltre, da un punto di vista istituzionale, la comunità globale ha la sua
(almeno formalmente) istituzione uni cante nelle Nazioni Unite (ONU). In
effetti, l’ONU è l’istituzione giuridica mondiale più comprensiva e non c’è
quasi nessun angolo al mondo che, direttamente o indirettamente, non sia
coperto da un’organizzazione delle Nazioni Unite. L’ONU conta 193 Stati
membri, 19 organizzazioni intergovernative invitate come osservatori e 50
organizzazioni intergovernative.
Ognuno di questi Stati ha qualcosa che, al netto di tutte le differenze,
funziona come un organo legislativo, una costituzione, un sistema
giudiziario e di forze dell’ordine. Quindi, in tutto il mondo vi sono almeno
193 organi legislativi, 193 sistemi giudiziari e 193 forze di polizia nazionali,
che, almeno cinque giorni alla settimana per 53 settimane all’anno (= 265
giorni all’anno), promulgano leggi, emettono decisioni e fanno rispettare la
legge, e fanno tutto ciò usando i propri linguaggi naturali nazionali, usando
carta e/o mezzi digitali, attribuendo valore a tali attività giuridiche in base ai
loro speci ci sistemi giuridici e retaggi culturali.
Se si pensa a tutto ciò, sorge una domanda fondamentale: quando
parliamo di AI e diritto, di quale diritto stiamo parlando? Goodenough e
Ashley sembrano parlare del diritto americano o del diritto espresso in
lingua inglese. Signi cativamente, nel libro di Ashley la parola
multilinguismo appare solo cinque volte, tre delle quali per riferirsi ad autori
non statunitensi. Pertanto, potremmo dire che i modelli concettuali utilizzati
da Goodenough, Ashley e Prakken-Sartor danno conto solo di una piccola
parte dell’esperienza globale del diritto oggi e solo di alcuni aspetti.
In conclusione, l’esperienza globale del diritto potrebbe essere descritta
come distribuita in due parti principali: la prima è coperta dal diritto
computazionale, che, sebbene quantitativamente limitata, sta sicuramente
espandendo il suo campo di azione (anche se non ha alcuna possibilità
concettuale e pratica di coprire, anche nel lontano futuro, tutta l’esperienza
del diritto); il secondo, è ancora espresso in linguaggio naturale e
rappresenta un campo in cui esiste la possibilità di trarre vantaggio dall’uso
dell’analisi big data. Questa seconda parte si frammenta in tante parti quanti
sono i linguaggi naturali utilizzati nei 193 Paesi di cui si è detto sopra:
questo enorme campo è scarsamente esplorato e attende la possibilità offerta
proveniente dagli strumenti digitali e dall’analisi big data.
6.4 Digitalizzazione, linguaggi naturali e formali
La digitalizzazione del diritto richiede la conversione di
informazioni/contenuti giuridici in un formato digitale, ovvero un
linguaggio che possa essere elaborato dalle macchine. Questo è il modo in
cui vengono prodotti i dati giuridici. A un primo livello, la digitalizzazione
non implica alcuna decisione su questioni come il ruolo del linguaggio nel
diritto, quale tipo di linguaggio, rapporto tra logica e diritto e altro (parole /
discorsi / immagini e altro possono essere digitalizzati).
Ad esempio, nelle fasi 1.0 e 2.0 della classi cazione adottata da
Goodenough «l’attuale rete di regole e contratti in linguaggio naturale [il
corsivo è mio], la risoluzione delle controversie su base giudiziaria e lo stato
legislativo/regolamentare rimangono in gran parte intatti». È solo nella fase
3.0 che «risulta che il codice del computer è notevolmente migliore del
linguaggio naturale»68.
La gura nella pagina seguente rappresenta il rapporto tra linguaggi
naturali e formali.
Alcune questioni che emergono da questa rappresentazione vanno ora
esaminate. È molto importante precisare cosa si intenda per «linguaggio
formale» e quale sia la sua relazione con il linguaggio naturale. Secondo
Stewart Shapiro e Teresa Kouri Kissel «un linguaggio formale è un insieme
di stringhe de nito ricorsivamente su un alfabeto sso. Alcuni aspetti dei
linguaggi formali corrispondono o hanno controparti nei linguaggi
naturali»69. Esistono diversi tipi di linguaggi formali e diversi tipi di
relazione tra linguaggi formali e linguaggi naturali. Gli autori tracciano uno
schema interessante delle diverse idee teoriche di questa relazione:
Alcuni loso affermano che le frasi dichiarative del linguaggio naturale hanno forme
logiche sottostanti e che queste forme sono evidenziate da formule di un linguaggio formale.
Altri autori sostengono che frasi dichiarative (riuscite) esprimano proposizioni; e le formule
dei linguaggi formali mostrano in qualche modo le forme di queste proposizioni. Secondo
visioni come questa, i componenti di una logica forniscono la struttura profonda sottostante il
ragionamento corretto. Una parte del ragionamento in linguaggio naturale è corretta se le
forme sottostanti alle frasi costituiscono un argomento valido o deducibile. [...]
Un’altra opinione, sostenuta almeno in parte da Gottlob Frege e Wilhelm Leibniz, è che,
poiché i linguaggi naturali sono irti di vaghezza e ambiguità, essi dovrebbero essere sostituiti
da linguaggi formali. Un’opinione simile, sostenuta da W.V.O. Quine, è che un linguaggio
naturale dovrebbe essere modi cato, ripulito per un serio lavoro scienti co e meta sico. […]
Un linguaggio reggimentato è simile a un linguaggio formale per quanto riguarda, ad esempio,
il rigore esplicitamente presentato della sua sintassi e delle sue condizioni di verità. [...] a volte
le formule in un linguaggio formale sono utilizzate nel ragionamento ordinario. Ciò suggerisce
che si potrebbe pensare a un linguaggio formale come a un addendum a un linguaggio
naturale. […]
Un’altra visione è che un linguaggio formale è un modello matematico di un linguaggio
naturale all’incirca nello stesso senso in cui […] la costruzione di Bohr è un modello di atomo.
In altre parole, un linguaggio formale mostra alcune caratteristiche dei linguaggi naturali70.
A
B
C
è l’informazione giuridica ed è insieme un’espressione testuale/linguistica (provision
or rule) e una norma (il significato della regola).
rappresenta il passaggio dal linguaggio naturale al formato digitale (linguaggio
formale).
rappresenta l’informazione giuridica (its process and logic) direttamente espresso
nel codice e può essere C1, il risultato dell’embodiment di un’informazione giuridica
che, originariamente espressa in linguaggio naturale, è stata tradotta in un
linguaggio formale oppure C2, un’informazione giuridica originariamente espressa in
linguaggio formale (come uno smart contract).
B implica il passaggio dal linguaggio naturale a un formato digitale (emulation in
software, secondo Goodenough).
C + C1 implicano il passaggio dal linguaggio naturale a un linguaggio formale (che
rappresenta direttamente il diritto).
C + C2 è l’unico percorso che non richiede alcuna traduzione e alcuna interazione con il
linguaggio naturale (sempre che si assuma che non vi sia alcuna relazione con elementi
giuridici provenienti da A, B e C1).
Se il quadro è di tale complessità, è lecito allora porsi alcune domande,
delle quali una mi sembra decisiva. Quando le informazioni giuridiche
passano dal linguaggio naturale a un linguaggio formale, qual è il contenuto
della traduzione? La dichiarazione linguistica/testuale del diritto (che è
normalmente de nita come ‘disposizione’ o ‘regola’) + (si deve assumere)
una certa comprensione del signi cato di tale frase (cioè la ‘norma’)? Ciò
sembra necessario perché senza un qualsiasi signi cato è difficile concepire
una traduzione.
Se è così, la domanda ulteriore è la seguente: qual è la corrispondenza
della/e norma/e nel linguaggio formale, ovvero il signi cato attribuito alla
regola, la sua interpretazione, che deve essere in ne applicata al caso
concreto? Le norme sono gli elementi del ragionamento giuridico e sono al
centro della ricerca di modelli computazionali71. Si deve presumere che la
norma sia pienamente incorporata nel codice? E se, almeno in parte, non lo
è, qual è la ne di un tale residuo?
6.5 Multi<natural-formal>lingualism
Un’ulteriore domanda riguarda la natura delle «molecole elementari»
nella teoria molecolare (vedi sopra, paragrafo 1): di cosa sono fatte? Sono
dati calcolabili, sono concetti giuridici, sono disposizioni o norme? La
risposta potrebbe essere che le «molecole elementari» nella prospettiva
molecolare sono a) norme nella loro composizione più semplice/più povera
(o, anche, aggregati di unità concettuali minime che funzionano come unità
complesse) e b) sono norme che potrebbero essere espresse in linguaggio sia
naturale, sia formale.
La teoria molecolare ha l’ambizione di consentire l’interoperabilità72 tra
le norme espresse in qualsiasi linguaggio. In questo senso, il rapporto tra
linguaggi naturali e formali fa parte del problema più ampio costituito dal
multilinguismo.
Propongo di chiamarlo multi <naturale-formale> linguismo
(multi<natural-formal>lingualism), usando un neologismo di cui qui di
seguito spiego le ragioni. Nel suo uso corrente la parola «multilinguismo» si
riferisce all’esistenza di diverse lingue naturali, come francese, inglese,
italiano e altro. L’ipotesi implicita è che il concetto di multilinguismo sia
equivalente a multi<naturale>linguismo. Come è noto, questo è un problema
irrisolto nell’esperienza globale del diritto (vedi avanti paragrafo 7).
Alcuni sostengono che una volta che il diritto sia rappresentato in
linguaggio formale (e non semplicemente emulato in un soware), qualsiasi
problema di traduzione sarà risolto. La traduzione in linguaggio formale
renderebbe la legge universale. A mio avviso ci sono almeno due ragioni
principali contro questa posizione:
– Il linguaggio formale utilizzato nell’informatica e in computer science
non è un’entità unitaria. Esistono diversi linguaggi formali che possono
esprimere lo stesso concetto73. Se questo è vero (e sembra essere vero, a
meno che non assumiamo che tutti i linguaggi formali siano una
speci cazione provvisoria/non esclusiva e semplice del codice binario
delle macchine o, in termini loso ci di una ‘unica logica giusta’) si deve
ammettere che un problema di multilinguismo può esistere anche
nell’ambito dei linguaggi formali. Il linguaggio UML (Unified Modeling
Language)74, descrive in modo astratto concetti e operazioni che sono
implementabili con gran parte dei linguaggi di programmazione (che
sono essi stessi linguaggi formali). In tal senso funge da ponte tra di essi
e potrebbe essere considerato un meta<formale>linguaggio che offre una
soluzione al multilinguismo formale, ovvero il
‘multi<formale>linguismo’ (multi<formal>lingualism).
– In ogni caso, la relazione tra linguaggi naturali e linguaggi formali pone
un problema di relazione tra i due campi, quello naturale e quello
formale, ognuno dei quali ha una pluralità di linguaggi al suo interno. Il
neologismo multi<natural-formal>lingualism (multi<naturaleformale>linguismo) rappresenta esattamente la de nizione di un’area
problematica in cui linguaggi diversi, naturali e formali, trovano un
modo per essere collegati, cioè interoperare (si veda avanti).
In questo paragrafo, dedicato al terzo stato essenziale del diritto
(digitalizzato), è stata presa in considerazione la relazione tra
informazioni/contenuti giuridici e linguaggio, almeno a un primo livello.
L’idea che, una volta che il diritto sia rappresentato in un linguaggio formale,
di conseguenza, qualsiasi problema di traduzione tra le lingue naturali sia
risolto, è stata criticata per la sua incoerenza teorica e per l’impossibilità
pratica.
La conclusione raggiunta è che esiste un problema di multilinguismo
anche all’interno dei linguaggi formali. Di conseguenza, la relazione tra
linguaggi naturali e linguaggi formali può essere espressa nel neologismo
multi<natural-formal>lingualism, che sta per la de nizione di un’area
problematica in cui convivono linguaggi diversi, naturali e formali, in un
modo che deve essere indagato.
7. Quarto ‘stato’ essenziale: il diritto come esperienza
globale è multilingue
Il quarto stato essenziale (il diritto è multilingue) è uno sviluppo
autonomo del terzo stato essenziale (digitalizzato). È «autonomo» perché,
anche se, in mera ipotesi, si potesse riuscire a digitalizzare/rendere
computabile tutto il diritto prodotto e esistente, ciò non escluderebbe che, in
qualche momento in qualche luogo, vi possa essere un processo di
produzione spontanea di diritto in linguaggio naturale. Un’ipotesi altamente
probabile, considerate le svariate forme di produzione del diritto. Ciò
giusti cherebbe l’esistenza di una pluralità di linguaggi in cui il diritto è
espresso, a meno che non si voglia immaginare un’autogenerazione
codi cata universale del diritto, qualcosa che sembra molto difficile da
concepire.
Se il diritto non è interamente computabile (qualunque ne sia la ragione,
teorica o pratico/tecnologica), il problema è il modo in cui linguaggi diversi,
naturali e persino formali, interagiscono tra loro, come si vedrà avanti a
proposito di interoperabilità.
Questo paragrafo tratta alcuni aspetti signi cativi dell’interazione tra i
linguaggi naturali e, in parte, completa il quadro delineato nel paragrafo
precedente in relazione ai linguaggi formali.
7.1 Sul multilinguismo (naturale) giuridico
A questo punto sorgono due domande75: la prima, come affrontare le
differenze linguistiche mentre si cerca di preservare le caratteristiche delle
diverse nazionalità; la seconda, come esprimere gli stessi (o simili) concetti
in lingue diverse, a condizione che una cosa del genere sia effettivamente
fattibile.
L’incontro di due o più lingue presuppone che i diversi sistemi culturali
possano incontrarsi.
La lingua è solo un livello del dialogo e la convinzione, che, per risolvere
il problema sia sufficiente un buon traduttore, è notoriamente semplicistica.
In realtà, in una prospettiva semiotica76, i segni linguistici (cioè le parole)
hanno due lati, il «signi cante» e il «signi cato». Il primo è la componente
fonica della parola, mentre il secondo si riferisce al concetto mentale
(diverso dal «referente», ovvero l’oggetto sico esistente nel mondo che la
parola indica) dietro quelle sequenze foniche. Questo concetto è una
costruzione sociale, prodotto di stipulazione. Pertanto, all’interno di un
particolare sistema linguistico, il signi cato di una parola sembra essere il
frutto di convenzioni che si sono sviluppate (anche inconsciamente)
all’interno di quel sistema speci co77. Se questo è generalmente valido in
linguistica, potrebbe speci camente (e a fortiori) essere considerato valido
quando si analizza un linguaggio tecnico, appartenente a un certo dominio
di conoscenza e richiede precisione nella terminologia e nell’uso (ad
esempio, il diritto).
Porre in dialogo il diritto espresso in due linguaggi naturali signi ca
identi care i signi cati delle parole, inserirle nel loro contesto speci co, e
analizzare se e come sia possibile una piena (o almeno soddisfacente)
comunicazione tra signi cati/concetti tratti da sistemi diversi, cercando di
ridurre al minimo il disallineamento concettuale dietro a quello
terminologico.
Il diritto può essere considerato, a prima vista, come una sorta di mondo
fatto di parole78 in cui agiscono diverse professioni. Gli avvocati sono ben
consapevoli della rilevanza dell’uso delle parole per il loro lavoro quotidiano:
mentre i giudici scrivono le loro decisioni seguendo percorsi argomentativi
espressi in parole, gli avvocati cercano di convincere i giudici con i loro
argomenti al ne di vincere la causa. Anche il cittadino comune è abituato a
gestire il diritto in un modo o nell’altro.
Il multilinguismo, lo si è visto sopra, è una realtà innegabile nel nostro
mondo globalizzato, con tutto il suo carico di quantità di traduzioni
necessarie (ad esempio, quando un atto legislativo deve essere tradotto in
una delle 23 lingue ufficiali riconosciute all’interno dell’UE) e di qualità delle
stesse (dove, nella difficoltà di trovare lo stesso concetto giuridico all’interno
di un altro sistema legale, a volte un nuovo concetto viene ‘trapiantato’ in un
sistema diverso, con tutti i cambiamenti di signi cato che l’immersione in
un contesto diverso comporta).
Ma è difficile concepire un insieme condiviso di concetti, in particolare
concetti giuridici, in una situazione in cui:
a. concetti corrispondenti (anche diversi) non esistono necessariamente;
b. nel caso del trapianto di un concetto giuridico, il cambiamento del
background culturale e delle condizioni ‘ambientali’, nonché la
peculiarità del sistema giuridico ricevente e il suo ‘corpo’ giuridico locale
potrebbero produrre cambiamenti di signi cato imprevedibili;
c. la copresenza delle situazioni descritte ai punti a. e b. potrebbe implicare
che in alcuni casi la comunicazione sia del tutto impossibile;
d. nel caso descritto alla lettera c., è necessario studiare la possibilità di
approcci concettuali diversi che consentano la comunicazione (come
l’individuazione di metaconcetti)79.
La conversazione tra sistemi è effettivamente possibile e fattibile solo se
si tiene conto del fatto che ogni concetto è il frutto di un precedente accordo,
che può essere inconscio, dal quale ne consegue che dobbiamo scegliere cosa
prendere in considerazione per costruire relazioni tra questi concetti80.
Giusto per chiarire questo punto, si consideri la seguente domanda: il
concetto dietro le parole «agreement», «contract», «contratto», e parole
simili è lo stesso?
Il problema non è nuovo. Tuttavia, non ha ancora avuto una risposta
univoca (ammesso che esista) o almeno fattibile. Le conseguenze pratiche
della ricerca di una simile risposta sono molteplici: ad esempio, il successo
di Semantic Web in campo legale dipende fortemente dalla reale possibilità
di trovare quella soluzione. Sopra, al punto d., si è fatto cenno alla possibilità
di implementare nuovi strumenti concettuali. Uno di questi potrebbe essere
la logica fuzzy81, che propone di esaminare i concetti cercando di indicare
dove potrebbero eventualmente sovrapporsi, aprendosi a uno scenario più
complesso in cui i criteri di vero e falso (logica del primo ordine) sono
sostituiti da una serie di verità che possono variare da 0 a 1.
7.2 Diversità linguistiche e diversità normative
Di fatto non sempre (o forse il più delle volte non) esiste l’insieme
comune di valori che rende possibile la comunicazione tra diverse lingue.
La necessità di relazioni concettuali tra diverse entità giuridiche non è
semplicemente una questione di differenze linguistiche. In effetti, possono
essere descritte tre situazioni fondamentali molto diverse, e in due di esse la
lingua, di per sé, non è il punctum dolens. Le situazioni sono le seguenti:
1. Stesso sistema giuridico (o Stato) / stessa lingua.
2. Stessa lingua / Sistemi giuridici diversi.
3. Sistemi giuridici diversi / Lingue diverse.
Della prima categoria possono essere forniti due esempi. Il primo
riguarda l’esperienza che l’Italia ha vissuto dopo la promulgazione della
Costituzione nel 1948, dopo la Seconda guerra mondiale. La Costituzione ha
introdotto un nuovo quadro giuridico e nuovi principi giuridici, che hanno
segnato una rottura con la strati cazione storica del sistema italiano. In
primo luogo, le disposizioni di legge emanate sotto il regime fascista (o
anche in precedenza) sono state sospettate di essere in contrasto con la
nuova Carta costituzionale. Le difficoltà che i giudici si sono trovati a
fronteggiare sono state risolte facendo ricorso all’interpretazione
‘costituzionalmente orientata’, introdotta dalla Corte costituzionale italiana
al ne di dare una risposta ai problemi causati dalla coesistenza all’interno
dello stesso sistema giuridico di contenuti normativi appartenenti a periodi
storici diversi (potenzialmente in con itto). La norma di legge rimaneva
immutata, in termini di espressione linguistica, ma il contenuto normativo
veniva ad essere cambiato a causa della riformulazione della questione e del
contenuto giuridico che la nuova Costituzione aveva introdotto nel sistema.
L’altro esempio riguarda gli Stati Uniti. Anche il sistema giuridico
americano può essere analizzato dal punto di vista transnazionale82. Infatti,
mentre ogni Stato dell’unione ha il suo potere legislativo e una Costituzione
separata, allo stesso tempo la Corte Suprema Federale e la magistratura sono
il luogo di una sorta di dialogo continuo tra legislatori e organi giudiziari di
diversi Stati e istituzioni federali. La National Conference of Commissioners
on Uniform State Law (NCCUSL), istituita nel 1892, è esattamente
indicativa di questa tendenza: in realtà, cerca di favorire la formazione di
leggi statali uniformi che possono essere adottate dalla maggior parte degli
Stati degli Stati Uniti. Naturalmente, misure legislative uniformi sono state
effettivamente adottate in settori in cui era necessaria la cooperazione tra
Stati, come il settore commerciale, dove la domanda di un terreno comune e
di soluzioni legislative condivise è più elevata.
I due esempi precedenti rendono evidente l’importanza del trasferimento
di contenuti normativi, sia nel tempo (il caso della Costituzione italiana) che
nello spazio (il caso degli USA). Il problema è simile in entrambi i casi: vale
a dire come far sì che sistemi giuridici sostanzialmente diversi, insiemi di
regole e regole speci che diverse, possano comunicare tra loro.
Il rapporto tra il diritto del Regno Unito e quello degli Stati Uniti illustra
la seconda categoria: anche usando la stessa lingua, nel caso l’inglese, può
veri carsi un problema di comunicazione giuridica. Se si considera
l’informed consent, senza dubbio le parole usate sono esattamente le stesse,
ma il signi cato e la portata sono uguali? Sfumature e differenze signi cative
possono essere individuate, come può aiutare a spiegare l’esistenza di un
sistema sanitario nazionale nel Regno Unito.
In ne, l’Unione Europea si distingue come uno dei casi più rilevanti
della necessità di interazione giuridica in un contesto multilingue e si
presenta come l’esempio più adatto della nostra terza categoria. All’interno
del suo territorio sono riconosciute 23 lingue ufficiali, coesistono tre lingue
di lavoro e vengono identi cate una sessantina di lingue indigene non
ufficiali. Ciò signi ca che ogni atto legislativo o amministrativo è redatto in
ventitré lingue e questo processo richiede non solo una traduzione
linguistica competente, ma anche la capacità di garantire che tutti i ventitré
documenti autentici siano ugualmente giuridicamente coerenti: in breve,
essi devono dire qualcosa che sia corrispondente dal punto divista giuridico.
Una s da considerevole.
8. La teoria molecolare in azione: interoperabilità e funzione
immunitaria
In una situazione come quella sin qui descritta, nella quale il diritto è
frammentato, disperso, non coerente o strutturato secondo una gerarchia
stabile e riconoscibile, espresso in linguaggi naturali e arti ciali e ancora
multilingue, due forze sono in azione e in bilanciamento reciproco:
l’«interoperabilità giuridica» e la «funzione immunitaria».
Si tratta di due metafore o, meglio, di due concetti presi a prestito da altre
discipline, la prima dalla tecnologia e la seconda dalla biologia, e utilizzati
all’interno del campo di ricerca de nito dalla teoria molecolare, un campo
che, nella sua stessa denominazione, è chiaramente ispirato a una metafora
chimica, quella che porta a dire che il diritto, per essere concepito nelle sue
multiformi espressioni, deve essere considerato come un insieme di
molecole (vedi paragra 1 e 2).
L’«interoperabilità giuridica» indica la proprietà che ogni molecola
giuridica ha di aggregarsi con un potenzialmente illimitato numero di altre
molecole (ma non con tutte le molecole), mentre la «funzione immunitaria»
indica il limite alla capacità aggregatrice dell’«interoperabilità» ed è capace
di opporsi a ulteriori aggregazioni, ponendo le condizioni perché le
aggregazioni abbiano un senso e, quindi, una natura e capacità normativa.
In altri termini, l’«interoperabilità giuridica» lavora come una forza che crea
connessioni il cui numero è proporzionalmente inverso al signi cato che le
connessioni stesse hanno (secondo una dinamica per cui maggiori le
connessioni = maggiore l’entità della dissipazione di signi cato), mentre la
«funzione immunitaria» tende a contenere quella dissipazione.
Il bilanciamento delle due forze evita sia la mancanza di signi cato di
connessioni che sono troppo deboli, e che quindi creano solo rumore, sia le
limitazioni troppo strette che la «funzione immunitaria» potrebbe porre,
riducendo in questo modo la capacità della teoria molecolare di spiegare
anche nuovi e non previsti fenomeni. La tensione tra il grado e il tipo di
interoperabilità che le molecole giuridiche sviluppano e la «funzione
immunitaria» determina il grado di coerenza (e, quindi, normatività).
L’«interoperabilità giuridica» e la «funzione immunitaria»
continuamente con gurano e ricon gurano lo scenario giuridico globale.
Qualcosa del genere richiama il dibattito in ambito linguistico tra chi
sosteneva la totale arti cialità delle lingue e chi faceva valere l’esistenza di
restrizioni. Ricorda Andrea Moro come negli anni Cinquanta dello scorso
secolo «nacque l’idea che le lingue umane non sono affatto prive di
restrizioni, ma condividono con poca variazione un unico complesso
insieme di principi generali, producendo in tal modo una sorprendente
costellazione di proprietà linguistiche oggi riconosciute da tutte le principali
scuole di linguistica»83. Il bilanciamento che descrive Moro, tra potenzialità
combinatorie illimitate (quelle che Lenneberg chiama convenzioni culturali
di natura arbitraria) e l’unico complesso insieme di principi generali, sembra
riecheggiare quello tra «interoperabilità giuridica» e «reazione immune».
Prima di procedere ad alcune preliminari veri che applicative (a mo’ di
proof of concept) è necessario precisare i due termini del bilanciamento sopra
delineato: «interoperabilità giuridica» e «funzione immunitaria».
8.1 Interoperabilità giuridica (Legal Interoperability)
L’interoperabilità è considerato un problema tecnico cruciale,
principalmente correlato alle tecnologie dell’informazione e della
comunicazione (ICT). Ridotto ai minimi termini signi ca che due o più
sistemi o dispositivi sono in grado di comunicare tra loro e lavorare insieme,
pur essendo diversi. Sulla pagina web del Comitato europeo per i sistemi
interoperabili (ECIS), uno dei gruppi EU interessati alla questione, si può
leggere:
Interoperability is a cornerstone of the ICT industry. In today’s networked ICT
environments, devices do not function purely on their own, but must interact with other
programs and devices. A device that cannot interoperate with the other products with which
consumers expect it to interoperate is essentially worthless84.
L’interoperabilità tecnologica è un concetto poliedrico di cui non esiste
una de nizione univoca. Tuttavia, al suo interno possono essere facilmente
distinte due componenti: l’interoperabilità sintattica, ovvero la capacità di
sistemi diversi di comunicare tra loro e scambiare dati, e l’interoperabilità
semantica, ovvero la capacità d’interpretare e utilizzare tali dati e
informazioni in modo signi cativo, utile per l’utente nale. Nel contesto
europeo sono stati individuati quattro differenti livelli di interoperabilità: (i)
strettamente ‘tecnica’, per quanto riguarda i segnali tra dispositivi; (ii)
‘sintattica’, riferita alla capacità di scambio di dati; (iii) ‘semantica’, relativa al
trattamento e all’interpretazione dei dati ricevuti; e (iv) ‘organizzativa’, che
agisce inevitabilmente anche a livello politico, poiché richiede il
collegamento di diverse procedure amministrative e organi istituzionali
(come si è visto nel Capitolo 7, a proposito di Internet of ings e tecnologia
5G).
Lo sviluppo dell’interoperabilità tra i sistemi all’interno dell’ambiente
ICT sta crescendo rapidamente ed è generalmente considerato un necessario
passo avanti. Palfrey e Gasser85 sostengono che ciò sia dovuto
principalmente al fatto che alcuni potenziali vantaggi sono già chiari: in
particolare, innovazione, concorrenza, essibilità e apertura potrebbero
essere notevolmente migliorate grazie a più alti livelli di interoperabilità, pur
con qualche rischio connesso (un attacco alla sicurezza può propagarsi più
facilmente tra sistemi interoperabili rispetto a sistemi isolati).
Il concetto di interoperabilità, a partire dal dominio puramente tecnico,
ha avuto poi uno sviluppo importante come interoperabilità culturale86,
tanto che anche a livello teorico si è sviluppata una crescente richiesta
perché fosse applicato tra sistemi che usano differenti logiche87. A mio
avviso88, l’interoperabilità può essere un utile strumento concettuale
nell’attuale stato del diritto transnazionale. L’aspetto più importante (per il
diritto) dell’idea di interoperabilità è che essa abbraccia l’idea di sistemi (di
qualsiasi tipo, e non necessariamente omogenei) che sono caratterizzati da
dimensioni e strutture diverse, si adattano tra loro e comunicano, senza, ed è
questo il punto che a me pare di importanza teorica decisiva, perdere le loro
peculiarità89. Questo concetto di base si presta facilmente ad essere applicato
in un senso più ampio, e quindi anche al diritto.
Naturalmente non mancano i problemi in ambito giuridico90.
Qualcuno potrebbe obiettare che le norme giuridiche dei Paesi di civil
law e di quelli di common law sono intrinsecamente diverse e, di
conseguenza, non suscettibili di essere connesse. Ma è facile rispondere
ricordando che il caselaw, nonostante i Paesi europei siano per lo più di
tradizione di diritto civile, ha acquisito una posizione formale importante
nell’attuale realtà europea. Nel preambolo della Carta dei diritti dell’UE
(Carta di Nizza), le giurisprudenze della Corte di giustizia europea (CGE) e
della Corte europea dei diritti dell’uomo (CEDU) sono riconosciute come
fonti del diritto costituzionale dell’UE. Naturalmente, la Corte di giustizia
europea e la CEDU non possono essere paragonate a nessun giudice
ordinario nell’Unione, ma la chiara disposizione è sufficiente (insieme ad
altri sintomi) per dire che il tabù del diritto civile è stato formalmente
violato e che non vi è motivo di escludere la possibilità che l’interoperabilità
giuridica possa funzionare tra norme di Paesi di civil law e di common law.
Se questo è vero come sviluppo storico del diritto sarà inevitabilmente
necessario adottare un punto di vista che superi la rigidità di alcune
posizioni teoriche, come quella di Schauer (vedi sopra), che sembra
riservare la qualità di ‘rule’ solo alla norma di origine legislativa, ben scritta
e a contenuto non generale e aperto. E forse bisogna anche superare la
tentazione, a fronte delle difficoltà nelle applicazioni di IA, di rifugiarsi nei
sistemi di civil law, che, un bel po’ idealizzati, fornirebbero norme più
chiaramente formulate.
Come si è visto sopra, a proposito della Carta di Nizza o del dibattito
all’American University Washington College of Law tra Antonin Scalia e
Stephen Breyer, i livelli e tipi di interazioni sono vari e intercorrono tra
elementi che hanno grande varietà di forza legale, legittimità e valore. La
capacità dell’interoperabilità giuridica di collegare particelle giuridiche
elementari frammentate, eterogenee e disperse, non ha riscontro in altri
approcci e discipline, che non hanno una proprietà inclusiva così potente.
Ciò di cui abbiamo bisogno ora è (a) fornire una dimostrazione di come
l’interoperabilità giuridica possa funzionare e dimostrare la sua capacità
attraente verso materiali giuridici dispersi, e (b) mostrare come la
connessione possa essere uno strumento di lavoro e contribuire a una nuova
forma di diritto. Lo faremo nel prossimo paragrafo, subito dopo avere
de nito la funzione immunitaria.
8.2 Funzione immunitaria
Tradizionalmente la funzione immunitaria veniva de nita come:
quella di individuare le macromolecole estranee all’organismo e di attivare le difese idonee a
eliminare sia queste, sia gli ‘invasori’ che le producono (virus, batteri, metazoi), come risulta
chiaramente dall’osservazione che gli individui nei quali il sistema immunitario non è
sufficientemente sviluppato, oppure è stato inattivato da farmaci, radiazioni o virus (per es.,
HIV), soccombono a molteplici infezioni dovute ad agenti diversi. Questa funzione di difesa
richiede che il sistema immunitario sia in grado di distinguere le macromolecole proprie da
quelle estranee91.
L’immunità, così intesa, è il meccanismo attraverso il quale un
organismo, concepito come qualcosa avente con ni ben de niti, difende sé
stesso (self). A questo livello sono decisivi la de nizione dei componenti
dell’immunità e le loro regolazioni come un sistema compiuto al suo
interno. Se è possibile un’incursione di un giurista nei presupposti logici di
questa visione, il mondo verrebbe a essere costituito da una serie
(presumibilmente ben ordinata) di organismi, ognuno con le sue
caratteristiche e i suoi con ni.
Adottando quest’ordine di idee nel diritto, il risultato sarebbe quello di
un sistema ben ordinato di enti giuridici, che siano concetti o istituti
giuridici, oppure ontologie giuridiche (nel senso che l’informatica giuridica
ha adottato). Per fare un esempio, assumendo che un diritto di credito, sorto
all’interno di una relazione contrattuale, sia ontologicamente de nito dalle
regole del contratto (che sono costitutive del suo self), dovremmo accettare
che le regole dei diritti reali o della responsabilità extracontrattuale siano
trattate come macromolecole estranee, alle quali è precluso, proprio in
ragione della reazione immunitaria, l’accesso a quel diritto di credito con il
quale non possono mescolarsi.
La teoria immunitaria, però, negli ultimi anni si è arricchita di ulteriori
aspetti ecologici di grande interesse:
quando l’organismo è inteso all’interno del suo pieno contesto ecologico, i con ni
rimangono custoditi, ma le demarcazioni non sono rigide, né per quanto riguarda il tempo né
per le funzioni; il traffico è ammesso, per scambi che apportino bene cio. Allora se si assume
un più pieno contesto ecologico, la cooperazione e relazioni benigne devono anche essere
considerate. Di conseguenza, il sistema immunitario, attraverso l’attiva tolleranza di sostanze e
microorganismi ‘stranieri’ conserva il suo ruolo di guardiano, ma ora al servizio del
metabolismo, dello sviluppo, e, in de nitiva, dell’evoluzione dell’olobionte92.
L’autore, Alfred Tauber, conclude affermando che l’insieme delle attività
immunitarie appare meglio descritto non come un interruttore sì/no
governato dall’individualità, ma piuttosto come un ‘reostato’, capace di
modulare la risposta lungo un continuum di accettazione o ri uto.
Cambiano in tal modo anche le basi dell’identità, che si espandono sulla
base di relazioni che sono mediate dall’immunità, tanto che gli agenti
mutano da entità indipendenti in entità collettive complesse, mentre
l’individuo appare come un «multigenomic organism embedded in a
complex environment». In sintesi, le funzioni immunitarie si espandono da
una visione dell’organismo segregato nel suo ambiente a uno scenario
relazionale che meglio si adatta allo scambio ecologico.
Una concezione del genere delle funzioni immunitarie ben si combina
con l’interoperabilità e, sin da subito, consente di risolvere il caso giuridico
sopraccennato.
Se si immagina la funzione immunitaria al lavoro insieme
all’interoperabilità, allora il giurista non si meraviglierà più della
commistione tra regole del contratto e regole della responsabilità
extracontrattuale che la tutela esterna del diritto di credito ha generato nei
nostri sistemi, perché il reostato immunitario avrà considerato una relazione
benigna quella che consente che anche un diritto di credito abbia una tutela
a fronte di condotte lesive poste in essere da soggetti estranei al contratto
che ha originato il credito. E considerazioni analoghe si potrebbero fare per
altri tentativi di concettualizzazione di nuove entità giuridiche, come la
«nullità sopravvenuta» e altri esempi possibili.
L’immunologia non nisce di stupirci e va ancora oltre:
the immune system also responds to endogenous components, that is, to the self. In fact, a
signi cant degree of autoreactivity and autoimmunity is indispensable for a healthy immune
system. Immune responses such as the phagocytosis of dead cells, tissue repair and regulatory
responses are in most cases responses to the self93.
Il sistema immunitario, quindi, riconosce ed elimina anche parte del sé,
quando riconosce la cellula vecchia o malata, da sostituire. In ambito
giuridico, questa potrebbe essere la propensione alla revisione dei sistemi,
eliminando ciò che è obsoleto94.
Non sia tratto in inganno il lettore. Non sono espedienti da
azzeccagarbugli, abili manipolatori capaci di eguagliare quadrata rotundis,
ma della plasticità del diritto a fronte della evoluzione sociale.
8.3 Esempi di casi non adeguatamente spiegati
La disaggregazione dei sistemi giuridici lascia sul terreno un’enorme
quantità di singoli pezzi di diritto, diciamo di molecole giuridiche (vedi
sopra), che, in parte indipendentemente dai loro campi giuridici di origine
(pubblici o privati, costituzionali o sovranazionali, e così via), mostrano
alcune proprietà speciali. La proprietà più importante è di essere in grado di
lavorare sia nel proprio contesto di origine (eventualmente secondo
l’intenzione di coloro che hanno introdotto quella speci ca legislazione), sia
in contesti diversi, ogni volta che entrano in contatto con fonti o elementi
giuridici diversi. La principale novità nell’ambiente transnazionale sembra
essere non la sovversione dei vecchi sistemi giuridici nel loro insieme o la
loro scomparsa, ma piuttosto la co-presenza del vecchio sistema (che
funziona ancora in zone che si potrebbero dire tradizionali, come, per
esempio, le regole di vicinato tra fondi) e diversi tipi di interazioni (vecchie e
nuove), che corrispondono a connessioni e gerarchie di diritto diverse e
instabili.
L’interoperabilità giuridica, che focalizza sulle differenze piuttosto che
sulle somiglianze, ha come obiettivo di mettere in contatto (e di rendere
operativi) elementi che originariamente sarebbero separati a causa di alcuni
disallineamenti vuoi concettuali o linguistici, vuoi territoriali o per
appartenenza a differenti giurisdizioni.
In pratica, l’interoperabilità giuridica è in grado di spiegare alcuni
fenomeni giuridici che, per quanto, molto diversi nella loro natura, possono
essere ricompresi in un unico quadro concettuale. In questo paragrafo,
vengono considerati alcuni casi e problemi giuridici che le tradizionali
impostazioni disciplinari hanno una particolare difficoltà a spiegare. Alcuni,
già oggetto di trattazione, vengono solo richiamati, altri vengono spiegati in
modo più esteso.
Costituzione del Sudafrica. L’articolo 39 della Costituzione della
Repubblica del Sudafrica (1996) autorizza esplicitamente i giudici a
«considerare il diritto straniero» quando interpretano la Carta dei diritti. In
questo caso, esiste una disposizione costituzionale (una vera novità nel
panorama mondiale delle Costituzioni nazionali, una novità di cui il
Sudafrica è orgoglioso) che dà la possibilità di interiorizzare una legge
straniera e di cambiarne la natura, in modo che diventi un pezzo di diritto
interno, a condizione che il giudice fornisca una giusti cazione per questo.
La questione non è di facile concettualizzazione. Tradizionalmente il
diritto straniero viene trattato come un ‘fatto’ e non come un’entità giuridica,
che è in grado di interagire alla pari con le regole interne. Edward K.
Cheng95 sottolinea come, per quanto la Rule 44.1 (introdotta nelle Federal
Rules of Civil Procedure nel 1966) indichi ai giudici americani di
considerare il diritto straniero come una questione giuridica96, i giudici sono
spesso riluttanti a rispettare questa regola. In pratica, preferiscono un
approccio ‘ibrido’ o per lo più continuano a fare affidamento su esperti del
settore al ne di dimostrare il contenuto del diritto straniero e chiedere alle
parti di adempiere al proprio onere della prova al riguardo. Il risultato,
descritto da Cheng, è che in tal modo si cada in una terra di nessuno tra
‘diritto’ e ‘fatto’97.
L’interoperabilità giuridica è in grado di comprendere questo fenomeno
giuridico nel suo quadro concettuale: la quali cazione diritto
straniero/interno oppure fatto/diritto non paralizza l’operatività consentita
dall’art. 39 di cui sopra, che risolve un problema, mentre il diritto interno e
quello straniero mantengono ancora il loro proprio stato. L’art. 39 rende
interoperabili, ma solo per il Sudafrica, entità alle quali negli ordinamenti è
formalmente precluso interagire (salvo ricorrere a espedienti di cui si dirà in
relazione agli USA). Bene, è proprio in casi come questi che
l’interoperabilità giuridica è in grado di riconoscere e stabilire la
connessione anche se il diritto nazionale e straniero sono eterogenei come
tipologia, uno avendo valore giuridico e l’altro essendo un fatto. La
giusti cazione fornita dal giudice svolge la funzione immunitaria.
Diritto straniero e USA. Si è ricordato sopra (a proposito delle gerarchie
in ambito giuridico) il dibattito tra due notissimi giudici della Corte
suprema federale americana, Antonin Scalia e Stephen Breyer, in occasione
della sentenza della stessa corte che nel dichiarare la contrarietà al Bill of
rights delle leggi aveva fatto ricorso alle esperienze giuridiche europee, e di
come Norman Dorsen delineò i diversi possibili tipi di interazione
all’interno del sistema giuridico statunitense: a) interazione con il diritto
costituzionale straniero; b) interpretazione di trattati internazionali o
decisioni di corti straniere, con valore che può essere di ‘precedente da
seguire’ (authority) oppure solo persuasivo o retorico; c) gli USA che
assicurano l’esistenza di un contesto morale e giuridico condiviso con il resto
del mondo. In realtà, messa la questione in termini formali (come fece
Scalia, secondo la sua nota teoria originalista), non vi è via di uscita, e il
miracolo può essere compiuto facendo ricorso al valore non conclusivo di
quei richiami, un valore culturale (anche retorico), che dà al giudice
l’opportunità di conoscere (e di trarre spunto da) cosa colleghi di altri Paesi
hanno fatto sulla stessa materia (la tesi di Breyer).
L’interoperabilità suggerisce una via giuridica (e non meramente
culturale) per porre in contatto elementi normativi provenienti da diversi
Paesi, seguendo alcuni criteri di cui si dirà nel paragrafo nale. È ancora
necessario considerare i singoli ordinamenti come scatole chiuse, la cui
unica nestra è costituita dal potere legislativo?
La Carta di Nizza e gli ordinamenti statali europei. Si è visto sopra come
la Carta dichiaratamente e ufficialmente riguardi esclusivamente il diritto
comunitario (secondo l’articolo 52 della Carta), ma sia ‘usata’ dai giudici in
un modo diverso. Il sito web europeanrights.eu fornisce un monitoraggio
sistematico dei materiali giudiziari, legislativi e di altro tipo relativi alla
protezione dei diritti fondamentali in Europa e offre principalmente un
vasto archivio di casi nazionali ed europei. Offre una sorprendente
dimostrazione di come la protezione dei diritti umani nei Paesi dell’UE sia
qualcosa che va oltre i valori legali e la gerarchia delle loro fonti. In pratica, i
tribunali europei hanno iniziato ad applicare la Carta dei diritti
fondamentali dell’UE (Carta di Nizza) come se fosse una fonte di diritto nei
sistemi giuridici interni.
Anche qui, o si conclude che ampia parte dei giudici europei violino i
limiti dei propri poteri o si accetta l’uso retorico o argomentativo o
rafforzativo del ricorso alle statuizioni della Carta. Oppure si vede in ciò un
chiaro esempio di interoperabilità giuridica in atto. Esso può aiutarci a
identi care tutte le sfumature nell’applicazione di tali disposizioni all’interno
di diversi Stati membri, anche al di fuori dei soliti con ni della gerarchia del
diritto e della razionalità prestabilita di fonti del diritto. La motivazione data
dal giudice svolge la funzione immunitaria.
Il diritto straniero e il caso Englaro. Nel molto noto caso italiano di
Eluana Englaro, la Corte di cassazione nella sentenza decisiva fa ampio
riferimento a fonti giuridiche e a casistica giudiziaria di Paesi diversi
dall’Italia. Il Parlamento italiano solleva un con itto di attribuzione contro
l’autorità giudiziaria, che avrebbe travalicato i limiti del proprio potere a
danno del Parlamento, affermando, tra le varie questioni, che «la Cassazione,
traendo spunti da ‘una congerie di richiami a soluzioni che al riguardo
sarebbero state adottate in ordinamenti e sentenze straniere’ e spingendosi
persino oltre i limiti ivi tracciati, avrebbe essa stessa confermato
‘l’impossibilità di reperire nel nostro ordinamento vigente una apposita
disciplina legislativa’».
La Corte costituzionale dichiara inammissibile la questione (ordinanza
n. 334 del 2008), travolgendo anche la questione del diritto straniero nella
più generale considerazione che un con itto di attribuzione nei confronti di
un atto giurisdizionale non può ridursi alla prospettazione di un percorso
logico-giuridico alternativo rispetto a quello censurato, giacché il con itto di
attribuzione «non può essere trasformato in un atipico mezzo di gravame
avverso le pronunce del giudice». Letto in controluce, la Corte dice che
anche la citazione di giurisprudenza straniera non costituisce una violazione
dei limiti del potere giudiziario, perché rientra nella libertà argomentativa
del giudice. Ma se si considera il modo in cui in larga parte del mondo
occidentale si è venuto formando il diritto di ne vita bisogna dire che la
comunicazione tra elementi di ordinamenti giuridici diversi è stata di
grande importanza e che pare non esauriente dal punto di vista teorico dire
che si sia trattato solo di scambi culturali. La motivazione del giudice svolge,
anche in questo caso, la funzione immunitaria.
La Corte europea dei diritti dell’uomo e la ‘legge’ europea. La Corte EDU,
sin dal leading case Sunday Times v. UK, 1979, e poi anche in altri casi, come
S. and Marper v. UK, 2008, si è trovata di fronte alla difficoltà di de nire
cosa fosse ‘legge’ secondo la Convenzione, mentre gli Stati aderenti hanno
sistemi sia di civil law sia di common law. La questione era di grande
rilevanza perché proprio la Convenzione ammette certo la possibilità di
deroghe ai diritti e alle libertà dalla stessa riconosciuti, ma a patto che ciò
avvenga con una ‘legge’ e che abbia determinati requisiti. I giudici di
Strasburgo hanno stabilito che il termine ‘legge’ non è riferibile in senso
stretto all’atto legislativo emanato dal Parlamento, ma abbraccia,
indipendentemente dal nomen juris, tutte le disposizioni aventi valore o
forza di legge secondo una check list di requisiti adottata dalla stessa Corte.
Possono essere considerati ‘legge’ anche i documenti di tipo regolamentare,
governativo, amministrativo, i precedenti, le fonti di diritto non scritto, il
diritto internazionale, purché dotati dei seguenti requisiti: accessibilità
pubblica, prevedibilità, chiarezza, precisione, completezza di previsioni e
tassatività.
Anche in questo caso, il risultato può essere considerato un caso di
interoperabilità in action tra entità anche formalmente diverse: la Corte
EDU ha prodotto un sistema di legittimazione di fonti inferiori equiparate a
fonti superiori, ma anche di delegittimazioni di entità giuridiche che
appaiono essere ‘leggi’, ma che leggi non sono secondo la check list. La check
list svolge la funzione immunitaria.
‘We are still in’. L’accordo di Parigi sul clima e il ritiro degli USA. Il 1°
giugno 2017 la Casa Bianca annuncia la sua intenzione di ritirarsi
dall’accordo di Parigi: «per adempiere al mio solenne dovere di proteggere
l’America e i suoi cittadini, gli Stati Uniti si ritireranno dall’accordo sul clima
di Parigi»98. Tuttavia, una vasta parte del popolo americano sembra avere
una visione diversa. Dalla sua prima pubblicazione, il 5 giugno 2017, oltre
3.700 uomini d’affari, leader di municipi, di parlamenti, di campus
universitari americani, che rappresentano oltre 155 milioni di americani e
9.45 trilioni di dollari (un trilione indica mille miliardi) dell’economia degli
Stati Uniti, hanno rmato la dichiarazione We Are Still In99. La lettera aperta
alla comunità internazionale ha un tono solenne:
We, the undersigned mayors, governors, college and university leaders, businesses, and
investors are joining forces for the rst time to declare that we will continue to support climate
action to meet the Paris Agreement. […] In the U.S., it is local and state governments, along
with businesses, that are primarily responsible for the dramatic decrease in greenhouse gas
emissions in recent years. Actions by each group will multiply and accelerate in the years
ahead, no matter what policies Washington may adopt100.
L’iniziativa, che continua a espandersi anche in altri importanti Paesi (da
ultimo l’organizzazione similare giapponese, la Japan Climate Initiative),
pone alcuni interessanti problemi. L’accordo di Parigi sul cambiamento
climatico è un accordo internazionale di cui sono parti e rmatari gli Stati,
come è chiaramente indicato dall’art. 20101. Iniziative come We are still in
sono pure azioni politiche o hanno anche un diverso e ulteriore valore
giuridico? Quando i sottoscrittori affermano che rispetteranno i limiti
dell’accordo di Parigi stanno dando rilevanza internazionale a una tipica
questione costituzionale interna agli USA (i limiti del potere federale)? Il
problema qui è che l’accordo è stato rmato dal governo federale degli Stati
Uniti, che poi ha deciso di uscire. Le istituzioni e gli attori interni, pur non
avendo formalmente il potere di non uscire, comunicano alla comunità
internazionale e all’ONU che, nonostante la decisione del proprio governo di
rinunciare, vogliono rimanere dentro: avendo la decisione del governo di
ritirarsi pieno valore giuridico, la comunicazione di essere still in potrebbe
essere considerata forse l’equivalente di una nuova rma? Da questo punto
di vista è anche interessante la reazione del segretario esecutivo della
Convenzione quadro delle Nazioni Unite sui cambiamenti climatici, il quale
dichiara che l’ONU è solo il depositario dell’accordo e che si dovranno
attendere le reazioni di altri Stati.
Tutto questo può portarci a dire che gli Stati Uniti si stanno
disaggregando? Direi proprio di no, e che piuttosto tutta la vicenda rientri
tra quei casi in cui soggetti che, secondo la concezione tradizionale, non
avrebbero legittimazione come soggetti del diritto internazionale,
acquistano rilevanza. È anche un segno, tra i tanti, di disallineamento del
territorio dalle istituzioni statali di riferimento. Così come è un segno il
«patto delle città libere» rmato dai sindaci di Bratislava, Budapest, Praga e
Varsavia contro i rispettivi gorverni (di cui parlano le agenzie di stampa del
16 dicembre 2019).
Questo è un ulteriore caso in cui, per dar conto di una realtà del genere,
vi è bisogno di una visione del diritto che superi le partizioni
nazionale/internazionale, pubblico/privato e via… separando. Solo una
visione che dia evidenza ai singoli componenti la miscela del problema,
indipendentemente dalla loro quali cazione di partenza, può essere in grado
di raccogliere in un unico quadro una vicenda del genere.
9. La teoria molecolare (MolTh) come complesso campo di
ricerca
Dopo aver letto i casi riportati nel paragrafo precedente il lettore
potrebbe (generosamente) dire che essi confermano la necessità di un
superamento delle categorie tradizionali e di elaborare idee che siano in
grado di ricomprendere vicende così diverse una dall’altra, ma potrebbe
(criticamente, e a ragione) rilevare che lo strumento interoperabilità
giuridica è un lo troppo tenue e impreciso per essere utilmente applicato in
modo da generare non solo collegamenti, ma anche possibili soluzioni per
questioni nuove.
Il rilievo è meritevole di attenzione. Le dinamiche immunitarie possono
dare un lume. Si deve provare a immaginare la totalità delle connessioni tra
le molecole giuridiche (quale che ne sia natura e provenienza) come un
grande network costituito da nodi e archi, la cui descrizione sia in grado di
fornire sia (elementi per) spiegazioni, sia modelli di predizione dello
sviluppo delle relazioni.
La prospettiva è di notevole complessità. Alcuni criteri circa i modi di
aggregazione/disaggregazione di nuovi nodi nel network molecolare
possono fornire un primo indice. Qui di seguito una prima elencazione:
a. Criterio quantitativo. Più frequente è il riferimento che leggi, precedenti,
case-law, so law e altro fanno a una molecola giuridica o a un nucleo
giuridico (insieme di molecole), maggiore è il valore (potenzialmente)
giuridico che quella molecola o nucleo giuridico hanno (questo è, ad
esempio, signi cativo nel caso dei riferimenti dei giudici nazionali alla
Carta di Nizza).
b. Criterio qualitativo. Più precisa e convincente è la spiegazione dei motivi
per cui è stato selezionato (giusti cazione) un nucleo giuridico
(uniforme) esterno, più forte è la scelta e maggiore è la possibilità che
tale collegamento sia seguito in altri casi (si veda la forza ordinante del
caso Marper v. UK, 2008, oppure le sfumature descritte da Norman
Dorsen alla Washington University sui diversi modi e sul valore di
riferirsi ai precedenti da altri Paesi).
c. Criterio di esclusione (limiti). Nel costruire queste relazioni si
dovrebbero abbandonare (come criterio di
aggregazione/disaggregazione) giusti cazioni basate su distinzioni come
nazionale/straniero, nazionale/internazionale (il caso We are still in),
fattuale/giuridico e altre che sono non coerenti con l’approccio
molecolare (quelle caratteristiche possono essere rilevate se lo scopo
conoscitivo lo richiede – per esempio per sapere come si distribuisce
territorialmente una certa norma –, ma non come criterio di
inclusione/esclusione). Alla stessa stregua si dovrebbe abbandonare
l’opposizione linguaggio naturale/linguaggio arti ciale/prodotto di IA (si
veda Capitolo 4 sulla costruzione della motivazione e, sopra, il paragrafo
dedicato al multilinguismo).
d. La costruzione di questo network dovrà avvalersi delle tecniche più
avanzate di IA (nelle più diverse forme), a partire da data warehouse102
che raccolgano grandi quantità di dati giuridici necessari per
l’elaborazione machine learning. L’obiettivo è quello di costruire
strumenti tecnici che siano in grado di dar conto di entità molecolari che
sono così uttuanti e variabili da ricordare la scurrying prey (la preda
sfuggente) che mette a prova le non comuni capacità del falco.
Un network governato da questi criteri dà una visione di come il diritto
del futuro sia già nato, ovviamente come embrione. Bisogna avere occhi per
vederne il pro lo, pur frammentato, che comincia a essere riconoscibile103.
Va colta una coerenza nuova, anche quando gli elementi vengono, come è
inevitabile che sia, dal passato. Quello che conta è la mappa nella quale
collocare ciò che accade, i fatti, i progetti, le visioni. L’intelligenza arti ciale è
protagonista di questa mappatura, non per duplicare il diritto esistente o per
rimpiazzarlo in toto, ma piuttosto per costruire regole di compatibilità. Il
risultato può essere una concezione del diritto che sia relativista, pluralista e
policentrica (non obiettivista, non monista e non gerarchica) dei fenomeni
giuridici104.
Come si diceva in apertura di questo capitolo, quella che qui viene
chiamata «Teoria molecolare del diritto» (Mol) non ha i caratteri
compiuti di una teoria (come insieme coerente di proposizioni veri cabili
circa un fenomeno), ma vuole fornire elementi sufficienti per una prima
de nizione di un campo di ricerca complesso e per il quale le forze e le
competenze non saranno mai abbastanza.
Il lavoro da fare è tanto e riguarda non solo la dimensione giuridica, ma
anche quella civile, senza la quale non vi è tecnicismo che valga. Perché
l’obiettivo è che il diritto sia per tutti: the law is for everyone, citando in
modo infedele il fondatore di Internet105.
1 ROVELLI 2014, p. 31.
2 Per una posizione teorica basata su una lunga lista di ipotesi (IF), si veda EINSTEIN 1905.
3 Uso il termine «descrizione» invece di «spiegazione» perché dovremmo essere in grado di
descrivere anche qualcosa che al momento non siamo in grado di spiegare: describe > explain.
4 Sul tema controverso dei requisiti di una teoria scienti ca (e anche non scienti ca) si veda
WINTHER 2016.
5 Questa affermazione è tratta dal campo della teoria dell’evoluzione. Devo a Telmo Pievani questo
spunto. La citazione originale è la seguente: «e result is a structure of the theory of evolution,
intended as a complex research programme, more articulated in a pluralistic frame, more realistic in
its assumptions about the currently available evidences, with revisions of previously too restrictive
concepts (regarding the ‘universality’ of some patterns)» (PIEVANI 2016, p. 446).
6 Sulla distinzione si veda Capitolo 4, paragrafo 6.2.
7 Adotta decisamente la suggestiva metafora della sica quantistica BIN 2009, pp. 35-60.
8
e
Columbia
Electronic
Encyclopedia,
2013,
disponibile
all’indirizzo
https://encyclopedia2.thefreedictionary.com/molecule, visitato il 12 novembre 2017.
9 WINTHER 2016, p. 31 (traduzione mia: «many components of theory structure, such as
metaphors, analogies, values, and policy views have a non-mathematical and ‘informal’ nature, and
they lie implicit or hidden»).
10 Il concetto di causa nel pensiero contemporaneo ha nito per incentrarsi sull’alternanza
ontologica di causalità lineare (necessità e determinismo) e causalità non-lineare o intricata (caso e
indeterminismo).
11 Si veda anche Capitolo 6, paragrafo 5; SINI 2009; FRANSSEN – LOKHORST – VAN DE POEL
2010.
12 PIEVANI 2016.
13 Traduzione mia: «all law which regulates actions or events that transcend national frontiers.
Both public and private international law are included, as are other rules which do not wholly t into
such standard categories»: JESSUP 1956, p. 2. Si vedano anche SCOTT 2009; ZUMBANSEN 2006, pp.
738-754; BROWNSWORD 2008.
14 Da qui in avanti in questo paragrafo mi avvalgo (sviluppandole) di mie precedenti ricerche
pubblicate in SANTOSUOSSO 2011b.
15 KOH 2009, pp. 313–326.
16 Così viene presentato il volume KAMMINGA – SCHEININ 2009. Si veda anche LANGFORD
et al. 2013. Signi cativa la missione della corte internazioanle penale: «e International Criminal
Court promises to bring to justice odious public offenders based on a worldwide criminal code, while
inter-governmental cooperation increasingly brings to trial some of the most notorious international
criminals», presso https://www.globalpolicy.org/globalization/globalization-of-law.html, visitato 8
agosto 2017).
17 Dal sito https://www.coe.int/en/web/human-rights-convention/the-convention-in-1950,
visitato il 4 agosto 2019.
18 Informazioni sulla Corte sono disponibili presso il sito http://www.echr.coe.int/ e http://eurlex.europa.eu/. La fonte delle statistiche è European Court of Human Rights, Analysis of statistics 2016,
http://www.echr.coe.int/Documents/Stats_analysis_2016_ENG.pdf.
19 Per una visione complessiva della materia si veda MAZZESCHI 2013.
20 Di cui si parlerà alla ne di questo capitolo.
21 CASSETTI 2010.
22 Il resoconto del caso e i collegamenti a tutti i materiali sono disponibili presso
https://iachr.lls.edu/sites/iachr.lls.edu/ les/iachr/Cases/Barrios_Altos_v_Peru/benson_barrios_altos_
v._peru.pdf, visitato il 19 dicembre 2019.
23 Il segretario generale, Ko Annan, pose una questione cruciale all’Assembrela Generale delle
Nazioni Unite: «If humanitarian intervention is, indeed, an unacceptable assault on sovereignty, how
should we respond to a Rwanda, to a Srebrenica – to gross and systematic violations of human rights that
affect every precept of our common humanity?»: International Commission On Intervention And State
Sovereignity
(2001),
p.
VII
e
VIII,
disponibile
presso
https://idl-bncidrc.dspacedirect.org/bitstream/handle/10625/18432/IDL-18432.pdf?sequence=6&isAllowed=y,
visitato il 7 agosto 2019.
24 HAASS 2017, pp. 2-9. Richard Haass è presidente del Council on Foreign Relations.
25 https://www.globalpolicy.org/globalization/globalization-of-law.html, sito del Global Policy
Forum, è un osservatorio politico indipendente che controlla il lavoro delle Nazioni Unite, visitato il 5
agosto 2019.
26 PARKER 2017.
27 KING 2017.
28 BALDWIN 2016, p. 14 della traduzione in italiano (Il Mulino, 2018); le citazioni successive
sono tratte dalle pp. 15-16.
29 Tra i molti autori che oggi condividono l’idea della frammentazione del diritto si veda
HOLMES P. 2014, pp. 553-583.
30 LOSANO 2008, pp. 58-61; corsivi miei. Si veda anche SOMEK 2017, p. 16, «these parts of
Kelsen’s project have forever set modern legal positivism against ‘common sense’». È interessante
notare come autorevole dottrina contemporanea indichi proprio il venir meno di queste distinzioni
come tratto caratteristico della globalizzazione del diritto: «as Twining notes, there is not much
security to be had in a world where lawyers (and others) witness the erosion of dearly held
distinctions such as public/private, state/nonstate, and even law/nonlaw, prompting them to
contemplate ‘law’s fading coordinates’», ZUMBANSEN – DISEMBEDDED 2013.
31 È il Kelsen del Das Problem der Souveränität und die eorie des Völkerrechts, scritto durante la
Prima guerra mondiale e pubblicato nel 1920, come ricostruito da ZOLO 2007.
32 KELSEN 1979; LOSANO 2008, p. XXI. Quando si cita Kelsen è essenziale ricorrere a una
corretta periodizzazione. A tal ne ci si può rifare al lavoro di Stanley L. Paulson (PAULSON 1996,
pp. 797-812, specialmente 797-798): «Kelsen’s early phase, critical constructivism, is evident above all
in the Hauptprobleme der Stautsrechtslehre (1911) […] continues up to about 1920. e middle,
classical phase, from about 1920 to 1960, comprises two crucial developments, both evident by the
mid-1920s. Kelsen’s effort […] to provide something approximating a neo-Kantian foundation for the
normativity thesis; the case Kelsen makes here is familiar from his theory of the basic norm. […]
Kelsen adopts from his colleague, Adolf Julius Merkl, the doctrine of hierarchical structure
(Stufenbaulehre) as the basis for conceptualising the legal system, a development marking the
beginnings of Kelsen’s ‘dynamic’ turn, his work on a procedurally oriented theory whose elements
displace many of the ‘static’ elements of the Hauptprobleme. Finally, in a late, skeptical phase, aer
1960, Kelsen throws over much of the Pure eory of Law as we know it from his middle, classical
phase, defending in its place a volitional or ‘will’ theory of law».
33 ZOLO 2007, p. 8. Per un quadro interessante della frammentazione delle fonti nella esperienza
costituzionale soprattutto italiana si veda BIN 2009.
34 SCHAUER 1991, pp. 10-11.
35 SLAUGHTER 2000, pp. 1103-1124.
36 SANTOSUOSSO 2011, nella seconda edizione del 2016, Capitolo 2, aggiornato da Marta
Tomasi. Mie precedenti ricerche in SANTOSUOSSO – AZZINI 2010; SANTOSUOSSO 2002a, p. 809.
37 SANTOSUOSSO 2002a, p. 809 ss.; CARTABIA 2003; RUGGERI 2008, p. 11. Per le dinamiche
che l’interazione tra il diritto nazionale e quello europeo crea, la descrizione di Bin è tra le più colte e
interessanti: BIN 2009.
38 Sul tema e sulle diverse posizioni rinvio a SANTOSUOSSO – AZZINI 2010.
39 RUGGERI 2007, pp. 6-12. L’autore afferma che il metodo gerarchico costituisce un approccio
errato per il sistema delle fonti del diritto e propone di utilizzare, anziché un approccio verticale, un
approccio di tipo orizzontale.
40 SANTOSUOSSO 2002a, pp. 809-816.
41 Il sito http://www.europeanrights.eu/ (visitato il 10 agosto 2019) contiene buoni esempi di
questo uso oltre i limiti giuridici della Carta.
42 SCALIA – BREYER 2005.
43 Per il ruolo che può giocare il concetto di interoperabilità giuridica, si veda avanti sub paragrafo
8.
44 PRAKKEN – SARTOR 2015, p. 215: «Law is not just a body of rules but also consists of
institutions for creating (legislators), applying (judges and administrators) and enforcing (police and
administrators) these rules. Also, legal norms do not exist in isolation but as elements of legal systems,
where different kinds of norms exist. Certain norms directly govern individual behavior, establishing
permissions, obligations, prohibitions or rights (e.g. a prohibition to smoke in school premises). Other
norms establish when the conditions of a behavior-governing norm are satis ed (e.g., a norms
establishing what counts as a school premise). Again other norms determine under what conditions
new valid norms are created (e.g. a statute empowering a city council to regulate smoking). en there
are norms which determine who should adjudicate con icts according to the existing norms (e.g., a
law giving justices of peace the power to decide cases concerning the violation of smoke rules). And
there are norms that confer powers to enforce norms (e.g., a regulation giving police officers the
power to issue nes for the violation of smoke prohibitions)».
45 GROSSI 2003, p. 85.
46 SOMEK 2017, traduzione mia da p. 32: «If any act is, however, both law creating and law
applying, it is also neither one nor the other. It is a synthesis of both. is synthesis has been given
different names in different theoretical traditions. […] these various conceptions do not matter. What
matters is that taking this step marks the end of legal positivism since it fundamentally alters the
ontological commitment of legal theory. e law is no longer deemed to be produced and
subsequently to be just there. Rather, the law is in a permanent state of reproduction». E si veda p. 4
per l’insieme di entità stabili e astratte.
47 Si veda il numero speciale e Many Fates of Legal Positivism, 1 February 2011, «German Law
Journal», 12, pp. 599-826.
48 HAYEK 1978; GROSSI 2018.
49 Vedi sopra, Capitolo 4, paragrafo 6.2 e PRAKKEN – SARTOR, 2015, pp. 214-245.
50 COPELAND 2017, pp. 3-4.
51 «ASCII stands for American Standard Code for Information Interchange. Audio and video
digitization uses one of many analog-to-digital conversion processes in which a continuously variable
(analog) signal is changed, without altering its essential content, into a multi-level (digital) signal. e
process of sampling measures the amplitude (signal strength) of an analog waveform at evenly spaced
time markers and represents the samples as numerical values for input as digital data»: Margaret
Rouse, Digitization, disponibile presso https://whatis.techtarget.com/de nition/digitization?
vgnextfmt=print, visitato il 15 agosto 2018.
52 Si vedano anche IRTI 2016; GARAPON – LASSèGUE 2018; PAGALLO 2014.
53 GOODENOUGH 2015, pp. 3-17.
54 «e-discovery (Electronic-DISCOVERY): Relevant evidence in a court case that resides in
electronic form. It includes all types of electronic les, including Web pages, email correspondence, as
well as database, word processing and spreadsheet les. Compiling electronic evidence is much faster
than manual coding from paper documents as has been common in the past. Meta-data such as date,
from, to and type of document can be extracted automatically from electronic les in order to create
an evidence database»: «e-discovery». Computer Desktop Encyclopedia. 1981-2019. e Computer
Language Company Inc, https://encyclopedia2.thefreedictionary.com/e-discovery, visitato il 31 agosto
2019.
55 ASHLEY 2017, p. 3 e passim.
56 ASHLEY 2017, pp. 3-4: «CMLRs and CMLAs break down a complex human intellectual task,
such as estimating the settlement value of a product liability suit or analyzing an offer and acceptance
problem in a rst-year contracts course, into a set of computational steps or algorithm. e models
specify how a problem is input and the type of legal result to output. In between, the model builders
have constructed a computational mechanism to apply domain knowledge to perform the steps and
transform the inputs to outputs».
57 «A Question-answering system searches a large text collection and nds a short phrase or
sentence that precisely answers a user’s question» (PRAGER et al. 2000). «Information extraction is
the problem of summarizing the essential details particular to a given document» (FREITAG 2000). A
proposito di interventi manuali si veda LANCE 2018b: «In other words, Google and Bing’s search
results are manually aided, corrected, and trained by over one million human beings. is distributed
labor force is responsible for the reliability and integrity of the searches we conduct every day».
58 KATZ – BOMMARITO 2014, p. 5.
59 «CMLRs and CMLAs developed in the AI & Law eld will employ information extracted
automatically from legal texts such as case decisions and statutes to assist humans in answering legal
questions, predicting case outcomes, providing explanations, and making arguments for and against
legal conclusions more effectively than existing technologies can […]. Some CMLRs and CMLAs
could help advanced AI programs make intelligent use of legal sources. Certainly, the extracted
information will be used to improve legal information retrieval, helping to point legal professionals
more quickly to relevant information, but what more can be done? Can computers reason with the
legal information extracted from texts? Can they help users to pose and test legal hypotheses, make
legal arguments, or predict outcomes of legal disputes? e answers appear to be ‘Yes!’ but a
considerable amount of research remains to be done before the new legal applications can
demonstrate their full potential» (ASHLEY 2017, p. 5).
60 ASHLEY 2017, p. 351: «challenges that still need to be addressed in order to construct these
new CCLAs. How can the computational models of case-based, rule-based, and value-based legal
reasoning and argumentation be integrated with conceptual legal information retrieval? What roles
do the type system and pipelined text annotators play in this integration? What kind of manual
conceptual annotation of training sets of documents will be required? What will CCLAs look like?
How will they help humans to frame and test legal hypotheses?».
61 PRAKKEN – SARTOR 2015, p. 215.
62 Vedi anche https://plato.stanford.edu/entries/logic-nonmonotonic/.
63
Una
de nizione
tratta
dal
dizionario
online
e
Free
Dictionary
http://www.thefreedictionary.com/ è la seguente: «Computers: To imitate the function of (another
system), as by modi cations to hardware or soware that allow the imitating system to accept the
same data, execute the same programs, and achieve the same results as the imitated system».
64 GOODENOUGH 2015, p. 14.
65 ASHLEY 2017, p. 13.
66 ROBALDO 2017, p. 7.
67 Vedi https://worldjusticeproject.org/our-work/engagement/events/world-justice-forum, vistato
il 27 dicembre 2019.
68 Si veda sopra a proprosito della posizione di Goodenough.
69 SHAPIRO – KOURI KISSEL 2018, p. 5. Traduzione mia: «a formal language is a recursively
de ned set of strings on a xed alphabet. Some aspects of the formal languages correspond to, or have
counterparts in, natural languages».
70 SHAPIRO – KOURI KISSEL 2018, p. 5 [Traduzione mia]».
71 Vedi ASHLEY 2017, paragrafo 6.1.1.
72 Circa «the intensifying quest for interoperability between logic-based systems using different
logics», vedi BRINGSJORD – GOVINDARAJULU 2018.
73 Tra i linguaggi formali si possono ricordare Java, Scala, C++, C, Haskell, Erlang e Rust.
74 Vedi RUMBAUGH – JACOBSON – BOOCH 2005, p. 3 e ss.
75 In questo paragrafo mi avvalgo di precedenti ricerche per il cui sviluppo completo rinvio a
SANTOSUOSSO – MALERBA 2014. Sul multilinguismo in ambito della UE vedi THYM 2016.
76 VOLLI 2007; DE SAUSSURE 1916.
77 Si veda anche SEARLE 1996.
78 Circa la possibilità di un diritto che non sia ‘detto’, si vedano CONTE 2011; GEIGER 1947;
SACCO 2007.
79 TROPER 2012.
80 Si veda CIMIANO et al. 2010.
81 HAJEK 2010.
82 BARON 2010.
83 MORO 2016, p. 17.
84 Disponibile presso: http://www.ecis.eu/ecis-interoperability/, visitato il 12 agosto 2019.
85 PALFREY – GASSER 2012.
86 Anche PALFREY – GASSER 2012 riconoscono l’importanza dell’interoperabilità umana e
istituzionale.
87 Circa «the intensifying quest for interoperability between logic-based systems using different
logics», si veda BRINGSJORD – GOVINDARAJULU 2018.
88 Lo ho sostenuto in un mio precedente lavoro: SANTOSUOSSO – MALERBA 2014. Si veda
anche FLORIDI 2013.
89 MURRAY – WEBB – WHEATLEY (eds.), 2019, p. 4, sostengono la necessità del ricorso alla
complexity theory nella condizione attuale del diritto: «e argument for complexity is that law
systems are complex systems, and to make better sense of the law we must look to the insights from
complexity to develop models that explain what law is and how we should think about the very nature
and purpose of law. Simply put, if a research question involves interconnectedness, systemic
properties, unpredictability, porous boundaries, some element of bottom-up organisation and rapid
innovations in law and regulation, we are concerned with legal complexity, and to make sense of law’s
complexity, we must engage with complexity theory». L’idea che il diritto a livello mondiale possa
essere considerato come un unico complex adaptive system («Complexity theory views law as an
emergent, complex, self-organising system», CAS) e, alla ne, come un sistema di sistemi (System of
systems) sembra non essere lontana da quella della Mol. Esistono, tuttavia, alcuni aspetti cruciali
che paiono non essere risolti. Dire che il diritto sia un CAS è, evidentemente, diverso da dire che esso
sia un System of systems. Se siamo in presenza di un sistema dei sistemi, bisognerebbe chiarire se
questi sistemi siano omogenei o disomogenei. Nel secondo caso, che è da ritenere quello più
probabile, si deve supporre che essi abbiano un qualche reciproco dialogo: su quale base? Sono le
norme interne di ciascun sistema capaci di avere una diretta relazione con altre norme appartenenti
ad altri sistemi? Come operano le differenze linguistiche? A queste domande ci è parso che il gioco tra
interoperabilità giuridica e logica immunitaria potesse dare una risposta. Ma sono questioni
evidentemente da approfondire ulteriormente.
90 Naturalmente non è la prima volta che si pongono problemi del genere in ambito giuridico. Il
collegamento tra sistemi giuridici diversi è stato tradizionalmente garantito dal diritto internazionale,
sia pubblico sia privato, e dal diritto comparato.
91 PERNIS 2007.
92 TAUBER 2017, p. 20. Traduzione mia dall’originale «when the organism is understood within
its full ecological context, borders remain guarded, but demarcations are not rigid, neither in time nor
functions; traffic is allowed, for bene cial exchanges. So assuming a fuller ecological context,
cooperation and benign relationships also must be accounted for. Accordingly, the immune system,
through active tolerance of ‘foreign’ substances and microorganisms, maintains its role as a
gatekeeper, but now in service to the metabolism, development, and, ultimately, the evolution of the
holobiont».
93 PRADEU 2019.
94 Devo questa intuizione giuridica a Silvia Garagna, biologa di straordinaria cultura e
disponibilità al dialogo interdisciplinare, con la quale collaboro da molti anni all’interno del centro
ECLT dell’Università di Pavia.
95 CHENG 2010, p. 1095.
96 Rule 44.1: Determining foreign law: «A party who intends to raise an issue about a foreign
country’s law must give notice by a pleading or other writing. In determining foreign law, the court
may consider any relevant material or source, including testimony, whether or not submitted by a
party or admissible under the Federal Rules of Evidence. e court’s determination must be treated as
a ruling on a question of law».
97 CHENG 2010.
98 Statement by President Trump on the Paris Climate Accord, disponibile presso
https://www.whitehouse.gov/the-press-office/2017/06/01/statement-president-trump-paris-climateaccord, visitato il 16 dicembre 2019.
99 Informazioni disponibili presso il sito web http://www.wearestillin.com/ (visitato il 15 agosto
2019). Gli organizzatori precisano che We Are Still In è un network nato dal basso e sostenuto da
numerosi individui e organizzazioni. La posizione della California ha origine in una concessione
federale di adottare norme ambientali più rigorose. Non a caso il presidente Trump minaccia di
revocare proprio quel privilegio. Ne dà notizia il NYT del 3 settembre 2019 in un articolo dal titolo
White House Prepares to Revoke California’s Right to Set Tougher.
100 Open letter to the international community and parties to the Paris Agreement from U.S. state,
local, and business leaders http://www.wearestillin.com/ (visitato il 15 Agosto 2019).
101 «is Agreement shall be open for signature and subject to rati cation, acceptance or approval
by States and regional economic integration organizations that are Parties to the Convention». E Art.
25 «1. Each Party shall have one vote, except as provided for paragraph 2 of this Article. 2. Regional
economic integration organizations, in matters within their competence, shall exercise their right to
vote with a number of votes equal to the number of their member States that are Parties to this
Agreement. Such an organization shall not exercise its right to vote if any of its member States
exercises its right, and vice versa»: https://unfccc.int/resource/docs/2015/cop21/eng/l09r01.pdf,
visitato il 16 dicembre 2019.
102 Vedi Capitolo 4. In questo contesto si possono usare i dati osservabili per costruire il modello,
piuttosto che usare il modello per assegnare peso causale ai dati osservabili: vedi sopra p. 99.
103 Avevo intitolato Tracce di futuro e inerzie nell’incontro tra diritto e tecnologia il mio intervento
al Convegno Internazionale «Quando il Diritto incontra la Tecnologia. When Law meets
Technology», svoltosi il 19 febbraio 2016 presso il Palazzo di Giustizia di Milano.
104 Si veda ZOLO 2007.
105 Tim Berners-Lee, is is for everyone, https, https://www.youtube.com/watch?
v=UMNFehJIi0E, visitato il 16 dicembre 2019.
Bibliografia generale
AGNOLONI – TISCORNIA 2010
Tommaso Agnoloni – Daniela Tiscornia, Extracting normative content from legal texts, MCIS 2010
Proceedings, paper 4. Disponibile all’indirizzo: http://aisel.aisnet.org/mcis2010/4 (visitato il 30
dicembre 2019).
ALEMANNO – KHADAR 2018
Alberto Alemanno – Lamin Khadar, Reinventing Legal Education: How Clinical Education Is
Reforming the Teaching and Practice of Law in Europe, Cambridge University Press, Cambridge,
2018.
ALETRAS et al. 2016
Nikolaos Aletras – Dimitrios Tsarapatsanis – Daniel Preoţiuc-Pietro – Vasileios Lampos, Predicting
judicial decisions of the European Court of Human Rights: a Natural Language Processing
perspective, in «PeerJ Computer Science», 2, 2016. Disponibile all’indirizzo
https://doi.org/10.7717/peerj-cs.93.
ALLEN – TRESTMAN, 2014
Colin Allen – Michael Trestman, Animal Consciousness, in e Stanford Encyclopedia of Philosophy
(Winter
2017
Edition),
Edward
N.
Zalta
(ed.).
Disponibile
all’indirizzo:
https://plato.stanford.edu/archives/win2017/entries/consciousness-animal/.
ALPA 2002
Guido Alpa, Istituzioni di diritto privato/Problemi, Utet, Torino, 2002.
AMODIO 1977
Ennio Amodio, Motivazione della sentenza penale, in Enc. dir., vol. XXVII, Giuffré, Milano, 1977, pp.
199 ss.
ANGWIN 2016
Julia Angwin, Jeff Larson, Surya Mattu and Lauren Kirchner, Machine Bias.ere’s soware used across
the country to predict future criminals. And it’s biased against blacks, ProPublica, May 23, 2016,
presso
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminalsentencing (visitato il 2 dicembre 2019).
ANNUNZIATA – EVANS, 2013
Marco Annunziata – Peter C. Evans, e Industrial Internet@Work, General Electric Company, 2013,
disponibile
all’indirizzo:
http://www.ge.com/sites/default/ les/GE_IndustrialInternetatWork_WhitePaper_20131028.pdf
(visitato il 29 luglio 2019).
ARRIGO 2019
Francesca Arrigo, Blockchain e smart contract: funzionamento e applicazioni, in «Altalex», 29 aprile
2019.
ASHLEY 2017
Kevin D. Ashley, Artificial Intelligence and Legal Analytics: New Tools for Law Practice in the Digital
Age, Cambridge University Press, Cambridge, 2017.
BALDWIN 2016
Richard Baldwin, e Great Convergence: Information Technology and the New Globalization, e
Belknap Press of Harvard University Press, Cambridge, 2016.
BARON 2010
Charles H Baron, e dialogue between Biomedicine and Law in an ‘IntraAmerican transnational
perspective’, in Biomedical sciences and the law, a cura di Amedeo Santosuosso, Silvia Garagna,
Barbara Bottalico e Carlo A. Redi, Ibis, Como-Pavia, 2010.
BASILE 2019
Fabio Basile, Intelligenza artificiale e diritto penale: quattro possibili percorsi di indagine, Diritto penale
e Uomo – DPU, settembre 2019.
BATTISTA 2019
Pierluigi Battista, La vita privata non esiste più, in «Corriere della sera», 22 luglio 2019.
BECK 2014
Susan Beck, e Future of Law From IBM research facilities in New York to tiny startups in Silicon
Valley, technology companies have set their sights on upending the legal services industry, in «e
American Lawyer», August 2014.
BEITZ 2009
Charles Beitz, e Idea Of Human Rights, Oxford University Press, Oxford, 2009.
BELLET 2019
Harry Bellet, Falsari illustri, Skira, Milano, 2019.
BELLINI 2019
Mauro Bellini, Cos’è, come funziona e gli ambiti applicativi in Italia, consultabile presso:
https://www.blockchain4innovation.it/esperti/blockchain-perche-e-cosi-importante/, visitato il
19 agosto 2019.
BENKLER 2019
Yochai Benkler, Don’t let industry write the rules for AI, in «Nature» 569 (9 May 2019), p. 161.
BENJAMIN 2011
Walter Benjamin, L’opera d’arte nell’epoca della sua riproducibilità tecnica, Einaudi, Torino, 2011
(l’edizione originale in tedesco è del 1936).
BERGSTEIN 2019
Brian Bergstein, Will It Ever Be Possible to Understand the Human Brain?, 2019, disponibile
all’indirizzo: https://onezero.medium.com/will-it-ever-be-possible-to-understand-the-humanbrain-718c8c92722d, visitato il 24 agosto 2019.
BERLIN 1969
Isaiah Berlin, Quattro saggi sulla libertà (1969), tr. it. Feltrinelli, Milano, 1989.
BIN 2009
Roberto Bin, Ordine delle norme e disordine dei concetti (e viceversa). Per una teoria quantistica delle
fonti del diritto, in BRUNELLI – PUGIOTTO – VERONESI 2009.
BISCOTTI 2012
Barbara Biscotti, Dispositivo e parte motiva nella sentenza: idee vecchie e nuove, in AA.VV., Il giudice
privato nel processo civile romano. Omaggio ad Alberto Burdese, vol. 1, Cedam, Padova, 2012, pp.
273-331.
BLACKSTONE 1765
William Blackstone, Commentaries on the Laws of England, Book I, Clarendon Press, Oxford, 1975.
BOBBIO 1951
Norberto Bobbio, La certezza del diritto è un mito, in «Rivista Internazionale di Filoso a Del Diritto»,
28, 1951, pp. 146-152.
BOBBIO 1970
Norberto Bobbio, Essere e dover essere nella scienza giuridica, in Studi per una teoria generale del
diritto, a cura di Tommaso Greco, Giappichelli, Torino, 1970, pp. 139-173.
BOLDRINI 2018
Nicoletta Boldrini, Blockchain e GDPR: le sfide (e le opportunità) per la protezione dei dati, 2018,
https://www.blockchain4innovation.it/sicurezza/blockchain-gdpr/, consultato il 24 giugno 2019.
BORRUSO 1988
Renato Borruso, Computer e Diritto, tomo secondo, problemi giuridici dell’informatica, Giuffrè, Milano,
1988
BORSELLINO 2009
Patrizia Borsellino, La motivazione della sentenza come contesto di argomentazione razionale, in
AA.VV., La fabbrica delle interpretazioni, Atti del Convegno annuale della Facoltà di
Giurisprudenza (Università di Milano-Bicocca 19-20 novembre 2009), pp. 141 ss.
BRAGANTINI 2019
Salvatore Bragantini, Facebook innovazioni e regole. Il mistero Libra, lo strano caso della valuta privata
globale,
in
«Corriere
della
sera»
on
line,
https://www.corriere.it/economia/ nanza/19_giugno_24/mistero-libra-strano-caso-valutaprivata-globale-e7c0dd88-96b0-11e9-986d-3e401cd86c32.shtml 24 giugno 2019, consultato il 26
giugno 2019.
BRINGSJORD – GOVINDARAJULU 2018
Selmer Bringsjord – Naveen Sundar Govindarajulu, Artificial Intelligence, 2018,
https://plato.stanford.edu/archives/fall2018/entries/arti cial-intelligence/, visitato il 23 marzo
2019).
BROWNSWORD 2008
Roger Brownsword, Rights, Regulation and the Technological Revolution, Oxford University Press,
Oxford, 2008.
BRUNELLI – PUGIOTTO – VERONESI 2009
Giuditta Brunelli – Andrea Pugiotto – Paolo Veronesi (a cura di), Il diritto costituzionale come regola e
limite al potere, Scritti in onore di Lorenza Carlassare, Jovene Editore, Napoli, 2009.
BUCY 1992
Pamela H. Bucy, Corporate Ethos: A Standard for Imposing Corporate Criminal Liability, in «Minn. L.
Rev.» 1095, 1991, p. 1099.
BUELL 2006
Samuel W. Buell, e Blaming Function of Entity Criminal Liability, in «Indiana Law Journal», vol. 81,
2006.
CALAMANDREI 1954
Piero Calamandrei, Processo e democrazia, Cedam, Padova, 1954.
CAPPIELLO 2019
Benedetta Cappiello, Where is justice taking place? Blockchain technology as a tool to fill a gap, in
«Rivista di diritto internazionale privato e processuale» (in corso di stampa).
CARD 2017
Dallas Card, e ‘black box’ metaphor in machine learning, 2017, disponibile all’indirizzo
https://towardsdatascience.com/the-black-box-metaphor-in-machine-learning-4e57a3a1d2b0,
visitato il 19 agosto 2019.
CAROLLO – REALE 2018
Valentina Carollo – Maurizio Reale, Processo Civile Telematico, il punto: che si può fare e cosa resta, in
Agenda
digitale,
19
ottobre
2018,
disponibile
all’indirizzo
https://www.agendadigitale.eu/documenti/giustizia-digitale/processo-civile-telematico-il-puntoche-si-puo-fare-e-cosa-resta/, visitato il 12 maggio 2019.
CARTABIA 2003
Marta Cartabia, e multilevel protection of fundamental rights in Europe: the European Pluralism and
the need for a judicial dialogue, in e protection of fundamental rights in Europe: lessons from
Canada, C. Casonato (a cura di) in Quaderni del Dipartimento di Scienze Giuridiche, Università
degli Studi di Trento, Trento, 2003.
CASSETTI 2010
Luisa Cassetti, Il diritto di vivere con dignità nella giurisprudenza della Corte interamericana dei diritti
umani, in «Federalismi.it» n. 23/2010.
CASTELLI – PIANA 2019
Claudio Castelli – Daniela Piana, Giusto processo e intelligenza artificiale, Maggioli Editore,
Santarcangelo di Romagna (RN), 2019.
CHENG 2010
Edward K Cheng, Scientific Evidence and Foreign Law, in «Brookin Law Review», 75, 2010, p. 1095.
CHESTERMAN 2019
Simon Chesterman, Should We Regulate A.I.? Can We? (March 21, 2019), disponibile
all’indirizzo:https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3357618.
CHILTON – MASUR – ROZEMA 2019
Adam S. Chilton – Jonathan S. Masur – Kyle Rozema, Rethinking Law School Tenure Standards
(September 17, 2019). University of Chicago Coase-Sandor Institute for Law & Economics
Research Paper No. 887. Disponibile presso SSRN: https://ssrn.com/abstract=3200005 or
http://dx.doi.org/10.2139/ssrn.3200005 (visitato il 30 dicembre 2019).
CHIRIATTI 2015
Massimo Chiriatti, Gli smart contract come nuove leggi? Meglio maneggiare con cura, in «il Sole 24ore»,
14 settembre 2016, consultabile presso: https://www.econopoly.ilsole24ore.com/2015/09/14/glismart-contracts-come-nuove-leggi-meglio-maneggiare-con-cura/, consultato il 26 giugno 2019.
CHUI – MANYIKA – MIREMADI 2015
Michael Chui – James Manyika – Mehdi Miremadi, Four fundamentals of workplace automation. As
the automation of physical and knowledge work advances, many jobs will be redefined rather than
eliminated – at least in the short term, McKinsey Quarterly, November 2015, disponibile presso
https://www.mckinsey.com/business-functions/mckinsey-digital/our-insights/fourfundamentals-of-workplace-automation visitato il 30 dicembre 2019.
CHURCH 2019
George M. Church, A Bill of Rights for the Age of Artificial Intelligence, in Onezero Medium, 2019,
disponibile all’indirizzo: https://onezero.medium.com/a-bill-of-rights-for-the-age-of-arti cialintelligence-d9b1c0e80bac.
CIMIANO et al. 2010
Philipp Cimiano – Elena Montiel-Ponsoda – Paul Buitelaar, Mauricio Espinoza and Gómez-Pérez, A
note on ontology localization, in «Journal of Applied Ontology», 5, 2010, pp. 127-137.
CIMPANELLI 2019
Giulia Cimpanelli, La carica dei nuovi ‘data scientist con Bip e Università Bicocca, in «Corriere della
Sera»,
5
giugno
2019,
p.
35,
disponibile
presso
https://www.businessintegrationpartners.com/news/la-carica-dei-nuovi-data-scientist-con-bipe-universita-bicocca/, visitato il 5/06/2019.
CIOLLI 2014
Barbara Ciolli, Lavoro, il futuro dell’industria 4.0 arriva con i robot, in «Lettera43», 12 novembre 2014.
COECKELBERGH 2019
Mark Coeckelbergh, Ethics of artificial intelligence: Some ethical issues and regulatory challenges, in
«Technology and Regulation», 2019, 31-34 https://doi.org/10.26116/techreg.2019.003.
COHEN M. 2018
Mark Cohen, Why capital is changing law – Money makes the world go around, disponibile presso
https://remakinglaw rms.com/why-capital-is-changing-law-money-makes-the-world-goaround/, visitato il 29 agosto 2018.
COHEN E. 2019
Eliot Cohen, America’s Long Goodbye. e Real Crisis of the Trump Era, in «Foreign Affairs»,
January/February 2019.
COKE 1628
Edward Coke, e First Part of the Institutes of the Laws of England, or, A Commentary on Littleton
(London, 1628), bk. 2, ch. 6, sect. 138.
COLVIN 2015
Geoff Colvin, Humans Are Underrated: What High Achievers Know at Brilliant Machines Never Will,
Portfolio/Penguin, London, 2015.
CONDLIFFE 2019
Jamie Condliffe, Facebook Is Desperate to Shape Tech Regulation. Should It?, in «e New York Times»,
April 5, 2019, https://www.nytimes.com/2019/04/05/technology/big-tech-regulation.html.
CONTE 2011
Amedeo G. Conte, Where the norm is unspoken, in Lexique et philosophie, a cura di M. Fasciolo,
«Cahiers de Lexicologie», Classiques Garnier, Paris, 2011, pp. 189-192.
COPELAND 2017
Jack Copeland, e Modern History of Computing, e Stanford Encyclopedia of Philosophy, 2017,
disponibile
all’indirizzo:
https://plato.stanford.edu/archives/win2017/entries/computinghistory/, visitato il 20 augusto 2018.
CUCCHIARA 2018
Rita Cucchiara, Giustizia: l’Intelligenza Artificiale è un’opportunità, basta fare sistema, Intervista di
Claudia Morelli, in «Altalex», 12 novembre 2018, visitato il 29 luglio 2019.
DAN-COHEN 1986
Meir Dan-Cohen, Rights, Persons and Organization, University of California Press, Berkeley, 1986.
DANGEL – HAGAN – WILLIAMS 2018
Stephanie Dangel – Margaret Hagan – James Bryan Williams, Designing Today’s Legal Education for
Tomorrow’s Lawyers: e Role of Legal Design, Technology and Innovation, September 2018,
disponibile all’indirizzo: https://www.researchgate.net/publication/327546452, consultato il 24
aprile 2019.
DAVIDSON 2017
Cathy N. Davidson, e New Education: How to Revolutionize the University to Prepare Students for a
World in Flux, Basic Books, New York, 2017.
DE FILIPPI – WRIGHT 2018
Primavera De Filippi – Aaron Wright, Blockchain and the law: the rule of code, Harvard University
Press, Cambridge, 2018.
DE MAGLIE 2005
Cristina de Maglie, Models of Corporate Criminal Liability in Comparative Law, in «Washington
University Global Studies Law Review», vol. 4, 2005, pp. 547-566.
DENNETT 1991
Daniel Dennett, Consciousness Explained, Little, Brown and Co., Boston, 1991.
DENTI 1987
Vittorio Denti, sub. Art. 111 Cost., in La magistratura, vol. IV, in Commentario alla Costituzione, a
cura di G. Branca, Zanichelli, Bologna, 1987, pp. 5 ss.
DE SAUSSURE 1916
Ferdinand de Saussure, Cours de linguistique générale, 1916, trad. it. Laterza, Bari, 1967.
DE SIMONE 2012
Giulio De Simone, La responsabilità da reato degli enti: natura giuridica e criteri (oggettivi)
d’imputazione, in Diritto penale contemporaneo, 28 ottobre 2012, accessibile presso:
https://www.penalecontemporaneo.it/upload/1351253564De%20Simone%20de nitivo.pdf,
visitato il 31 luglio 2019.
DI VICO 2019
Dario Di Vico, La politica industriale 4.0 è tornata al punto di partenza, in «Corriere della sera», 20
luglio 2019.
DONATI – FERRARIO – SIMONCELLI 2018
Alessandra Donati – Rachele Ferrario – Silvia Simoncelli (a cura di), Archivi d’artista e lasciti: memorie
culturali tra diritto e mercato, ESI – Edizioni Scienti che Italiane, Napoli, 2018.
DWECK 2007
Carol Dweck, Mindset: the new psychology of success, updated edition, Ballantine Books, New York,
2007.
ECO 2017
Umberto Eco, Apocalittici e integrati: la cultura italiana e le comunicazioni di massa, Giunti-Bompiani,
Firenze-Milano, 2017.
EINSTEIN 1905
Albert Einstein, On e Electrodynamics Of Moving Bodies, 1905, disponibile all’indirizzo:
http://hermes.ffn.ub.es/luisnavarro/nuevo_maletin/Einstein_1905_relativity.pdf).
EMMERSON 2019
Bob Emmerson, Private LTE networking: a next step for Enterprise IoT?, July 2019, disponibile
all’indirizzo: http://www.beechamresearch.com/.
EREDITATO 2017
Antonio Ereditato, Le particelle elementari, Il Saggiatore, Milano, 2017.
FEHRENBACHER 1988
Don E. Fehrenbacher, Slavery, the Framers and the Living Constitution, in Slavery and Its
Consequences: the Constitution, Equality and Race, Goldwin, R.A., Kaufman, A. (eds): American
Enteprise Institute for Public Policy Research, Washington DC, 1988, pp. 1-22.
FEINBERG – MALLATT 2013
T.E. Feinberg – J. Mallatt, e evolutionary and genetic origins of consciousness in the Cambrian Period
over 500 million years ago, in «Front. Psychol.», 4: 667. doi: 10.3389/fpsyg.2013.00667.
FENWICK – KAAL – VERMEULEN 2018
Mark Fenwick – Wulf Kaal – Erik P.M. Vermeulen, Legal education in a digital age: why coding for
lawyers matters, in Legal Tech, Smart Contracts and Blockchain (Perspectives in Law, Business and
Innovation), Springer Singapore, 2018.
FINOCCHIARO 1997
Giusella Finocchiaro, I contratti informatici, in Trattato di diritto commerciale e diritto pubblico
dell’economia, diretto da F. Galgano, vol. XXII, Cedam, Padova, 1997.
FIORELLA – GAITO – VALENZA 2018
Antonio Fiorella – Alfredo Gaito – Anna Salvina Valenzan (a cura di), La responsabilità dell’ente da
reato nel sistema generale degli illeciti e delle sanzioni anche in una comparazione con i sistemi
sudamericani. In memoria di Giuliano Vassalli, Sapienza Università Editrice, Roma, 2018.
FLORIDI – TADDEO 2018
Luciano Floridi – Mariarosaria Taddeo, Romans would have denied robots legal personhood, in
«Nature», 557, 309, 2018.
FLORIDI 2013
Luciano Floridi, Semantic Conceptions of Information, in e Stanford Encyclopedia of Philosophy,
2013, disponibile all’indirizzo: http://plato.stanford.edu/archives/spr2013/entries/informationsemantic/.
FLORIDI 2008
Luciano Floridi, Philosophy of computing and information. 5 Questions, Automatic Press/VIP, 2008.
FORZA – MENEGON – RUMIATI 2017
Antonio Forza – Giulia Menegon – Rino Rumiati, Il giudice emotivo. La decisione tra ragione ed
emozione, Il Mulino, Bologna, 2017.
FOTINA 2018
Carmine Fotina, L’Italia firma l’accordo UE sulla blockchain e prepara un Fondo nazionale, in «Il
Sole24ore», 27 settembre 2018, https://www.ilsole24ore.com/art/notizie/2018-09-27/l-italiarma-l-accordo-ue-blockchain-e-prepara-fondo-nazionale-124444.shtml?uuid=AEcPlt9F,
visitato il 28 settembre 2018.
FOUCAULT 1975
Michel Foucault, Surveiller et punir: Naissance de la prison, Gallimard, Paris, 1975 (prima edizione
italiana, Sorvegliare e punire. Nascita della prigione, Einaudi, Torino, 1976).
FRANCESCHELLI 1989
Vincenzo Franceschelli, Computer e Diritto: convenzioni internazionali, legislazione, giurisprudenza e
modelli contrattuali, Maggioli, Rimini, 1989.
FRANSSEN – LOKHORST – VAN DE POEL 2010
Maarten Franssen – Gert-Jan Lokhorst – Ibo van de Poel, Philosophy of Technology, in e Stanford
Encyclopedia of Philosophy (Fall 2018 Edition), Edward N. Zalta (ed.),
https://plato.stanford.edu/archives/fall2018/entries/technology/.
FRIEDMAN 2000
Lawrence Friedman, In Defense of Corporate Criminal Liability, in «Harv. J.L. – Pub. Pol’y», 2000, pp.
846 e ss.
FRIEDMANN 2016
Ron Friedmann, Is Big Law Having Its Kodak Moment?, 26 gennaio 2016, disponibile all’indirizzo:
https://biglawbusiness.com/is-big-law-having-its-kodak-moment/, visitato il 20 giugno 2019.
GAMBHIR et al. 2004
Manoj Gambhir – Stephen Guerin – Stuart Kauffman – Daniel Kunkle, Steps toward a possible theory
of organization, in Proceedings, International Conference on Complex Systems (ICCS), Boston,
MA,
2004,
p.
1,
disponibile
all’indirizzo
https://www.academia.edu/17766021/Steps_toward_a_possible_theory_of_organization, visitato
il 30 luglio 2019.
GAGGI 2019
Massimo Gaggi, L’immoralità degli algoritmi, in la Lettura, in «Il Corriere della sera», 7 aprile 2019.
GANE 2016
Christopher Gane – Robin Hui Huang, Legal Education in the Global Context. Opportunities and
Challenges, Routledge, London, 2016.
GARAPON – LASSèGUE 2018
Antoine Garapon – Jean Lassègue, Justice digitale: Révolution graphique et rupture anthropologique,
PUF, Paris, 2018.
GASSER – SCHMITT 2019
Urs Gasser – Carolyn Schmitt, e Role of Professional Norms in the Governance of Artificial
Intelligence, Berkman Klein Center for Internet – Society, Harvard University, 2019, disponibile
all’indirizzo: https://medium.com/berkman-klein-center/the-role-of-professional-norms-in-aigovernance-some-observations-and-outline-of-a-framework-3dc25dcd2bdc, visitato il 26 aprile
2019.
GEIGER 1947
eodor Geiger, Vorstudien zu einer Soziologie des Rechts, 1947.
GIALUZ 2019
Mitja Gialuz, Quando la giustizia penale incontra l’intelligenza artificiale: luci e ombre dei risk
assessment tools tra Stati uniti ed Europa, in «Diritto penale contemporaneo», 29 maggio 2019.
GIBNEY 2019
Elizabeth Gibney, Google Publishes Landmark Quantum Supremacy Claim, «Nature», Vol 574, 24
October 2019, p. 461.
GOLDWIN – KAUFMAN 1988
Robert Goldwin – Art Kaufman, Slavery and Its Consequences: the Constitution, Equality and Race,
American Enterprise Institute for Public Policy Research, Washington DC, 1988.
GOODENOUGH 2013
Oliver R. Goodenough, Developing An E-Curriculum: Reflections On e Future Of Legal Education
and on the Importance of Digital Expertise, in «Chicago-Kent Law Review», 88(3), pp. 845-878
(2013 Symposium Edition).
GOODENOUGH 2015
Oliver R. Goodenough, Getting to Computational Jurisprudence 3.0, in e Challenge of Innovation in
Law: the Impact of Technology and Science on Legal Studies and Practice, a cura di Amedeo
Santosuosso, Oliver R. Goodenough, Marta Tomasi, Pavia University Press, Pavia, 2015
(http://purl.oclc.org/paviauniversitypress/9788869520075).
GREEN 1999
Stephen Green, A plague on the panopticon: Surveillance and power in the global information economy,
in «Information, Communication & Society», (1999), 2:1, 26-44, doi: 10.1080/136911899359745.
GROSSI 2003
Paolo Grossi, Prima lezione di diritto, Laterza, Bari-Roma, 2003.
GROSSI 2014
Paolo Grossi, Sulla odierna ‘incertezza’ del diritto, in «Giustizia Civile: rivista giuridica trimestrale», n.
4, 2014, pp. 921-955.
GROSSI 2018
Paolo Grossi, Storicità versus prevedibilità: sui caratteri di un diritto post-moderno, in «Questione
Giustizia», Fascicolo 4/2018, http://questionegiustizia.it/rivista/2018/4/storicita-versusprevedibilita-sui-caratteri-di-un-diritto-pos-moderno_573.php, visitato il 30 dicembre 2019.
HABER – STORNETTA 2010
Stuart Haber – W. Scott Stornetta, How to time-stamp a digital document, 2010, disponibile
all’indirizzo: https://www.anf.es/pdf/Haber_Stornetta.pdf, consultato il 17 agosto 2019.
HAGAN 2016
Margaret Hagan, Law by Design, disponibile all’indirizzo: http://www.lawbydesign.co/en/ch-6-futureagenda/, visitato il 22 aprile 2019.
HAJEK 2010
Petr Hajek, Fuzzy Logic, in e Stanford Encyclopedia of Philosoph, 2010, disponibile all’indirizzo:
http://plato.stanford.edu/archives/fall2010/entries/logic-fuzzy/.
HAYEK 1978
Friedrich von Hayek, Law, Legislation and Liberty, University of Chicago Press, Chicago, 1978.
HAASS 2017
Richard Haass, World Order 2.0. e Case for Sovereign Obligation, in «Foreign Affairs», Volume 96,
Number 1, 2017.
HALLER 2010
Stephan Haller, e ings in the Internet of ings, 2010, disponibile all’indirizzo
http://www.iota.eu/public/news/resources/eingsintheInternetofings_SH.pdf.
HAWKING 2014
Stephen Hawking, AI could spell end of the human race, 2 dicembre 2014 (intervista)
https://www.youtube.com/watch?v=fFLVyWBDTfo1.
HAWKING et al. 2014
Stephen Hawking – Russell Stuart – Max Tegmark – Frank Wilczek, Transcending Complacency on
Superintelligent Machines, e Huffington Post, 2014, disponibile all’indirizzo:
https://www.huffingtonpost.com/stephen-hawking/arti cial-intelligence_b_5174265.html.
HOLM 2019
Elizabeth A. Holm, In defense of the black box. Black box algorithms can be useful in science and
engineering, in «Science», vol 364, issue 6435, 2019, pp. 26 ss.
HOLMES O.W. 1881
Oliver W, Holmes Jr., e Common Law, Little Brown and Co., Boston, 1881.
HOLMES O.W. 1897
Oliver W. Holmes, e Path of Law, in «Harvard Law Review» 457, 10, 1897.
HOLMES P. 2014
Pablo Holmes, e Politics of Law and the Laws of Politics: e Political Paradoxes of Transnational
Constitutionalism, in «Indiana Journal of Global Legal Studies», Volume 21, Issue 2, 2014, p. 553.
HONGDA et al. 2018
Qian Hongda – Sughra Bibi – Asif Khan – Lorenzo Ardito – Muhammad Bilawal Khaskheli, Legal
Technologies in Action: e Future of the Legal Market in Light of Disruptive Innovations, in
«Sustainability», vol. 11(4):1015, 2019.
HOVIG 1997
omas Hovig, False Impressions: e Hunt for Big-Time Art Fakes, Touchstone Edition, New York,
1997.
HUBBARD 2011
F. Patrick Hubbard, «Do Androids Dream?» Personhood and Intelligent Artifacts, 83 Temp. L. Rev. 405
(2011): 405 ss.
IRTI 2016
Natalino Irti, Un diritto incalcolabile, Giappichelli Editore, Torino, 2016.
IUDICA – ZATTI 2006
G. Iudica – P. Zatti, Linguaggio e regole del diritto privato, 7 a ed., Cedam, Padova, 2006.
JESSUP 1956
Philip C Jessup, Transnational Law, Yale University Press, New Haven, 1956, p. 2.
KAMMINGA – SCHEININ 2009
Menno Kamminga – Martin Scheinin, e impact of human rights law on general international law,
Oxford, Oxford University Press, Oxford, 2009.
KATZ 2013
Daniel Martin Katz, Quantitative Legal Prediction Or How I Learned To Stop Worrying And Start
Preparing For e Data-Driven Future Of e Legal Services Industry, in «Emory Law Journal»,
Vol. 62: 909, 2013, pp. 909-966.
KATZ et al. 2017
Daniel Martin Katz, Bommarito, Blackman, A general approach for predicting the behavior of the
Supreme Court of the United States, in «PLoS ONE» 12(4), 2017, disponibile all’indirizzo:
https://doi.org/10.1371/journal.pone.0174698.
KELSEN 1945
Hans Kelsen, General eory of Law and State, Harvard University Press, Cambridge, 1945.
KELSEN 1979
Hans Kelsen, General eory of Norms, Oxford University Press, Oxford, 1991 (I edizione in tedesco
1979).
KESSEL 2019
Jonah M. Kessel, Killer Robots Aren’t Regulated. Yet, in «New York Times», Dec. 13 2019.
KING 2017
Stephen King, e End of Globalisation, the Return of History
–
LSE
www.lse.ac.uk/Events/2017/06/20170612t1830vOT/e-End-of-Globalisation June 12, 2017,
visitato il 7 agosto 2019.
KOH 2009
Harold Hongju Koh, ‘America and the World, 2020’, in e Constitution in 2020 a cura di J.M. Balkin e
RB Siegel, Oxford University Press, Oxford, 2009.
KRISTEVA 1967
Julia Kristeva, Kristeva, Bakhtine, le mot, le dialogue et le roman, in «Critique» 33 (1967), pp. 438-465.
KURZWEIL 2005
R. Kurzweil, e Singularity Is Near: When Humans Transcend Biology, Viking Books, New York,
2005.
LANCE 2018
Lance Ng, On the Potential – Limits of AI – e Facts Beneath the Hype, 2018, disponibile all’indirizzo:
https://medium.com/@lancengym/3-simple-reasons-why-ai-will-not-rule-man-yet22d8069d8321.
LANCE NG, 2018b
Lance Ng, What Microso and Google Are Not Telling You About eir A.I. Just how much of A.I. is
artificial, and how much is manual labor?, December 13, 2018, disponibile all’indirizzo:
https://medium.com/s/story/what-microso-and-google-are-not-telling-you-about-their-aib609f5395a8e, visitato il 22 luglio 2019.
LANGFORD et al. 2013
Malcolm Langford – Wouter Vandenhole – Martin Scheinin – Willem Van Genugten, Global justice,
state duties: the extraterritorial scope of economic, social, and cultural rights in international law,
Cambridge University Press, Cambridge, New York, 2013.
LAWLOR 1963
Reed C. Lawlor, What computers can do: analysis and prediction of judicial decisions, in «American Bar
Association Journal», 49, 1963, pp. 337-344.
LEDERMAN 2000
Eli Lederman, Models for Imposing Corporate Criminal Liability: From Adaptation and Imitation
Toward Aggregation and the Search for Self-Identity, in «Buffalo Criminal Law Review», 694,
2000.
LEITER 2007
Brian Leiter, Naturalizing Jurisprudence: Essays on American Legal Realism and Naturalism in Legal
Philosophy, Oxford University Press, Oxford, 2007.
LEROUX – LABRUTO 2012
Cristophe Leroux – Roberto Labruto, Suggestion for a green paper on legal issues in robotics, 2012,
disponibile
all’indirizzo:
https://www.researchgate.net/publication/310167745_A_green_paper_on_legal_issues_in_robot
ics, visitato il 2 agosto 2019.
LEUNG et al. 2019
Derek Leung – Adam Suhl – Yossi Gilad – Nickolai Zeldovich, Vault: Fast Bootstrapping for the
Algorand Cryptocurrency MIT CSAIL, in Cryptology ePrint Archive, Report 2018/269, doi:
10.14722/ndss.2019.23313, disponibile presso https://eprint.iacr.org/2018/269, visitato 1
dicembre 2019.
LEVI 1949
Edward H. Levi, An Introduction to Legal Reasoning, e University of Chicago Press, ChicagoLondon, 1949.
LEVINE 2018
Robert Levine, What is bitcoin, blockchain’s future in the music industry?, presso:
https://www.billboard.com/articles/business/8094097/what-is-bitcoin-blockchain-technologyfuture-music, visitato il 31 agosto 2019.
LEVY 2010
Steven Levy, e AI Revolution Is On, Wired, 27 Dicembre 2010, presso:
https://www.wired.com/2010/12/ff-ai-essay-airevolution/, visitato il 22 agosto 2019.
LEWIS 2015
Antony Lewis, A gentle introduction to smart contract” consultabile presso:
https://bitsonblocks.net/2016/02/01/a-gentle-introduction-to-smart-contracts/, consultato il 26
giugno 2019.
LIPARI 2002
Nicolò Lipari, Sull’insegnamento del diritto civile, in «Rivista di diritto civile», 2002, pp.333-345.
LIU – KAVAKLI 2018
Charles Z. Liu – Manolya Kavakli, An agent-based collaborative information processing system for
mixed reality applications – Part A: Agent-aware computing, Industrial Electronics and
Applications (ICIEA) 2018 13th IEEE Conference on, 2018, pp. 1273-1278.
LOHR 2018
Steve Lohr, Are Robots Coming for Your Job? Eventually, Yes, in «NYT, Bits», 21 settembre 2018,
https://www.nytimes.com/2018/09/21/technology/arti cial-intelligence-jobs.html, visitato il 27
luglio 2019.
LOSANO 2008
Mario Losano (a cura di), Hans Kelsen, Scritti autobiografici, Diabasis Publisher, Parma, 2008.
MAHONEY 2019
Michelle Mahoney, Map of fundamental technologies in legal services, disponibile all’indirizzo:
https://remakinglaw rms.com/map-of-fundamental-technologies-in-legal-services/, visitato il
19 aprile 2019.
MACARIO 2018
Francesco Macario, L’evoluzione del «genere istituzionale» nella manualistica per l’insegnamento del
diritto privato. Giurisprudenza e autorità indipendenti nell’epoca del diritto liquido, in Studi in
onore di Roberto Pardolesi, a cura di F. Di Ciommo e O. Troiano, Il Foro italiano-La Tribuna,
Roma-Piacenza, 2018, 1113.
MAK 2017
Elaine Mak, e T-shaped Lawyer and Beyond Rethinking legal professionalism and legal education for
contemporary societies, Inaugural Lecture for the Chair of Jurisprudence at Utrecht University
delivered on 19 June 2017, disponibile presso: https://www.uu.nl/en/events/inaugural-lectureelaine-mak-the-t-shaped-lawyer-and-beyond.
MANGANELLI 1998
Giorgio Manganelli, Centuria. Cento piccoli romanzi fiume, Adelphi, Milano, 1998.
MANGER 2013
P.R. Manger, Questioning e Interpretations Of Behavioral Observations Of Cetaceans: Is ere Really
Support For A Special Intellectual Status For is Mammalian Order?, in «Neuroscience», 250
(2013), pp. 664-696.
MANYIKA et al. 2011
James Manyika et al., Mckinsey Global Inst., Big data: the next frontier for innovation, competition, and
productivity,
2011,
disponibile
all’indirizzo:
https://www.mckinsey.com/businessfunctions/digital-mckinsey/our-insights/big-data-the-next-frontier-for-innovation, visitato il 22
agosto 2019.
MASSIMI 2018
Michela Massimi, Wilkins-Bernal-Medawar Lecture: Why philosophy of science matters to science,
disponibile
online
all’indirizzo:
https://royalsocietypublishing.org/doi/full/10.1098/rsnr.2018.0054#d3e411, visitato il 7 agosto
2019.
MAY 1986
Larry May, Corporate Property Rights, in «Journal of Business Ethics», Vol. 5, no. 3, 1986, pp. 225-232.
MAZZESCHI 2013
Riccardo Pisillo Mazzeschi, Diritti umani (diritto internazionale): I) Profili generali, in Enciclopedia
Giuridica
Treccani
Online:
Diritto
on
line-Treccani,
2013,
pp.
1-14,
http://www.treccani.it/enciclopedia/diritti-umani-dir-int-pro li-generali_%28Diritto-online%29/, visitato il 4 agosto 2019.
MELDOLESI 2012
Anna Meldolesi, George Church. Il bestseller stampato sulla doppia elica, in Treccani, 2012, disponibile
online: http://www.treccani.it/enciclopedia/george-church-il-bestseller-stampato-sulla-doppiaelica_%28Il-Libro-dell%27Anno%29/, visitato il 17 luglio 2019.
MICROSOFT 2018
Microso, e Future Computed. Artificial Intelligence and its role in society, published by Microso
Corporation,
Redmond,
Washington,
2018,
p.
9,
disponibile
all’indirizzo:
https://1gew6o3qn6vx9kp3s42ge0y1-wpengine.netdna-ssl.com/wpcontent/uploads/2018/02/e-Future-Computed_2.8.18.pdf.
MILLER – PAGE 2007
John H. Miller – Scott E. Page, Complex Adaptive Systems: An Introduction to Computational Models of
Social Life, Princeton Univeresity Press, Princeton-Oxford, 2007.
MITCHELL 2019
Melanie Mitchell, We Shouldn’t be Scared by ‘Superintelligent A.I., in «e New York Times», Oct. 31,
2019.
MORELLI 2019
Claudia Morelli, Studi legali: parte la corsa all’innovazione… proprietaria I trend: gestionali
customizzati, brevetti soware e intelligenza artificiale, in «Altalex», 25 marzo 2019, visitato il 26
aprile 2019.
MORO 2016
Andrea Moro, Le lingue impossibili, Raffaello Cortina Editore, Milano, 2016.
MORSINK 1999
Johannes Morsink, e Universal Declaration of Human Rights: Origins, Draing, and Intent,
University of Pennsylvania Press, Philadelphia, 1999.
MORDE 2018
Vishal
Morde,
5
Key
Lessons
Learned
from
2018
AI
Summit,
NYC,
https://towardsdatascience.com/https-medium-com-vishalmorde-lessons-learnedfromaisummit-d7c071cb4c06 (visitato il 19 agosto 2019).
MULLIN 2017
Emily Mullin, Elon Musk Wants to Read Your Brain, in OneZero Medium, 2017, disponibile
all’indirizzo: https://onezero.medium.com/elon-musk-wants-to-read-your-brain-f011b9aec3a5,
visitato il 19 luglio 2019.
MURRAY – WEBB – WHEATLEY 2019
Jamie Murray – omas E. Webb – Steven Wheatley (eds.), Complexity eory and Law, Routledge,
London-New York, 2019.
NAFFINE 2003
Ngaire Naffine, Who are Law’s Persons? From Cheshire Cats to Responsible Subjects, in «Modern Law
Review», 2003, pp. 346-367.
NALINI 2019
Polavarapu Nalini, e Hitchhiker’s Guide to AI Ethics. A 3-part series exploring ethics issues in
Artificial Intelligence, https://towardsdatascience.com/ethics-of-ai-a-comprehensive-primer1bfd039124b0, visitato il 27 agosto 2019.
NAY 2017
J.J. Nay, Predicting and understanding law-making with word vectors and an ensemble model, in «PLoS
ONE» 12(5): e0176999. https://doi.org/10.1371/journal.pone.0176999.
NICHOLSON PRICE 2018
William Nicholson Price, Big data and black-box medical algorithms, in «Science Translational
Medicine», Vol. 10, Issue 471, 2018
NICOTRA – TRAVIA 2018
Massimiliano Nicotra – Niccolò Travia, Documento informatico: come cambia il nuovo CAD, Agenda
Digitale,
17
gennaio
2018,
consultabile
all’indirizzo:
https://www.agendadigitale.eu/documenti/documento-informatico-come-cambia-con-il-nuovocad-tutti-i-dettagli/, visitato il 18 agosto 2019.
OBRIST 2019
Hans Ulrich Obrist, Rendere visibile l’invisibile: l’arte incontra AI, La triennale di Milano, Lecture del 3
febbraio 2019.
PAGALLO 2014
Ugo Pagallo, Il diritto nell’età dell’informazione, G. Giappichelli Editore, Torino, 2014.
PALFREY – GASSER, 2012
J. Palfrey – U. Gasser, Interop: e promise and perils of highly interconnected systems, Basic Books,
New York, 2012.
PARISI 1987
Francesco Parisi, Il contratto concluso mediante computer, Cedam, Padova, 1987.
PARKER 2017
Ceri
Parker,
e
end
of
globalization?
Davos
disagrees,
disponibile
presso
https://www.weforum.org/agenda/2017/01/the-end-of-globalization-davos-disagrees/, visitato il
5 agosto 2019.
PARODI – SELLAROLI 2019
Cesare Parodi – Valentina Sellaroli, Sistema penale e intelligenza artificiale: molte speranze e qualche
equivoco, in «Diritto penale contemporaneo», Fascicolo 6/2019, pp. 47-71.
PASCUZZI 2010
Giovanni Pascuzzi, Il diritto dell’era digitale, Il Mulino, Bologna, 2010.
PASCUZZI 2015
Giovanni Pascuzzi, Avvocati formano avvocati, Il Mulino, Bologna, 2015.
PASARELLA 2018
Mike vd Ent Pasarella, Create the internet to build A.I. Artificial intelligence is not new. It is
intentionally the result of the creation of the internet, disponibile all’indirizzo:
https://medium.com/dataseries/create-the-internet-to-build-a-i-b79587b8c2f5, visitato il 26
giugno 2019.
PAULSON 1996
Stanley L. Paulson, Hans Kelsen’s Earliest Legal eory: Critical Constructivism, in «e Modern Law
Review», Vol. 59, No. 6 (Nov., 1996), pp. 797-812.
PEEK et al. 2014
Niels Peek – J.H. Holmes – J. Sun, Technical Challenges for Big Data in Biomedicine and Health: Data
Sources, Infrastructure, and Analytics, in «Yearb Med Inform.», 9(1), 2014, pp. 42-47.
PENNISI 2019
Martina Pennisi, Facebook Libra, ecco come funziona la moneta digitale per Messenger e Whatsapp, in
«Corriere
della
sera»
online,
18
giugno
2019,
https://www.corriere.it/economia/consumi/19_giugno_18/facebook-libra-ecco-come-funzionamoneta-zuckerberg-cf34c82e-9115-11e9-800d-4c08a8e6b4ca.shtml, visitato il 17 agosto 2019.
PERLINGIERI 2007
Pietro Perlingieri, Manuale di diritto civile, 6a ed., Edizioni Scienti che Italiane, Napoli, 2007.
PERNIS, 2007
Benvenuto Pernis, Autoimmunità, in Enciclopedia della Scienza e della Tecnica, Treccani, Roma, 2007.
PERRY 2019
Lucas Perry, AI Alignment Podcast: Human Cognition and the Nature of Intelligence with Joshua
Greene, 2019/, disponibile all’indirizzo: https://futureo ife.org/2019/02/21/human-cognitionand-the-nature-of-intelligence-with-joshua-greene/, visitato il 24 marzo 2019.
PETRUCCIANI 2018
Gabriele Petrucciani, Bitcoin e il nuovo Halving: ecco perché le quotazioni potrebbero impennarsi, in
«Corriere della Sera» on line, https://www.corriere.it/economia/ nanza/cards/bitcoin-nuovohalving-ecco-perche-quotazioni-potrebbero-impennarsi-cosa-sono-come-funzionanorischi/bitcoin-la-discesa-risalita_principale.shtml.
PIEVANI 2016
Telmo Pievani, How to Rethink Evolutionary eory: A Plurality of Evolutionary Patterns, in
«Evolutionary Biology», (2016) 43: 446. https://doi.org/10.1007/s11692-015-9338-3.
PITRUZZELLA 2019
Giovanni Pitruzzella, Internet, non è più tempo di irresponsabilità, in «Corriere della sera», 21 luglio
2019.
PITTELLI 2019
Teresa Pittelli, Avvocati, solo un terzo è davvero pronto per il futuro. Ma chi investe in innovazione,
guadagna,
in
«Altalex»,
15
aprile
2019,
https://www.altalex.com/documents/news/2019/04/15/avvocati-futuro-innovazione, visitato il
25 aprile 2019.
PIVA 2019
Alessandro Piva, I trend Big Data da tenere d’occhio per il 2019, https://blog.osservatori.net/it_it/trendbig-data-2019, 6 marzo 2019, visitato il 19 agosto 2019.
POP 2006
Anca Iulia Pop, Criminal Liability of Corporations, in «Comparative Jurisprudence», 2006, disponibile
all’indirizzo: https://digitalcommons.law.msu.edu/king/81.
POWERS 2017
Benjamin Powers, What Is Explainable AI and Why Does the Military Need It?,
https://medium.com/@bnpowers8/what-is-explainable-ai-and-why-does-the-military-need-itc64f4bd49b93, visitato il 14 dicembre 2019.
PRADEU 2019
omas Pradeu, Philosophy of Biology: Immunology and individuality, in «eLife», 2019, disponibile
all’indirizzo: https://elifesciences.org/articles/47384, visitato il 16 agosto 2019.
PRAKKEN – SARTOR 2015
Henry Prakken, G. Sartor, Law and logic: A review from an argumentation perspective, in «Arti cial
Intelligence» 227, 2015, pp. 214-245.
REED 2018
Chris Reed, How should we regulate artificial intelligence?, in «Phil. Trans. R. Soc., A», 376, 2018,
http://dx.doi.org/10.1098/rsta.2017.0360 (visitato il 30 dicembre 2019).
RICHARDSON et al. 2019
Rashida Richardson – Jason M. Schultz – Kate Crawford, Dirty Data, Bad Predictions: How Civil
Rights Violations Impact Police Data, Predictive Policing Systems, And Justice, in «New York
University Law Review Online», Forthcoming, Last revised: 26 Apr 2019. visitato il 19 agosto
2019
ROBALDO –SUN 2017
Livio Robaldo – Xin Sun, Reified Input/Output logic: Combining Input/Output logic and Reification to
represent norms coming from existing legislation, in «Journal of Logic and Computation», Volume
27, Issue 8, December 2017, pp 2471–2503, https://doi.org/10.1093/logcom/exx009.
ROSIC 2016
Ameer Rosic, Smart contract: the blockchain technology that will replace lawyers, disponibile
all’indirizzo: https://blockgeeks.com/guides/smart-contracts/, consultato il 9 settembre 2017.
ROSSI 2019
Francesca Rossi, Il confine del futuro, Feltrinelli, Milano, 2019.
ROVELLI 2014
Carlo Rovelli, Sette brevi lezioni di fisica, Adelphi, Milano, 2014.
RUBINSTEIN 2008
Robert A. Rubinstein – Diana M. Keller – Michael E. Scherger, Culture and Interoperability in
Integrated Missions, in «International Peacekeeping», 2008, pp. 540-555.
RUGGERI 2007
Antonio Ruggeri, Carte internazionali dei diritti, Costituzione europea, Costituzione nazionale:
prospettive di ricomposizione delle fonti in sistema, in «Forum Quaderni Costituzionali», 7 marzo
2007, visitato il 30 dicembre 2019.
RUGGERI 2008
Antonio Ruggeri, Alla ricerca del fondamento dell’interpretazione conforme, Intervento al Convegno
del Gruppo di Pisa su Interpretazione conforme e tecniche argomentative, Milano, 2008,
disponibile all’indirizzo: http://www.forumcostituzionale.it, consultato il 30 dicembre 2019.
RUMBAUGH – JACOBSON – BOOCH 2005
J. Rumbaugh, I. Jacobson, G. Booch, e Unified Modeling Language User Guide, Publisher Addison
Wesley, Boston, 2nd ed. 2005.
RUNDO – CONOCI, 2017
Francesco Rundo e Sabrina Conoci, Tecnologia blockchain: dagli smart contract allo smart driving, in
sicurezza
e
giustizia,
III
/
MMXVII,
pp.
52
ss.
disponibile
presso:
https://www.sicurezzaegiustizia.com/tecnologia-blockchain-dagli-smart-contracts-allo-smartdriving/, visitato il 18 agosto 2019.
RUSSELL 2019
Stuart Russell, Human Compatible, Viking, New York, 2019.
RUSSELL – NORVIG 2010
Stuart Russell – Peter Norvig, Intelligenza Artificiale. Un approccio moderno, a cura di Francesco
Amigoni, Pearson, Prentice Hall, 2010.
RYDER 1971
R.D. Ryder, Experiments on Animals, in S. Godlovitch – R. Godlovitch – Harris, J. (eds.), Animals,
Men and Morals, Victor Gollancz-Grove Press, London-New York, 1971.
SACCO 2007
Rodolfo Sacco, Antropologia giuridica, Il Mulino, Bologna 2007.
SALERNO 2018
Domenico Salerno, Titoli accademici certificati con blockchain, 2018 https://www.icom.it/2018/07/19/titoli-accademici-blockchain/, consultato il 28 settembre 2018.
SANTOSUOSSO 2001
Amedeo Santosuosso, Corpo e libertà. Una storia tra diritto e scienza, Raffaello Cortina, Milano, 2001.
SANTOSUOSSO 2002a
Amedeo Santosuosso, L’integrità della persona nell’ambito della medicina e della biologia: a proposito
dell’art. 3 della Carta di Nizza, in Danno e responsabilità, 2002, pp. 809 e ss.
SANTOSUOSSO 2002b
Amedeo Santosuosso, Persone fisiche e confini biologici, «chi» determina «chi», in Politica del diritto,
vol. III, 2002, pp. 525-548
SANTOSUOSSO 2003
Amedeo Santosuosso, L’incerto e instabile confine della persona fisica, in «Aut Aut», n. 318, 2003, pp.
140-156.
SANTOSUOSSO – AZZINI 2010
Amedeo Santosuosso – S. Azzini, Scienza, tecnologia e gli attuali flussi giuridici transnazionali, in
Trattato di biodiritto, a cura di S. Rodotà – P. Zatti, vol. I, Ambito e fonti del biodiritto, Giuffrè,
Milano, 2010.
SANTOSUOSSO 2011a
Amedeo Santosuosso, Diritto, scienza, nuove tecnologie, Wolters Kluwer, Milano, 2011 (I ed.) e 2016
(II. ed.).
SANTOSUOSSO 2011b
Amedeo Santosuosso, e disaggregation of law into elementary particles and the interactions among
them, in «Jusletter IT» 29 June 2011.
SANTOSUOSSO – BOSCARATO – CAROLEO 2012
Amedeo Santosuosso – Chiara Boscarato – Franco Caroleo, Robot e diritto: una prima ricognizione, in
«NGCC», 2012, pp. 494-516.
SANTOSUOSSO 2013
Amedeo Santosuosso, La necessità di innovare gli studi giuridici e la pratica del diritto, in «Rivista
Criminalia, Annuario di scienze penalistiche», pp. 547-558.
SANTOSUOSSO 2014
Amedeo Santosuosso, Se l’agente è non necessariamente un essere umano. Alcune riflessioni giuridiche,
in «Notizie di Politeia», vol. XXX, 2014, pp. 28-48.
SANTOSUOSSO – MALERBA 2014
Amedeo Santosuosso – Alessandra Malerba, Legal Interoperability As a Comprehensive Concept in
Transnational Law, in «Law, Innovation and Technology», 6.1, 2014, pp. 51-73.
SANTOSUOSSO 2015a
Amedeo Santosuosso, e human rights of nonhuman artificial entities: an oxymoron? Yearbook of
Science and Ethics, in «Jahrbuch Für Wissenscha Und Ethik», De Gruyter Publisher, 2015, pp.
203-237.
SANTOSUOSSO 2015b
Amedeo Santosuosso, Technological Innovation in Law: Just an Option or a Strict Necessity?, in e
Challenge of Innovation in Law: the Impact of Technology and Science on Legal Studies and
Practice, a cura di A. Santosuosso, R.O. Goodenough, M. Tomasi, Pavia University Press, Pavia,
2015.
SANTOSUOSSO – BOTTALICO 2017
A. Santosuosso – B. Bottalico, Autonomous Systems and the Law: Why Intelligence Matters, in Eric
Hilgendorf, Uwe Seidel (eds.), Robotics, Autonomics, and the Law: Legal issues arising from the
Autonomics for Industry 4.0 Technology Programme of the German Federal Ministry for Economic
Affairs and Energy, January 2017, doi: 10.5771/9783845284651-27.
SAPORITI 2018
Riccardo Saporiti, Ecco Google Dataset Search, il motore di ricerca per scienziati e giornalisti, in «Il Sole
24ore», 10 settembre 2018.
SARMA – BROCK – ASHTON 2000
Sanjay Sarma – David L. Brock – Kevin Ashton, White paper e Networked Physical World.Proposals
for Engineering the Next Generation of Computing, Commerce & Automatic-Identification, 2000,
disponibile
presso
https://pdfs.semanticscholar.org/88b4/a255082d91b3c88261976c85a24f2f92c5c3.pdf, visitato il
30 dicembre 2019.
SARTOR 2010
Giovanni Sartor, L’informatica giuridica e le tecnologie dell’informazione: Corso di informatica
giuridica, Giappichelli Editore, Torino, 2010.
SARTOR 2016
Giovanni Sartor, L’informatica giuridica e le tecnologie dell’informazione. Corso di informatica
giuridica, Giappichelli, Torino, III edizione, 2016.
SARTOR 2015
Giovanni Sartor, Logica e diritto, in Le direzioni della ricerca logica in Italia, a cura di Hykel Hosni,
Gabriele Lolli e Carlo Toffalori, Edizioni della Normale, Pisa, 2015, pp. 283-314.
SCALIA – BREYER 2005
Antonin Scalia – Stephen Breyer, Discussion at the American University Washington College of Law, in
«International Journal of Constitutional Law» 519, 3, 2005.
SCHLAG 2007
Pierre Schlag, Spam Jurisprudence, Air Law, and the Rank Anxiety of Nothing Happening (A Report on
the State of the Art), University of Colorado Law School, Legal Studies Research Paper Series,
Working Paper Number 07-11, March 23, 2007.
SCHNEIDER 2004
Volker Schneider, e transformation of the State in the Digital Age, in e State of Europe,
Transformation Of Statehood From A European Perspective, a cura di Sonja Puntscher Riekmann,
Monika Mokre, And Michael Latzer, Campus Verlag, Frankfurt-New York, 2004, pp. 51-69.
SCHNEIDER 2018
Kai-Niklas Schneider, Driving innovation in the legal industry, June 18, 2018
https://asialawportal.com/2018/06/18/driving-innovation-in-the-legal-industry/, visitato il 29
luglio 2019.
SCOTT 2009
Craig Scott, «Transnational Law» as Proto-Concept: ree Conceptions, in «Comparative Research in
Law
&
Political
Economy»,
Research
Paper
No.
32/2009,
https://digitalcommons.osgoode.yorku.ca/clpe/144.
SCHAUER 1991
Frederick Schauer, Playing by the Rules: A Philosophical Examination of Rule-Based Decision-Making
in Law and in Life, Clarendon Press, Oxford, 1991.
SEARLE 1996
John R Searle, e construction of social reality, e Free Press, 1996.
SEIF 2018
George Seif, AI doesn’t need to be fully interpretable, https://towardsdatascience.com/ai-doesnt-needto-be-fully-interpretable-4767b110dc1e, visitato il 19 agosto 2019.
SHAPIRO – KOURI KISSEL 2018
Stewart Shapiro – Teresa Kouri Kissel, Classical Logic, in e Stanford Encyclopedia of Philosophy
(Spring
2018
Edition),
Edward
N.
Zalta
(ed.),
URL
=
https://plato.stanford.edu/archives/spr2018/entries/logic-classical/, visitato il 30 dicembre 2019.
SHOHAM et al. 2018
Yoav Shoham – Yoav Shoham – Raymond Perrault – Erik Brynjolfsson – Jack Clark – James Manyika
– Juan Carlos Niebles – Terah Lyons – John Etchemendy – Barbara Grosz – Zoe Bauer, e AI
Index 2018 Annual Report, AI Index Steering Committee, Human-Centered AI Initiative, Stanford
University,
Stanford,
2018,
disponibile
all’indirizzo:
http://cdn.aiindex.org/2018/AI%20Index%202018%20Annual%20Report.pdf, visitato il 4 agosto
2019.
SIMONITE 2019
Tom Simonite, How Tech Companies Are Shaping the Rules Governing AI, in «Wired», 16 maggio 2019,
visitato il 27 agosto 2019.
SINGER 1990
Peter Singer, Animal Liberation, New York Review/Random House, 1990.
SJÖBERG, 2019
Cecilia Magnusson Sjöberg, Legal Automation: AI and Law Revisited, in Marcelo Corrales – Mark
Fenwick – Helena Haapio (eds.), Legal Tech, Smart Contracts and Blockchain, Perspectives in
Law, Business and Innovation, Springer, Singapore 2019, https://doi.org/10.1007/978-981-136086-2_7.
SLAUGHTER 2000
Anne Marie Slaughter, Judicial Globalization, in «Virginia Journal of International Law», vol. 40, 2000.
SINI 2009
Carlo Sini, L’uomo, la macchina, l’automa. Lavoro e conoscenza tra futuro prossimo e passato remoto,
Bollati Boringhieri, Torino, 2009.
SOLDAVINI, 2016
Pierangelo Soldavini, Il contratto si fa smart, in «il Sole 24ore», 16 ottobre 2016, disponibile
all’indirizzo https://nova.ilsole24ore.com/progetti/il-contratto, consultato il 30 dicembre 2019.
SOMEK 2017
Alexander Somek, e Legal relation. Legal eory Aer Legal Positivism, Cambridge University Press,
Cambridge (UK)-New York, 2017.
SONG 2018
Jimmy Song, Why Blockchain is Hard, in Medium Daily Digest, 2018, disponibile all’indirizzo:
https://medium.com/@jimmysong/why-blockchain-is-hard-60416ea4c5c visitato il 13 luglio
2019.
SPENCER 2019
Michael K. Spencer, e Dangers of Artificial Intelligence, in OneZero Medium, 2019, disponibile
all’indirizzo:
https://medium.com/futuresin/the-dangers-of-arti cial-intelligence-in-201919e14fa45aa4, visitato il 21 luglio 2019.
STANLEY 2019
Jay Stanley, e Dawn of Robot Surveillance. AI, Video Analytics, and Privacy, American Civil Liberties
Union, New York, 2019.
STOLKER 2014
Carel Stolker, Rethinking the Law School: Education, Research, Outreach and Governance, Cambridge
University Press, Cambridge, 2014.
SZABO 1997
Nick Szabo, Formalizing and Securing Relationships on Public Networks, in «First Monday», Volume 2,
No
9,
1
September
1997,
disponibile
all’indirizzo:
https://ojphi.org/ojs/index.php/fm/article/view/548/469, visitato il 26 giugno 2019.
SUSSKIND 2017
Richard Susskind, Tomorrow’s Lawyers. An Introduction to Your Future, Oxford University Press, 2nd
ed. 2017.
TAINO 2019
Danilo Taino, La globalizzazione lotta per la sua vita, in «Corriere della sera», 17 luglio 2019.
TARUFFO 1974
Michele Taruffo, La motivazione della sentenza civile tra diritto comune e illuminismo, in «Riv. dir.
proc.», 1974, pp. 279 ss.
TAUBER 2017
Alfred Tauber, Philosophy of Immunology, in e Stanford Encyclopedia of Philosophy (Spring 2017
Edition), Edward N. Zalta (ed.), https://plato.stanford.edu/archives/spr2017/entries/immunolog,
2017.
THOMAS 2017
Katherine omas, e {Law} Firm of the Future (per la prima volta pubblicato sulla pagina LinkedIn
dell’autrice l’8 marzo 2017): disponibile all’indirizzo: https://remakinglaw rms.com/the-lawrm-of-the-future/, visitato il 25 aprile 2019.
THOMPSON 2019
Clive ompson, e Secret History of Women in Coding, in «e New York Times» Feb. 13, 2019.
THYM 2016
Daniel ym, e limits of transnational scholarship on EU law. A view from Germany, EUI Working
Paper LAW 2016/14 (ISSN 1725-6739).
TORRENTE – SCHLESINGER 2009
Andrea Torrente – Piero Schlesinger, Manuale di diritto privato, Giuffrè, Milano, 2009.
TROPER 2012
Michel Troper, Les concepts de l’histoire constitutionelle, in Comment écrit-on l’histoire
constitutionnelle?, a cura di Carlos Miguel Herrera and Arnaud Le Pillouer, Kimé, Paris 2012.
TURING 1936
Alan M. Turing, On Computable Numbers, with an Application to the Entscheidungsproblem, in
«Proceedings of the London Mathematical Society», Series 2, 42, 1936.
TURING 1947
A.M.
Turing,
Lecture
on
the
Automatic
Computing
Engine,
1947,
presso
https://www.vordenker.de/downloads/turing-vorlesung.pdf, visitato il 30 dicembre 2019.
UNSWORTH 2019
Rory Unsworth, Smart Contract is! An Assessment of the Contractual Landscape and the Herculean
Challenges it Currently Presents for ‘Self-executing’ Contracts, in Legal Tech, Smart Contracts and
Blockchain, a cura di M.Corrales, M. Fenwick e H. Haapio, Perspectives in Law, Business and
Innovation book series, 2019.
VAN GULICK 2014
Robert Van Gulick, Consciousness, Stanford Encyclopedia of Philosophy, disponibile presso:
http://plato.stanford.edu/archives/spr2014/entries/consciousness/.
VAN EST – GERRITSEN – KOOL 2017
R. Van Est – J.B.A. Gerritsen – L. Kool, Human rights in the robot age: Challenges arising from the use
of robotics, artificial intelligence, and virtual and augmented reality – Expert report written for the
Committee on Culture, Science, Education and Media of the Parliamentary Assembly of the
Council of Europe (PACE), Rathenau Instituut, e Hague, 2017.
VINGE 1993
Vernor Vinge, e Coming Technological Singularity. How to Survive in the Post-Human Era,
disponibile all’indirizzo: https://edoras.sdsu.edu/˜vinge/misc/singularity.html, visitato il 26
agosto 2019.
VOLLI 2007
Ugo Volli, Manuale di semiotica, Laterza, Roma-Bari, 2007.
WALLACE 2019
Anne Wallace, Ten Questions for Dory Reiling - Developing IT for Courts, in «International Journal for
Court Administration», 10(1), 2019. doi: http://doi.org/10.18352/ijca.293, visitato il 19 agosto
2019.
WALLACH – MARCHANT 2019
Wendell Wallach – Gary Marchant, Toward the Agile and Comprehensive International Governance of
AI and Robotics, in «Proceedings of the IEEE», Vol. 107, No. 3, 2019.
WALSH 2019
Bryan Walsh, A.I. Is the Cause Of – And Solution To – the End of the World. e development of
artificial general intelligence offers tremendous benefits and terrible risks, disponibile all’indirizzo:
https://onezero.medium.com/a-i-is-the-cause-of-and-solution-to-the-end-of-the-world2d247d37eccb.
WEBSTER 2019
Gordon Webster, Big Data does not equal Big Knowledge, 19 maggio 2019, https://medium.com/thedigital-biologist/big-data-does-not-equal-big-knowledge-33774baa476e, visitato il 19 agosto
2019.
WIECECK 1988
William M.Wiececk, e Blessing of Liberty”: Slavery in the American Constitutional Order, in Slavery
and Its Consequences: the Constitution, Equality and Race, edited by R.A. Goldwin, A. Kaufman,
American Enteprise Institute for Public Policy Research, Washington DC., 1988, p. 29.
WINFIELD et al. 2019
Alan F. Win eld – Katina Michael – Jeremy Pitt – Vanessa Evers, Machine Ethics: e Design and
Governance of Ethical AI and Autonomous Systems, in «Proceedings of the IEEE», Vol. 107, No.
3, March 2019.
WOOD 2018
Johnny Wood, is AI outperformed 20 corporate lawyers at legal work, disponibile presso:
https://www.weforum.org/agenda/2018/11/this-ai-outperformed-20-corporate-lawyers-at-legalwork/, visitato il 19 aprile 2019.
WINTHER 2016
Rasmus Grønfeldt Winther, e Structure of Scientific eories, in e Stanford Encyclopedia of
Philosophy (Winter 2016 Edition), edited by Edward N. Zalta, disponibile all’indirizzo:
https://plato.stanford.edu/archives/win2016/entries/structure-scienti c-theories/, visitato il 31
agosto 2019.
WORLD ECONOMIC FORUM 2018
World Economic Forum, Future of Jobs Report 2018, (17 settembre 2018), disponibile all’indirizzo:
https://www.weforum.org/reports/the-future-of-jobs-report-2018, visitato il 19 aprile 2019.
YOUNG 2017
Joseph Young, Blocksafe wants to reduce gun violence with a hybrid IoT blockchain network, disponibile
all’indirizzo: https://bravenewcoin.com/news/blocksafe-wants-to-reduce-gun-violence-with-ahybrid-iot-blockchain-network/, consultato il 30 agosto 2017.
ZACCARIA 2013
Alessio Zaccaria, L’insegnamento del diritto: dall’Università alla professione di avvocato, in «Studium
Iuris» 2013, pp. 1-4.
ZETTERBERG – WOJCIK 2017
Ulf Zetterberg – Christina Wojcik, Technology Is Changing the Way Legal Works: A Look at How
Technology Is Driving Better Business Practices in Legal, in Liquid Legal. Management for
Professionals, edited by Jacob K., Schindler D., Strathausen R., Springer, Cham, 2017.
ZOLO 2007
Danilo Zolo, Hans Kelsen: International Peace through International Law, in «Jura Gentium. Rivista di
loso a
del
diritto
internazionale
e
della
politica
globale»,
2007,
http://www.juragentium.org/topics/thil/en/kelsen.htm.
ZUBOFF 2019
Shoshana Zuboff, e Age of Surveillance Capitalism: e Fight for a Human Future at the New Frontier
of Power, Pro le Books, London, 2019
ZUCKERMAN 2019
Ethan Zuckerman, inking in Solid, in «Medium», 2019 disponibile all’indirizzo:
https://medium.com/@EthanZ/thinking-in-solid-85e4f2c974c9, visitato il 2 agosto 2019.
ZUMBANSEN – DISEMBEDDED 2013
Peer Zumbansen – Lochner Disembedded, e Anxieties Of Law In A Global Context, in «Indiana
Journal of Global Legal Studies» 29, 20, 2013, disponibile all’indirizzo:
https://www.academia.edu/6122331/Part_I_Globalization_Critical_Engagements_with_Territor
iality?auto=download, visitato il 14 agosto 2019.
ZUMBANSEN 2006
Peer Zumbansen, ‘Transnational Law’, in Jan Smits (ed.), Encyclopedia of Comparative Law, Edward
Elgar Publishing, Cheltenham, 2006.
Pagina attualmente non disponibile, ma citata da uno dei coautori in S. Russell, Artificial
intelligence: e future is superintelligent, in «Nature» 548, 2017, pp. 520-521 doi: 10.1038/548520a
(visitato il 30 dicembre 2019).
1
Indice dei nomi
A
Alemanno A., 150
Aletras N., 69
Allen C., 218, 219
Amodio E., 105, 106
Angwin J., 92
Annunziata M., 184
Arrigo F., XVI, 123, 129, 136
Ashley K.D., 68, 74, 75, 99, 100, 253, 254, 256-258, 260, 262-263, 265, 268
Ashton K., 180
Azzini S., 244, 246
B
Baldwin R., 237-238
Baron C.H., XV, 275
Battista P., 192, 193
Beitz C., 215
Bellet H., 196
Bellini M., 124
Benjamin W., 195
Benkler Y., 39
Bergstein B., 13
Berlin I., 46
Bin R., 224, 241
Biscotti B., 103, 104, 108
Blackstone W., 203
Bobbio N., 64, 112-113
Boldrini N., 129
Bommarito M.J., 73, 258
Booch G., 270
Borruso R., 139
Borsellino P., 105, 111, 113
Boscarato C., 198
Bottalico B., XVI, 203
Breyer S., 249, 250, 281
Bringsjord S., 7, 21, 24, 25, 269, 279
Brock D.L., 180
Brownsword R., 230
Bryan Williams J., 55, 60
Bucy P.H., 212
Buell S.W., 210
C
Calamandrei P., 107, 108
Cappiello B., 141
Card D., 114, 115
Caroleo F., 198
Carollo V., 87
Cartabia M., 246
Cassetti L., 233
Cheng E.K., 285
Chesterman S., 27
Chilton A.S., 150
Chiriatti M., 134
Chui M., 49, 186
Church G.M., 177-178
Cimiano P., 273
Cimpanelli G., 54
Ciolli B., 184
Coeckelbergh M., 35
Coke E., 23
Colvin G., 186
Condliffe J., 38
Conoci S., 137
Conte A.G., 138, 272
Copeland J., 2-4, 253
Cucchiara R., 5, 90
D
Dan-Cohen M., 128
Dangel S., 55-56, 60
Davidson C.N., 150
De Filippi P, 122, 128, 133-134, 143, 147
de Maglie C., 210
de Saussure F., 272
De Simone G., 212
Dennett D., 215, 218
Denti V., 103-105
Di Vico D., 185
Disembedded L., 240
Donati A., 196
Dweck C., 154
E
Einstein A., 221
Emmerson B., 193
Etchemendy J., 9, 10
Evans P.C., 184
F
Fehrenbacher D.E., 45
Feinberg T.E., 218
Fenwick M., 150
Ferrario R., 196
Finocchiaro G., 139
Fiorella A., 210
Floridi L., 200, 207, 279
Forza A., 103
Fotina C., 144
Foucault M., 191-193
Franceschelli V., 139
Franssen M., 227
Friedman L., 212
Friedmann R., 48
G
Gaggi M., 28
Gaito A., 210
Gambhir M., 207
Gane C., 150
Garagna S., XV, 164, 284
Garapon A., 254
Gasser U., 31, 278-279
Geiger T., 272
Gerritsen J.B.A., 82, 186, 191
Gialuz M., 77, 92
Gibney E., 15
Goldwin R.A., 45
Goodenough O.R., XV, XVI, 132, 159, 160, 164, 254-255, 260-262, 265-267
Govindarajulu N.S, 7, 21, 24-25, 269, 279
Green S., 194
Grønfeldt Winther R., 222, 226
Grossi P., 64, 251-252
H
Haass R., 235
Haber S., 123
Hagan M., 55-57, 60, 152, 158
Hajek P., 186, 252, 274
Haller S., 180
Hawking S., 8, 14-15, 220
Holm E.A., 116
Holmes O.W. Jr., 23, 64, 99
Holmes P., 239
Hongda Q., 52
Hovig T., 196
I
Irti N., 175, 206, 254
J
Jacob K. Jacobson I., 270
Jessup P.C., 173, 229, 230, 242
K
Kaal W., 150
Kamminga M., 232
Katz D.M., 65-67, 71, 73, 77, 99, 151-152, 159, 258
Kaufman A., 45
Kavakli M., 207
Kelsen H., 203-206, 239, 240-242, 251
Kessel J.M., 29
Khadar L., 150
King S., 236
Koh H.H., 231
Kool L., 82, 186, 191
Kouri Kissel T., 266, 268
Kristeva J., 197
Kurzweil R., 220
L
Lance N., 16, 258
Langford M., 232
Lassègue J., 254
Lawlor R.C., 79, 80
Lederman E., 212
Leiter B., 24
Leung D., 147
Levi E.H., 99
Levine R., 130
Levy S., 65, 74
Lewis A., 134
Lipari N., 150
Liu C.Z., 207
Lohr S., 50
Lokhorst G.J., 227
Losano M., 240-241
M
Macario F., 150
Magnusson Sjöberg C., 155, 169
Mahoney M., 56, 60
Mak E., 159
Malerba A., 271, 279
Mallatt J., 218
Manganelli G., 185-186
Manger P.R., 219
Manyika J., 49, 66, 186
Marchant G., XIII, 31, 40
Massimi M., 152
Masur J.S., 150
May L., 208
Mazzeschi R.P., 232
Meldolesi A., 178
Menegon G., 103
Miller J.H., 207
Miremadi M., 49, 186
Mitchell M., 15
Morde V., 114
Morelli C., 62
Moro A., 277
Morsink J., 214-215
Mullin E., 178
Murray J., 279
N
Naffine N., 210
Nalini P., 29
Nay J.J., 73
Nicotra M., 140
Norvig P., 4-7, 17-18, 43, 113
O
Obrist H.U., 197
P
Pagallo U., 254
Page S.E., 207
Palfrey J., 278-279
Parisi F., 139
Parker C., 236
Parodi C., 77
Pascuzzi G., 150
Paulson S.L., 241
Peek N., 66
Pennisi M., 127
Pernis B., 281
Perry L., 12
Petrucciani G., 126
Pievani T., 222, 228
Pitruzzella G., 28
Pittelli T., 61
Piva A., 96
Pop A.I., 210, 212
Pradeu T., 283
Prakken H., 21-22, 250, 252, 254, 259, 260, 263, 265
R
Reale M., 87
Redi C.A., 164
Richardson R., 97
Robaldo L., 264
Rosic A., 136
Rossi F., 14
Rovelli C., 221
Rubinstein R.A.
Ruggeri A., 246-247
Rumbaugh J., 270
Rumiati R., 103
Rundo F., 137
Russell S., 4-7, 15, 17-18, 43, 113
Ryder R.D., 216
S
Sacco R., 138, 272
Salerno D., 130
Santosuosso A., 15, 41, 46, 76, 94, 170, 173, 175, 187, 198, 203-204, 206, 214-245, 219, 231, 244, 246247, 271, 279-275
Saporiti R., 96
Sarma S., 180
Sartor G., 3, 21-23, 109, 155, 166, 250, 252, 254, 259, 260, 263, 265-266
Scalia A., 249, 250, 281, 286
Schauer F., 98, 242, 280
Scheinin M., 232
Schlag P., 150
Schlesinger P., 208-209
Schmitt C., 31
Schneider K.N., 51
Schneider V., 194
Scott C., 231
Scott Stornetta W., 123
Searle J.R., 218, 272
Seif G., 103
Sellaroli V., 77
Shapiro S., 266, 268
Simoncelli S., 196
Simonite T., 39
Singer P., 216
Sini C., 171, 227
Slaughter A.M., 242-243
Soldavini P., 134-135
Somek A., 240, 251
Song J., 121, 125
Spencer M.K., 190
Stanley J., 194, 241
Stolker C., 150, 167-168
Susskind R., 26, 47, 52-55, 57, 60-61, 78-79, 89, 149, 152-153, 158, 162, 254
Szabo N., 134
T
Taddeo M., 200
Taruffo M., 103, 106
Tauber A., 282
omas K., 59
ompson C., 78
ym D., 271
Tomasi M., 244
Torrente A., 208-9
Travia N., 140
Trestman M., 218-219
Troper M., 273
Turing A.M., 3, 4, 11, 18,
207
U
Unsworth R., 154
V
van de Poel I., 227
Van Est R., 82, 186, 191
Van Gulick R., 216-217
Vermeulen E.P.M., 150
Veronesi P., 8
Vinge V., 15
Volli U., 272
W
Wallace A., 89, 91
Wallach W., 31, 40
Walsh B., 5, 16
Webb T.E., 279
Webster G., 96
Wheatley S., 279
Wiececk W.M., 45-46
Win eld A.F., 31-32
Wojcik C., 60
Wood J., 51, 56
Wright A., 122, 128, 133-134, 143, 147
Y
Young J., 131
Z
Zaccaria A., 150
Zetterberg U., 60
Zolo D., 240-1, 293
Zuboff S., 192
Zuckerman E., 29, 194
Zumbansen P., 230, 240
Scienza e Filosofia
Collana diretta da Armando Massarenti
Carlo Rovelli, Che cos’è la scienza. La rivoluzione di Anassimandro.
Anna Meldolesi, Mai Nate. Perchè il mondo ha perso 100 milioni di donne.
Giorgio Vallortigara, La mente che scodinzola. Storie di animali e di cervelli.
Elena Pasquinelli, Irresistibili schermi. Fatti e misfatti della realtà virtuale.
Luciano Maiani, Romeo Bassoli, A caccia del bosone di Higgs. Magneti, governi, scienziati e particelle
nell’impresa scientifica del secolo.
Lucio Russo, L’America dimenticata. I rapporti tra le civiltà e un errore di Tolomeo.
Pier Luigi Luisi, Sull’origine della vita e della biodiversità.
James R. Flynn, Osa pensare. Venti concetti per capire criticamente e apprezzare la modernità.
Gilberto Corbellini, Elisabetta Sirgiovanni, Tutta colpa del cervello.
Gianvito Martino, In crisi d’identità. Contro natura o contro la natura?
Simon Critchley, Come smettere di vivere e iniziare a preoccuparsi. Conversazioni con Carl Cederström.
Paul agard, Il cervello e il senso della vita.
Carlo Scognamiglio Pasini, L’arte della ricchezza. Cesare Beccaria economista.
Hilary Putnam, Che cosa è la logica.
Giovanni Bignami, Andrea Sommariva, Oro dagli asteroidi e asparagi da Marte. Realtà e miti
dell’esplorazione dello spazio.
James R. Flynn, Destino e filosofia. Un viaggio tra le grandi domande della vita.
Adrian Raine, L’anatomia della violenza. Le radici biologiche del crimine.
Dominique Cardon, Che cosa sognano gli algoritmi. Le nostre vite al tempo dei big data.
Sergio Giudici, Fare il punto. Una storia a ritroso della localizzazione dal GPS a Tolomeo.
Lesley J. Rogers, Giorgio Vallortigara, Richard J. Andrew, Cervelli divisi. L’evoluzione della mente
asimmetrica.
Jack Copeland, Turing. Un pioniere dell’era dell’informazione.
Lorenzo Casini, Lo Stato nell’era di Google. Frontiere e sfide globali.
Vera Tripodi, Etica delle tecniche. Una filosofia per progettare il futuro.
Lucio Russo, Flussi e riflussi. Indagine sull’origine di una teoria scientifica.
Marc D. Hauser, Evilicious. Alle radici dell’odio e della crudeltà.
Amedeo Santosuosso, Intelligenza artificiale e diritto. Perché le tecnologie di IA sono una grande
opportunità per il diritto