20180327 Intelligenza artificiale e “computabilità giuridica” tra diritto civile e diritto penale

Dr. Avv. Federico Costantini
Dipartimento di Scienze giuridiche
[nome].[cognome]@uniud.it
27 marzo 2018 (ore 16.30-17.20)
C/O Auditorium Regione FVG
Via Sabbatini 31, UDINE
Seminario interforze «La traccia digitale»
Intelligenza artificiale e
“computabilità giuridica” tra
diritto civile e diritto penale

2
<index>
</index>
<Introduzione>
Il contesto tecnologico (breve descrizione dello «stato dell’arte»)
</Introduzione>
<Problema>
Quale diritto per l’intelligenza artificiale? (schema complessivo)
</Problema>
<Premesse>
Cosa c’era «prima» dell’intelligenza artificiale?
</Premesse>
<Automatismo e diritto>
«Computabilità giuridica», «robo-lawyers, smart contracts
</Automatismo e diritto>
<Automi e diritto>
«smart robots», smart cars
</Automi e diritto>
<Conclusioni>
Osservazioni finali
</Conclusioni>

3
<Introduzione><Il contesto tecnologico>
http://content.time.com/time/covers/0,16641,19830103,00.html
The Computer, Machine of the
Year | Jan. 3, 1983
Trentacinque anni fa il computer entra
come antagonista dell’uomo
nell’immaginario collettivo …

4
https://en.wikipedia.org/wiki/Deep_Blue_versus_Garry_Kasparov.
21 anni fa (era il 1997)
l’antagonista (Deep Blue,
IBM) vinceva a scacchi contro
il campione del mondo
dell’epoca

5
l’antagonista (Watson,
IBM) vinceva a
Jeopardy! contro i
campioni in carica
https://www.nytimes.com/2011/02/17/science/17jeopardy-watson.html?pagewanted=all

6
l’antagonista
(DeepMind, Google)
vinceva a «GO» contro
i campioni in carica
SILVER, D., J. SCHRITTWIESER, K. SIMONYAN, I. ANTONOGLOU, A. HUANG, A. GUEZ, T. HUBERT, L. BAKER, M. LAI, A. BOLTON, Y. CHEN,
T. LILLICRAP, F. HUI, L. SIFRE, G. VAN DEN DRIESSCHE, T. GRAEPEL E D. HASSABIS, Mastering the game of Go without human knowledge, in
«Nature», 550 n. 7676 (2017), pp. 354-359

7
1 anno fa (2017)
l’antagonista (OpenAI,
Facebook) vinceva a
«Dota 2» contro i
campioni in carica
imparando a giocare
da solo
https://blog.openai.com/dota-2/

8
</>
I giochi multiplayer
sono considerati dagli
sviluppatori il
contesto ideale per
far competere tra loro
i sistemi di
intelligenza artificiale.
http://www.cs.mun.ca/~dchurchill/starcraftaicomp/history.shtml
(Si tratta di scenari bellici: ma siamo
sicuri di quello che stiamo facendo?)

9
<Problema><Quale diritto per l’intelligenza artificiale?>
SHANNON, C. E., A Mathematical Theory of Communication, in «Bell System Technical Journal», XXVII n. 3 (1948), pp. 379-423
Il rapporto tra diritto e intelligenza artificiale è duplice, perché riguarda:
(1) Disciplina giuridica dell’intelligenza artificiale;
(2) Concezione «artificiale» del diritto.
Questo secondo aspetto è più importante di quanto sembri.
Alla luce di una concezione tecnologica del diritto, ossia considerando la
giuridicità come un «ecosistema» di informazione relativa all’organizzazione sociale
e alla condotta degli individui, le questioni richiedono una loro ridefinizione

10
</>
<Problema><Quale diritto per l’intelligenza artificiale?>
L’idea di fondo,
abbastanza
diffusa, è quella
che noi siamo
inforg,
«organismo
informazionale»
Floridi, Luciano (a cura di), The Onlife Manifesto. Being Human in a Hyperconnected Era, Cham, Springer International
Publishing (Open Access, 2015, p. 58
Floridi, Luciano, The 4th Revolution. How the infosphere is reshaping human reality, Oxford, Oxford University Press, 2014
Di conseguenza la differenza tra uomini e macchine non è
poi così percepibile in termini astratti.
Laurent Beslay, "Digital Territory: Bubbles," European Visions for the Knowledge Age. (2007).

11
<Premesse><Cosa c’era «prima»?>
https://it.wikipedia.org/wiki/Il_Turco
La propensione a inventare
creature artificiali è sempre stato
presente nella storia dell’uomo ed
è divenuto simbolo della moderna
«tracotanza» nei confronti
dell’ordine naturale delle cose.
LOSANO, MARIO G., Storie di automi: dalla Grecia classica alla Belle Époque,
Torino, G. Einaudi, 1990
HOFSTADTER, DOUGLAS R., Gödel, Escher, Bach: An Eternal Golden Braid,
Gödel, Escher, Bach. Un'Eterna Ghirlanda Brillante, Una fuga metaforica su
menti e macchine nello spirito di Lewis Carroll, 2 ed., Milano, Adelphi (Biblioteca
scientifica; 6), 1984 (1979)
«e così ci sarà un
pensatore, che
costruirà un
cervello che
sappia pensare
esattamente»
GOETHE, Faust: eine Tragödie, Stuttgart-
Tübingen, Cotta, 1831, pp. atto II, vv. 6869-6870.

12
<Premesse><Cosa c’era «prima»?>
Il fatto è che per capire cosa si «può» o si «deve» o non si
«deve» fare con le tecnologie dell’intelligenza artificiale,
bisogna darne una definizione.
Comportamento
Ragionamento
Confronto con
l’essere umano
Comportarsi
come un essere
umano
Ragionare
come un essere
umano
Criterio
autonomo di
«intelligenza»
Comportarsi in
modo
«intelligente»
Ragionare in
modo
«intelligente»
RUSSELL, STUART J. E PETER NORVIG, Artificial intelligence: a modern approach, 3
ed., Boston, Prentice Hall (Prentice Hall series in artificial intelligence, 2016)
Completely Automated Public
Turing tests to tell Computers
and Humans Apar
https://en.wikipedia.org/wiki
/Alan_Turing
</>
La cosa non è semplice.
Si possono dare quattro diversi approcci a seconda dei
punti di vista.

13
<Automatismo e diritto><«Computabilità giuridica», robo-lawyers, smart
contracts»>
(1) In generale: tecnologie di formalizzazione del linguaggio giuridico
(2) Diritto civile: computational law, robo-lawyers, smart contracts
(3) Diritto penale: predictive policing
Da circa 70 anni l’informatica giuridica studia l’automatizzazione di tutti i processi
che riguardano il diritto.
Di seguito si propone una selezione dei più recenti studi che riguardano
direttamente o indirettamente l’intelligenza artificiale

14
contracts»>
Esempio: RuleML
http://lime.cirsfid.unibo.it/demo-lrml/?lang=en
Formalizzare il testo normativo è fondamentale per una sua
elaborazione automatica.

15
contracts»>
Esempio: ontologie legali
https://www.w3.org/TR/odrl/
La creazione di
strutture
semantiche è
essenziale per
consentire alle
macchine di
connettere tra loro
le regole
giuridiche

16
contracts»>
Esempio: formalizzazione di logica argomentativa Carneade (Università di Berlino
e altre)
L’intelligenza
artificiale può
creare
argomentazioni
giuridiche,
confrontando tra
loro il «peso»
degli argomenti
per far prevalere
l’uno sull’altro.

17
contracts»>
L’idea di fondo è quella di automatizzare tutti i processi di natura ripetitiva
che riguardano la pratica del diritto, sostituendo sistemi esperti agli esseri
umani.
Ciò può avvenire a diversi livelli di complessità delle operazioni
considerate.
In questa sede se ne considerano tre:
(1) Ambito giudiziario: prevedere l’esito delle controversie per individuare
un compromesso ed evitare in tal modo il giudizio;
(2) Ambito forense: diminuire i costi relativi al disbrigo delle pratiche più
ripetitive;
(3) Ambito contrattuale: consentire transazioni economiche in modo
veloce ed efficace

18
contracts»>
Computational law
https://computationallegalstudies.com
(1) Ambito giudiziario: prevedere l’esito delle controversie per individuare un
compromesso ed evitare in tal modo il giudizio;
Questo era il proposito
da cui nasce
l’informatica giuridica,
originariamente
chiamata «jurimetrics»
LOEVINGER, LEE,
Jurimetrics: The Next
Step Forward, in
«Minnesota Law
Review», 33 (1949),
pp. 455-493

19
Decisioni «ripetitive»
potranno essere lasciate in
mano ai computer (?)
http://www.sixstjameshall.com.au/6-st-james-international-blog/2017/3/3/law-council-of-australia-immigration-law-
conference-automated-decision-making
.. Anche se riguardano
soggetti
«particolarmente
svantaggiati»?
Esiste un limite «etico» sulla base dell’oggetto del giudizio?
contracts»>

20
.. Anche decisioni troppo
«difficili» potranno essere
lasciate in mano ai computer
(?)
http://www.ibtimes.com/artificial-intelligence-used-predict-
outcome-hundreds-human-rights-cases-2435865
“The AI, which analyzed 584 English
language case texts related to Article 3, 6
and 8 of the European Convention on
Human Rights using a machine learning
algorithm, came to the same verdict as
human judges in 79 percent of the
cases””.
… e se la cosa funzionasse davvero «meglio»?
contracts»>

21
contracts»>
(2) Ambito forense: diminuire i costi relativi al disbrigo delle pratiche più ripetitive;
http://www.bbc.com/news/technology-36650317
Si tratta, semplificando
di molto, di chatbot,
specializzati nel
rispondere a questioni
giuridiche e a elaborare
documenti legali in
funzione delle risposte
ricevute dai clienti
(e cosa faranno gli avvocati?)

22
contracts»>
(2) Ambito forense: diminuire i costi relativi al disbrigo delle operazioni più ripetitive
o faticoso;
https://science.closeupengineering.it/ross-lavvocato-progettato-dalla-ibm/9485/
Ci sono anche sistemi
esperti che compiono
ricerche documentali in
modo estremamente
efficiente

23
contracts»>
(3) Ambito contrattuale: consentire transazioni economiche che si realizzano in
modo veloce ed efficace
https://blockgeeks.com/guides/smart-contracts/
Gli smart
contracts
prevedono non
soltanto una
conclusione
automatica, ma
anche una
esecuzione
automatica.

24
contracts»>
RAND report «Predictive Policing», 2013, pag. 21
Problema: trattamento
automatizzato di dati
personali e divieto di
profilazione GDPR
«any policing strategy or tactic that
develops and uses information and
advanced analysis to inform forward-
thinking crime prevention»
-> Uchida, Craig D., A national
discussion on predictive policing:
Defining our terms and mapping
successful implementation strategies.
National Institute of Justice, 2009 (p.
1). Originally, John Morgan, Director
of NIJ’s Office of Science and
Technology)

25
contracts»>
http://www.keycrime.com/
Un esempio concreto
(e vicino)

26
contracts»>
https://www.nytimes.com/2016/06/23/us/backlash-in-wisconsin-against-using-data-to-foretell-defendants-futures.html
Un caso famoso …

27
contracts»>
Una interessante prospettiva
per il futuro …

28
contracts»>
(3) Diritto penale: commissione di reati attraverso l’intelligenza artificiale
- Attività di ingegneria sociale;
- Individuazione di vulnerabilità;
- Elusione di sistemi di detection
- Penetrazione dei sistemi;
- Utilizzazione dei dati raccolti;
- (creazione di fake news).
https://www.eff.org/it/deeplinks/2018/02/malicious-use-artificial-intelligence-
forecasting-prevention-and-mitigation
Uso dell’intelligenza artificiale per
compiere in modo automatico:

29
contracts»>
(3) Diritto penale: commissione di reati «attaccando» dispositivi intelligenti
Uso delle vulnerabilità
dell’intelligenza artificiale per scopi
criminali
http://www.corriere.it/esteri/17_febbraio_17/germania-allarme-cayla-
bambola-spia-distruggetela-hacker-wifi-85ab9fa8-f553-11e6-acae-
b28574795707.shtml

30
contracts»>
(3) Diritto penale: commissione di reati (?)
Contratto di conto di gioco Pokerstars.it, art. 10, “Obblighi e
responsabilità del cliente” al comma 5, divieto di […] «5.
utilizzare programmi di intelligenza artificiale compresi i
cosiddetti "robot" finalizzati ad eseguire automaticamente i
giochi offerti tramite il Sito. Tutte le attività relative ai giochi
offerti tramite il Sito devono essere effettuate personalmente
dal Cliente attraverso il Sito;»
Un caso particolare: uso di intelligenza artificiale nei giochi d’azzardo da parte
dei giocatori.
Tesi di laurea in informatica giuridica, studente B. Nappi, in corso di elaborazione
Problema di qualificazione giuridica: è truffa? È truffa informatica?

31
</>
<Automi e diritto><«smart robots», smart cars>
Risoluzione del Parlamento europeo del 16 febbraio 2017 recante
raccomandazioni alla Commissione concernenti norme di diritto civile sulla
robotica (2015/2103(INL))
(1) Smart robots
(allegato): Definizione e classificazione dei "robot intelligenti»
È opportuno stabilire una definizione comune europea di robot autonomo
intelligente, comprese eventualmente le definizioni delle sue sottocategorie,
tenendo conto delle seguenti caratteristiche:
– la capacità di acquisire autonomia grazie a sensori e/o mediante lo scambio di
dati con il proprio ambiente (interconnettività) e l'analisi di tali dati;
– la capacità di apprendimento attraverso l'esperienza e l'interazione;
– la forma del supporto fisico del robot;
– la capacità di adeguare il suo comportamento e le sue azioni all'ambiente.

32
Risoluzione del Parlamento europeo del 16 febbraio 2017 recante
raccomandazioni alla Commissione concernenti norme di diritto civile sulla
robotica (2015/2103(INL))
(1) Smart robots
a) l'istituzione di un regime assicurativo obbligatorio, laddove pertinente e necessario per
categorie specifiche di robot, in virtù del quale, come avviene già per le automobili, venga imposto ai
produttori e i proprietari dei robot di sottoscrivere una copertura assicurativa per i danni potenzialmente
causati dai loro robot;
b) la costituzione di un fondo di risarcimento non solo per garantire il risarcimento quando il
danno causato dal robot non è assicurato;
c) la possibilità per il produttore, il programmatore, il proprietario o l'utente di beneficiare di una
responsabilità limitata qualora costituiscano un fondo di risarcimento nonché qualora sottoscrivano
congiuntamente un'assicurazione che garantisca un risarcimento in caso di danni arrecati da un robot;
d) la scelta tra la creazione di un fondo generale per tutti i robot autonomi intelligenti o di
un fondo individuale per ogni categoria di robot e tra il versamento di un contributo una tantum
all'immissione sul mercato di un robot o versamenti regolari durante la vita del robot;
e) l'istituzione di un numero d'immatricolazione individuale, iscritto in un registro specifico
dell'Unione, al fine di associare in modo evidente il robot al suo fondo, onde consentire a chiunque
interagisce con il robot di essere informato sulla natura del fondo, sui limiti della responsabilità in caso
di danni alle cose, sui nomi e sulle funzioni dei contributori e su tutte le altre informazioni pertinenti;
f) l'istituzione di uno status giuridico specifico per i robot nel lungo termine, di modo che
almeno i robot autonomi più sofisticati possano essere considerati come persone elettroniche
responsabili di risarcire qualsiasi danno da loro causato, nonché eventualmente il
riconoscimento della personalità elettronica dei robot che prendono decisioni autonome o che
interagiscono in modo indipendente con terzi;

33
(2) Smart cars
www.wise-act.eu

34
(2) Smart cars
https://www.nytimes.com/2018/03/23/technology/uber-self-driving-cars-arizona.html

35
(2) Smart cars
Studio per la commissione Trasporti - VEICOLI AUTONOMI: IL FUTURO DEI TRASPORTI SU STRADA?
IP/B/TRAN/FWC/2010-006/Lot1/C1/SC11 2016 PE 573.434, pag. 20
https://www.eutruckplatooning.com/About/default.aspx

36
(2) Smart cars
http://moralmachine.mit.edu
FOOT, PHILIPPA, The problem of abortion and the doctrine of double effect,
in «Oxford Review», 5 (1967), pp. 5-15
Il «problema del
carrello» è un
esperimento filosofico,
ben noto nella filosofia
morale, che è stato
riscoperto ed applicato
alle smart cars

37
Autonomous Vehicles Need Experimental Ethics:
BONNEFON, JEAN-FRANçOIS, AZIM SHARIFF E
IYAD RAHWAN, Autonomous Vehicles Need
Experimental Ethics: Are We Ready for Utilitarian
Cars?, in «http://arxiv.org/abs/1510.03346», (2015)
</>

38
<Conclusioni><Osservazioni finali>
Libro Bianco sull’Intelligenza Artificiale
http://www.agid.gov.it/notizie/2018/02/13/task-force-ia-consultazione-libro-bianco-intelligenza-artificiale-al-servizio-del
Possibile evoluzione
dell’intelligenza artificiale

39
«[…] addossare il problema
della propria responsabilità alla
macchina (sia che possa
apprendere oppure no) vorrà
dire affidare la propria
responsabilità al vento e
vedersela tornare indietro fra i
turbini della tempesta»
Wiener, Norbert, The Human Use of Human Beings, tr. it. di Dario Persiani, Introduzione
alla cibernetica. L'uso umano degli esseri umani, Torino, Bollati Boringhieri (Grandi
pensatori; 38), 2012 (1950), pag. 228. https://en.wikipedia.org/wiki/Norbert_Wiener

40
</>
In termini pratici, il rischio
rimane molto elevato …
Tom’s Hardware

41
</>
… In termini forensi, il
problema di fondo è dato dal
fatto che è difficile
ricostruire il «ragionamento»
dei sistemi IA …
Tom’s Hardware

42
Grazie per l’attenzione.
federico.costantini[@]uniud.it

20180327 Intelligenza artificiale e “computabilità giuridica” tra diritto civile e diritto penale

Recommended

Recommended

More Related Content

Similar to 20180327 Intelligenza artificiale e “computabilità giuridica” tra diritto civile e diritto penale

Similar to 20180327 Intelligenza artificiale e “computabilità giuridica” tra diritto civile e diritto penale (20)

More from Federico Costantini

More from Federico Costantini (20)

20180327 Intelligenza artificiale e “computabilità giuridica” tra diritto civile e diritto penale