Slide per l'intervento al Malnisio Science Festival 2019: si è illustrato brevemente l’evoluzione tecnologica dell’intelligenza artificiale, dagli albori fino allo stato attuale. si è poi ragionato su come l’intelligenza artificiale evoluta sia già parte della nostra vita e come vi entrerà sempre di più, con alcune riflessioni etico-giuridiche.

1. EVOLUZIONE TECNOLOGIA E
INTELLIGENZA ARTIFICIALE:
QUESTIONI ETICHE E GIURIDICHE
Edoardo E. Artese

2. Managing partner dello Studio AC Legal di Milano.
Si occupa di diritto commerciale e industriale ed è
appassionato cultore della materia delle nuove tecnologie
e dell’informatica giuridica.
2
Edoardo E. Artese
avvocato

3. Studio legale con sede a Milano,
specializzato in IT e diritto
commerciale internazionale.
www.ac-legal.eu
Associazione di esperti e studiosi
in materia di Diritto
dell’Informatica e di Informatica
Giuridica.
www.diricto.it

4. Perchè
l’Intelligenza
artificiale
interessa così
tanto le
persone?
4

5. Il paradigma
dell’apprendista stregone
(Antonio Caselli, Intelligenza artificiale,
protezione dei dati personali e
regolazione di Giuseppe D'Acquisto,
Maurizio Naldi, Raffaele Bifulco, Oreste
Pollicino, Bassani Marco)

6. Già in antichità
Golem
Il Golem è un gigante d'argilla presente
nella mitologia ebraica che non possiede
intelligenza né altre facoltà intellettive, ma
possiede una forza disumana ed è in
tutto e per tutto, un gigante.

7. Pinocchio
by Enrico Mazzanti (1852-
1910) - the first illustrator
(1883) of Le avventure di
Pinocchio. Storia di un
burattino
Coloured by Daniel DONNA

8. SCI-FI
BLADE RUNNER
TERMINATOR
ROBOCOP
SOLARIS
PINOCCHIO (e A.I.)

9. La SCI-FI ha davvero predetto la realtà?

10. “ Definizione di intelligenza
artificiale
10
L’Intelligenza Artificiale è un ramo dell’informatica che
permette la programmazione e progettazione di sistemi, sia
hardware sia software, che permettono di dotare le macchine
di determinate caratteristiche che vengono considerate
tipicamente umane quali, ad esempio, le percezioni visive,
quelle spazio-temporali e quelle decisionali.

11. A.I. – Le stagioni
Connessionismo Sistemi esperti
DARPA: “AI was not the next wave"
1980 2000 2010
Expert Systems
1980’s
Deep Learning
?
Markov Modelsnism
2012
AI Hype Cycles and AI Winters
0’s
…
1970’s

12. “
30 anni dopo…..
12
.

13. 13
https://digitalwellbeing.org/artificial-intelligence-timeline-infographic-from-eliza-to-tay-and-beyond/

14. Machine Learing
Il Machine Learning è una tecnica che permettere ai
computer di eseguire task cognitivi senza essere
programmati esplicitamente.
Computer
Science
Mathematical foundations
Algorithm & data
structures
Artificial Intelligence
Communication & Security
Database
…
Symbolic AI (Expert Systems)
Probabilistic AI (Search & Optimization)
Machine Learning
…
ML algorithms

15. 15
Traditional AI techniques
Machine Learning
Data
Logic
Output
Ø Static – hard-coded set of steps
and scenarios
Ø Rule Based – expert knowledge
Ø No generalization – handling
special cases difficult
Ø Dynamic – evolves with data,
finds new patterns
Ø Data driven– discovers
knowledge
Ø Generalization – adapts to new
situations and special cases
Data
Output
Logic
Traditional AI techniques
Machine Learning
Data
Logic
Output
Ø Static – hard-coded set of steps
and scenarios
Ø Rule Based – expert knowledge
Ø No generalization – handling
special cases difficult
Ø Dynamic – evolves with data,
finds new patterns
Ø Data driven– discovers
knowledge
Ø Generalization – adapts to new
situations and special cases
Data
Output
Logic
• Statico: scenari codificati
• Basato su regole: richiede
conoscenza esperta
• Non generale: difficile trattare
casi specifici
• Dinamico: evolve con i dati
• Conoscenza “esperienziale”
basata sui dati
• Generalizzato: si adatta a nuove
situazioni e casi speciali
Programmazione tradizionale vs Machine Learning

16. 16
Traditional AI techniques
Machine Learning
Data
Logic
Output
Ø Static – hard-coded set of steps
and scenarios
Ø Rule Based – expert knowledge
Ø No generalization – handling
special cases difficult
Ø Dynamic – evolves with data,
finds new patterns
Ø Data driven– discovers
knowledge
Ø Generalization – adapts to new
situations and special cases
Data
Output
Logic
Traditional AI techniques
Machine Learning
Data
Logic
Output
Ø Static – hard-coded set of steps
and scenarios
Ø Rule Based – expert knowledge
Ø No generalization – handling
special cases difficult
Ø Dynamic – evolves with data,
finds new patterns
Ø Data driven– discovers
knowledge
Ø Generalization – adapts to new
situations and special cases
Data
Output
Logic
• Statico: scenari codificati
• Basato su regole: richiede
conoscenza esperta
• Non generale: difficile trattare
casi specifici
• Dinamico: evolve con i dati
• Conoscenza “esperienziale”
basata sui dati
• Generalizzato: si adatta a nuove
situazioni e casi speciali
Programmazione tradizionale vs Machine Learning

17. The event was broadcast
live over the internet and
received over 74 million
hits.
1997
IBM Watson
beat Garry
Kasparov
VECCHI SISTEMI

18. 2011
IBM Deep Blue
beat 2 humans in
Jeopardy
https://www.youtube.com/watch?v=WFR3lOm_xhE
NUOVI SISTEMI

19. 19
▸ Simbolico: siedo con miglior giocatore di Go al
mondo e trasferisco la sua conoscenza in un
programma
▸ Matematico/statistico: simulo tutte le possibili
mosse, i risultati di ogni step e scelgo la mossa che
mi avvicina di più alla vittoria
▸ Machine Learning: faccio vedere ad un
programma milioni di partire (reali o simulate),
facendolo apprendere dall’esperienza
Gioco del Go: 3 possibili approcci

20. 20
HUSKY O LUPO ?

23. 23
Machine
Learning
Classificazione Lupi vs Husky
Accuratezza persone: 70%. Deep learning: 98.5%. Why?

24. Machine Learning
Lupi vs Husky
L’algoritmo classifica l’immagine come lupo…in base alla neve sullo sfondo!

25. Questioni
etiche e
giuridiche
25

26. Machine learning: exit

27. Ma chi è in
grado di
«educare» una
IA? E come?

28. Teorie
dell’Apprendimento
28
a) apprendimento supervisionato  estrarre una regola generale che associ
l'input all'output corretto;
b) apprendimento non supervisionato;
c) apprendimento per rinforzo  con un «insegnante» che dice solo se è stato
raggiunto l'obiettivo.

29. ISAAC ASIMOV E LE LEGGI
DELLA ROBOTICA – BASTANO?
● 1) Un robot non può recar danno a un essere umano né
può permettere che, a causa del proprio mancato
intervento, un essere umano riceva danno.
● 2) Un robot deve obbedire agli ordini impartiti dagli
esseri umani, purché tali ordini non contravvengano
alla Prima Legge.
● 3) Un robot deve proteggere la propria esistenza,
purché questa autodifesa non contrasti con la Prima o
con la Seconda Legge.

30. UTILIZZI PRATICI
dell’IA
30

31. ROBOTICA

32. (si veda Decreto ministeriale 28 febbraio 2018 c.d. Decreto Smart Roads)
Auto driverless o self-
driving
Ma in caso di incedenti, chi è il
responsabile? Il produttore? Il
programmatore?

33. …risoluzione del Parlamento Europeo del 16
febbraio 2017 recante raccomandazioni alla
Commissione concernenti norme di diritto
civile sulla robotica (2015/2103(INL))
33
La domanda diventa sempre
più attuale…
Consultabile integralmente sul sito del Parlamento UE al seguente link:
http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-
TA-2017-0051+0+DOC+XML+V0//IT#BKMD-13

34. INDUSTRIA
E IMPRESA

35. ENTERTAIMENT

36. Machine learn
being used tod
• The search eng
• The spam filte
• The recommen
• The face/hand
/fingerprint re
• The location/c
security system
• The disease di
prediction
• The weather fo

37. SELEZIONE DEL PERSONALE
DISCRIMANAZIONE NELLA SELEZIONE DEL PERSONALE…

38. MEDICINA

39. retinopathy as human doctors (Dec 2016) – soon in production!
Source: http://jamanetwork.com/journals/jama/article-abstract/2588763
2016 – Google Research: diagnosi retinopatia meglio di un dottore umano

40. MA: ACCETTEREMO
MAI UN ERRORE
DIAGNOSTICO DI UN
SOFTWARE?

41. GIUSTIZIA

42. 42
Machine Bias
Software COMPAS usato in USA per valutare il rischio di recidiva dei
detenuti sembra discriminare in base al colore della pelle
https://www.cdcr.ca.gov/rehabilitation/docs/FS_COMPAS_Final_4-15-09.pdf
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Machine Bias
Software per valutare il rischio di recidiva dei detenuti. Esso sembra discriminare in
base al colore della pelle.
Risultato analisi: il software ha un forte pregiudizio razziale, perchè apprende da
dati con pregiudizi.
Bandito in molti (ma non tutti) gli Stati degli USA

43. MA: ACCETTEREMO
MAI DI ESSERE
GIUDICATI DA UN
SOFTWARE?

44. E ancora altro…
• Motori di ricerca
• Filtro spam
• Recommender system
• Riconoscimento testuale/facciale
• Context-based security
• Diagnosi e previsione di patologie
• Previsioni del tempo

45. Problemi etici nello sviluppo
del software: chi educherà il
nostro sistema di IA?

46. Si tratta anche di scelte molto
complesse

48. METTIAMOCI ALLA PROVA!

49. MIT MORAL MACHINE

50. MIT MORAL MACHINE

51. MIT MORAL MACHINE

52. MIT MORAL MACHINE

53. MIT MORAL MACHINE

54. GRAZIE!
Any questions?
Edoardo E. Artese
edoardo.artese@ac-legal.eu
Mi trovi anche su LinkedIn!

55. 55
Attribuzione - Non Commerciale
Condividi allo stesso modo 4.0 (CC BY-NC-SA 4.0) Internazionale
Tu sei libero di:
Condividere - riprodurre, distribuire, comunicare al pubblico, esporre in pubblico, rappresentare,
eseguire e recitare questo materiale con qualsiasi mezzo e formato;
Modificare - remixare, trasformare il materiale e basarti su di esso per le tue opere;
Il licenziante non può revocare questi diritti fintanto che tu rispetti i termini della licenza
Alle seguenti condizioni:
• Attribuzione. Devi riconoscere una menzione di paternità adeguata, fornire un link alla
licenza e indicare se sono state effettuate delle modifiche. Puoi fare ciò in qualsiasi maniera
ragionevole possibile, ma non con modalità tali da suggerire che il licenziante avalli te o il
tuo utilizzo del materiale.
• Non commerciale. Non puoi usare il materiale per fini commerciali.
• Stessa Licenza. Se remixi, trasformi il materiale o ti basi su di esso, devi distribuire i tuoi
contributi con la stessa licenza del materiale originario.
• Divieto di restrizioni aggiuntive — Non puoi applicare termini legali o misure tecnologiche che
impongano ad altri soggetti dei vincoli giuridici su quanto la licenza consente loro di fare.
• Non sei tenuto a rispettare i termini della licenza per quelle componenti del materiale che siano in
pubblico dominio o nei casi in cui il tuo utilizzo sia consentito da una eccezione o limitazione prevista
dalla legge
• Non sono fornite garanzie. La licenza può non conferirti tutte le autorizzazioni necessarie per l'utilizzo
che ti prefiggi. Ad esempio, diritti di terzi come i diritti all'immagine, alla riservatezza e i diritti morali
potrebbero restringere gli usi che ti prefiggi sul materiale.