Le slide sono state proiettate durante il workshop a SMAU Padova 2019. L'intelligenza artificiale è un argomento sempre più sentito in ambito industriale e produttivo. Dopo una breve introduzione dello stato attuale dell'intelligenza artificiale e delle sue recenti evoluzioni, sono state analizzate le sue applicazioni in ambito industriale, concludendo dunque con una analisi giuridica dell'Intelligenza artificiale, con specifico riferimento alla responsabilità del produttore.

1. Intelligenza Artificiale e
Robotica
Applicazioni industriali e responsabilità del produttore

2. Chi siamo
DirICTo è un network che raggruppa esperti e studiosi di tutta Italia in materia di Diritto
dell’Informatica e dell’Informatica Giuridica.
http://www.diricto.it/
ICT for Law and Forensics è il laboratorio di Informatica Forense del Dipartimento di
Ingegneria Elettrica e Elettronica dell’Università di Cagliari.
http://ict4forensics.diee.unica.it/

3. Avv. EDOARDO ENRICO ARTESE
3
Avvocato del Foro di Milano e managing partner dello Studio AC
Legal di Milano.
Si occupa di diritto commerciale e industriale ed è appassionato
cultore della materia delle nuove tecnologie e dell’informatica
giuridica.
E’ membro del network di professionisti DirICTo, che raggruppa
esperti e studiosi di tutta l’Italia, in materia di Diritto
dell’Informatica e di Informatica Giuridica, con il fine di sviluppare
attività di studio, ricerca e approfondimento su tematiche di
interesse comune per il mondo giuridico e informatico.

4. Alberto Sarullo
Tecnologia, user experience, design di servizi
Timbuktu Labs PisteCiclabili.comSuonerie.net

5. World first open source Ruzzle solver made of Lego
youtube.com/watch?v=ukPyJPFAwlohackaday.com/2013/02/19/lego-stylus-solves-ruzzle-tablet-game/

6. 6
1. Robotica
2. Intelligenza artificiale
3. Responsabilità nell’ambito della robotica
4. Situazione normativa attuale
5. Demo: IA + robotica
6. Questioni aperte
Indice

7. R.U.R - Rossum’s Universal Robots (K. Capek).
Dal ceco robota, "lavoro duro, lavoro forzato»
Il dramma inizia in una fabbrica di persone artificiali,
senza anima, chiamate robots, costruiti mettendo
insieme le diverse parti del corpo…
7
Liar! (Asimov)
Prima citazione della robotica, scienza e
tecnologia relativa ai robot
1941
Robotica - Etimologia
1920
7

8. 8
Uscendo dall’antropomorfismo di Asimov…
Macchina
programmabile
capace di compiere azioni
in modo autonomo
al posto di un essere umano

10. 10

11. 11
Anatomia (metafora antropomorfa)
1.Sensori (occhi)
2.Attuatori (muscoli)
3.Microcontroller / CPU (cervello)

12. https://www.infineon.com/cms/en/discoveries/fundamentals-robotics/
https://www.youtube.com/watch?v=SdP8cpwmWwk
Evoluzione

13. 14

14. 15

15. 16

16. 17
Umanoide Low cost
?https://www.franka.de/panda/
https://www.robots.com/faq/how-much-do-industrial-robots-cost

17. 19https://plus.credit-suisse.com/rpc4/ravDocView?docid=V6y0SB2AF-WEr1ce
https://www.innosight.com/wp-content/uploads/2016/08/Corporate-Longevity-2016-Final.pdf
Durata media di vita aziende S&P500
1920
67 anni 40 anni 30 anni 20 anni
12 anni

18. 20

19. 21
21
https://www.horsesforsources.com/RPAglobal2000_031118

20. 22
Tecnologia, prodotti e processi coinvolti
nell’automazione dei processi lavorativi
che utilizza software robot
per eseguire in modo automatico
le attività ripetitive degli operatori,
interagendo con gli applicativi come l'operatore
Robotic Process Automation (RPA)

21. 23
• riduzione dei tempi/costi di svolgimento delle attività
• riduzione errori (le attività ripetitive sono quelle più esposte ad errori)
• impatto zero sui sistemi informativi (i robot interagiscono con le stesse
modalità dell’operatore umano)
• tempi/costi bassi di prototipazione e implementazione, grazie alla
possibilità di produrre in tempi molto contenuti un prototipo funzionante
• Impatti organizzativi: chi gestisce le applicazioni di RPA?
• Impatti contrattuali: la licenza per operatore vale anche per un robot?
Robotic Process Automation (RPA)
Vantaggi
Punti aperti
https://timelinepi.com/the-hot-topic-everybody-is-talking-about-rpa/

22. 24
Definizione attuale di robotica è più estesa ed inclusiva di quella classica
Macchina (o agente virtuale)
programmabile
capace di compiere azioni
in modo autonomo (o semi autonomo)
al posto di (o in aiuto a) un essere umano

23. 25
Robot Process Automation – Software Robot
1.Sensori (occhi)
2.Attuatori (muscoli)
3.CPU + algoritmi (cervello + intelligenza)

24. 26
https://www.slideshare.net/dlavenda/ai-and-productivity

25. 28
Connessionismo: tentativo di comprendere come il
cervello umano lavora a livello neurale e come le persone
imparano e ricordano
Lo scopo ultimo dell’Intelligenza Artificiale è creare una
Intelligenza Artificiale Generale che si comporti come una
intelligenza umana, dotata di:
● Ragionamento logico
● Comprensione del linguaggio
● Percezione dell’ambiente esterno
● Capacità di movimento ed esplorazione
● Intelligenza emotiva
● Ragionamento morale
Prima onda (1960): nasce l’Intelligenza Artificiale

26. 29
Potenza di calcolo
● Linguaggio naturale: lavori di Ross Quillian dimostrati su un
vocabolario di 20 parole (la memoria non consentiva di più)
● Motion detection in tempo reale richiede un computer di 10K-
1M MIPS. Nel 1976 il più potente computer aveva 80-130
MIPS di potenza (Cray-1, 8M $)
Esplosione combinatoria
● Complessità esponenziale di molti problemi, non affrontabile
con le risorse a disposizione
Conoscenze e ragionamento comuni
● Nel 1970 non esistevano computer/database con le
consocenze di un bambino di 5 anni.
Primo inverno (1970): disillusione

27. 30
Programmi che rispondono a domande o risolvono problemi
legati ad dominio specifico di conoscenza,
usando regole logiche derivate dalla conoscenza di esperti
Seconda onda (1980): i sistemi esperti

28. 31
● XCON, sistema esperto dei più avanzati, è:
○ troppo costoso da mantenere e aggiornare
○ non può imparare
○ commette grotteschi errori con input non usuali
● Fifth Generation Project (investimento giapponese di 400M
$) non raggiunge nessuno degli obiettivi prefissati
● I sistemi esperti si rivelano utili esclusivamente in contesti
estremamente specifici
Secondo inverno (1990): abbandono dei sistemi esperti

29. 32
The confluence of 4 key factors is behind this new AI Renaissa
More Data
60 years of Research / Mature
Algorithms60 anni di ricerca + algoritmi robusti
Potenza di calcolo
Framework & librerie open
More Computing Power
More Data
60 years of Research / Mature
Algorithms
More Computing Power
Open Source
Frameworks/Libraries
DSSTNE
PaddlePaddle
Prezzo storage + quantità di dati (IoT)
14
s is behind this new AI Renaissance
More Data
Open Source
Fram eworks/Libraries
DSSTNE
PaddlePaddle
2000 - Abilitatori di una prossima rivoluzione
Tecnologici
Culturali

30. 33
33
Tecnica che permettere ai computer di eseguire task
cognitivi senza essere programmati esplicitamente
Utile per risolvere 2 tipologie di problemi che le tecniche
tradizionali di AI non risolvono:
● Task non descrivibili da esseri umani
● Problemi multidimensionali complessi che non possono
essere risolti per ragionamento numerico
Terza onda: Machine Learning

31. https://www.youtube.com/watch?v=qs_eOvbyTGo

32. 35
Simbolico/sistemi esperti: siedo con miglior giocatore
di Go al mondo e trasferisco la sua conoscenza
formalizzandola in un programma
Bruteforce: simulo tutte le possibili mosse, i risultati di
ogni step e scelgo la mossa che mi avvicina di più alla
vittoria
Machine Learning: faccio vedere ad un programma
milioni di partire (reali o simulate), facendolo apprendere
dall’esperienza
ng at playing the game of Go
Mathematical/Statistical AI
Machine Learning approach
“Let’s simulate all thedifferent possiblemoves and theassociated outcomes at
each single step and go
with the most likely towin”
“Let’s show millions of
examples of real life
and simulated games
(won and lost) toprogr
Esempio: 3 approcci al gioco Gioco del Go

33. 36
Traditional AI techniques
Machine Learning
Data
Logic
Output
Ø Static – hard-coded set of steps
and scenarios
Ø Rule Based – expert knowledge
Ø No generalization – handling
special cases difficult
Ø Dynamic – evolves with data,
finds new patterns
Ø Data driven– discovers
knowledge
Ø Generalization – adapts to new
Data
Output
Logic
Traditional AI techniques
Machine Learning
Data
Logic
Output
Ø Static – hard-coded set of steps
and scenarios
Ø Rule Based – expert knowledge
Ø No generalization – handling
special cases difficult
Ø Dynamic – evolves with data,
finds new patterns
Ø Data driven– discovers
knowledge
Ø Generalization – adapts to new
situations and special cases
Data
Output
Logic
• Statico: scenari codificati
• Basato su regole: richiede
conoscenza esperta
• Non generale: difficile trattare
casi specifici
• Dinamico: evolve con i dati
• Conoscenza ”esperienziale”
basata sui dati
• Generalizzato: si adatta a
nuove situazioni e casi
speciali
Programmazione tradizionale vs Machine Learning

34. 37
Machine Learning: creazione del modello

35. 38

36. DEFINIZIONE
RESPONSABILITA’
«Qualunque fatto doloso o colposo,
che cagiona ad altri un danno ingiusto,
obbliga colui che ha commesso il fatto
a risarcire il danno.»
LA
RESPONSABILITA’
PER I «ROBOT»
41

37. QUALE DISCIPLINA
APPLICARE ?
Risoluzione del Parlamento
europeo del 16 febbraio 2017
recante raccomandazioni alla
Commissione concernenti norme di
diritto civile sulla robotica
(2015/2103(INL))
42

38. NORMATIVA ATTUALE ITALIANA
PER ALCUNI AUTORI SUFFICIENTE
V. U. RUFFOLO
43

39. Anche le cose, oltre agli animali e
le persone (quasi tutte…)
potranno avere intelligenza ed
autoapprendimento.
Potremmo dunque utilizzare
già gli strumenti normativi
esistenti ?
44

40. MA QUALE?
NO
DISCIPLINA PRODOTTO
DIFETTOSO
Sì (O FORSE)
DISCIPLINA RESPONSABILITA’
EX ARTT. 2043 – 2052 C.C.
45

41. OSSERVIAMO PERO’ LA NORMATIVA IN VIGORE
ITALIANA – ARTT. 2043 – 2052 C.C.
Art. 2049 c.c.
PADRONI E
COMMITTENTI
Art. 2050 c.c.
ATTIVITA’
PERICOLOSA
Art. 2051 c.c.
COSE IN
CUSTODIA
Art. 2052 c.c.
DANNO
CAGIONATO
DA ANIMALI
46

42. CONSULTABILE INTEGRALMENTE SUL SITO DEL
PARLAMENTO EU
http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-
//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//IT#BKMD-13
47

43. PREMESSA DA
FARSI
QUELLA DEL PARLAMENTO
EUROPEO E’ UNA
RACCOMANDAZIONE ALLA
COMMISSIONE EUROPEA
§§§
NON HA VALORE DI LEGGE E NON
E’ VINCOLANTE
48

44. ECCO I PUNTI
SALIENTI

45. NECESSITA’ DI DEFINIRE «ROBOT»
OVVERO
sistemi ciberfisici, di sistemi autonomi, di robot autonomi
intelligenti e delle loro sottocategorie, prendendo in
considerazione le seguenti caratteristiche di un robot
intelligente:
–l'ottenimento di autonomia grazie a sensori e/o mediante lo
scambio di dati con il suo ambiente (interconnettività) e lo
scambio e l'analisi di tali dati;
–l'autoapprendimento dall'esperienza e attraverso
l'interazione (criterio facoltativo);
–almeno un supporto fisico minore;
–l'adattamento del proprio comportamento e delle proprie
azioni all'ambiente;
–l'assenza di vita in termini biologici.

46. RESPONSABILITA’
- NO LIMITAZIONE
RESPONSABILITA’
- RESP. OGGETTIVA
- OBBLIGO
ASSICURAZIONE (FONDO)
ETICA
- ingegneri robotici
- Comitato
- Progettisti
- utenti
INTEROPERABILITA’
fra Robot e I.A.
Alcuni punti
chiave
51

47. DEMO: AI + Robotica
Expectation
Se Wall-e vede l’amata Eve, deve aprire il suo cuore per donarle
l’ultima pianta della Terra
Reality
Scattare ed editchettare foto dei due casi
A) Eve (astraiamo: io)
B) Non Eve (astraiamo: io che mi tocco la fronte)
Generare il modello
Usare il modello per analizzare in tempo reale un video
In base al caso individuato ruotare di tot gradi un servomotore
52
albertosarullo$ docker-compose up
albertosarullo$ ls /dev/tty.usb*
albertosarullo$ node nodeSerialApi.js
albertosarullo$ chrome http://localhost

48. 53
Machine Bias
Software COMPAS usato in USA per valutare il rischio di recidiva dei
detenuti sembra discriminare in base al colore della pelle
https://www.cdcr.ca.gov/rehabilitation/docs/FS_COMPAS_Final_4-15-09.pdf
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Machine Bias
Software per valutare rischio di recidiva dei detenuti sembra discriminare in base al colore della pelle
Risultato analisi: il software ha un forte pregiudizio razziale, perchè apprende da dati con pregiudizi
Bandito in molti (non tutti) gli stati USA

49. 54
Machine
Learning
Classificazione Lupi vs Husky
Accuratezza persone: 70%. Deep learning: 98.5%. Perchè?

50. 55
Lupi vs Husky
L’algoritmo classifica l’immagine come lupo …in base alla neve sullo sfondo
https://arxiv.org/pdf/1602.04938.pdf
Machine
Learning

51. 56
56
Ci affidiamo ad algoritmi che non comprendiamo fino in fondo
Machine
Learning
https://www.theverge.com/2016/7/12/12158238/first-click-deep-learning-algorithmic-black-boxes

52. 57
57
Audit di algoritmi di machine learning
Machine
Learning
https://arxiv.org/pdf/1602.04938v1.pdf
https://www.slideshare.net/TerryTaewoongUm/understanding-blackbox-predictions-via-influence-functions-2017

53. Ci sono domande?
58
Grazie!
Edoardo Artese
• edoardo.artese@ac-legal.eu
Alberto Sarullo
• alberto.sarullo+smau@gmail.com
• linkedin.com/in/albertosarullo