Intelligenza Artificiale e Robotica - Applicazioni industriali e responsabilità del produttore

1. Intelligenza Artificiale
e Robotica
Applicazioni industriali e responsabilità del produttore

2. Chi siamo
DirICTo è un network che raggruppa esperti e studiosi di tutta Italia in materia di Diritto
dell’Informatica e dell’Informatica Giuridica.
http://www.diricto.it/
ICT for Law and Forensics è il laboratorio di Informatica Forense del Dipartimento di
Ingegneria Elettrica e Elettronica dell’Università di Cagliari.
http://ict4forensics.diee.unica.it/

3. Avv. EDOARDO ENRICO ARTESE
Avvocato del Foro di Milano e managing partner dello Studio AC
Legal di Milano.
Si occupa di diritto commerciale e industriale ed è appassionato
cultore della materia delle nuove tecnologie e dell’informatica
giuridica.
E’ membro del network di professionisti DirICTo, che raggruppa
esperti e studiosi di tutta l’Italia, in materia di Diritto
dell’Informatica e di Informatica Giuridica, con il fine di sviluppare
attività di studio, ricerca e approfondimento su tematiche di
interesse comune per il mondo giuridico e informatico.

4. Alberto Sarullo
Tecnologia, user experience, design dei servizi
Timbuktu Labs PisteCiclabili.comSuonerie.net

5. World first open source Ruzzle solver made of Lego
youtube.com/watch?v=ukPyJPFAwlohackaday.com/2013/02/19/lego-stylus-solves-ruzzle-tablet-game/

6. 6
1. Robotica & RPA
2. Intelligenza Artificiale & Machine Learning
3. Responsabilità nell’ambito della robotica
4. Situazione normativa
5. Cattivi usi
Indice

7. Robotica & RPA

8. R.U.R - Rossum’s Universal Robots (K. Capek)
Dal ceco robota, "lavoro duro, lavoro forzato»
Il dramma inizia in una fabbrica di persone artificiali,
senza anima, chiamate robots, costruiti mettendo
insieme le diverse parti del corpo…
Liar! (Asimov)
Prima citazione della robotica come scienza e
tecnologia relativa ai robot
(in analogia all’elettronica)
1941
Robotica - Etimologia
1920
8

9. 9
Definizione
Macchina
programmabile
che compie azioni in autonomia
al posto di un essere umano

10. https://helpwiththewashing.co.uk/blog/washing-machine-changed-our-world/

11. 11

12. 12
Anatomia
1.Sensori (occhi)
2.Attuatori (muscoli)
3.Microcontroller / CPU (cervello)

13. https://www.infineon.com/cms/en/discoveries/fundamentals-robotics/
https://www.youtube.com/watch?v=SdP8cpwmWwk
Automa cavaliere
by Leonardo Da Vinci
Evoluzione
Industria
~$25,000
MarketingMarketing/Difesa

14. 14

15. 15

16. 17
Umanoide Low cost
?https://www.franka.de/panda/
Low cost ~10000€Ricerca

17. 18
18
https://www.horsesforsources.com/RPAglobal2000_031118

18. 19
Tecnologia, prodotti e processi
coinvolti nell’automazione dei processi lavorativi
che utilizza software robot per eseguire in modo automatico
le attività ripetitive degli operatori,
interagendo con gli applicativi come l'operatore
Robotic Process Automation (RPA)

19. 20
• Riduzione dei tempi/costi di svolgimento delle attività
• No impatto sui sistemi (i robot interagiscono come un operatore)
• Ridotti tempi/costi di prototipazione e implementazione, rispetto ad
interventi sui sistemi
• ROI misurabile in mesi, non anni o decenni
• Riduzione errori (le attività ripetitive sono quelle più esposte ad errori)
• Gestionali: prevedere colli di bottiglia e dipendenze da sistemi
• Organizzativi: chi gestisce le applicazioni di RPA?
• Contrattuali: la licenze per operatore valgono anche per un robot?
Robotic Process Automation (RPA)
Economia
Qualità
Impatti
https://timelinepi.com/the-hot-topic-everybody-is-talking-about-rpa/

20. 21
Definizione attuale di robot: più estesa ed inclusiva di quella classica
Macchina (o agente virtuale)
programmabile
capace di compiere azioni
in modo autonomo (o semi autonomo)
al posto di (o in aiuto a) un essere umano

21. 22
Anatomia – Dematerializzazione: da robot fisici a software robot
1.Sensori (occhi)
2.Attuatori (muscoli)
3.CPU + algoritmi (cervello + intelligenza)

22. Intelligenza Artificiale
& Machine Learning

23. 24
https://www.slideshare.net/dlavenda/ai-and-productivity
Connessionismo Sistemi esperti Machine Learning
Intelligenza Artificiale
1° Inverno 2° inverno

24. 25
Connessionismo: tentativo di comprendere come il
cervello umano lavora a livello neurale e come le persone
imparano e ricordano
Lo scopo ultimo dell’Intelligenza Artificiale è creare una
Intelligenza Artificiale Generale che si comporti come una
intelligenza umana, dotata di:
● Ragionamento logico
● Comprensione del linguaggio
● Percezione dell’ambiente esterno
● Capacità di movimento ed esplorazione
● Intelligenza emotiva
● Ragionamento morale
1960: nasce l’Intelligenza Artificiale

25. 26
Conoscenze e ragionamento comuni
● Nel 1970 non esistevano computer/database con le
conoscenze di un bambino di 5 anni
Esplosione combinatoria
● Complessità esponenziale di molti problemi, non
affrontabile con le risorse a disposizione
Potenza di calcolo
● Linguaggio naturale: lavori di Ross Quillian dimostrati
su un vocabolario di 20 parole (la memoria non
consentiva di più)
● Motion detection in tempo reale richiede un computer
di 10K-1M MIPS. Nel 1976 il più potente computer
aveva 80-130 MIPS di potenza (Cray-1, 8M $)
Anni 70: Disillusione e primo “inverno” dell’intelligenza artificiale

26. 27
Programmi che rispondono a domande o risolvono problemi
legati ad dominio specifico di conoscenza,
usando regole logiche derivate dalla conoscenza di esperti
Anni 80: i sistemi esperti

27. 28
● R1/eXpertCONfigurer (sistema esperto tra i più
avanzati), è:
○ troppo costoso da mantenere e aggiornare
○ commette grotteschi errori con input non usuali
○ non può imparare
● Fifth Generation Project (investimento giapponese
di 400M $) non raggiunge nessuno degli obiettivi
prefissati
● I sistemi esperti si rivelano utili esclusivamente in
contesti estremamente specifici
Anni 90: abbandono dei sistemi esperti e secondo inverno dell’IA

28. 29
The confluence of 4 key factors is behind this new AI Renaissa
More Data
60 years of Research / Mature
Algorithms60 anni di ricerca + algoritmi robusti
Potenza di calcolo
Framework & librerie open
More Computing Power
More Data
60 years of Research / Mature
Algorithms
More Computing Power
Open Source
Frameworks/Libraries
DSSTNE
PaddlePaddle
Prezzo storage + quantità di dati (IoT)
14
s is behind this new AI Renaissance
More Data
Open Source
Fram eworks/Libraries
DSSTNE
PaddlePaddle
2000 - Abilitatori di una nascente rivoluzione
Tecnologici
Culturali

29. 30
30
Tecnica che permettere ai computer di eseguire task
cognitivi senza essere programmati esplicitamente
Utile per risolvere 2 tipologie di problemi non risolvibili dalle
tradizionali tecniche di AI:
● Task non descrivibili da esseri umani
● Problemi multidimensionali complessi non risolvibili per
ragionamento numerico
Machine Learning

30. 31
Traditional AI techniques
Machine Learning
Data
Logic
Output
Ø Static – hard-coded set of steps
and scenarios
Ø Rule Based – expert knowledge
Ø No generalization – handling
special cases difficult
Ø Dynamic – evolves with data,
finds new patterns
Ø Data driven– discovers
knowledge
Ø Generalization – adapts to new
situations and special cases
Data
Output
Logic
Traditional AI techniques
Machine Learning
Data
Logic
Output
Ø Static – hard-coded set of steps
and scenarios
Ø Rule Based – expert knowledge
Ø No generalization – handling
special cases difficult
Ø Dynamic – evolves with data,
finds new patterns
Ø Data driven– discovers
knowledge
Ø Generalization – adapts to new
situations and special cases
Data
Output
Logic
• Statico: scenari codificati
• Basato su regole: richiede
conoscenza esperta
• Non generale: difficile trattare
casi specifici
• Dinamico: evolve con i dati
• Conoscenza “esperienziale”
basata sui dati
• Generalizzato: si adatta a
nuove situazioni e casi
speciali
Programmazione tradizionale vs Machine Learning

31. https://www.youtube.com/watch?v=qs_eOvbyTGo

32. 34
Simbolico/sistemi esperti: siedo con miglior giocatore
di Go al mondo e trasferisco la sua conoscenza
formalizzandola in un programma
Bruteforce: simulo tutte le possibili mosse, i risultati di
ogni step e scelgo la mossa che mi avvicina di più alla
vittoria
Machine Learning: faccio vedere ad un programma
milioni di partire (reali o simulate), facendolo apprendere
dall’esperienza
at playing the game of Go
Mathematical/Statistical AI
Machine Learning approach
“Let’s simulate all thedifferent possiblemoves and theassociated outcomes at
each single st
“Let’s show millions of
examples of rean
Esempio: 3 approcci al gioco Gioco del Go

33. Demo
Problema
Date alcune foto di due situazioni (A,B), realizzare un sistema che identifichi in tempo reale in quale delle
due situazioni ci si trovi
Approccio Machine Learning
1) Addestramento
Scatto un po’ di foto delle 2 situazioni, ad esempio:
A - Alberto
B - Alberto che si gratta la testa
Alleno (training) il sistema affinchè generi il Modello
2) Uso
Applico il Modello su ogni frame di un video per discriminare in quale dei due casi sono
35
albertosarullo$ git clone https://github.com/albertosarullo/ai-knn-demo
albertosarullo$ docker-compose up
albertosarullo$ open http://localhost
https://github.com/albertosarullo/ai-knn-demo

34. Responsabilità nell’ambito
della robotica

35. DEFINIZIONE
RESPONSABILITA’
«Qualunque fatto doloso o colposo,
che cagiona ad altri un danno ingiusto,
obbliga colui che ha commesso il fatto
a risarcire il danno.»
LA
RESPONSABILITA’
PER I «ROBOT»
37

36. QUALE DISCIPLINA
APPLICARE ?
Risoluzione del Parlamento
europeo del 16 febbraio 2017
recante raccomandazioni alla
Commissione concernenti norme di
diritto civile sulla robotica
(2015/2103(INL))
38

37. Situazione normativa

38. NORMATIVA ATTUALE ITALIANA
PER ALCUNI AUTORI SUFFICIENTE
V. U. RUFFOLO
40

39. Anche le cose, oltre agli animali
e le persone (quasi tutte…)
potranno avere intelligenza ed
autoapprendimento.
Potremmo dunque utilizzare
già gli strumenti normativi
esistenti ?
41

40. MA QUALE?
NO
DISCIPLINA PRODOTTO
DIFETTOSO
Sì (O FORSE)
DISCIPLINA RESPONSABILITA’
EX ARTT. 2043 – 2052 C.C.

41. OSSERVIAMO PERO’ LA NORMATIVA IN VIGORE
ITALIANA – ARTT. 2043 – 2052 C.C.
Art. 2049 c.c.
PADRONI E
COMMITTENTI
Art. 2050 c.c.
ATTIVITA’
PERICOLOSA
Art. 2051 c.c.
COSE IN
CUSTODIA
Art. 2052 c.c.
DANNO
CAGIONATO
DA ANIMALI
43

42. CONSULTABILE INTEGRALMENTE SUL SITO DEL
PARLAMENTO EU
http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-
//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//IT#BKMD-13
44

43. PREMESSA DA
FARSI
QUELLA DEL PARLAMENTO
EUROPEO E’ UNA
RACCOMANDAZIONE ALLA
COMMISSIONE EUROPEA
NON HA VALORE DI LEGGE E NON
E’ VINCOLANTE
45

44. PUNTI SALIENTI

45. NECESSITA’ DI DEFINIRE «ROBOT»
sistemi ciberfisici, di sistemi autonomi, di robot autonomi
intelligenti e delle loro sottocategorie, prendendo in
considerazione le seguenti caratteristiche di un robot
intelligente:
–l'ottenimento di autonomia grazie a sensori e/o mediante lo
scambio di dati con il suo ambiente (interconnettività) e lo
scambio e l'analisi di tali dati;
–l'autoapprendimento dall'esperienza e attraverso
l'interazione (criterio facoltativo);
–almeno un supporto fisico minore;
–l'adattamento del proprio comportamento e delle proprie
azioni all'ambiente;
–l'assenza di vita in termini biologici.

46. RESPONSABILITA’
- NO LIMITAZIONE
RESPONSABILITA’
- RESP. OGGETTIVA
- OBBLIGO
ASSICURAZIONE (FONDO)
ETICA
- ingegneri robotici
- Comitato
- Progettisti
- utenti
INTEROPERABILITA’
fra Robot e I.A.
Alcuni punti
chiave
48

47. 49
49
Deep Fake: Trump to Cage

48. 50
50
DeepFake / FaceSwap: generazione del modello ~100 iterazioni
Machine
Learning
https://github.com/deepfakes/faceswap/
https://github.com/deepfakes/faceswap/blob/master/USAGE.md

49. 51
51
Training: il modello dopo 500 iterazioni
Machine
Learning

50. 52
52
Fake video di Nancy Pelosi retwittato da Trump e visto da milioni di persone
Machine
Learning
https://www.nytimes.com/2019/05/24/us/politics/pelosi-doctored-video.html
https://twitter.com/realdonaldtrump/status/1131728912835383300

51. 53
Machine Bias
Software COMPAS usato in USA per valutare il rischio di recidiva dei
detenuti sembra discriminare in base al colore della pelle
https://www.cdcr.ca.gov/rehabilitation/docs/FS_COMPAS_Final_4-15-09.pdf
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Machine Bias
Software per valutare rischio di recidiva dei detenuti
Risultato analisi: il software ha un forte pregiudizio razziale, perchè apprende da dati con pregiudizi
Bandito in molti (non tutti) gli stati USA

52. 54
Machine
Learning
Lupi vs Husky
Accuratezza persone: 70%. Deep learning: 98.5%. Perchè?

53. 55
Lupi vs Husky
L’algoritmo classifica l’immagine come lupo …in base alla neve sullo sfondo
https://arxiv.org/pdf/1602.04938.pdf

54. 57
57
Nuove discipline: audit di algoritmi di machine learning
Machine
Learning
https://arxiv.org/pdf/1602.04938v1.pdf
https://www.slideshare.net/TerryTaewoongUm/understanding-blackbox-predictions-via-influence-functions-2017

55. 58
Grazie
Edoardo Artese
- edoardo.artese@ac-legal.eu
Alberto Sarullo
- alberto.sarullo+smau@gmail.com
- Linkedin.com/in/albertosarullo

56. Attribuzione - Non Commerciale
Condividi allo stesso modo 4.0 (CC BY-NC-SA 4.0) Internazionale
Tu sei libero di:
Condividere - riprodurre, distribuire, comunicare al pubblico, esporre in pubblico, rappresentare, eseguire e recitare questo materiale
con qualsiasi mezzo e formato;
Modificare - remixare, trasformare il materiale e basarti su di esso per le tue opere;
Il licenziante non può revocare questi diritti fintanto che tu rispetti i termini della licenza
Alle seguenti condizioni:
• Attribuzione. Devi riconoscere una menzione di paternità adeguata, fornire un link alla licenza e indicare se sono state
effettuate delle modifiche. Puoi fare ciò in qualsiasi maniera ragionevole possibile, ma non con modalità tali da suggerire che il
licenziante avalli te o il tuo utilizzo del materiale.
• Non commerciale. Non puoi usare il materiale per fini commerciali.
• Stessa Licenza. Se remixi, trasformi il materiale o ti basi su di esso, devi distribuire i tuoi contributi con la stessa licenza del
materiale originario.
• Divieto di restrizioni aggiuntive — Non puoi applicare termini legali o misure tecnologiche che impongano ad altri soggetti dei vincoli
giuridici su quanto la licenza consente loro di fare.
• Non sei tenuto a rispettare i termini della licenza per quelle componenti del materiale che siano in pubblico dominio o nei casi in cui il tuo
utilizzo sia consentito da una eccezione o limitazione prevista dalla legge
• Non sono fornite garanzie. La licenza può non conferirti tutte le autorizzazioni necessarie per l'utilizzo che ti prefiggi. Ad esempio, diritti di
terzi come i diritti all'immagine, alla riservatezza e i diritti morali potrebbero restringere gli usi che ti prefiggi sul materiale.