AIMOOC 7.3 - Per una IA etica - Claudia Chiavarino
1. AIMOOC 7.3 claudia chiavarino
INTELLIGENZA ARTIFICIALE #AIMOOC
claudia chiavarino
7.3 PER UNA I.A. ETICA
mooc.uniurb.it/aimooc
Spazio in cui inserire il
ritaglio di un’immagine
evocativa dell’argomento
della lezione
dai principi ai modelli operativi
3. AIMOOC 7.3 claudia chiavarino
Iniziamo con un piccolo quiz: alzi la mano chi utilizza…
Google assistant, Alexa, Siri, Cortana
Netflix, Spotify, Facebook, video games
Socratic, Replika, Elsa speak, Wysa, Faceapp, Picai, Google lens
chatbot di customer services
siti di e-commerce
robot domestici (roomba, braava)
L’impatto dell’Intelligenza Artificiale (1)
6. AIMOOC 7.3 claudia chiavarino
è pervasiva nei nostri
contesti di vita
sta acquisendo competenze
di natura sempre più
relazionale e interpersonale
sta sviluppando un livello sempre maggiore di autonomia
nella presa di decisioni sulle nostre vite
L’Intelligenza Artificiale…
7. AIMOOC 7.3 claudia chiavarino
Punto centrale del Green Deal
Rilancio dell’economia nel post Covid-19 (investimenti per almeno 20
miliardi l’anno)
→ Occorre rafforzare
la fiducia dei cittadini
L’IA nel piano di sviluppo europeo
(Gnambs & Appel, 2019)
8. AIMOOC 7.3 claudia chiavarino
Implicazioni etiche e normativa
Proposta per un Regolamento
Europeo sull’intelligenza
artificiale (21/04/2021)
IA
umano-centrica
e
rispettosa
dei
valori
europei
Divieto: sorveglianza di massa,
sistemi di «social scoring»,
algoritmi mirati a modificare il
comportamento
Monitoraggio e certificazione
di sistemi che impattano sui diritti
fondamentali e sulla salute
9. AIMOOC 7.3 claudia chiavarino
Implicazioni etiche ed educazione
Per sviluppare una «terza» cultura
Far dialogare linguaggio della scienza
(vero/falso) e linguaggio dell’etica
(giusto/sbagliato)
Delega di processi vs. delega di decisioni
Ibridare competenze tecniche
e umanistiche
10. AIMOOC 7.3 claudia chiavarino
Altre ibridazioni rilevanti
dal punto di vista etico?
Tecnologia, IA e Psicologia
Modelli cognitivi dei
processi mentali
Ergonomia, Usabilità e
user-experience
Neuroscienze applicate Marketing, Management
Psicologia dello sviluppo e
dell’educazione
Robotica educativa, Gaming
11. AIMOOC 7.3 claudia chiavarino
Il 95% degli incidenti stradali
dipende da errori di tipo
umano
Ragionamento morale e auto a guida autonoma
12. AIMOOC 7.3 claudia chiavarino
Aspettativa:
Miglioramento della sicurezza
pubblica attraverso la
riduzione degli incidenti
automobilistici e dei danni
fisici alle persone
Ma secondo quali principi..?
1994: primi tentativi di
automatizzazione dei processi di guida
2016: prime auto dotate di hardware
per guida autonoma
Ottobre 2020: messi su strada veicoli
autonomi a Livello 4
Ragionamento morale e auto a guida autonoma
13. AIMOOC 7.3 claudia chiavarino
Il dilemma del carrello ferroviario da Foot (1967) a Houser (2007)
Ragionamento morale e auto a guida autonoma
85%
12%
14. AIMOOC 7.3 claudia chiavarino
moralmachine.mit.edu
persone vs. animali
femmine vs. maschi
bambini, giovani, adulti, anziani
professionisti, medici, ladri,
senzatetto
atleti, persone sovrappeso
persone che passano col verde
o col rosso
Ragionamento morale e auto a guida autonoma
15. AIMOOC 7.3 claudia chiavarino
Tendenze globali
(Awad et al., 2018)
Ragionamento morale e auto a guida autonoma
16. AIMOOC 7.3 claudia chiavarino
Differenze culturali
(Maxmen, 2018)
Ragionamento morale e auto a guida autonoma
17. AIMOOC 7.3 claudia chiavarino
(Bonnefon et al, 2016)
Ciò che si è disposti
a fare nella vita reale
Ciò che è accettabile in
condizioni di dilemma
Possibilità di riflettere
sulla scelta
Scelte in situazioni di
emergenza
(Lucifora et al, 2020)
Apparenti contraddizioni
Ragionamento morale e auto a guida autonoma
18. AIMOOC 7.3 claudia chiavarino
Valori/convinzioni
morali condivise
Fiducia
Adozione dei
sistemi a decisione
autonoma
(Yokoi & Nakayachi, 2020)
Ragionamento morale e auto a guida autonoma
19. AIMOOC 7.3 claudia chiavarino
Raccomandazione 6
«Manage dilemmas
by principles of risk
distribution and
shared ethical principles»
(settembre 2020)
I danni fisici subiti
dagli utenti non
devono essere
maggiori dei danni
causati dalla guida
convenzionale
Devono essere
corrette le
disuguaglianze nella
distribuzione di
rischio di utenti
vulnerabili
Ragionamento morale e auto a guida autonoma
20. AIMOOC 7.3 claudia chiavarino
Soft skills e selezione del personale
● IQ
● stessa
situazione,
stesse
regole
● percorso
diretto
● EQ
● stessa
situazione,
regole
diverse
● non ci sono
istruzioni
sequenziali
facili
21. AIMOOC 7.3 claudia chiavarino
Future of Jobs report (World Economic Forum, 2020)
Type of skill
Self-management
Technology use and development
Working with people
Problem-solving
Analytical thinking and innovation
Leadership and social influence
Critical thinking and analysis
Creativity, originality and initiative
Active learning and learning strategies
Technology use, monitoring and control
Complex problem-solving
Resilience, stress tolerance and flexibility
Technology design and programming
Reasoning, problem-solving and ideation
Soft skills e selezione del personale
22. AIMOOC 7.3 claudia chiavarino
Metodi relazionali in
presenza
● presentazioni,
colloqui individuali,
discussioni di gruppo
● assessment centre
Metodi a distanza
● interviste video
asincrone, video
resumes
● colloqui in video
conferenza (con
umano/robot),
discussion di gruppo
(Rasipuram & Jayagopi, 2020)
osservazione
diretta e
possibilità di
prompting
Metodi di valutazione delle soft skills
Metodi non
relazionali
● test
psicometrici
Soft skills e selezione del personale
23. AIMOOC 7.3 claudia chiavarino
Vantaggi di un approccio basato sull’IA
Maggiore
potenza di
elaborazione
Utilizzo di
nuove forme
di dati
Riduzione di
tempi e costi
Sistemi di
previsione
automatica
Potenziale
rimozione di
bias
Soft skills e selezione del personale
24. AIMOOC 7.3 claudia chiavarino
Svantaggi/questioni aperte
Qualità della previsione ← qualità dei dati e degli algoritmi
Quali sono gli scenari di test migliori?
Quali sono gli indicatori migliori di prestazione in base alla skill e al contesto?
I modelli sviluppati in laboratorio generalizzano alla vita reale?
Gli algoritmi spesso sono ancora delle «black box»
Questioni legali sulla gestione automatizzata di dati personali
Reazioni sfavorevoli da parte dei candidati e della società
Soft skills e selezione del personale
25. AIMOOC 7.3 claudia chiavarino
Il punto di vista dei candidati
(Gonzalez et al., 2019)
Preoccupazioni interpersonali
Minore fiducia e promozione dell’azienda
Timore di scarsa accuratezza
Soft skills e selezione del personale
26. AIMOOC 7.3 claudia chiavarino
Organizzazioni e HR
● progettazione pre-intervista
● spiegazioni che enfatizzano
standardizzazione e flessibilità
● integrazioni innovative uomo-
macchina
Società e norme
● condivisione di esperienze
di sviluppo, implementazione
e valutazione di algoritmi
● sviluppo di
raccomandazioni
Come costruire fiducia
Soft skills e selezione del personale
27. AIMOOC 7.3 claudia chiavarino
Prevenzione e monitoraggio: audit multidisciplinari degli algoritmi
Ricercatori indipendenti
esperti di bias e
diversità
Rappresentanti di
candidati neuroatipici
Rappresentanti della
prospettiva dei clienti
Rappresentanti di
candidati di minoranze
Trasparenza
Soft skills e selezione del personale
29. AIMOOC 7.3 claudia chiavarino
Modelli tradizionali di problem-solution fit
(Reies, 2008)
Modelli del benessere e service robots
30. AIMOOC 7.3 claudia chiavarino
Barriere
all’utilizzo
generate
dalle
rappresentazioni
sui
robot
Minaccia all’autonomia e alla
privacy
Minaccia alla competenza
(infantilizzazione, stigma)
Minaccia alla relazione
(isolamento, deumanizzazione)
Percezioni degli anziani
(Troncone et al., 2020)
Modelli del benessere e service robots
31. AIMOOC 7.3 claudia chiavarino
Model for the Adoption of Technology by Older Adults
Traditional UTAUT model
Biophysical aging restrictions
Anxiety
Requisite knowledge
Intrinsic motivation
• Social support (relazioni)
• Self-concept (competenza)
• Self-management (autonomia)
• Self-compensation
Use expectancy
• Performance expectancy
• Effort expectancy
• Social influence
Demographics
• Gender
• Age
• Educational level
Behavioural
intention
(Wang et al., 2017)
Modelli del benessere e service robots
32. AIMOOC 7.3 claudia chiavarino
L’IA continuerà ad avere un impatto pervasivo
La fiducia delle persone è l’elemento chiave per l’accettazione
La fiducia può essere facilitata evitando l’«illusione della conoscenza» e
preservando la capacità umana di dare priorità e cambiare obiettivi
La stretta collaborazione tra tecnologia, scienze umane ed etica consentirà
di identificare i principi generali rilevanti e tradurli in modelli operativi
Concludendo
33. AIMOOC 7.3 claudia chiavarino
INTELLIGENZA ARTIFICIALE #AIMOOC
Grazie per l’attenzione!
mooc.uniurb.it/aimooc
Spazio in cui inserire il
ritaglio di un’immagine
evocativa dell’argomento
della lezione
claudia.chiavarino@ius.to