Le slide del convegno tenutosi il giorno 16 novembre 2021 presso la Sala Rossini del Caffè Pedrocchi, organizzato da WILL con la collaborazione del Movimento Forense Padova e dell'Ordine degli Avvocati di Padova

1. A.I.:
big data economy, bias e responsabilità
- gli effetti dell'intelligenza artificiale sui processi industriali -
16 novembre 2021
Ore 15.30-18.00
PADOVA
Sala Rossini – Caffè Pedrocchi

2. Bias e A.I.:
Come contrastare i bias nei sistemi di A.I.
Avv. Edoardo Ferraro
Consigliere COA Padova
Presidente MF Padova

3. I bias, o meglio bias cognitivi, sono definiti in
psicologia come delle distorsioni che le persone
attuano nelle valutazioni di fatti e avvenimenti.
Tali distorsioni spingono a ricreare una propria
visione soggettiva che non è detto corrisponda
fedelmente alla realtà.
In sintesi, i bias cognitivi rappresentano il
modo con cui il nostro cervello distorce di fatto
la realtà.
I bias cognitivi
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

4. Di norma traggono origine dal pregiudizio. Le
persone costruiscono degli stereotipi, dove si
annidano i bias. I bias cognitivi derivano da
esperienze e concetti preesistenti non per forza
connessi tra loro da legami logici e validi. Ogni
giorno, più volte nella giornata, molte delle
nostre decisioni sono influenzate da bias o dagli
stereotipi. A volte queste strategie innate ci
portano fuori strada, altre volte invece la
scorciatoia scelta si rivela buona.
I bias cognitivi
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

5. In caso di intelligenza artificiale e, quindi, di
sviluppo di modelli o algoritmi per le più
diverse applicazioni, ci si deve chiedere se i
bias possano influenzarne il funzionamento.
Alan Turing (uno dei padri dell’informatica e
dell’intelligenza artificiale) era convinto del
fatto che ciò che poteva essere trasfuso alla
macchina era un modo di relazionarsi alla realtà:
la macchina avrebbe incontrato gli stessi limiti
conoscitivi dell’uomo.
I bias e le A.I.
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

6. Turing immaginava macchine di un livello tale che
avrebbero potuto immagazzinare nozioni ad un
livello tale da creare algoritmi nuovi:
nonostante tale capacità delle macchine di
imparare da sé stesse, attraverso il c.d. machine
learning, o addirittura di elaborare nuovi
percorsi di apprendimento con il c.d. deep
learning, alle stesse manca la capacità, tutta
umana, di valutare le variabili impreviste o
imprevedibili: il c.d. discernimento.
I bias come limiti delle A.I.
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

7. Nell'evoluzione delle A.I., la vera chiave di
svolta nel campo di analisi, non fu l’evoluzione
dei software, ma il potenziamento dell’hardware e
l’aumento della capacità di immagazzinare
informazioni.
Tale potenziamento, esponenzialmente cresciuto
negli anni, ha consentito l’esplosione della
nuova frontiera per l’intelligenza artificiale,
ovvero i big data: maggiori informazioni
consentiranno maggiori evoluzioni delle A.I..
I big data e le A.I.
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

8. Le macchine, quindi, possono imparare nel senso
di affinare le tecniche di ricerca e di
risoluzione di problemi rispetto agli obiettivi
dati, attraverso un sofisticato sistema di
correlazione dei famosi big data, che sono una
fonte, quasi inesauribile, di informazioni sulle
persone di ogni età, sesso e nazionalità.
È essenziale, però, che l’algoritmo sia
progettato correttamente, o che vi sia un
controllo su di esso.
Diritto e A.I.
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

9. L’intelligenza artificiale nel campo del diritto
opera spaziando dalla ricerca indicizzata, alla
risoluzione dei casi giuridici, alla giustizia
predittiva. È costituita da tre principali aree:
1. Analisi giuridica: sussunzione di un caso
giuridico all’interno di una precisa fattispecie.
2. Pianificazione giuridica: trovare le azioni
migliori per raggiungere un dato risultato.
3. Ricerca di informazioni giuridiche: che
consenta di cercare informazioni concettuali.
Diritto e A.I.
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

10. I big data, però, se consentono uno sviluppo
delle potenzialità delle A.I. non mettono al
sicuro le macchine da potenziali errori.
Le recenti ricerche hanno infatti evidenziato che
sono stati gli errori commessi nell’istruzione
degli algoritmi a portare a delle soluzioni o a
ragionamenti viziati.
Al contrario, di quanto si possa pensare,
maggiori informazioni rischiano di portare a più
soluzioni viziate.
Bias e sviluppo delle A.I.
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

11. In Gran Bretagna alcune forze di Polizia stanno
usando o progettano di usare sistemi
automatizzati per la prevenzione dei crimini.
In questo caso, uno studio da parte di
un’organizzazione a tutela dei diritti e la
libertà nel Regno Unito ha posto in evidenza come
la collezione di dati già discriminatori in
origine, sia in grado di consolidare i pregiudizi
mettendo in pericolo i nostri diritti.
Casi di bias, diritto e A.I.
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

12. Un altro caso di bias algoritmico è quello
riscontrato in un software denominato COMPAS,
affidato diversi anni fa ad alcuni giudici
americani per supportarli nel quantificare la
pena da imputare ai condannati.
L’algoritmo di COMPAS incorporava pregiudizi nei
confronti degli afroamericani: il dataset
utilizzato nella fase di addestramento del
software non includeva dati bilanciati nei
confronti delle diverse etnie.
Casi di bias, diritto e A.I.
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

13. Per ridurre i rischi si è aperto un campo di
ricerca denominato “Algorithmic fairness”, che
mira a mitigare gli effetti di pregiudizi e
discriminazioni ingiustificate sugli individui
nell’apprendimento automatico, principalmente
incentrato sul formalismo matematico e sulla
ricerca di soluzioni per questi formalismi.
La prima difficoltà che caratterizza questa
ricerca è la mancanza di una definizione
esaustiva e universale di correttezza.
Bias, A.I. e rischi
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

14. Risulta evidente come le potenzialità dei sistemi
di Intelligenza Artificiale siano molteplici, ma
allo stesso tempo potenzialmente rischiose.
È incredibile come le macchine riescano ad
apprendere e riprodurre il pregiudizio umano,
trasformandosi in sistemi non equi ed ingiusti e
ritrovandosi ad emulare quella che è la società
odierna. Solo quando la conosceremo in tutte le
sue angolazioni, l’Intelligenza Artificiale sarà
davvero sicura.
Bias, A.I. e rischi
COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro

15. La presente presentazione è aggiornata al momento della sua
pubblicazione.
Ciò nonostante, la natura stessa degli argomenti trattati esclude la
possibilità di controllare tutte le fonti esistenti e gli autori non
possono fornire alcuna garanzia in merito all'affidabilità ed
all'esattezza delle notizie riportate e declinano pertanto ogni
responsabilità per qualsiasi danno, diretto, indiretto, incidentale e
consequenziale legato all'uso, proprio o improprio delle informazioni
contenute in questo vademecum, ivi inclusi, senza alcuna limitazione,
la perdita di profitto, l'interruzione di attività aziendale o
professionale, la perdita di programmi o altro tipo di dati ubicati
sul sistema informatico dell'utente o altro sistema, e ciò anche
qualora gli autori fossero stati espressamente messi al corrente
della possibilità del verificarsi di tali danni.
Disclaimer
Avv.
Edoardo
Ferraro
COA
Padova
–
MF
Padova

16. COA
Padova
–
MF
Padova
Avv.
Edoardo
Ferraro
Grazie per l'attenzione