Giornalista da più di 10 anni, esperta di diritti umani e la loro intersezione con la tecnologia, la giornalista Donata Columbro è stata intervistata dalla Direttrice della Ricerca e Advocacy di Cyber Rights Organization, Silvia Semenzin.

1. Intervista a Donata Columbro: “Dentro la
discriminazione degli algoritmi”
Giornalista da più di 10 anni, esperta di diritti umani e la loro intersezione con
la tecnologia, la giornalista Donata Columbro è stata intervistata dalla
Direttrice della Ricerca e Advocacy di Cyber Rights Organization, Silvia
Semenzin.
Un dialogo franco e concreto sul Data Feminism, sul tema dei bias
algoritmici e dell’importanza dei dati per la promozione dei diritti digitali.
Negli anni, Donata Columbro si è distinta nel campo del data journalism,
attraversando e lavorando in molti Paesi del sud globale per fornire
conoscenze e buone pratiche in merito all’impiego della tecnologia.

2. Oggi si occupa a tutto campo di analizzare in quale misura dati ed algoritmi
siano intrinsecamente in grado di far emergere contraddizioni, privilegi e
ingiustizie all’interno della nostra società.
Dietro al suo lavoro di giornalista, divulgatrice e saggista, la volontà di
indagare come l’uso del dato all’interno della nostra società sia in grado di
discriminare intere comunità a livello sistemico.
Donata, ci spieghi che cos’è il data feminism?
Il data feminism è un approccio che si occupa di studiare le ingiustizie e
come esse possano essere perpetrate attraverso l’uso dei dati in generale.
L’interesse centrale di chi lavora in questo senso è comprendere come i dati
vengano raccolti a livello decisionale, come vengano puliti, analizzati e poi
rappresentati, e come ciò possa in qualche modo aumentare le
discriminazioni - non solo sulle donne, ma potenzialmente su tutt*.
Tale approccio è sempre andato di pari passo con l’Umanesimo dei dati, il
manifesto scritto da Giorgia Lupi, che recentemente ha contribuito a cambiare
il vocabolario del mondo dei dati di fronte al pubblico generalista e nel campo
della divulgazione scientifica.
Il data feminism ha aiutato a comprendere che al di là dei numeri e al di là del
dato esistono anche l’emozione, la variabilità e l’intenzionalità umana.
Il data feminism non considera il dato come un qualcosa di rigoroso ed
intoccabile, ma anzi, crede che vedere il dato in questo modo sia proprio una
questione di potere. Se riteniamo il dato come qualcosa di intoccabile,
rigoroso e verità unica, allora accettiamo anche che solo chi ha la capacità
tecnica abbia il potere di comprenderlo e usarlo (bottom-down).

3. Questi sono tutti immaginari che il data feminism cerca di smontare
chiedendosi invece: chi ha il potere di raccogliere e analizzare il dato? E chi
invece potrebbe risultarne svantaggiato?
Si parla sempre più spesso di bias algoritmici, ma in
pochi sanno che i bias cominciano già dai dati. Ci
spieghi perché?
Quando noi pensiamo al dato, ci immaginiamo un foglio di calcolo, una
percentuale, un numero o così via. Tuttavia, la realtà non è così semplice
perché, prima di arrivare al prodotto finale che viene poi cristallizzato nel
dato, esistono una serie di passaggi e di intenzioni che portano ad esempio a
decidere che una certa realtà sia più o meno interessante da osservare e
rappresentare.
Diciamo quindi che il dato è un prodotto finale di un processo elaborativo
che può già contenere all’interno dei vari passaggi diverse forme di
discriminazione. Le scelte che vengono compiute in ogni passaggio, anche
nella costruzione degli strumenti che operano la misurazione, sono sempre
opera di esseri umani fallibili, imperfetti e soprattutto con una propria visione
del mondo.
Allo stesso modo i dati possono essere imprecisi e possono fallire poiché la
parte umana è preponderante e centrale sia per raccogliere dati che per
comprendere quali informazioni possono venir perse nella fase di raccolta.
Un esempio di questo può essere una bar chart, una linea o uno schema per
rappresentare le violenze contro le donne che non necessariamente offre
multidimensionalità. E la cifra finale potrebbe addirittura oscurare
l’intersezionalità di quel dato, che magari non guarda alle esperienze delle
donne disabili, queer o razzializzate che subiscono violenza.

4. Trovo in questo senso notevole ed importante il lavoro che sta facendo Mona
Chalabi, data journalist del Guardian, che rifiuta di rappresentare il dato come
qualcosa di rigoroso e creato tramite software, ma preferisce piuttosto
rappresentarlo a mano per avvicinare le persone alle tematiche trattate.
Nel tuo libro scrivi: “Non occuparsi di algoritmi è un
privilegio”. Ci racconti cosa intendi?
Il privilegio è un concetto femminista molto forte. Guardando la realtà
attraverso la lente del privilegio possiamo comprendere come esso
interagisca profondamente con le discriminazioni sistemiche.
Nell’ambito digitale, io dico che se una persona non si è mai resa conto che
gli algoritmi e i dati costituiscono una fonte di discriminazione, ingiustizia e
invisibilizzazione, vuol dire che ha un privilegio tale per cui non ha mai avuto,
per esempio, esperienze di molestie, accesso, censura o violenze in rete.
Ciò può accadere in una scala che oscilla da questioni più micro, come gli
algoritmi che propongono pubblicità legate alla gravidanza alle donne senza
considerare la loro libertà sessuale e decisionale, fino ad arrivare alle
questioni più macro, come le telecamere per strada e nei luoghi pubblici che
permettono di schedare e controllare i cittadini in maniera sistemica e spesso
discriminatoria.
Insomma, il concetto di privilegio è in grado di mostrarci dove esiste la
discriminazione stessa. Proprio il fatto di non vedere o non capire la
discriminazione è un campanello d'allarme per chiedersi dove resida il proprio
privilegio. E in momento storico non possiamo fare a meno di farlo.

5. Diritti digitali oggi: quali sono le urgenze da affrontare?
E a livello europeo che cosa serve fare?
Sul futuro ciò che vedo più urgente è la necessità di spingere a una maggiore
consapevolezza e alfabetizzazione digitale.
Se parliamo di discriminazione e di privilegi, è necessaria più consapevolezza
su come tutte le discriminazioni fisiche e sociali si possano trasporre ai dati,
al digitale, agli algoritmi e alle intelligenze artificiali (IA), ad esempio
creando e rinforzando stereotipi appartenenti a determinate categorie.
Bisogna cercare di capire come funziona la dataficazione del contenuto.
Ormai impariamo direttamente a ragionare per categorie, e io non do un
giudizio su questo, ma dobbiamo avere molta attenzione e criticità: oggi sui
social media si standardizza tutto tramite hashtag e parole chiave, però
molto spesso ciò tende a stereotipare e creare “scatole chiuse” in cui
inserirci.
Quello a cui dobbiamo prestare attenzione è soprattutto la polarizzazione,
perché mentre gli ambienti digitali spingono alla radicalizzazione delle
opinioni, questo non aiuta le categorie discriminate che spesso restano non
coinvolte e costrette nel mezzo.
Dal punto di vista europeo e di quello che si sta facendo, invece, io mi sento
ottimista. Sembra ci sia una coscienza più ampia che piano piano sta
crescendo tra la popolazione e che potrebbe portare presto a importanti
cambiamenti. Voglio continuare a pensare che il lavoro che facciamo ci stia
portando nella giusta direzione, ma avremo bisogno di molte più voci e
maggiore inclusione e diversità.