Lezione tenuta da Giorgio Franceschelli nell'ambito del MOOC dell'Università di Urbino dedicato a LLMs e IA generativa https://mooc.uniurb.it/aixmooc

1. AIXMOOC 5.2 giorgio franceschelli
L’ESPLOSIONE
giorgio franceschelli
#AIXMOOC
5.2 IA GENERATIVA E CREATIVITÀ
mooc.uniurb.it/aixmooc
DELL’INTELLIGENZA
ARTIFICIALE

2. AIXMOOC 5.2 giorgio franceschelli
Da Lovelace, Turing e la fantascienza...
• Tutto ha inizio nel 1843 con la celebre obiezione di Lady Lovelace: «La
macchina analitica [e per estensione ogni macchina simile] non ha
alcuna pretesa di creare alcunché. Può fare qualsiasi cosa noi
sappiamo come ordinarle di fare», poi ripresa e discussa da Alan
Turing nel 1950 nel celeberrimo articolo «Computing Machinery and
Intelligence»
• Ma immaginare macchine creative non era solo prerogativa di
scienziati e informatici, bensì anche di scrittori e artisti!
• Nel 1960 Primo Levi pubblica «Il Versificatore»...

3. AIXMOOC 5.2 giorgio franceschelli
... a ChatGPT and co.
... Fino ad arrivare all’esplosione dell’IA generativa negli ultimi 10 anni.

4. AIXMOOC 5.2 giorgio franceschelli
La fantascienza che diventa scienza?
POETA (in fretta e furia)
Sicuro, che provo. Ecco: LYR, PHIL (due scatti); terza rima,
endecasillabi (scatto); secolo XVII. [...] «Argomento»: ...che
argomento gli diamo? «Limiti dell’ingegno umano».
Scatto, cicala: tre segnali brevi e uno lungo.
VERSIFICATORE (voce metallica, meno distorta di prima)
Cerèbro folle, a che pur l’arco tendi?
A che pur, nel travaglio onde se’ macro
Consumi l’ore, e dì e notte intendi?
Mentì, mentì chi ti descrisse sacro
Il disio di seguire conoscenza,
E miele delicato il suo succo acro.

5. AIXMOOC 5.2 giorgio franceschelli
IA Generativa - Recap

6. AIXMOOC 5.2 giorgio franceschelli
Creatività
Per Margaret Boden, «creatività è l’abilità di produrre idee o artefatti
che sono nuovi, sorprendenti e di valore».
Quindi, il prodotto deve soddisfare tre requisiti:
• Valore: essere rilevante, appropriato, di qualità
• Novità: essere diverso da ciò che già esiste
• Sorpresa: essere inaspettato

7. AIXMOOC 5.2 giorgio franceschelli
Il problema della sorpresa...
Bisogna ricordarci però che i modelli generativi sono probabilistici:
generano il testo, la musica, l’immagine ecc. che è più probabile sulla
base dell’input dell’utente e dei dati di addestramento.
Come può quindi una cosa che è probabile essere anche inaspettata?!

8. AIXMOOC 5.2 giorgio franceschelli
... è un problema di prospettiva
Ciò che viene generato non sarà sorprendente per la macchina che lo
genera, ma può benissimo esserlo per noi!
Lo stesso vale anche per i requisiti di novità e valore.
In altre parole, per quanto teoricamente non creativo (usando la
prospettiva classica), un prodotto generato da IA può benissimo esserlo
guardandolo dalla nostra prospettiva.

9. AIXMOOC 5.2 giorgio franceschelli
Creatività: essere o avere?
Tuttavia, avere la facoltà di produrre idee o artefatti creativi non
significa per forza essere creativi.
Per diverse teorie di creatività, il realizzare un prodotto creativo è solo
uno di vari requisiti! Secondo Mel Rhodes, bisogna sempre considerare
le 4P della creatività:
• Product (prodotto)
• Process (processo)
• Press (contesto)
• Person (individuo)

10. AIXMOOC 5.2 giorgio franceschelli
Il processo creativo
Essere creativi dovrebbe richiedere la presenza di un processo creativo
con identificazione del task (anche per interesse personale),
preparazione, generazione di una possibile soluzione (incubazione +
illuminazione) e validazione della soluzione (e se non è
sufficientemente buona, il processo riparte).
L’IA generativa non contempla quasi nessuno di questi step...

11. AIXMOOC 5.2 giorgio franceschelli
Il contesto creativo
Il singolo prodotto non può essere isolato dal contesto sociale: deve
essere accettato come creativo dalla società, e la sua produzione deve
essere influenzata dai prodotti precedentemente accettati, e così via.
L’IA generativa è ovviamente influenzata dai dati di addestramento, ma
è un’entità immutabile nel tempo! Considera solo una fotografia della
società, ignorando ciò che le succede intorno.

12. AIXMOOC 5.2 giorgio franceschelli
L’individuo creativo
Essere creativi richiede, infine, di agire intenzionalmente, di mettere
una parte della propria personalità nel prodotto affinché questo sia
autentico.
Questo richiederebbe un grado di coscienza e auto-consapevolezza che
l’IA (tutta, non solo quella generativa) non possiede!

13. AIXMOOC 5.2 giorgio franceschelli
Sembrare non è essere...
Per riassumere, i modelli generativi possono sembrare creativi perché
sono in grado di realizzare prodotti che per noi sono creativi (nuovi,
sorprendenti e di valore), ma non sono realmente creativi.

14. AIXMOOC 5.2 giorgio franceschelli
... Ma ci importa davvero?
Il fatto che non siano realmente creativi e che ci siano grosse limitazioni
sotto determinati requisiti è davvero rilevante o è solo un dibattito
teorico?
Come vedremo parlando di etica e diritto, la risposta è sia sì sia no.

15. AIXMOOC 5.2 giorgio franceschelli
Perché è rilevante
Conoscere e studiare i limiti dell’IA generativa permette di approcciare
le questioni etiche, legali e pratiche in maniera corretta e non
superficiale.
Anche per gli utilizzatori è utile sapere i limiti e le capacità dello
strumento che andranno a usare! Infatti, ci permette di capirne le
potenzialità.

16. AIXMOOC 5.2 giorgio franceschelli
Opportunità - delegazione
L’IA generativa è, per sua natura, brava a svolgere compiti ripetitivi e
operazioni «standard»: possiamo quindi usarla per alleggerire il nostro
carico, liberandoci da compiti «noiosi» e concentrando il nostro tempo
su quelli più stimolanti e «diversi».

17. AIXMOOC 5.2 giorgio franceschelli
Opportunità - collaborazione
Essendo addestrata a «convergere» su così tanti dati, può esserci utile
in varie fasi dell’atto creativo: possiamo chiederle variazioni di un’idea
(brainstorming) ma anche di valutarla, possiamo usarla per simulare
luoghi inesistenti o personaggi immaginari (role-playing), o possiamo
farle generare tante alternative tra cui scegliere.

18. AIXMOOC 5.2 giorgio franceschelli
Opportunità - personalizzazione
Allo stesso modo, può aiutarci a personalizzare un testo o una
immagine, adattandola a un determinato contesto o audience!
Ad esempio, può aiutarmi a scrivere un blogpost su un articolo
scientifico in modo che sia più facilmente accessibile ai non addetti ai
lavori.

19. AIXMOOC 5.2 giorgio franceschelli
Perché non è rilevante
Quasi mai ci preoccupiamo di domandarci se ciò che vediamo è
creativo o prodotto da qualcuno (o qualcosa) che lo è; ci interessa solo
che funzioni, sia utile, sia bello... Sia in generale efficace.
Quindi, sapere che l’IA generativa non è veramente creativa non
cambierà come e quanto verrà usata!
Tuttavia, come prima ci ha aiutato a capire le opportunità esistenti, ci
può anche aiutare a capire dove si nascondono i rischi.

20. AIXMOOC 5.2 giorgio franceschelli
Rischi - rimpiazzo
Essendo così bravi a svolgere compiti ripetitivi e già «visti», il rischio è
che determinati lavoratori vengano sistematicamente rimpiazzati o
ridimensionati da macchine meno «costose» (per l’azienda).
Essere consapevoli che non sono macchine intenzionali e quindi non
sono [legalmente ed eticamente] responsabili delle loro azioni diventa
cruciale!

21. AIXMOOC 5.2 giorgio franceschelli
Rischi - manipolazione
Dato che non sono coscienti né consapevoli, i modelli generativi
permettono di fare un po’ di tutto – compreso generare contenuti
volutamente atti a manipolare i fruitori (tramite post social, articoli,
ecc).
Il produrre output così «simili» a quelli a cui siamo abituati ingrandisce
ancora di più il problema.

22. AIXMOOC 5.2 giorgio franceschelli
Rischi - conformismo
Vari studi hanno dimostrato come l’uso di IA generativa tenda a
diminuire la diversità dei prodotti realizzati (non deve suonare strano:
sono addestrate per convergere sulla distribuzione dei dati).
Si rischia quindi di andare verso un mercato pieno di opere simili tra di
loro, che «nascondono» le minoranze e prevengono nuove
sperimentazioni.
• Consiglio di lettura sul tema «macchine e conformismo»: La misura della
bellezza di Primo Levi [ancora... ☺]

23. AIXMOOC 5.2 giorgio franceschelli
Rischi - saturazione semantica
Questo tipo di «saturazione», se unito alla capacità dell’IA generativa di
«replicare» stili esistenti, rischia di portare alla svalutazione e allo
svilimento delle opere originali.
Quando tutti iniziano a usare l’IA per replicare un certo stile in pochi
secondi e a costo zero, si arriva a una «saturazione semantica» al livello
culturale: la costante ripetizione dello stesso stile finisce per togliergli
del tutto significato, causando enormi danni a chi di quello stile ne ha
fatto la propria arte.

24. AIXMOOC 5.2 giorgio franceschelli
Rischi - monopòli
I modelli migliori – e quindi più desiderabili – tendono a essere più
grandi e addestrati su più dati, richiedendo una potenza di calcolo che
pochissimi al mondo possono permettersi.
Le «Big Tech» stanno diventando un oligopolio che promette di
influenzare scelte strategiche di interi paesi, oltre che la ricerca
scientifica.

25. AIXMOOC 5.2 giorgio franceschelli
Dall’Etica al Diritto
Opportunità e rischi riguardano ciò che si dovrebbe o non si dovrebbe
fare... Ma cosa si può o non si può fare?
Gli aspetti legali dell’IA generativa sono altrettanto importanti.

26. AIXMOOC 5.2 giorgio franceschelli
Le sfide legali
Le principali questioni riguardano il Diritto d’Autore:
• Si possono usare opere protette per addestrare una IA generativa?
• Cosa succede se l’IA genera qualcosa di simile a un’opera esistente?
• Chi è il titolare dei diritti delle opere generate?
Ma ce ne sarebbero anche altre riguardanti la protezione dei dati (si
possono usare dati personali per addestrare una IA generativa?), la
responsabilità dell’IA, e altre ancora.

27. AIXMOOC 5.2 giorgio franceschelli
Uso di opere protette per addestramento
L’uso di un’opera protetta per addestrare una IA generativa richiede di
copiare l’opera (ad esempio sui server in cui l’addestramento avviene),
violando potenzialmente il diritto esclusivo di riproduzione che spetta
all’autore dell’opera.

28. AIXMOOC 5.2 giorgio franceschelli
Eccezioni al diritto di riproduzione
Nell’Unione Europea, la Direttiva 2019/790 ha stabilito che:
- Per scopi di ricerca si possano usare opere protette per
addestramento, purché se ne abbia legalmente accesso
- Per scopi commerciali valga la stessa cosa, a meno che il diritto non
sia stato espressamente riservato dal titolare in modo appropriato
(diritto di opt-out)
Quale sia questo «modo appropriato»... Non è ancora chiaro!

29. AIXMOOC 5.2 giorgio franceschelli
Eccezioni al diritto di riproduzione
Negli Stati Uniti non esiste un’eccezione specifica, ma le aziende si
appellano al fair use, che permette di usare materiale protetto sotto
alcune condizioni e per determinati scopi.
Il problema è che è una «dottrina»: specifica i principi su cui basarsi per
decidere, ma non fornisce una lista di cose che vi rientrano!
Lo US Copyright Office dovrebbe rilasciare a breve un documento
ufficiale per chiarire queste contraddizioni, ma il rischio è che
l’interpretazione possa essere influenzata dalle parti interessate (vi
ricorda qualche slide precedente?)

30. AIXMOOC 5.2 giorgio franceschelli
Uso di opere protette per addestramento?
Una domanda che tantissimi artisti (e non solo) si sono fatti negli ultimi
anni è se le loro opere siano state usate o meno.
Esistono soluzioni tecniche che possono fare una stima probabilistica,
ma la certezza è impossibile averla...
Il tanto vituperato AI Act, però, ci viene in soccorso, richiedendo che chi
sviluppa e rilascia un modello di IA generale metta a disposizione del
pubblico una sintesi sufficientemente dettagliata dei contenuti utilizzati
durante l’addestramento.
Cosa rientra in una sintesi «sufficientemente dettagliata»? Lo
scopriremo...

31. AIXMOOC 5.2 giorgio franceschelli
Output del modello come plagio
Avendo addestrato il modello su opere reali, potrebbe succedere che
l’output riproduca porzioni di opere protette. Se tale porzione è
sostanziale (ovvero è parte caratterizzante del suo contenuto), ciò
infrange il diritto di riproduzione dell’opera.
Quando riguarda parti del contenuto che non caratterizzano
inequivocabilmente l’opera, o quando non riguarda il contenuto stesso
(ad es., l’idea o lo stile), non è plagio (ma ciò non vuol dire che sia
eticamente corretto, come discusso in precedenza).

32. AIXMOOC 5.2 giorgio franceschelli
Output del modello come opera protetta
Il problema nella protezione di un’opera generata da IA è che il diritto
d’autore è pensato per proteggere la creatività umana alla base
dell’originalità di un’opera letteraria, musicale, artisitca, etc.
La protezione dipende dal ruolo della macchina:
• Macchina come strumento • Macchina come creatore
botnik.org/apps/writer ai-darobot.com/exhibition

33. AIXMOOC 5.2 giorgio franceschelli
Output del modello come opera protetta
Se il contributo umano è sostanziale e l’IA è usata come strumento,
allora l’autore è la persona che ha fornito tale contributo.
Se invece questo contributo non c’è... pubblico dominio.
https://www.copyright.gov/ai/Copyright-and-Artificial-Intelligence-Part-2-Copyrightability-Report.pdf
Pubblico dominio Protetto Protetto

34. AIXMOOC 5.2 giorgio franceschelli
Pubblico dominio: pro e contro
Ma è davvero la scelta migliore il pubblico dominio?
Non richiede alcun cambiamento
Preserva la centralità dell’autore...
E dell’autorialità
Non permette di monetizzare
Non remunera gli investitori
Incentiva comportamenti scorretti
Incentiva i possibili utilizzatori a
preferire opere generate da AI
Difficile dire se il contributo umano è
sostanziale o meno

35. AIXMOOC 5.2 giorgio franceschelli
Recap finale
• L’IA generativa può sembrare creativa perché capace di produrre
output che un osservatore potrebbe ritenere creativi, ma non è
realmente creativa (non adotta un processo creativo, non tiene conto
del contesto, e soprattutto gli output non sono né autentici né
intenzionali)
• Questi «limiti» teorici ci aiutano a capire le opportunità dell’IA
generativa, ma anche i rischi etici (enormi) a cui può portare
• Anche sul piano legale ci sono alcune contraddizioni la cui futura
risoluzione avrà un notevole impatto sui possibili usi dell’IA generativa

36. AIXMOOC 5.2 giorgio franceschelli
#AIXMOOC
GRAZIE
mooc.uniurb.it/aixmooc