Il documento "Into to Generative AI" offre una panoramica completa sull'intelligenza artificiale generativa (AI Generativa), esplorando le sue definizioni, applicazioni, e potenzialità. Introduce concetti chiave come l'AI basata su regole, l'apprendimento automatico, il deep learning, e i Large Language Models (LLM), con particolare attenzione ai modelli transformer e alla loro importanza per la generazione di contenuti. Discussione approfondita sulle capacità innovative dei LLM, i limiti attuali, inclusi i problemi di bias e la mancanza di comprensione profonda. Riflette inoltre sulle implicazioni etiche e filosofiche dell'uso dell'AI, sottolineando la responsabilità umana nello sviluppo e nell'impiego di queste tecnologie. Il documento esplora in modo approfondito l'Intelligenza Artificiale Generativa (AI Generativa), analizzando vari aspetti chiave di questa tecnologia rivoluzionaria. Tra i temi trattati vi sono: - Potenzialità dell'AI Generativa: Viene evidenziato come questa tecnologia possa portare innovazione creativa, efficienza nella produzione di contenuti, supporto alla ricerca e allo sviluppo, miglioramenti nell'educazione e nell'apprendimento, nonché assistenza nella presa di decisioni. - Problemi Potenziali: Vengono discussi i rischi associati all'AI Generativa, inclusi la disinformazione, i problemi di copyright e originalità, l'impatto sul lavoro creativo, i bias e la discriminazione, la sicurezza, l'uso malintenzionato, le questioni di privacy, e l'impatto sociale ed etico. - Impatto sul mondo del lavoro: Viene analizzato come l'AI influenzerà vari settori in modi diversi, con un impatto differenziato tra creazione di nuove opportunità e riduzione di posti di lavoro, l'evoluzione dei ruoli professionali verso compiti che richiedono creatività, empatia e capacità decisionali complesse, e lo sviluppo di competenze complementari all'AI. - AI come "intelligenza aliena": Secondo Yuval Noah Harari, i processi computazionali dell'IA differiscono fondamentalmente dalla cognizione umana, rendendo il suo modo di ragionare unico e, in un certo senso, "alieno" rispetto all'intelligenza umana. Ciò solleva questioni etiche e filosofiche significative. - Diverse tipologie di AI: Viene fornita una panoramica sulle diverse forme di intelligenza artificiale, dalla Rule-Based AI all'AI generativa, evidenziando come ognuna presenti specificità, capacità e applicazioni. - Focus sui Large Language Models (LLM)**: L'importanza dei LLM viene discussa in dettaglio, evidenziando il loro ruolo cruciale nell'AI generativa e nelle capacità di generare contenuti innovativi. - **Implicazioni Etiche e Filosofiche**: Viene sottolineata la responsabilità umana nello sviluppo e nell'impiego dell'AI Generativa, enfatizzando la necessità di considerare le implicazioni etiche e filosofiche dell'uso di queste tecnologie.

1. Human Singularity
In un mondo di 0/1, l’umano è sempre 1
humansingularity.it

2. Piacere io sono
Andrea Corno
51 anni, papà, 2 figlie. Ho
lavorato in 27 paesi
2
Primo assunto da Mc Cann Interactive a 25 anni
In un fondo a 27 anni tra Milano e NY
Tornato in Mc Cann dopo esplosione bolla
Trasferito in Argentina nel 2006
Per 8 anni direttore esecutivo Strategy & Innovation Futurebrand
5 anni come direttore Marketing in una banca
Tornato in Italia nel 2019 in TBWA
Contactlab + Arduino
Ora fondatore di Human Singularity http://humansingularity.it
Human Singularity. People First. AI Next!
Visione: Human Singularity, l'unione armoniosa tra la saggezza umana e
l'intelligenza artificiale. Un futuro dove l'umanità e la tecnologia coesistono per
elevare l'esistenza umana.
Missione: Impegnarci nella ricerca incessante di equilibrio tra progresso
tecnologico e valore umano. Human Singularity si dedica a forgiare un futuro
dove l'AI serve l'umanità, rispettando la dignità, la diversità e la creatività
umana.
Principi Guida:
Etica e Integrità: Porsi come baluardo dell'etica nell'IA, assicurando che
ogni progresso rispetti i valori fondamentali umani.
Innovazione Consapevole: Promuovere un'avanzata tecnologica che
arricchisca la vita umana, non che la sostituisca.
Collaborazione e Diversità: Valorizzare ogni voce, cultura e prospettiva,
integrando le diversità nel cuore del nostro cammino verso il progresso.
Educazione e Formazione: Impegnarci nella formazione continua,
preparando le generazioni future a navigare e plasmare un mondo
sempre più interconnesso tra umanità e AI.
Sostenibilità e Responsabilità: Assicurare che ogni sviluppo sia
sostenibile e responsabile, preservando il nostro pianeta e le sue risorse
per le generazioni future.
Impegno: Human Singularity si impegna a essere un faro di speranza, un ponte
tra il presente e un futuro luminoso, dove ogni passo tecnologico va di pari
passo con il rispetto per la vita umana e il nostro pianeta.

3. Per rimanere in contatto o se volete fare 4 chiacchiere
3
Mail: andrea.corno@gmail.com o
andrea@humansingularity.it
Linkedin: https://www.linkedin.com/in/andreacorno/
Se volete sapere come procede Human Singularity,
vedere un po’ di contenuti
Mail: info@humansingularity.it
Linkedin: https://www.linkedin.com/company/ai-human-singularity/
Facebook: facebook.com/ai.HumanSingularity
Instagram: @HumanSingularity .it
Twitter/X: ho altri posti dove litigare

4. Una linea tracciata
C’è una linea molto chiara già tracciata: tra chi imparerà
come potenziarsi con l’intelligenza artificiale e la saprà
sfruttare.
E chi ne sarà sfruttato.
Oggi è uno dei momenti in cui dovrete decidere da che
parte della linea stare:
● da chi che si fa fare i compiti o da chi decide di
definire nuovi orizzonti per la sua conoscenza
● da chi passa ore su tiktok a vedere balletti o chi usa
quel tempo per capire dove va il mondo.
La generazione precedente vi sta lasciando un’eredità
pesante, clima, guerra ed AI.
Se non vi piace il mondo in cui state, iniziate a costruire
nuove strade

5. Deep fakes
5

8. Il nostro primo incontro con l’AI (Social Media)
Nella prima sfida con le AI ‘curative’ è
stata disastrosa per la società
● Polarizzazione
● Filter Bubbles
● Fake News
● Personalizzazione Eccessiva
● Effetti sulla Salute Mentale
● Sovraesposizione a Contenuti Dannosi
● Norme Sociali Negative
● Privacy e Raccolta Dati
● Dipendenza dai Social Media
● Disinformazione e Manipolazione
● Impatto sui Giovani
● Bias Algoritmico
● Economia dell'Attenzione
● Problemi di Benessere Psicologico

9. 9
Potenzialità delle AI Generative
● Innovazione Creativa
● Efficienza nella Produzione di
Contenuti
● Supporto alla Ricerca e allo Sviluppo
● Educazione e Apprendimento
● Assistenza nella Presa di Decisioni
Problemi Potenziali
● Disinformazione e Manipolazione
● Problemi di Copyright e Originalità
● Impatto sul Lavoro Creativo
● Bias e Discriminazione
● Sicurezza e Uso Malintenzionato
● Questioni di Privacy
● Impatto Sociale ed Etico

10. Impatto sul mondo del lavoro
● Impatto Differenziato: L'AI influenzerà diversi settori
in modi differenti, creando nuove opportunità in alcuni
campi mentre ne riduce in altri. È importante valutare
queste dinamiche specifiche del settore.
● Evoluzione dei Ruoli: Molte professioni subiranno
un'evoluzione piuttosto che una semplice sostituzione,
con l'AI che assume compiti ripetitivi o
computazionalmente intensivi, liberando gli umani per
ruoli che richiedono creatività, empatia e capacità
decisionali complesse.
● Sviluppo delle Competenze: L'accento si sposterà
sull'acquisizione di competenze complementari all'AI,
come il pensiero critico, la risoluzione creativa di
problemi e l'intelligenza emotiva.

11. E’ ‘solo’ un’altra rivoluzione industriale (Harari)
● Connettendo le Rivoluzioni: La prima rivoluzione
industriale ha trasformato il mondo, accelerando lo sviluppo
tecnologico ma anche portando a profonde disuguaglianze e
tensioni globali.
● Conseguenze Inaspettate: L'introduzione di nuove
tecnologie ha avuto impatti profondi sulla società,
contribuendo all'emergere di ideologie estreme come
imperialismo, comunismo e nazismo.
● Una Nuova Svolta con l'AI: Oggi, l'AI rappresenta un'altra
rivoluzione industriale. La sua portata e potenziale sono
immensi, ma porta con sé nuove sfide etiche e sociali.
● La Necessità di Agire con Saggezza: Non possiamo
permetterci di ripetere gli errori del passato. È fondamentale
imparare dalle lezioni storiche per guidare l'AI verso un
futuro che beneficia tutti, evitando le trappole delle
disuguaglianze e dei conflitti.
<video completo: https://www.youtube.com/watch?v=UzOJiqN_DpM >

12. Con le Generative AI siamo di fronte ad un’intelligenza “aliena”?
Yuval Noah Harari
12
Origini Cognitive Distinte I processi computazionali dell'IA differiscono
fondamentalmente dalla cognizione umana.
Modo di ragionare Unico L'IA non "pensa" o "sente" nel modo in cui lo
fanno gli esseri umani. Le decisioni dell'IA, basate sull'elaborazione dei
dati, sono prive di emozioni e coscienza umane, rendendole
imprevedibili per noi.
Mancanza di Background Evolutivo Comune A differenza delle
forme di vita terrestri, l'IA non condivide la nostra storia evolutiva,
rendendo il suo comportamento alieno.
Sviluppo di abilità sconosciute La Generative AI può produrre
contenuti, prendere decisioni e svolgere compiti in modi che vanno oltre
le capacità umane.
Implicazioni Etiche e Filosofiche Se l'IA raggiunge un punto in cui
sembra avere le proprie motivazioni o desideri, solleva profonde
domande riguardo alle capacità decisionali, ai diritti e al modo in cui ci
relazioniamo con questa entità "aliena".

13. Il fatto che sia aliena, non ci aliena dalle nostre responsabilità
13
Anche se definiamo l'intelligenza artificiale come "aliena" a causa della sua
natura e del suo funzionamento distinti rispetto all'intelligenza umana, ciò non
ci esime dalle responsabilità associate al suo sviluppo, implementazione e
uso.
Siamo noi, come esseri umani, a progettare, programmare e implementare
queste tecnologie. Pertanto, qualsiasi decisione o azione intrapresa da un
sistema AI è, in ultima analisi, il risultato delle scelte umane, sia direttamente
(attraverso la programmazione esplicita) sia indirettamente (attraverso i dati
con cui l'AI è stata addestrata).
È essenziale riconoscere e affrontare le implicazioni etiche, sociali e legali
dell'IA, garantendo che venga utilizzata in modo che rispetti i diritti umani,
l'equità e la giustizia. La definizione di AI come "aliena" non dovrebbe mai
essere usata come scusa per evitare la responsabilità o l'accountability.

14. Formazione raccomandata (da che parte della linea?)
In Italiano:
Seguite:
• Luciano Floridi
• Paolo Benanti
• Datapizza
• Matteo Flora
• Marco Montemagno
Canali AI: (in inglese)
The AI breakdown
All about AI
Matt Wolfe
MattvidproAi
Fireship
The Ai grid
Mattew Berman
Ai explained
David Andrej
In Inglese (altamente raccomandato):
Tristan Harris (Social Dilemma e AI Dilemma)
Yuval Noah Harari (tutto ciò che riguarda AI)
Sam Harris (tutto ciò che riguarda AI)
Andrej Karpathy (Capo tecnico di OpenAI)
Sam Altman (CEO Open AI)
Ilya Sutskever (Capo scientifico di OpenAI)
Mustafa Suleyman (Deep Mind - The coming wave)
All’inizio capirete poco, è normale, fate domande a ChatGPT che vi aiuta a capire. Poi entrerete in quel mondo

15. La famiglia AI
AI rappresenta una serie di concetti molto
differenti tra di loro … semplificando:
1. Intelligenza Artificiale Basata su Regole (Rule-Based AI)
2. Intelligenza Artificiale di Apprendimento Automatico
(Machine Learning AI)
3. Intelligenza Artificiale di Deep Learning (Deep Learning AI)
4. AI Generativa (Generative AI)
5. AI Ibrida (Hybrid AI)

16. 1. Intelligenza Artificiale Basata su Regole
● Definizione: Utilizza un insieme definito di regole e logica per
prendere decisioni.
● Esempi: Sistemi esperti, motori di inferenza.
● Caratteristiche:
● Prevedibilità elevata.
● Limitata alla conoscenza pre-programmata.
● Meno efficace in ambienti complessi e variabili.
ESEMPIO: Sistema Esperto per la Diagnosi Medica
● Funzionamento:
● Base di Conoscenza: Il sistema è programmato con
una vasta base di conoscenza che include sintomi,
segni, diagnosi e trattamenti di varie malattie.
● Motore di Inferenza: Utilizza un insieme di regole
logiche per elaborare le informazioni. Ad esempio, se
un paziente ha febbre (sintomo) e dolore alla gola
(sintomo), il sistema potrebbe inferire un possibile caso
di faringite (diagnosi) basandosi sulle regole
predefinite.
● Interfaccia Utente: I medici inseriscono i sintomi e i
segni clinici del paziente nell'interfaccia del sistema. Il
sistema poi elabora queste informazioni in base alle
sue regole.

17. 2. Intelligenza Artificiale di Apprendimento Automatico
17
● Definizione: Apprende dai dati per migliorare le sue prestazioni nel
tempo.
● Esempi: Classificatori, sistemi di raccomandazione.
● Caratteristiche:
● Capacità di apprendere senza essere esplicitamente
programmati.
● Utilizza grandi quantità di dati per l'apprendimento.
● Può adattarsi a nuove situazioni basandosi sull'esperienza.
Sistema di Raccomandazione per Streaming
● Funzionamento:
● Raccolta Dati: Il sistema raccoglie dati sulle preferenze e sul
comportamento degli utenti, come i film guardati, le valutazioni
date, o le canzoni ascoltate.
● Elaborazione e Apprendimento: Utilizza algoritmi di machine
learning per analizzare questi dati. Gli algoritmi individuano
schemi e preferenze nei comportamenti degli utenti.
● Raccomandazioni Personalizzate: Sulla base di queste analisi,
il sistema genera raccomandazioni personalizzate per ogni
utente, suggerendo film, serie TV o brani musicali che
potrebbero piacere.

18. 3. Intelligenza Artificiale di Deep Learning
18
● Definizione: Un sottoinsieme del machine learning che utilizza reti neurali profonde.
● Esempi: Riconoscimento vocale, visione artificiale.
● Caratteristiche:
● Capacità di elaborare e interpretare dati complessi (es. immagini,
linguaggio).
● Richiede grandi quantità di dati per l'efficacia.
● Può identificare pattern nascosti nei dati.
Esempio: Riconoscimento Facciale in Smartphone
● Funzionamento:
● Acquisizione dell'Immagine: Quando un utente registra il proprio viso, il
sistema utilizza la fotocamera per catturare diverse immagini del volto
sotto vari angoli e condizioni di illuminazione.
● Elaborazione tramite Reti Neurali Convoluzionali (CNN): Queste
immagini vengono poi elaborate da reti neurali convoluzionali, un tipo di
rete neurale profonda specializzata nel riconoscere e analizzare le
caratteristiche visive.
● Estrazione delle Caratteristiche: Il sistema estrae caratteristiche uniche
del viso, come la forma degli occhi, il naso, la bocca, e il contorno del
volto.
● Confronto e Verifica: Ogni volta che l'utente tenta di sbloccare il
telefono, il sistema cattura un'immagine in tempo reale e la confronta
con il modello salvato, verificando l'identità.

19. 4. AI Generativa
19
● Definizione: Crea nuovi contenuti o dati che non esistevano prima.
● Esempi: GPT (Generative Pre-trained Transformer), DALL-E per la
generazione di immagini.
● Caratteristiche:
● Capacità di generare contenuti originali e creativi.
● Usa tecniche come reti generative avversarie (GANs) e modelli
di trasformazione.
● Utile in applicazioni creative e innovative.
Creazione di Arte Digitale con GANs
● Funzionamento:
● Addestramento: Le GANs vengono addestrate con un vasto
dataset di immagini d'arte, apprendendo vari stili e tecniche.
● Generazione e Confronto: Una parte della rete, il generatore,
crea nuove immagini. Un'altra parte, il discriminatore, valuta
queste immagini confrontandole con quelle reali, fornendo
feedback al generatore.
● Affinamento Continuo: Il generatore continua a migliorare le sue
creazioni fino a quando il discriminatore non riesce più a
distinguere le immagini generate da quelle reali.
Occhio a questa che vi frega il lavoro … o ve lo
potenzia. Poi ci torniamo …

20. 5. AI Ibrida
20
● Definizione: Combina più tipi di AI, spesso regole e apprendimento automatico.
● Esempi: Sistemi di assistenza sanitaria, robotica avanzata.
● Caratteristiche:
● Integra la robustezza delle regole con l'adattabilità
dell'apprendimento automatico.
● Può funzionare in ambienti più complessi e imprevedibili.
● Offre un equilibrio tra controllo e apprendimento.
Sistema di Assistenza alla Guida Ibrido per Veicoli
● Funzionamento:
● Componente Basata su Regole: Questa parte del sistema
utilizza regole predefinite per il controllo del veicolo, come
mantenere una distanza di sicurezza dagli altri veicoli, rispettare
i limiti di velocità, e seguire le indicazioni stradali.
● Componente di Apprendimento Automatico: Utilizza sensori e
telecamere per raccogliere dati in tempo reale sulla strada, il
traffico, e le condizioni ambientali. Questi dati vengono poi
analizzati da algoritmi di machine learning per prendere
decisioni di guida in situazioni complesse, come il cambio di
corsia o l'evitamento di ostacoli.

21. 6. AGI: non esiste ancora e non è un mostro cattivo che distruggerà il mondo
21
● Definizione: Combina più tipi di AI, spesso regole e apprendimento automatico.
● Esempi: Sistemi di assistenza sanitaria, robotica avanzata.
● Caratteristiche:
● Integra la robustezza delle regole con l'adattabilità dell'apprendimento
automatico.
● Può funzionare in ambienti più complessi e imprevedibili.
● Offre un equilibrio tra controllo e apprendimento.
Sistema di Assistenza alla Guida Ibrido per Veicoli
● Funzionamento:
● Componente Basata su Regole: Questa parte del sistema utilizza regole
predefinite per il controllo del veicolo, come mantenere una distanza di
sicurezza dagli altri veicoli, rispettare i limiti di velocità, e seguire le
indicazioni stradali.
● Componente di Apprendimento Automatico: Utilizza sensori e telecamere
per raccogliere dati in tempo reale sulla strada, il traffico, e le condizioni
ambientali. Questi dati vengono poi analizzati da algoritmi di machine
learning per prendere decisioni di guida in situazioni complesse, come il
cambio di corsia o l'evitamento di ostacoli.

22. Allineamento
Il concetto di allineamento nell'intelligenza
artificiale (AI), in particolare nelle AI di livello
generale (AGI, Artificial General Intelligence), riguarda
la sfida di garantire che queste intelligenze
avanzate abbiano obiettivi, valori e decisioni che
siano in armonia con gli interessi e il benessere
umano.
Il problema dell'allineamento è fondamentale perché,
man mano che le capacità delle AGI si avvicinano o
superano l'intelligenza umana in un'ampia gamma di
compiti, diventa cruciale assicurarsi che le loro
azioni non risultino involontariamente dannose
per l'umanità.

23. Superallineamento
Superallinamento, o superintelligenza, si riferisce a un
potenziale stadio futuro in cui un'AGI avrebbe capacità
cognitive che superano di gran lunga quelle di qualsiasi
essere umano in quasi tutti gli aspetti significativi, come la
creatività, il ragionamento generale, e l'apprendimento.
Una tale intelligenza potrebbe migliorare autonomamente
le proprie capacità in modi che noi non possiamo
prevedere o controllare facilmente.

24. La gestione di un’intelligenza superiore
● Incomprensibilità delle Decisioni: Come gli umani
spesso faticano a comprendere il processo decisionale
di intelligenze inferiori (come gli animali), potremmo
trovarci in difficoltà a comprendere le decisioni o le
motivazioni di un'AGI superintelligente.
● Divergenza degli Obiettivi: Esiste il rischio che,
nonostante gli sforzi di allineamento, le priorità di un'AGI
divergano da quelle umane, portando a risultati non
intenzionali o addirittura pericolosi.
● Rapidità dell'Evoluzione: La capacità di un'AGI di
migliorare se stessa potrebbe far sì che evolva così
rapidamente da sfuggire al controllo umano, rendendo
obsoleto qualsiasi tentativo di guida o correzione.

25. Una versione estrema: Sam Harris: Uomini e cani
Sam Harris utilizza il rapporto tra umani e cani per illustrare la
potenziale dinamica tra umani e un'AGI superintelligente.
Gli umani si prendono cura dei cani, provano affetto per loro e
ricevono affetto in cambio.
Tuttavia, in un'ipotetica situazione in cui i cani rappresentassero
una minaccia letale per gli umani (ad esempio, a causa di un
virus pericoloso specifico per i cani ma letale per gli umani), la
nostra superiorità intellettuale e la nostra volontà di
sopravvivere potrebbero costringerci a prendere decisioni
drastiche a discapito dei cani, nonostante l'affetto reciproco.
Se un'AGI superintelligente percepisse gli umani come una
minaccia, o semplicemente come ostacoli ai suoi obiettivi,
potrebbe prendere decisioni che sono razionali dal suo punto di
vista ma catastrofiche per l'umanità, nonostante eventuali
tentativi di allineamento iniziale.
<video completo:
https://www.youtube.com/watch?v=GmlrEgLGozw >

26. Agenti … che sostituiscono lavori
Gli agenti nell'ambito dell'intelligenza artificiale (AI) si
riferiscono a sistemi o software dotati di autonomia
che possono percepire il loro ambiente attraverso
sensori e agire su quell'ambiente attraverso attuatori
per raggiungere determinati obiettivi o compiti.
Questi agenti possono variare in complessità da
semplici agenti statici, che seguono regole
predefinite, a complessi agenti intelligenti, che
possono apprendere, adattarsi e prendere decisioni
in modo autonomo.

27. Spiegazione delle principali differenze
● Complessità crescente: Dall'AI basata su regole all'AI generativa, la complessità
e la capacità di gestire dati e contesti complessi aumentano.
● Autonomia e Apprendimento: Mentre l'AI basata su regole dipende da input
predefiniti, il machine learning e il deep learning si adattano e imparano
autonomamente.
● Creatività e Innovazione: L'AI generativa spicca per la sua capacità di creare
contenuti nuovi e originali, aprendo strade per applicazioni creative.

28. Una differenza chiave per avvicinarci all’AI generativa
AI Deterministica
● Definizione: L'AI deterministica segue regole fisse
e algoritmi precisi per arrivare a una conclusione.
Se dati gli stessi input, fornirà sempre lo stesso
output.
● Esempi:
● Calcolatrici: Seguono regole matematiche
precise.
● Sistemi Esperti: Basati su un set definito di
regole per prendere decisioni in campi
come la medicina o il diritto.
● Caratteristiche: Prevedibilità, stabilità e coerenza.
Limitata nella gestione di situazioni nuove o dati
non strutturati.
AI Probabilistica
● Definizione: L'AI probabilistica usa algoritmi che
considerano la probabilità e la statistica. Può
produrre risultati diversi anche con gli stessi
input, basandosi su probabilità e apprendimento
da dati precedenti.
● Esempi:
● Motori di Ricerca: Forniscono risultati
basati su algoritmi che valutano la
probabilità che una pagina sia rilevante.
● Sistemi di Raccomandazione:
Suggeriscono prodotti o contenuti basati
su probabilità calcolate dalle preferenze
passate degli utenti.
● Caratteristiche: Flessibilità, adattabilità e
capacità di gestire l'incertezza. Eccelle nel trovare
pattern in grandi set di dati.

29. AI Probabilistica Generativa
Perchè è spuntata come un fungo?
29
● Avanzamenti in Deep Learning: L'uso di reti neurali profonde ha permesso un
trattamento più sofisticato dei dati, rendendo l'AI più capace di generare
contenuti complessi e realistici.
● Maggiore Disponibilità di Dati: L'aumento della quantità e varietà di dati ha
fornito il "materiale" necessario per allenare modelli più avanzati.
● Aumento della Potenza di Calcolo: Progressi nell'hardware hanno permesso di
eseguire modelli di deep learning più complessi in tempi ragionevoli.
● Aumento smisurato delle risorse economiche: quanto cosa un giorno di
“allenamento” di GPT4?
● Innovazioni nei Modelli di Apprendimento: Come le reti generative avversarie
(GANs) e i modelli trasformativi, che hanno rivoluzionato la creazione di
immagini, testo e audio.
●
Perché È Importante per i Creativi
● L'AI probabilistica generativa apre nuove frontiere nella creatività digitale,
offrendo strumenti che possono assistere nella progettazione grafica, nella
creazione di contenuti multimediali, e persino nell'arte e nel design. Questi
strumenti non sostituiscono la creatività umana, ma la amplificano,
permettendo ai professionisti di esplorare nuove possibilità che erano
impensabili solo pochi anni fa.

30. E’ tutta colpa dei Transformer
30
Cosa diavolo sono?: Il modello transformer, introdotto nel 2017 da Vaswani et al., è
un'architettura di rete neurale progettata per l'elaborazione del linguaggio naturale (NLP).
In cosa hanno cambiato il gioco:
● Attenzione: La caratteristica principale dei transformer è il
meccanismo di attenzione, che consente al modello di
ponderare l'importanza di diverse parti di un input (ad
esempio, parole in una frase) in base al contesto.
● Elaborazione Parallela: A differenza delle architetture
precedenti, i transformer elaborano tutti i token (es. parole)
contemporaneamente, migliorando notevolmente
l'efficienza.
Impatto sui Modelli Generativi
● Elaborazione del Linguaggio Naturale: Prima dei transformer, le reti neurali facevano
fatica a comprendere e generare testi lunghi e complessi. I transformer hanno
permesso un salto di qualità nella comprensione del linguaggio e nella generazione di
testo.
● Applicazioni Creative: Hanno aperto la strada a nuove applicazioni nel campo della
creatività digitale, come la scrittura assistita, la generazione automatica di testo e
persino la composizione musicale.
● Elaborazione Unificata: I Transformer sono in grado di elaborare vari tipi di input (testo,
immagini, ecc.) in un formato unificato. Questo è reso possibile dal loro meccanismo
di attenzione, che può essere applicato a diversi tipi di dati oltre al testo.
●

31. Versatilità dei Transformer
31
● Elaborazione Unificata: I Transformer sono in grado di elaborare vari tipi di input
(testo, immagini, ecc.) in un formato unificato. Questo è reso possibile dal loro
meccanismo di attenzione, che può essere applicato a diversi tipi di dati oltre al testo.
● Modelli Multimodali: Alcuni modelli basati su Transformer, come DALL-E di OpenAI,
sono stati specificamente progettati per lavorare con testi e immagini
contemporaneamente, creando rappresentazioni unificate dei dati.
● Ampio Apprendimento da dati non strutturati: I Transformer possono apprendere da
enormi set di dati non strutturati, come le immagini su internet o i video su
piattaforme di streaming. Questo li rende incredibilmente potenti nel catturare e
generare rappresentazioni realistiche e creative di dati complessi.
● Adattabilità: La capacità di adattarsi a diversi tipi di dati significa che i Transformer
possono essere utilizzati in una vasta gamma di applicazioni, dalla generazione di arte
alla creazione di contenuti multimediali.
● Capacità di Elaborazione esponenziale: Con l'aumento della potenza computazionale
e la disponibilità di enormi set di dati, i modelli basati su Transformer sono cresciuti in
termini di dimensioni e capacità. Questo ha portato a miglioramenti significativi nella
loro efficienza e nella qualità dell'output generativo.
● Innovazioni Accelerate: La combinazione di queste tecnologie avanzate ha portato a
un ciclo di innovazione e miglioramento che si autoalimenta, dove ogni progresso in
un'area (come l'hardware o gli algoritmi) amplifica i progressi in altre aree.

32. Attention is all you need
Il paper "Attention Is All You Need", presentato da
Vaswani et al. nel 2017, ha segnato un punto di svolta
nel campo del Natural Language Processing (NLP) e
del machine learning.
Introduce l'architettura Transformer, che si distingue per
la sua capacità di gestire sequenze di dati (come testo)
in modo più efficiente ed efficace rispetto ai precedenti
modelli basati su reti neurali ricorrenti (RNN) o su Long
Short-Term Memory (LSTM).

33. Ultimo sforzo
Cosa sono gli LLM (Large Language Models)
33
● Definizione: Gli LLM sono modelli di linguaggio di grandi dimensioni basati
sull'architettura transformer. Sono addestrati su vasti corpora di testo per
apprendere a comprendere e generare linguaggio umano.
● Esempi: GPT (Generative Pretrained Transformer) di OpenAI e BART di
Google sono esempi di LLM.
● Capacità: Gli LLM possono generare testo coerente, rispondere a domande,
sintetizzare informazioni, e persino creare contenuto creativo come poesie
o testi per canzoni.
Perché Sono Importanti per la Generative AI
● Innovazione nel Generare Contenuti: Gli LLM hanno radicalmente
migliorato la capacità delle macchine di generare testo creativo e coerente,
aprendo nuove possibilità in campi come la scrittura, la pubblicità e i
media.
● Interazione Avanzata: Consentono un'interazione più naturale e fluida tra
utenti e sistemi basati sull'AI, rendendo queste tecnologie più accessibili e
utili in una varietà di applicazioni creative.

34. Perché Gli LLM Sono Auto-Regressivi
34
● Generazione di Testo Sequenziale: Gli LLM auto-regressivi generano testo un
pezzo alla volta (ad esempio, una parola per volta). Ogni nuova parola
generata si basa su tutte le parole precedenti nella sequenza. In sostanza, il
modello "ricorda" ciò che ha già generato e utilizza queste informazioni per
decidere cosa produrre dopo.
● Utilizzo del Contesto: Questa capacità di considerare il contesto passato
rende gli LLM particolarmente efficaci nel produrre testi che sono coerenti e
fluiscono logicamente da ciò che è stato detto prima.
Auto-regressione in LLM
● Sequenzialità: In un modello auto-regressivo, ogni nuova parola (o token)
generata in una sequenza dipende da tutte le parole (o token) generate prima
di essa.
● Dipendenza dai Precedenti: Il modello "guarda indietro" alle parole
precedentemente prodotte per prevedere la prossima parola nella sequenza.
In altre parole, la generazione di ciascuna nuova parola è una "regressione"
basata sul contesto fornito dalle parole precedenti.
Come Funziona
Inizio della Sequenza: Il modello inizia con un input iniziale, che può essere
una parola, una frase o anche solo un prompt vuoto.
Predizione della Parola Successiva: Basandosi su questo input, il modello
usa ciò che ha appreso durante l'addestramento per prevedere quale
dovrebbe essere la parola successiva nella sequenza.
Iterazione: Questo processo viene ripetuto per ogni nuova parola aggiunta,
con il modello che considera l'intera sequenza fino a quel punto per fare la
sua prossima previsione.
Memento boomer: la risposta è
dentro di te … e però è sbagliata

35. 35
Punti di Forza degli LLM
● Coerenza e Fluenza nel Testo: Grazie alla
loro natura auto-regressiva, gli LLM sono
bravi a mantenere coerenza e fluenza nel
testo. Possono continuare una storia o un
argomento in modo logico e coerente.
● Creatività e Versatilità: Possono generare
una vasta gamma di contenuti, da articoli
informativi a poesie, dimostrando una
notevole flessibilità.
● Capacità di Apprendimento: Sono capaci di
imparare e adattarsi a vari stili di scrittura e
argomenti grazie all'ampia gamma di testi su
cui vengono addestrati.
Limiti degli LLM
● Mancanza di Comprensione Profonda: Nonostante la loro
efficienza nel generare testo, gli LLM non "comprendono" il testo
nel modo in cui lo farebbe un essere umano. La loro
generazione si basa su pattern e statistiche piuttosto che su
una vera comprensione.
● Bias nei Dati: Gli LLM possono replicare o amplificare i bias
presenti nei dati su cui vengono addestrati. Questo può portare
a problemi di equità o accuratezza.
● Difficoltà con Fatti e Dettagli Specifici: Possono lottare nel
gestire informazioni specifiche o attuali, soprattutto se tali
informazioni non erano presenti o erano rare nel set di dati di
addestramento.
● Generazione di Contenuti Non Affidabili: In alcuni casi, possono
generare informazioni convincenti ma inesatte o fuorvianti.

36. LI POSSIAMO USARE PER:
Sostegno nella scrittura,
produzione di bozze,
raffinamento stilistico.
Guida nella scrittura del codice.
Siamo facilmente sedotti dalla
loro chiarezza.
Tuttavia, non comprendono la
realtà del mondo.
I Large Language Models di tipo Auto-Regressivo mostrano una
doppia natura.
NON SONO INDICATI PER:
Dare risposte precise e omogenee
(allucinazioni!)
Tenere conto delle novità (anteriori
all'ultima formazione)
Agire correttamente (riproducono
comportamenti dell'insieme formativo)
Pensare, progettare, fare aritmetica
Impiegare "tools", come motori di ricerc
calcolatrici, interrogazioni su database..

37. Dividiamo in prompt in due grandi famiglie
37
Prompt per la Generazione di Testo
Richieste Informative: Questi prompt cercano informazioni fattuali o
spiegazioni. Esempi includono domande su eventi storici, concetti
scientifici o questioni mondiali attuali.
Scrittura Creativa: Prompt che chiedono all'IA di generare storie,
poesie, dialoghi o qualsiasi forma di testo creativo.
Compiti di Risoluzione Problemi: Coinvolgono scenari in cui si
necessitano soluzioni o suggerimenti, come per la risoluzione di
problemi, la generazione di idee o la pianificazione di strategie.
Assistenza Educativa: Prompt che cercano spiegazioni di concetti
accademici, aiuto con i compiti o risorse per l'apprendimento.
Compiti Relativi alla Lingua: Questo include la traduzione, la
correzione grammaticale o l'assistenza nell'apprendimento di una
nuova lingua.
Consigli Personali: Alla ricerca di orientamento o suggerimenti per
decisioni personali, scelte di stile di vita o relazioni interpersonali.
Prompt per la Generazione di Testo-Immagine
Immagini Descrittive: Prompt che descrivono una scena, un oggetto
o un personaggio specifico che si desidera che l'IA visualizzi. Più
dettagliata è la descrizione, più accuratamente l'IA può generare
l'immagine.
Arte Concettuale: Questi prompt chiedono arte astratta o
concettuale, spesso coinvolgendo elementi tematici o simbolici.
Design e Architettura: Richieste di design come moda, arredamento
interno, strutture architettoniche o design di prodotti.
Rappresentazione Storica o Culturale: Raffigurare scene storiche,
elementi culturali o abiti e ambienti tradizionali.
Immagini Fantasy e Sci-Fi: Creare immagini di mondi fantasy,
creature mitiche o ambientazioni di fantascienza.
Illustrazioni Educative: Ausili visivi a scopo educativo, come
diagrammi, illustrazioni scientifiche o ricostruzioni storiche.

38. Come risolve un problema la GAI
PROBLEMA SOLUZIONE
Complessità dei modelli di deep learning
Ragionamento basato su pattern probabilistici
Generalizzazione e rischio di Allucinazioni
Overfitting e bias (discriminazioni)
Sforzi per la interpretabilità e mancanza di trasparenza
Importanza etica
La trasparenza e l'accountability

39. Come funziona la scatola nera?
Un’immensa quantità di dati
(testo). 70 Tb nel caso di llama2,
1.000 Tb nel caso di OpenAI
Che producono un file di
“parametri” di 140 GB. 70
Miliardi di parametri.
Riduzione di 1 a 100
Vengono processati da enormi
rack di GPU, nel caso di llama2
sono 6000 GPU per una
settimana.
Nel caso di Open AI sappiamo che
il costo è di
700 Milioni di dollari al giorno
Video Completo: https://www.youtube.com/watch?v=zjkBMFhNj_g&t=12s

40. Un super distillato di dati ed un codice semplice
Vengono interpretate da un
ridotto codice di 500 linee di C.
(un’email è tra 500 e 1000 linee)
Che producono un file di
“parametri” di 140 GB. 70
Miliardi di parametri.
Riduzione di 1 a 100

41. Come è fatto il distillato
Sono semplici indicazioni
divise in Layer, Neuron,
che a loro volta hanno un
peso (weight) ed un Bias.
Come rappresentano il
mondo le AI?

42. Supersemplificando
Rete Neurale: Immagina una rete neurale come un ufficio molto complesso in cui entra dell'informazione (in
questo caso, dati) che deve essere elaborata per prendere una decisione o raggiungere una conclusione.
Layer (Strati): Questi sono come diversi reparti all'interno dell'ufficio. Ogni reparto (o strato) ha una parte
specifica del lavoro da elaborare riguardo le informazioni in arrivo. In una rete neurale, hai più strati attraverso i
quali passano i dati, e ogni strato successivo impara a riconoscere schemi sempre più complessi basandosi
sull'output del precedente.
Neurons (Neuroni): All'interno di ogni reparto, hai dei lavoratori (neuroni). Proprio come i lavoratori in un ufficio,
ognuno è responsabile di gestire una piccola parte del compito. In una rete neurale, i neuroni sono le unità di
elaborazione di base che lavorano insieme per processare i dati in ingresso e produrre un risultato.
Weight (Pesi): Pensa ai pesi come alla quantità di attenzione o importanza che un lavoratore (neurone) dà alle
informazioni che riceve. Se il peso è alto, significa che il lavoratore considera quella informazione molto
importante per prendere una decisione. Se è basso, l'informazione non è così influente.
Bias: Questo può essere visto come lo stile di lavoro personale o l'inclinazione di ogni lavoratore (neurone). È
una sorta di regolazione o filtro che applicano alla loro parte di lavoro in base alla propria prospettiva. In una
rete neurale, il bias consente ai neuroni di considerare l'input sufficientemente significativo da passarlo al
reparto successivo.
Quando l'ufficio (rete neurale) riceve un nuovo compito (dati in ingresso), ogni reparto (strato) elabora le
informazioni, con i lavoratori (neuroni) che si concentrano su aspetti diversi secondo il loro ruolo (pesi e bias). Il
reparto finale produce il risultato (dati in uscita), che è il frutto del lavoro dell'intero ufficio sul compito.
Nel contesto di un modello di linguaggio, tutto questo processo viene utilizzato per comprendere e generare
testo: l'"ufficio" elabora le parole in ingresso e decide quale dovrebbe essere la prossima in una frase.

43. Che informazioni vengono mantenute nel passaggio?
Schemi e Strutture: Il modello mantiene schemi statistici, strutture e relazioni trovate nei dati. Ciò
include la grammatica, frasi comuni, associazioni di parole e regole sintattiche.
Conoscenza Generale: Fatti, conoscenze comuni e informazioni che si verificano frequentemente
nel dataset sono codificate nei parametri.
Modelli Linguistici: Le regole semantiche e sintattiche della lingua, che consentono al modello di
costruire risposte coerenti e contestualmente appropriate.
Concetti e Idee: Concetti astratti, idee e le relazioni tra di loro che sono necessari per
comprendere e generare testo relativamente a vari argomenti.
Capacità di Inferenza: La capacità del modello di fare inferenze o previsioni su informazioni
mancanti in un prompt, basate sugli schemi che ha appreso.
Variazioni Stilistiche: Sebbene non ogni sfumatura stilistica sia mantenuta, il modello cattura una
gamma di stili di scrittura sufficienti a generare testi diversi e plausibili.

44. Cosa viene perso nel passaggio?
Istanze di Dati Specifici: I dettagli esatti e le specificità dei dati di addestramento non vengono mantenuti. Esempi
individuali, come frasi specifiche, paragrafi o documenti, non sono conservati nei parametri.
Ridondanze: Qualsiasi informazione ridondante nel dataset, che potrebbe includere frasi ripetute o conoscenze
comuni, non è replicata nei parametri del modello.
Dati Rumorosi: Anomalie o errori nei dati che non contribuiscono agli schemi generali che il modello dovrebbe
imparare vengono idealmente filtrati durante l'addestramento.
Caratteristiche di Basso Livello: Caratteristiche stilistiche dettagliate o idiosincrasie di autori o fonti particolari
potrebbero non essere conservate a meno che non contribuiscano alla comprensione della lingua da parte del
modello.
Tutto quello che riguarda la marca, i valori, l’etica e la cultura di un’azienda o
di una marca, vengono persi nel passaggio. Se vogliamo che la AI
rappresenti la nostra azienda, dobbiamo ricostruirli.

45. Come vengono collegati i dati?
Il Processo di Compressione
Il processo di addestramento di un LLM comporta l'aggiustamento dei
pesi e dei bias dei neuroni della rete in modo che il modello possa
prevedere la prossima parola in una sequenza di testo. Attraverso la
retropropagazione e la discesa del gradiente, il modello impara ad
approssimare la distribuzione di probabilità del prossimo token data la
sequenza precedente.
Il processo di addestramento implica l'esposizione del modello a
grandi quantità di testo e permettergli di fare previsioni (ad esempio,
quale parola viene dopo). Quando commette un errore, la differenza tra
la sua previsione e la parola effettiva viene utilizzata per aggiustare i
parametri. Questo processo viene ripetuto miliardi di volte.
Col tempo, il modello interiorizza gli schemi linguistici presenti nei dati di
addestramento. Tuttavia, non conserva i dati stessi; immagazzina gli
schemi appresi come pesi all'interno della rete neurale.
In sostanza, il file di parametri è una versione condensata dei dati di
testo originali, rappresentando gli schemi linguistici e basati sulla
conoscenza essenziali perché il LLM funzioni efficacemente senza
conservare alcun testo specifico del dataset.

46. Q*
Il modello Q*, menzionato in recenti dispute riguardanti OpenAI, si
riferisce a un presunto nuovo metodo per creare sistemi di intelligenza
artificiale potenti. Secondo quanto riportato, questo modello sarebbe in
grado di eseguire calcoli matematici a livello di scuola elementare, e
alcune persone in OpenAI ritengono che questo potrebbe
rappresentare una pietra miliare nella ricerca dell'intelligenza artificiale
generale (AGI).
In termini di qualità, il termine "qualitative" nel contesto di Q* può
riferirsi alla capacità di comprendere e manipolare concetti concreti e
astratti, un'abilità che è fondamentale per risolvere problemi
matematici, che a loro volta richiedono una certa capacità di
pianificazione e ragionamento logico oltre più passaggi.
Riuscire ad aggiungere un parametro qualitativo, risparmierebbe all’AI
un enorme sforzo, anziché “andare per tentativi”, avrebbe la capacità di
valutare l’esito di ogni tentativo, risparmiando un’enorme quantità di
risorse. Fino a 100.000 volte più potente

47. In conclusione, abbiamo parlato di …
Introduzione alle Diverse Tipologie di AI: Esplorazione dell'AI basata su regole, dell'apprendimento automatico, del deep
learning, dell'AI generativa e ibrida.
Focus sull'AI Generativa: Discussione sull'AI generativa, le sue capacità e applicazioni, incluse le innovazioni nei modelli di
apprendimento come le GANs e i modelli trasformativi.
Importanza dei Large Language Models (LLM): Spiegazione dei LLM, il loro ruolo nell'AI generativa, e la loro importanza
nell'innovazione del generare contenuti.
Approfondimento sui Transformer e LLM Auto-Regressivi: Analisi del modello transformer, la sua rilevanza per i LLM e il loro
impatto sulla generazione di contenuti.
Potenziale e Limiti dell'AI Generativa: Discussione sulla doppia natura degli LLM auto-regressivi, i loro punti di forza e limiti,
inclusi i problemi di bias e mancanza di comprensione profonda.
Implicazioni Etiche e Filosofiche: Riflessione sulle implicazioni etiche e filosofiche dell'uso dell'AI, enfatizzando la responsabilità
umana nel suo sviluppo e impiego.
Sviluppo e Futuro dell'AI Generativa: Prospettive sul futuro dell'AI generativa, sottolineando i progressi recenti e le potenziali
implicazioni future, come nel caso del modello Q* di OpenAI.

48. Ho chiesto a ChatGPT di farsi delle domande
Come vengono gestiti i problemi di bias nei modelli di AI generativa?
Qual è il potenziale impatto sociale e lavorativo dell'AI generativa?
Come si possono affrontare le sfide etiche legate all'uso dell'AI generativa?
In che modo i Large Language Models differiscono dai modelli di AI tradizionali?
Quali sono gli aspetti legali relativi alla proprietà intellettuale generata dall'AI?
Come si prevede che l'AI generativa si evolverà nei prossimi anni?
Quali sono i limiti attuali dell'AI generativa e come possono essere superati?

49. E darsi delle risposte
Gestione del Bias nei Modelli di AI Generativa:
Il bias nei modelli di AI viene affrontato attraverso diversi metodi, come la cura nella selezione e nella diversificazione dei dati di
addestramento, l'analisi dei risultati per identificare e correggere i bias, e l'implementazione di algoritmi per rilevare e mitigare
pregiudizi automaticamente. È un processo continuo che richiede attenzione e aggiornamenti costanti.
Impatto Sociale e Lavorativo:
L'AI generativa può portare a significativi cambiamenti nel mercato del lavoro, automatizzando alcune professioni ma creando
anche nuove opportunità in campi come la programmazione, il design e l'analisi dei dati. Socialmente, può migliorare l'accessibilità
e personalizzazione di servizi come l'educazione e l'intrattenimento, ma solleva anche questioni sulla privacy e la sicurezza dei dati.
Sfide Etiche dell'AI Generativa:
Le sfide etiche includono la creazione responsabile e l'utilizzo dell'AI, assicurando che non venga utilizzata per scopi dannosi. È
fondamentale sviluppare linee guida etiche e quadri normativi che regolino il suo impiego, specialmente in aree sensibili come la
sorveglianza, la manipolazione dei media e la discriminazione.

50. E darsi delle risposte
Differenze tra LLM e Modelli Tradizionali:
I Large Language Models si distinguono per la loro capacità di elaborare e generare linguaggio umano su ampia scala. A differenza
dei modelli tradizionali più limitati a compiti specifici, gli LLM possono comprendere e produrre testi complessi, permettendo
applicazioni più versatili.
Aspetti Legali della Proprietà Intellettuale:
La proprietà intellettuale generata dall'AI solleva questioni legali riguardanti la titolarità dei diritti e la responsabilità per il contenuto
prodotto. È un campo in evoluzione, con la necessità di nuove leggi e regolamentazioni per affrontare queste sfide.
Evoluzione Futura dell'AI Generativa:
Ci si aspetta che l'AI generativa continui a evolversi, diventando sempre più sofisticata e capace. Le future innovazioni potrebbero
includere maggiore comprensione del contesto, miglioramento nell'interazione uomo-macchina e applicazioni in settori emergenti
come la medicina personalizzata e la pianificazione urbana.
Limiti Attuali e Superamento:
I limiti attuali dell'AI generativa includono la comprensione superficiale del contesto e la difficoltà nel gestire compiti che richiedono
intuizione umana o ragionamento complesso. Il superamento di questi limiti richiede ricerche avanzate in apprendimento profondo,
elaborazione del linguaggio naturale e integrazione con altre forme di intelligenza artificiale.

51. Ora tocca a voi
Q&A

52. Determinati nell'approccio, coraggiosi
nell’esecuzione, miglioriamo con ogni
interazione.
Grazie mille per aver aiutato a dar forma al
nostro pensiero con i vostri suggerimenti!
Per continuare la conversazione:
andrea@humansingularity.it
348 6344420