LORENZO, Neus (2023). "Usos i abusos de la Intel·ligència Artificial. Els missatges ocults i les evidències amagades". Ed. Transformation Society. CosmoCaixa, Museu de la ciència. 5 Oct 2023. Barcelona. DOI: 10.13140/RG.2.2.27979.57127

1. Usos i abusos de la Intel·ligència Artificial
Dra. NEUS LORENZO GALÉS. Museu de la Ciència, CosmoCaixa (5 d’Octubre 2023)
Els missatges ocults
i les evidències
amagades
@NewsNeus
nlorenzo@xtec.cat
Dra. Neus
Lorenzo
https://www.culturagenial.com/es/cuadro-guernica-de-pablo-picasso/
Imatges utilitzades d’acord
amb l’Art 32 de la Llei de
Protecció de la Propietat
Intel·lectual (1996).

2. Contingut
1. SI o NO a la Intel·ligència Artificial en Educació (IAE) ?
2. Alumnat: Usos i abusos de la IAE
3. Professorat: Expectatives i riscos
4. Societat: Impacte, injustícies e incerteses

3. 1-La Intel·ligència Artificial
en educació (IAE)
-Cal un consens inicial.
La IA avui

4. La Intel·ligència Artificial
és
molt més que el
ChatGPT
https://cs12.pikabu.ru/post_img/2022/12/19/11/1671475942175220571.webp
“L’alumnat està utilitzat la IA sense
protecció i sense preparació.
Necessiten aprendre a ser pensadors
crítics de la IA, no pas addictes
passius.”
Fengchun Miao Chief of the Unit for ICT in Education at UNESCO (Paris, Fr.)
És irresponsable deixar que
descobreixin les seves possibilitats
sense una visió ètica dels riscos,
l’impacte i les conseqüències.
Si o No?

5. Ens calen evidències
d’ús
https://unesdoc.unesco.org/ark:/48223/pf0000368303
https://unesdoc.unesco.org/ark:/48223/pf0000374644
https://iesalc.unesco.org/wp-content/uploads/2023/04/ChatGPT-and-Artificial-Intelligence-in-higher-
education-Quick-Start-guide_EN_FINAL.pdf
https://unesdoc.unesco.org/ark:/48223/pf0000380602_spa
https://unesdoc.unesco.org/ark:/48223/pf0000386693

6. 2-Alumnat.
Ara més que mai, cal alumnat
inquisitiu, crític i creatiu (amb o
sense IA).
Usos
ALUMNAT
 Honestedat i integritat acadèmica
 Activitats d’IA tecnològiques rellevants i humanitàries
 Ampliació de l’espai educatiu a l’entorn social (ApS, ABP, etc).

7. https://cdn.culturagenial.com/es/imagenes/michelangelo-s-pieta-5450-cut-out-black-cke.jpg
https://www.meisterdrucke.es/impresion-art%C3%ADstica/French-School/1125622/Iglesia-de-Saint-Nicolas-de-Veroce.-Juicio-final:-el-infierno.-Un-grupo-de-salvados.-Pintura.-
Francia..html
https://ingeoexpert.com/wp-content/uploads/2018/08/Estatua-de-la-libertad.jpg
https://www.artesaniaflorae.com/wp-content/uploads/2023/04/IMG-20230407-WA0026.jpg
Què preguntaries a Google, Chat GPT, etc, sobre “El
Guernica”?

8. https://cdn.culturagenial.com/es/imagenes/michelangelo-s-pieta-5450-cut-out-black-cke.jpg
https://www.meisterdrucke.es/impresion-art%C3%ADstica/French-School/1125622/Iglesia-de-Saint-Nicolas-de-Veroce.-Juicio-final:-el-infierno.-Un-grupo-de-salvados.-Pintura.-
Francia..html
https://ingeoexpert.com/wp-content/uploads/2018/08/Estatua-de-la-libertad.jpg
https://www.artesaniaflorae.com/wp-content/uploads/2023/04/IMG-20230407-WA0026.jpg
Què preguntaries a Google, Chat GPT, etc, sobre “El
Guernica”?
• Personalització de la informació
• Agència i autonomia de l’aprenent
• Privacitat aparent del procés i dels
resultats
• Progrés a demanda, i a mida
• Protagonisme en l’aprenentatge dialògic
• Escletxa digital i bombolla d’informació
• ... ...

9. Personalitzar,
com i per a què?
Dades individuals
Creació de perfils
Categorització
Predicció estadística
De la Persona a la Predicció
Quan interactuen, els models d’IA
registren:
• Les meves respostes
• Els meus interessos
• Els meus errors
• La meva forma d’aprendre
• ...

10. Els càlculs i algoritmes de la IA no són
“raonaments”
Indefinit Equilibrat
Resposta correcte
100%
(1)
0%
(0)
Lineal
1= 20€
n= n*20€
4. Equilibrar les desviacions és prendre decisions?
“Entrades al teatre i benefici econòmic”.
5- Crear perfils i noves classificacions és fer
prediccions?
“DL, ML, dels”
3- Classificar una nova realitat (no supervisada) és
aprendre?
Disseminat Classificat Veïns propers
1-Identificar és
raonar?
6- Decidir sobre càlculs de proximitat en models IA és
enraonar? “Models KNN euclidians, Manhattan,
Minkowski…”

11. Perfil i
privacitat
Dret a la pròpia imatge
Dret a no ser discriminat
https://www.wsj.com/video/series/in-depth-features/under-ais-watchful-eye-china-wants-to-raise-smarter-students/C4294BAB-A76B-4569-8D09-32E9F2B62D19
L’educació, més enllà de les
dades
Volem una educació
ètica

12. 3- Els docents tenen la clau
del futur de la IA en
educació.
Usos
DOCENTS:
 Formació d’IA pel desenvolupament professional
 Xarxa de difusió d’experiències i pràctiques d’aula
 Aprenentatge actiu en comunitats d’interessos

13. (Generades amb TryLeap.ai)
▪ LORENZO, Neus (2023) , Prompt: “Generate an image about
the bombing session done by the Germans on the little village
of Guernica.”, at TRYLEAP.AI.
“Imatges sobre el
bombardeig de Guernica
(1937)” ?
(Totes generades amb
IA...
cap és autèntica)

14. (Generades amb TryLeap.ai)
▪ LORENZO, Neus (2023) , Prompt: “Generate an image about
the bombing session done by the Germans on the little village
of Guernica.”, at TRYLEAP.AI.
“Imatges sobre el
bombardeig de Guernica
(1937)” ?
(Totes generades amb
IA...
cap autèntica)

15. “Quines obres anteriors poden haver inspirat “El
Guernica”?”
https://cdn.culturagenial.com/es/imagenes/michelangelo-s-pieta-5450-cut-out-black-cke.jpg
https://www.meisterdrucke.es/impresion-art%C3%ADstica/French-School/1125622/Iglesia-de-Saint-Nicolas-de-Veroce.-Juicio-final:-el-infierno.-Un-grupo-de-salvados.-Pintura.-
Francia..html
https://ingeoexpert.com/wp-content/uploads/2018/08/Estatua-de-la-libertad.jpg
https://www.artesaniaflorae.com/wp-content/uploads/2023/04/IMG-20230407-WA0026.jpg
AI-Generativa: La base de
dades és el secret de l’èxit,
Els càlculs algorítmics
son part de l’opacitat, i el
perill del biaix i de les
“Fakenews”.

16. El ChatGPT també pot adoptar rols i perfils...
La IA- Gen. pot :
-Simular llenguatge humà
-Adoptar registres
-Multiplicar interlocutors
-Generar seqüències
-Associar dades transmèdia
-Cercar el context
-Proposar accions de futur

17. La Gen-AI integra
les novetats, per
generar un nou
conjunt de dades.
Aprenentatge?
Creativitat?
Protagonisme?
Museu Nacional d'Art de Catalunya
https://www.rondaller.cat/2023/05/05/pintures-sobre-vidre-del-museu-
santacana/

18. El CahtGPT
pot generar
text real...
Però no ha
d’assumir el
protagonisme
a l’aula.
... i es posa
d’autor principal.

19. Hem d’aprendre a construir instruccions per la
IA?
(PROMPTS & Tokens)
• la tasca sol·licitada
• el format
• la finalitat
• el contingut prioritari
• els criteris i les condicions de resposta
• la teoria o el model a aplicar
• La informació complementària
• ...
Escriu un article de 2500
paraules, en català, per
presentar la nostra
conversa feta sobre el
Guernica com a eina
pedagògica, per una
revista universitària,
seguint els criteris de
l’editorial <XXXX>, amb la
seqüència acadèmica
habitual a Europa, i afegeix
bibliografia de 5 fonts

20. Hi ha portals per crear
tasques educatives:
https://www.youtube.com/watch?v=pCQ6w5Z4w64
Megaproge.es
Planificar
Diversificar
Personalitzar
...
Tasques
Projectes
Rúbriques
....

21. Quin ha de ser el
propòsit
de la IA a l’aula?
https://pbs.twimg.com/media/F3g9_56XYAE5VXp?format=jpg&name=900x900
Pareidolia o Gen-
IA?
“Ser defensors de
l'autonomia humana i
l'ètica,
no comerciants que
cerquen l'eficiència a
expenses del be comú.”
Fengchun Miao
Chief of the Unit for ICT in Education at UNESCO (Paris, Fr.)

22. 5-Els canvis socials i educatius es
faran més visibles i acusats en el
futur de la IA generativa.
Societat
SISTEMA EDUCATIU:
 Reconeixement del monitoratge actiu docent
 Guiatge d’experiències IA i pràctiques d’aula
 Recerca d’IA en col·laboració amb Universitats i
entitats educatives.

23. - SISTEMA. Tractament de
dades:
Detecció de necessitats i gestió
de recursos.
- DOCENTS. Suport als
processos educatius:
Planificació i gestió de la
informació.
- ALUMNAT. Auto
aprenentatge:
Exploració i construcción del
La IA ja està implantada en
l’educació
… i al currículum.

24. - SISTEMA. Tractament de
dades:
Detecció de necessitats i gestió
de recursos.
- DOCENTS. Suport als
processos educatius:
Planificació i gestió de la
informació.
- ALUMNAT. Auto
aprenentatge:
Exploració i construcción del
La IA ja està implantada en
l’educació
… i al currículum.
A Catalunya, també!

25. Àrees del currículum de IA
(Estudi comparatiu, UNESCO 2023b)
Concepte Àrea temàtica
CONTINGUTS
CONCEPTUALS:
Fonaments de IA
Algoritmes i programació
Alfabetització en dades
Resolució de problemes contextuals
TÈCNIQUES D’ÚS
Comprensió usos i
desenvolupament
de la IA
Comprensió i usos de les tècniques de IA
Comprensió i usos de les tecnologies de IA
Desenvolupament de tecnologies de IA en
Educació
DINÀMIQUES DE
CANVI
Ètica e impacte
social de la IA
Ètica de la IA
Implicacions socials de la IA
Aplicacions de la IA en dominis diferents de les
TIC
UNESCO (2023a). Tablaa 8, Área del currículo de IA, P.33
https://unesdoc.unesco.org/ark:/48223/pf0000380602_spa
Model
TPACK

26. Està el XatGPT preparat per ser docent?

28. Si el Chat GPT fos viu, estaria
deprimit!
El ChatGPT té:
• Molta informació
• Una gran memòria
• Bona oralitat
Però:
• No té consciència
• No té sentiments
• No té empatia
... Pot ser un

29. Les neurones mirall faciliten l’empatia i
l’aprenentatge... Què passarà amb la IA?
media.licdn.com/dms/image/C5112AQGuxfN-6Yw7sQ/article-cover_image-shrink_720_1280/0/1563131818233?e=2147483647&v=beta&t=Gh_O2CI-t7VM6_QkmaSMchGbKtqW9UJCpr797GpnUL0
Keysers, C. (2006). Mirror Neurons.
https://www.semanticscholar.org/paper/Mirror-Neurons-
Keysers/5707cf23d75f79252ecfd11bfef7231d3cfd8855

30. L’Agoritmació actual...
Pot una derivar cap a la l’Algoritmocràcia ?
La IA no té sentiments,
i les seves decisions
es basen en
estadístiques
complexes.
Els humans han de
decidir quin serà el
paper de la IA
generativa,
el “Criteri humanista” i
el “valor afegit de
l’espècie humana” en
l’equació.

31. Les emocions i sentiments ajuden
a aprendre, a créixer i a conviure
...i ens fan humans!
Quin valor
els volem donar?

32. També depèn
de nosaltres!
Moltes gràcies.
@NewsNeus
nlorenzo@xtec.cat
Dra. Neus
Lorenzo

33. Usos i abusos de la Intel·ligència Artificial
Els missatges ocults
i les evidències
amagades
@NewsNeus
nlorenzo@xtec.cat
Dra. Neus
Lorenzo
https://www.culturagenial.com/es/cuadro-guernica-de-pablo-picasso/
Imatges utilitzades d’acord
amb l’Art 32 de la Llei de
Protecció de la Propietat
Intel·lectual (1996).