As intelixencias artificiais xeneradoras están xa producindo textos que pasan a formar parte do noso mundo. A lingua (escrita, neste caso) é un piar fundamental da cutura, polo que cabe preguntarnos que tipo de "axentes creadores de cultura" son estes sistemas. Para visibilizar esta cuestión, preséntase un experimento que ten como protagonista ChatGPT e como contexto, as mulleres (novas) en STEM.

1. Exploracióndos nesgos de xénero de ChatGPT
AS INTELIXENCIAS ARTIFICIAIS
COMO XERADORAS DE CULTURA

2. O que é a cultura?
• "(…) inclúe coñecemento, crenzas, arte, morais,
leis, costumes e outras aptitudes e hábitos
adquiridos polo ser humano como membro da
sociedade." —Edward Burnett Tylor
• Culturae lingua están estreitamente relacionadas
• A lingua é un factor chave no desenvolvementoe
transmisión da cultura
• A cultura é en moitos aspectos un reflexo da lingua
• Mesmo cando non sempre coinciden, a lingua xoga
sempre un papel fundamentalda tradición cultural
Esta fotode autora descoñecida tenlicenza CCBY.

3. O que son as "IntelixenciasArtificiais"?
• O termo "Intelixencia Artificial" usouse por primeira vez en 1956
• Dúas correntes principais (mente vs cerebro):
• Intelixencia Artificial simbólica
• Crear representaciónssimbólicas do mundo e algoritmos de razoamento
• Intelixencia é explorar un espazo de posibilidades na procura de respostas
• Dominante as primeiras décadas, considerábase que orixinaría a "IA xeral"
• Intelixencia Artificial conexionista
• Crear sistemas que fisicamente imitan o cerebro humano (neuronas) e
algoritmos de comunicacióne realimentaciónentre os seus compoñentes
• Considera que a intelixencia xorde da aprendizaxe
• Limitada nos seus inicio, en auxe a día de hoxe

4. IAsxeradoras de contido
• Large Language Models (ModelosMasivosde Linguaxe)
• Redes neuronais (IA conexionista)con billóns de compoñentes
• Especializados en predicir a seguinte palabra nunha frase
• Adestrados empregando grandes conxuntosde datos (10 trillóns de palabras)
• Intelixencias Artificiaisxenerativas
• Redes neuronais (IA conexionista)especializadas en producir texto, imaxes,
moléculas...
• Usan LLMs e producen estatisticamente contidoscon características
semellantes a partir dos incluídosno seu conxuntode adestramento
• Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney,
DALL-E

5. IAsxeradoras de contido
• Large Language Models (Modelos Masivos de Linguaxe)
• Redes neuronais (IA conexionista)con billóns de compoñentes
• Especializados en predicir a seguinte palabra nunha frase
• Adestrados empregando grandes conxuntosde datos (10 trillóns de palabras)
• Intelixencias Artificiais xenerativas
• Redes neuronais (IA conexionista)especializadas en producir texto, imaxes,
moléculas...
• Usan LLMs e producen estatisticamente contidoscon características
semellantes a partir dos incluídosno seu conxuntode adestramento
• Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney,
DALL-E
Máquinas de cultura?

6. IAsxeradoras de contido
• Large Language Models (Modelos Masivos de Linguaxe)
• Redes neuronais (IA conexionista)con billóns de compoñentes
• Especializados en predicir a seguinte palabra nunha frase
• Adestrados empregando grandes conxuntosde datos (10 trillóns de palabras)
• Intelixencias Artificiais xenerativas
• Redes neuronais (IA conexionista)especializadas en producir texto, imaxes,
moléculas...
• Usan LLMs e producen estatisticamente contidoscon características
semellantes a partir dos incluídosno seu conxuntode adestramento
• Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney,
DALL-E
Esta fotode autora descoñecida tenlicenza de CCBY-SA-NC.
Máquinas de cultura?

7. Experiencia:ChatGPTe as mulleresen STEM

8. Metodoloxía

9. Metodoloxía
"Son boa estudante"
"Non me gustan as matemáticas"
"Gústameaxudar á xente"
"Son traballadora"
"Gústanmeos problemas difíciles"
"Gústametraballar en grupo"

10. Metodoloxía

11. Metodoloxía
https://bit.ly/XUGeX23ChatGPT

12. Metodoloxía

13. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xénero da pregunta
5. Outros

14. Resultados
Aspectos analizados:
1. Carreirasuniversitariasmencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xénero da pregunta
5. Outros

15. Resultados
Aspectos analizados:
1. Carreirasuniversitariasmencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xénero da pregunta
5. Outros
Titular: ChatGPT suxire as mesmas
carreiras a mozos e mozas

16. Resultados
Aspectos analizados:
1. Carreirasuniversitariasmencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xénero da pregunta
5. Outros
Titular: ChatGPT suxire as mesmas
carreiras a mozos e mozas
Corpo da noticia: ChatGPT ofrece o dobre de exemplos
concretos ás mozas (moitos no caso das humanidades, con
especial profusión na comunicación e as especialidades da
medicina), pero todos os dos mozos se refiren a enxeñarías

17. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xénero da pregunta
5. Outros

18. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xénero da pregunta
5. Outros
Titular: A linguaxe "micromachista"
de ChatGPT

19. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xénero da pregunta
5. Outros
Titular: A linguaxe "micromachista"
de ChatGPT
Corpo da noticia: As mozas reciben comentarios que fan
alusión aos coidados, e os mozos ao "liderado", "talento
creativo" ou "habilidades para persuadir e convencer"

20. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Linguada resposta
4. Correspondencia co xénero da pregunta
5. Outros

21. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Linguada resposta
4. Correspondencia co xénero da pregunta
5. Outros
Titular: ChatGPT,
tamén diglósico

22. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Linguada resposta
4. Correspondencia co xénero da pregunta
5. Outros
Titular: ChatGPT,
tamén diglósico
Corpo da noticia: Só en 3 das 18 sesións respondeu en
galego, e ademais as sesións en galego conteñen erros
gramaticais e ortográficos

23. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xéneroda pregunta
5. Outros

24. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xéneroda pregunta
5. Outros
Titular: ChatGPT foxe dos
masculinos xenéricos

25. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xéneroda pregunta
5. Outros
Titular: ChatGPT foxe dos
masculinos xenéricos
Corpo da noticia: Un terzo das respostas foron neutras, mais
no resto, os homes sempre son correctamente genderizados,
mentres que en 5 de cada 9 casos as mulleres son tratadas
en masculino

26. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xénero da pregunta
5. Outros

27. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xénero da pregunta
5. Outros
Titular: ChatGPT recomenda
contrastar con humanos

28. Resultados
Aspectos analizados:
1. Carreiras universitarias mencionadas
2. Linguaxe utilizada (contido)
3. Lingua da resposta
4. Correspondencia co xénero da pregunta
5. Outros
Titular: ChatGPT recomenda
contrastar con humanos
Corpo da noticia: Aos mozos recoméndaselles consultar con
profesionais; ás mozas, coa súa familia, profesorado ou
conselleiros escolares

29. Conclusións
• Os sistemas baseados en IA xenerativa, a medida que se
popularizan, teñen un potencial de impactomoi grande
• Estes sistemas, configurados sensupervisión empregando
fontesde informaciónnon curadas, están chamados a conter
e reproducirnesgosde xénero,no canto de a superalos ou
contribuír a desterralos
• ChatGPTreproducenesgos de xénero, de xeitosutil pero
consistente, cando se realizan interaccións que involucran
mulleres en STEM

30. Grazas!
• Laura M. CastroSouto(UDC, lcastro@udc.es)
• Teresa Piñeiro Otero (UDC, teresa.pineiro@udc.es)
• Xabier Martínez Rolán (UVigo, xabier.rolan@uvigo.gal)
"A group of three
people, two women
and a man, thanking
their audience after a
short talk"
PerplexityAI
BlueWillow