Presentació de la conferència impartida en el Punt Científic de la Sala Polivalent de Montbau el 9 de gener de 2024 en el marc de les conferències d'Aules d’extensió universitària. Estructura de la conferència: 1- Definició de ciència i ètica i evolució històrica de la relació entre aquests dos conceptes al llarg del temps 2- Revisió de casos recents de males praxis sobre recerca i ètica, i paper dels comitès d’ètica per fer-hi front.. 3- Impacte que la IA pot tenir en l’àmbit de l’ètica i la ciència i possibles perills de la utilització de la IA generativa per fer recerca. 4- Conclusions i referències d’articles i webs per aprofundir-hi.

1. Imatge:
123RF
Ètica i ciència
Aules d’extensió universitària
Sala Polivalent de Montbau, 9/1/2024
@xavierlasauca

2. Sobre mi
• Veí de Sant Genís dels Agudells
• Físic teòric (UAB)
• Responsable de gestió del
coneixement (Departament de
Recerca i Universitats, Gencat)
• Autor del blog L’ase quàntic
Imatge:
123RF

3. • Conceptes bàsics
• Recerca i ètica
• Els comitès d’ètica
• IA, ètica i ciència
• Conclusions
• Per aprofundir-hi
• Torn obert de paraula
Estructura de la conferència
Imatge:
123RF

4. • Ciència i ètica, debat obert.
• De ciència i tecnologia a tecnociència.
• Ètica prové del grec “ethos”, que designa el conjunt
d'activitats, conviccions i creences morals, sigui d'un individu
o d'un grup social o ètnic.
• La ciència és un conjunt d'activitats pràctiques i institucions
que tenen per objectiu millorar la nostra comprensió de la
naturalesa i transformar certs aspectes de la realitat.
Definicions

5. • Durant gran part del segle XX, els científics només estaven
obligats a explicar els fets del món, mentre que les qüestions
valoratives sobre les finalitats, o sigui l'avaluació moral sobre el
resultat dels seus actes, era una cosa aliena a la seva tasca.
• Però l'activitat científica no pot ser indiferent respecte de les
finalitats de l’esmentada activitat. En tota activitat humana
sorgeixen interrogants ètics i, en conseqüència, l'activitat
humana implícita a l'activitat científica tindrà responsabilitat
ètica.
• Els estudis més recents sobre ètica i ciència demostren la
impossibilitat d'una ciència i una tecnologia aïllades, pures i
exemptes de qualsevol judici moral, i això fa que no es pugui
admetre la neutralitat moral de la cìència.
Evolució històrica (I)

6. • Si el segle XX va ser el segle de la física (arran de la revolució
quàntica i el descobriment de la relativitat especial i general), el
segle XXI serà el segle de la biologia. Estem davant d'avenços de
biologia molecular que permeten crear nous individus a partir de
codis genètics ad hoc, és a dir, no directament a partir de simples
modificacions de perfils genòmics preexistents.
• També es planteja la possibilitat d'atenuar o bloquejar el procés
de l'envelliment de les cèl·lules. Aquestes possibilitats ens
porten a situacions fins ara insospitades i davant de les quals la
societat ha de plantejar-se quines normes ètiques bàsiques cal
aplicar i com adoptar-les.
Evolució històrica (i II)

7. • L'ètica de com es fa la ciència (o ètica de treball de l'investigador):
els científics en general relacionen els seus èxits amb la producció
de treballs publicats a revistes de reconegut prestigi, amb elevats
índexs d'impacte. La competitivitat pot fer que de vegades les
dades no estiguin prou contrastades.
• L'ètica de l’autoria: actualment hi ha una tendència a la
massificació d'investigadors en certs àmbits experimentals i es
constata la signatura de desenes d'autors en alguns treballs. Cal
que subscriguin l'autoria només els investigadors que han
contribuït als resultats i les conclusions del treball.
• L’ètica del tribunal: vinculada al procés de selecció de
candidatures per a noves places de recerca i de docència.
Tipologies d’ètica i ciència

8. Recerca i ètica
Imatge:
123RF

10. • Tot va començar quan la Universitat de Còrdova va suspendre
de feina i sou durant 13 anys el químic Rafael Luque per haver
signat els seus articles amb la Universitat King Saud com a
afiliació principal.
• La consultora SIRIS es va dedicar a rastrejar el Highly Cited
Researchers Index que elabora Clarivate i va detectar que hi
havia més d’una desena d’investigadors espanyols que tenien
com a afiliació principal una universitat saudita.
• Segons aquest estudi de SIRIS, Aràbia Saudita, amb 112
investigadors altament citats, tenia una proporció entre cinc i
deu vegades més gran d'aquests investigadors en comparació
amb Espanya, Alemanya o França.
La trama saudita

11. • El Clarivate Highly Cited Researchers Index és un llistat amb els investigadors més
citats del món. La llista presenta 7.125 autors (alguns repetits per ser els millors en
més d’un camp) dels quals 37 són catalans (35 sense repetits, 5 dones i 30 homes).
Representen el 0,52% del món i el 35% de l’estat.
• Cada investigador seleccionat ha estat autor de diversos Highly Cited Papers™ que
es classifiquen entre l'1% superior per citacions dels seus camps i any de publicació
al Web of Science™ durant l'última dècada.
• Aquesta és la llista primària sobre la que intenten destriar els investigadors que
poden estar usant mètodes per inflar els seus indicadors de publicacions: eliminen
aquells autors que participen en molts articles per setmana on hi ha molts autors,
descompten aquelles publicacions que tenen molta autocita i filtren aquells autors
que es citen principalment entre ells o on es detecten xarxes de citació.
• En netejar la llista, es calcula que de la població mundial de científics, els Highly
Cited Researchers™ representen 1 de cada 1.000.
Presència catalana al HCR 2023
Font: Nota sobre el rànquing “Clarivate Highly Cited Researchers 2023”, Dep. de Recerca I Universitats.

12. Imatge:
ICREA.
No havia d’investigar
res, era un suborn
per fer una cosa
fraudulenta. En cap
moment se’m va
passar pel cap
acceptar l’oferta; no
és ètic, és un frau.
Font: Europa Press
Mira Petrovic:

17. • Estudi sobre l’ètica de la conducta científica a Espanya, liderat per
Cristina Candal-Pedreira, investigadora de la Universitat de
Santiago de Compostel·la.
• Dels 403 científics enquestats, el 78,8% coneixia almenys un cas de
conductes poc ètiques i el 40,3% reconeixia haver incorregut en
algun d’aquests comportaments alguna vegada.
• De la majoria dels que eren conscients de males pràctiques al seu
voltant, un 63%, es referien a la falsa autoria; un 36% es referien a
falsificació de dades.
• La falsa autoria també és la mala pràctica més habitual en el
40,3% que reconeixien la seva pròpia manca d’ètica.
• Un 2 % dels científics enquestats admetien haver utilitzat els
serveis dels anomenats paper mills, organitzacions que venen
articles científics falsos.
Estudi publicat a Accountability in Research

18. • Tipologies tradicionals:
 Falsificació de resultats
 Manipulació de dades
 Plagi
• Noves varietats que han sorgit darrerament:
 Falsa afiliació
 Falsa autoria
 No declaració de conflictes d’interès
 Publicació en revistes depredadores
 Cedir a les pressions de patrocinadors amb
interessos comercials
 Utilització de paper mills
Tipologies de frau científic

19. • Publiquen articles sense aplicar els estàndards de qualitat
requerits per part de les revistes científiques i apliquen
processos d’avaluació sospitosos.
• La seva finalitat és l’obtenció de recursos econòmics i
treure profit de l’interès (i de la necessitat!) de la
comunitat acadèmica de publicar les seves investigacions.
• Característiques principals:
 Campanyes agressives de captació d’originals
 Temps de publicació molt curts
 Absència d'un servei editorial de qualitat
 Falta de transparència i informació que porta a
confusió (per exemple, amb l'ús de títols de revistes
similars a publicacions de reconegut prestigi)
Revistes depredadores
Font: UJI

20. • Existeix un univers d’investigadors que treballa en un
entorn en què les males pràctiques són consentides
d’alguna manera.
• Causa principal d’aquests comportaments poc ètics: la
pressió per publicar que imposa el sistema d’avaluació
de la tasca investigadora (publish or perish) i que
bonifica la quantitat de publicacions.
• Per tant, és necessari i urgent que a Catalunya i a
Espanya es faci una feina de conscienciació sobre
aquestes qüestions i que hi hagi organismes dedicats a
investigar-les, sancionar-les i prevenir-les, per exemple,
amb formació a la comunitat investigadora.
Conclusions

21. Els comitès d’ètica
Imatge:
123RF

23. • El CIR-CAT es crea en el marc del Programa per a la Integritat de la
Recerca a Catalunya i s’encarrega del seu desenvolupament.
• Està integrat per 11 membres.
• El seu funcionament i la seva composició estan regulats a la Llei de
la ciència de Catalunya que es va aprovar el desembre del 2022.
• Les seves funcions són:
 La promoció de bones pràctiques científiques i de la formació
específica en l'àmbit d’aquestes practiques.
 La promoció de mesures adreçades a la millora de la qualitat
de la recerca.
 L'assessorament en relació amb els conflictes d'integritat de la
recerca que afectin exclusivament l'àmbit de les bones
pràctiques científiques.
CIR-CAT (Comitè per a la Integritat de la Recerca a
Catalunya)

26. • Els centres de recerca de Catalunya han de revisar
l’adequació de les bones pràctiques d’integritat en la
recerca dels seus investigadors i investigadores, incloent-
hi d’una manera especial els aspectes relatius als criteris i
procediments per a l’autorització de noves filiacions
institucionals, i reforçar-ne la difusió i el coneixement
internament.
• El Departament de Recerca i Universitats ha de donar un
abast més gran a aquestes consideracions, per incentivar
que es produeixi una reflexió necessària, preventiva, en
cada institució, de com estan regulades i de quines eines
i mecanismes veritablement es disposa actualment per
evitar supòsits com els esmentats en la recomanació i
poder-hi reaccionar adequadament.
Principals directrius de la Recom. 1/2023 del CIR-CAT

28. • Només s'han de tenir en compte afiliacions múltiples en cas que cadascuna de les
institucions hagi donat suport substancial a l’estudi. Com a criteri general, es recomana
que no s'indiquin més de dues afiliacions institucionals per autor.
• L'afiliació primària de cada autor ha de ser aquella en què s'ha portat a terme la major
part del treball que es reporta. Si un autor ha canviat d'institució amb posterioritat al
moment en què es va portar a terme el treball, l'adreça actual es podria incloure
addicionalment.
• Quant als centres de recerca de Catalunya, es recomana que revisin l'adequació de les
pràctiques i de les clàusules contractuals dels seus investigadors, especialment en els
casos d'afiliacions múltiples, i que en reforcin la difusió i el coneixement internament.
• Es recomana que la regulació de l'afiliació sigui recollida explícitament en els codis
d'integritat en la recerca de les universitats i centres de recerca, de la mateixa manera
que es fa amb l'autoria.
• Es recomana fer un ús prudent dels sistemes basats en criteris exclusivament quantitatius
i bibliomètrics, d'acord amb les recomanacions de la Declaració de San Francisco sobre
l'Avaluació de la Recerca (DORA) i els compromisos de la Coalició Internacional per a
l'Avanç de l'Avaluació de la Recerca (CoARA).
Principals directrius de la Recom. 2/2023 del CIR-CAT

31. https://stock.adobe.com
IA, ètica i ciència

38. Response of OpenAI chatbot to the query Write a 300 word piece about
the difference between research ethics and research integrity

39. El dia torça el coll
com una espiga plena.
La nit és tota per a nosaltres.
Encén el vi.
En el cup de la vida, viure és art.
L'amor, com el vi, embriaga el cor.
Rams de passions, com ceps entrellaçats.
La dansa eterna, un ball entre vi i amor.
Joan Vinyoli vs ChatGPT
Qui ha escrit cadascun d’aquests poemes?
1
2

40. El dia torça el coll
com una espiga plena.
La nit és tota per a nosaltres.
Encén el vi.
En bona companyia
En el cup de la vida, viure és art.
L'amor, com el vi, embriaga el cor.
Rams de passions, com ceps entrellaçats.
La dansa eterna, un ball entre vi i amor.

42. Trucs per detectar textos generats amb ChatGPT
1. Llistes: quan se li demana a ChatGPT que faci llistes, habitualment comença cada
punt amb un títol, seguit de dos punts.
2. Conclusions: normalment, quan l'eina acaba un text, sovint el conclou amb frases
com "en resum".
3. Repeticions: ChatGPT acostuma a repetir certes paraules o expressions amb
freqüència. Per exemple, si se li diu que parli sobre un concepte específic, ho
repetirà diverses vegades al llarg del text.
4. Ús de la mateixa paraula o concepte: per exemple, per referir-se a l'alumnat,
sempre parla d'estudiants, mai utilitza una altra expressió.
5. Ús de la frase "tema controvertit, objecte de debat": quan hi ha diversitat
d'opinions, habitualment utilitza aquesta expressió.
6. Ús freqüent de la frase "és important": utilitza molt sovint aquesta frase per
matisar alguna cosa que acaba de mencionar.
7. Estructura del text: els texts generats amb ChatGPT sovint tenen una estructura
definida que inclou una introducció, un desenvolupament i una conclusió.
8. Ús d'exemples: quan és necessari, ChatGPT sempre troba exemples que il·lustrin
la seva explicació.

45. • L’Associació CIVICAi cat neix gràcies a l’impuls de 136 fundadors que
manifesten la seva disposició per treballar en associació perquè la
inteŀligència artificial sigui de tots i, per tant, estigui al servei de les
persones i de la societat de manera equitativa i responsable.
• Finalitats:
 Promoure la utilització responsable de la IA.
 Garantir que la IA sigui desenvolupada de manera transparent.
 Promoure la recerca i el desenvolupament de tecnologies d’IA
sostenibles i responsables que tinguin en compte les seves
implicacions socials i ètiques, tant local com globalment.
 Fomentar una consciència crítica sobre l’impacte social de la IA.
 Sensibilitzar la ciutadania sobre els reptes i oportunitats que presenta
la IA i fomentar que participi en la seva governança.
 Fer propostes als poders democràtics per tal que assegurin que la
implementació de la IA és respectuosa amb els drets de la ciutadania i
la sostenibilitat mediambiental.
CIVICAI cat

46. Conclusions
• Al llarg de la presentació, hem vist diversos exemples de bones i males
praxis relacionades els àmbits de l’ètica i la ciència, i hem analitzat les
implicacions ètiques de l’ús de la IA en la recerca.
• Tot i que la ciència sigui un àmbit neutre en el sentit de reflectir les lleis
de la naturalesa, el seu ús a través de la tecnologia, així com la seva
elaboració, com a activitats humanes, s‘haurien d'impregnar de l'ètica
en el seu desenvolupament.
• Alhora, els avenços científics, atès que ens ajuden a proveir-nos d'una
comprensió més completa del món i d’una capacitat més gran
d'interactuar-hi, poden influir en el desenvolupament dels nostres
principis ètics.
• La ciència i l'ètica són dos àmbits fonamentals de la nostra vida, i per
això és fonamental que la societat els conegui i moduli adequadament.

47. Bibliografia/Per aprofundir-hi (I)
• Ética y ciencia. Fernando A. Álvarez. DOI: 10.1016/j.neuarg.2014.04.003
• La ética y la ciencia. Víctor Canivell Cretchley. Publicacions d'Amics del País.
• Arabia Saudí paga a científicos españoles para hacer trampas en el
‘ranking’ de las mejores universidades del mundo. Manuel Ansede. El País,
18/4/2023.
• Ètica científica: 4 de cada 10 investigadors enquestats reconeixen mala
praxi. Toni Pou. Diari Ara, 8/12/2023.
• Revistes depredadores. Biblioteca i Centre de Documentació de la
Universitat Jaume I.
• CIR-CAT, Comitè per a la Integritat de la recerca a Catalunya
• Comité Español de Ética de la Investigación

48. Bibliografia/Per aprofundir-hi (i II)
• El fraude continuado en el sistema de publicaciones científicas, Pere
Puigdomènech. El País, 28/11/2023.
• Hosseini M, Rasmussen LM, Resnik DB. Using AI to write scholarly
publications.  Account Res. 2023;1-9. Publicat en línia el 25/1/2023. DOI:
10.1080/08989621.2023.2168535
• Com detectar textos escrits per ChatGPT. Blog TÀCTIC. CRAI UB. Publicat
en línia el 9/6/2023.
• OpenAI AI Text Classifier
• AI Detector + ChatGPT Detector
• Associació CIVICAi cat

49. xavierlasauca.cat
La ciència sense ètica ens
pot portar a carrerons
sense sortida.
Salvador Macip
Imatge:
123RF