La valutazione della ricerca ed il suo finanziamento. Slide presentate alla giornata dedicata alla Valutazione della ricerca organizzata da Dario Braga a Bologna il 21 novembre 2014.
BB: Burocrati Bibliometrici. La via italiana alla valutazione dell'universit...Alberto Baccini
Il cattivo disegno delle istituzioni preposte alla valutazione ha dato luogo ad un esercizio di valutazione della ricerca con notevoli errori metodologici. Gli effetti negativi non tarderanno a manifestarsi. Le slide della presentazione al convegno «Miti e riti della valutazione nell’università italiana» Dip. studi internazionali, giuridici e storico-politici
Università di Milano statale, 13 giugno 2014
Intervento al convegno Evoluzione e valutazione della scienza giuridica tenutosi al Dipartimento di Giurisprudenza dell'università di Firenze il 18 ottobre 2013.
BB: Burocrati Bibliometrici. La via italiana alla valutazione dell'universit...Alberto Baccini
Il cattivo disegno delle istituzioni preposte alla valutazione ha dato luogo ad un esercizio di valutazione della ricerca con notevoli errori metodologici. Gli effetti negativi non tarderanno a manifestarsi. Le slide della presentazione al convegno «Miti e riti della valutazione nell’università italiana» Dip. studi internazionali, giuridici e storico-politici
Università di Milano statale, 13 giugno 2014
Intervento al convegno Evoluzione e valutazione della scienza giuridica tenutosi al Dipartimento di Giurisprudenza dell'università di Firenze il 18 ottobre 2013.
Intervento al terzo convegno annuale di Roars. Come dovrebbe essere e come probabilmente sarà la prossima VQR (valutazione della qualità della ricerca).
Contributo di Alberto Baccini al
Terzo Convegno di ROARS, 19 Giugno 2015, Camera dei Deputati, Sala del Refettorio, Palazzo di Via del Seminario 76, Roma
Alberto Baccini: Il futuro della valutazione in un paese latecomer.Giuseppe De Nicolao
Slides presentate nel convegno ROARS "Il sistema dell’Università e della Ricerca - Fatti leggende futuro" (Istituto della Enciclopedia Italiana, 15 novembre 2012)
Napoleone, la valutazione della ricerca e le sue conseguenze prevedibili in I...Alberto Baccini
Intervento alla tavola rotonda del Convegno, La conoscenza organizzata, Trento, 6 dicembre 2013.
http://www.jus.unitn.it/services/arc/2013/1206i/home.html
Slides preparate in occasione dell'incontro
"La ricerca umanistica: i risultati della VQR 2004-2010"
Milano 23 ottobre 2013, Università Statale di Milano
La valutazione della ricerca nelle aree 10 e 11: dati, contesti, risultati
I risultati della valutazione del nucleo / i risultati della VQR
Valutazione della ricerca, incentivi basati sulla performance e scienza apertaAlberto Baccini
Intervento all' Open access week del Politecnico di Torino. Torino, 22-24 ottobre 2018.
L'introduzione di incentivi che premiano le metriche di produzione e citazione corrompono le norme sociali e i valori che dovrebbero regolare le interazioni nella scienza. La priorità nella scoperta cessa di essere l'obiettivo principale di uno scienziato. Il nuovo obiettivo è quello di ottenere etichette appropriate e prestazioni migliori sulle metriche. Le verità provvisorie della scienza emergono dalla battaglia di idee contrastanti e sono il risultato dell‘«uso pubblico della ragione». Nel sistema attuale la verità scientifica definitiva è garantita da classifiche di scienziati o riviste. Nei sistemi istituzionalizzati di valutazione della ricerca, la verità scientifica definitiva è garantita da una qualche classifica governativa. La scienza aperta/accesso aperto senza modificazione delle condizioni istituzionali in cui si svolge la ricerca è destinata a piegarsi alle regole del publish or perish e/o della valutazione istituzionale. Per disporre di «buoni consigli» per le politiche (economiche) c’è bisogno di «buona scienza». Ma la «buona scienza» è danneggiata dai sistemi di valutazione della ricerca. I «buoni consigli» non nascono dalla battaglia per ottenere etichette o conquistare un posto in una rivista ad elevato IF. Che fare? 1.Ridurre al minimo l'impatto dei sistemi di valutazione della ricerca sulla scienza. 2.Eliminare i sistemi di valutazione istituzionale massiva della ricerca. (Almeno disaccoppiarli dal meccanismo di finanziamento automatico). 3.Considerare seriamente la crescente pressione dal basso scienza per sostituire l’«eccellenza» con la «scienza sana». 4.Considerare seriamente proposte innovative per il finanziamento della ricerca al fine di promuovere il pluralismo.
Intervento al convegno per i dieci anni di Roars. Trento 24 e 25 febbraio 2023. Compattare quindici anni di riforme dell'università in mezz'ora è impresa è impossibile. Quindi tento un taglio di tipo "valutazione ex post delle politiche". Parto dalla discussione che precedette la riforma Gelmini e tento di spiegare come quella discussione contribuì a determinare l'agenda politica dei governi di centro-destra e centro-sinistra che fecero la riforma e poi la attuarono. Vedrò e racconterò gli effetti della riforma nei documenti ufficiali e poi aggiungerò un po' di evidenze disponibili che non stanno nei documenti ufficiali.
Cuocere a bassa temperatura. Dalla scuola della Costituzione alla tecnocrazia...Alberto Baccini
La riduzione della istruzione da diritto a funzione affidata ad un governo tecnocratico svincolato dal controllo parlamentare ha dato l’avvio alla creazione di una élite di tecnici e un indotto di dimensioni non trascurabili (illiberal reformers!). A questo si accompagna la trasformazione progressiva dei «cittadini in sudditi» (Calvano). Rientra in questo percorso anche il recente cambio di retorica con l'inaugurazione della valutazione compassionevole.
Research evaluation systems and the percolation of bad science Alberto Baccini
Slides of the speech at G20-Global solutions summit, Berlin 28-29 May 2018.
Performance-Based Incentives, Research Evaluation Systems and the Trickle-Down of Bad Science
MAY 2018 | PUBLIC & PRIVATE INSTITUTIONS | INSTITUTIONS, POLICY & POLITICS
DOWNLOAD PAPER
Alberto Baccini’s presentation for INET’s panel on research evaluation at the G20 Global Solutions Summit in Berlin, May 2018.
Governments or university managers, vice-chancellors or rectors need information about effectiveness of research funding. Governments are increasingly using monitoring tools as instruments for governance. The promise of bibliometric tools or journal rankings for reducing complexities is a feature that managers, policy-makers and academics find appealing. Systems of incentives are designed for steering scientists at a distance and indicators of scientific activities become more and more targets for scientists. It is the era of the governance of science by indicators.
My thesis here is that the adoption of a research policy based on research evaluation systems rewarding performance of scientists could be at the root of many deep problems afflicting contemporary science. And it could be also responsible for the growing difficulties of using the best available science for governmental regulation and policy, in particular for economic policy.
Text of the speech available at: https://www.ineteconomics.org/uploads/papers/Baccini-Value-for-money-Berlin-final.pdf
Intervento nel ciclo di conferenze Dentro al futuro: formazione e ricerca- L'università organizzate dal Comitato per l'attuazione della costituzione di San Casciano Val Di Pesa
More Related Content
Similar to La valutazione della ricerca di ateneo, i ranking internazionali e le graduatorie nazionali
Intervento al terzo convegno annuale di Roars. Come dovrebbe essere e come probabilmente sarà la prossima VQR (valutazione della qualità della ricerca).
Contributo di Alberto Baccini al
Terzo Convegno di ROARS, 19 Giugno 2015, Camera dei Deputati, Sala del Refettorio, Palazzo di Via del Seminario 76, Roma
Alberto Baccini: Il futuro della valutazione in un paese latecomer.Giuseppe De Nicolao
Slides presentate nel convegno ROARS "Il sistema dell’Università e della Ricerca - Fatti leggende futuro" (Istituto della Enciclopedia Italiana, 15 novembre 2012)
Napoleone, la valutazione della ricerca e le sue conseguenze prevedibili in I...Alberto Baccini
Intervento alla tavola rotonda del Convegno, La conoscenza organizzata, Trento, 6 dicembre 2013.
http://www.jus.unitn.it/services/arc/2013/1206i/home.html
Slides preparate in occasione dell'incontro
"La ricerca umanistica: i risultati della VQR 2004-2010"
Milano 23 ottobre 2013, Università Statale di Milano
La valutazione della ricerca nelle aree 10 e 11: dati, contesti, risultati
I risultati della valutazione del nucleo / i risultati della VQR
Valutazione della ricerca, incentivi basati sulla performance e scienza apertaAlberto Baccini
Intervento all' Open access week del Politecnico di Torino. Torino, 22-24 ottobre 2018.
L'introduzione di incentivi che premiano le metriche di produzione e citazione corrompono le norme sociali e i valori che dovrebbero regolare le interazioni nella scienza. La priorità nella scoperta cessa di essere l'obiettivo principale di uno scienziato. Il nuovo obiettivo è quello di ottenere etichette appropriate e prestazioni migliori sulle metriche. Le verità provvisorie della scienza emergono dalla battaglia di idee contrastanti e sono il risultato dell‘«uso pubblico della ragione». Nel sistema attuale la verità scientifica definitiva è garantita da classifiche di scienziati o riviste. Nei sistemi istituzionalizzati di valutazione della ricerca, la verità scientifica definitiva è garantita da una qualche classifica governativa. La scienza aperta/accesso aperto senza modificazione delle condizioni istituzionali in cui si svolge la ricerca è destinata a piegarsi alle regole del publish or perish e/o della valutazione istituzionale. Per disporre di «buoni consigli» per le politiche (economiche) c’è bisogno di «buona scienza». Ma la «buona scienza» è danneggiata dai sistemi di valutazione della ricerca. I «buoni consigli» non nascono dalla battaglia per ottenere etichette o conquistare un posto in una rivista ad elevato IF. Che fare? 1.Ridurre al minimo l'impatto dei sistemi di valutazione della ricerca sulla scienza. 2.Eliminare i sistemi di valutazione istituzionale massiva della ricerca. (Almeno disaccoppiarli dal meccanismo di finanziamento automatico). 3.Considerare seriamente la crescente pressione dal basso scienza per sostituire l’«eccellenza» con la «scienza sana». 4.Considerare seriamente proposte innovative per il finanziamento della ricerca al fine di promuovere il pluralismo.
Intervento al convegno per i dieci anni di Roars. Trento 24 e 25 febbraio 2023. Compattare quindici anni di riforme dell'università in mezz'ora è impresa è impossibile. Quindi tento un taglio di tipo "valutazione ex post delle politiche". Parto dalla discussione che precedette la riforma Gelmini e tento di spiegare come quella discussione contribuì a determinare l'agenda politica dei governi di centro-destra e centro-sinistra che fecero la riforma e poi la attuarono. Vedrò e racconterò gli effetti della riforma nei documenti ufficiali e poi aggiungerò un po' di evidenze disponibili che non stanno nei documenti ufficiali.
Cuocere a bassa temperatura. Dalla scuola della Costituzione alla tecnocrazia...Alberto Baccini
La riduzione della istruzione da diritto a funzione affidata ad un governo tecnocratico svincolato dal controllo parlamentare ha dato l’avvio alla creazione di una élite di tecnici e un indotto di dimensioni non trascurabili (illiberal reformers!). A questo si accompagna la trasformazione progressiva dei «cittadini in sudditi» (Calvano). Rientra in questo percorso anche il recente cambio di retorica con l'inaugurazione della valutazione compassionevole.
Research evaluation systems and the percolation of bad science Alberto Baccini
Slides of the speech at G20-Global solutions summit, Berlin 28-29 May 2018.
Performance-Based Incentives, Research Evaluation Systems and the Trickle-Down of Bad Science
MAY 2018 | PUBLIC & PRIVATE INSTITUTIONS | INSTITUTIONS, POLICY & POLITICS
DOWNLOAD PAPER
Alberto Baccini’s presentation for INET’s panel on research evaluation at the G20 Global Solutions Summit in Berlin, May 2018.
Governments or university managers, vice-chancellors or rectors need information about effectiveness of research funding. Governments are increasingly using monitoring tools as instruments for governance. The promise of bibliometric tools or journal rankings for reducing complexities is a feature that managers, policy-makers and academics find appealing. Systems of incentives are designed for steering scientists at a distance and indicators of scientific activities become more and more targets for scientists. It is the era of the governance of science by indicators.
My thesis here is that the adoption of a research policy based on research evaluation systems rewarding performance of scientists could be at the root of many deep problems afflicting contemporary science. And it could be also responsible for the growing difficulties of using the best available science for governmental regulation and policy, in particular for economic policy.
Text of the speech available at: https://www.ineteconomics.org/uploads/papers/Baccini-Value-for-money-Berlin-final.pdf
Intervento nel ciclo di conferenze Dentro al futuro: formazione e ricerca- L'università organizzate dal Comitato per l'attuazione della costituzione di San Casciano Val Di Pesa
Dati segreti e classifiche pseudoscientifiche: la via italiana alla valutazio...Alberto Baccini
Nelle slide si ripercorre la vicenda della prima Valutazione della Qualità della Ricerca (VQR), mostrando come l'agenzia governativa ANVUR abbia elaborato statistiche e le abbia mascherate da scienza, negando l'accesso ai dati per la loro verifica.
La valutazione massiva della ricerca: costi e beneficiAlberto Baccini
Gli argomenti usati per giustificare l’adozione di sistemi di valutazione massiva della ricerca del tipo VQR non sono basati su evidenze incontrovertibili. In particolare non esistono analisi che mostrino che i benefici sono superiori ai costi della valutazione. La valutazione massiva della ricerca è autoritaria e contraria alle prassi adottate nelle comunità scientifiche.
Collaborazionisti o resistenti. L'accademia ai tempi della valutazione della ...Alberto Baccini
Ma una valutazione massiva della ricerca tipo REF o VQR serve davvero? E perché gli accademici accettano la retorica dell'eccellenza? La ricerca deve essere solida, non "eccellente". Intervento al XIII convegno STOREP, Catania, 24 giugno 2016
Intervento a L'altraeconomia organizzato da Rethinking economics, Bologna, 6 maggio 2016. Cosa hanno a che fare pluralismo in economia e valutazione della ricerca?
Le slide del mio intervento alla Notte dei ricercatori a Siena il 26 settembre 2014. Nella prima parte ci sono le slide sulla percezione nei media dell'università italiana. Poi mostro i dati sul finanzimaento ad università e ricerca in Italia.
L'istruzione: un diritto per tutti. Un commento a Ichino e TerlizzeseAlberto Baccini
Le slides del mio intervento alla presentazione del libro di Ichino e Terlizzese "Facoltà di scelta" all'università di Siena il 7 maggio 2014. Spiego perché l'istruzione è un diritto. Mostro che il libro di Ichino e Terlizzese è costruito su fonti informative ben poco salde. Infine ricordo che il modello di prestiti che propongono, quello inglese, sta incontrando problemi rilevanti anche oltre Manica.
La VQR di Area13: una riflessione di sintesi. Le slides presentate alla tavol...Alberto Baccini
I risultati della valutazione condotta dal GEV13 non sono credibili. Peer review e bibliometria hanno dato risultati non concordanti. Ma nelle altre aree non è andata meglio. Con alcune lezioni per il futuro.
Toulouse_Napoleon et la bibliometrie ItalienneAlberto Baccini
Alberto Baccini, professeur d'économie politique à l'université de Sienne en Italie, dresse un panorama critique des réformes de l'évaluation de la recherche universitaire en Italie. La question de la constitution de listes de revues "scientifiques" à but d'évaluation est au cœur de cet exposé, qui interroge sur la validité des listes imposées par le ministère de la recherche italien. Des exemples éloquents de revues officiellement reconnues de valeur scientifique sont présentés. Ils suggèrent une défaillance quant aux critères utilisés pour caractériser la scientificité des revues dans le contexte italien.
http://www.dailymotion.com/video/x16enfd_evaluation-de-la-recherche-en-italie-mes-usages-de-la-bibliometrie-et-l-initiative-roars-alberto-ba_school
La valutazione della ricerca di ateneo, i ranking internazionali e le graduatorie nazionali
1. La valutazione della ricerca di ateneo, i ranking
internazionali e le graduatorie nazionali
Alberto Baccini
Bologna, 21 novembre 2014
2. Alberto Baccini, Ranking e valutazione
http://www.bostonmagazine.com/news/article/2014/08
/26/how-northeastern-gamed-the-college-rankings/
“…schools ranked highly received
increased visibility and prestige,
stronger applicants, more alumni
giving, and, most important,
greater revenue potential. A low
rank left a university scrambling
for money.”
3. La classifica avulsa THE
http://www.roars.it/online/un-the-molto-dolce-per-la-normale-di-pisa/
Alberto Baccini, Ranking e valutazione
21. I quadrati magici bibliometrici della VQR
Alberto Baccini, Ranking e valutazione
22. 20%
20%
10%
50%
Alberto Baccini, Ranking e valutazione
23. Ma come sono fatti i bersagli VQR veri?
Ce lo dice l’ANVUR: infatti, la Tabella A1.1 ci fornisce proprio le
dimensioni degli anelli del bersaglio per ciascuna area CUN
Alberto Baccini, Ranking e valutazione
24. I bersagli veri cambiano da area ad area e sono
molto diversi dal bersaglio teorico
Alberto Baccini, Ranking e valutazione
25. Alberto Baccini, Ranking e valutazione
40%
25%
14%
21%
«Vincere facile»
22%
21%
13%
44%
Ingegneria
Industriale e
dell’Informazione
Scienze
Mediche
29. Confronto tra prodotti eccellenti nella VTR e
nella VQR
Alberto Baccini, Ranking e valutazione
30. Alternative locali di policy
Alberto Baccini, Ranking e valutazione
Gaming the rules of ANVUR
Eliminare i ricercatori «non produttivi»
Ghost authorship
Costruire cartelli citazionali
Controllare riviste con IF
32. Alternative locali di policy
Sganciare la valutazione ed il finanziamento locale
da quello nazionale
La valutazione locale ha legittimazione maggiore di
quella nazionale
Scelta dalle comunità scientifiche locali
Obiettivi del finanziamento locale
Favorire la biodiversità della ricerca
Promuovere la qualità della ricerca
Raccomandazioni per la valutazione locale
Alberto Baccini, Ranking e valutazione
33. Un buon punto di partenza per scrivere buone
regole
Alberto Baccini, Ranking e valutazione
34. Le raccomandazioni di DORA
«Non usare metriche riferite alle riviste, come i fattori di impatto della
rivista, come misura surrogata della qualità dei singoli articoli di ricerca, per
valutare i contributi del singolo scienziato, o per decisioni relative ad
assunzioni, promozioni e finanziamenti»
Alberto Baccini, Ranking e valutazione
Tre i temi:
1. la necessità di valutare la ricerca per i suoi propri meriti e non sulla base
della rivista su cui è pubblicata;
2. la necessità di sfruttare al meglio le opportunità fornite dalla pubblicazione
on-line (riducendo per esempio i limiti non necessari imposti del numero
di pagine, figure e riferimenti bibliografici negli articoli, e esplorando
nuovi indicatori di importanza e impatto)”
35. Il contenuto è più importante del luogo di
pubblicazione (DORA)
1. rendere espliciti i criteri usati per valutare la produttività scientifica e per le
decisioni di assunzione, tenure e promozione, e sottolineare chiaramente,
specialmente per i giovani ricercatori, che il contenuto scientifico di un
articolo è molto più importante delle metriche della pubblicazione e
dell’identità della rivista nel quale è pubblicato.
2. considerare, ai fini della valutazione della ricerca, il valore e l’impatto di tutti
i prodotti della ricerca (inclusi i datasets e il software) in aggiunta alle
pubblicazioni, e considerare un ampio insieme di misure di impatto che
includono indicatori qualitativi dell’impatto della ricerca, come l’influenza
sulle politiche e sulle pratiche.
Alberto Baccini, Ranking e valutazione
38. Raccomandazione DORA per i ricercatori
“18. Mettere in dubbio le pratiche di valutazione della
ricerca che fanno affidamento impropriamente su fattori di
impatto delle riviste, e promuovere e insegnare le migliori
pratiche centrate sul valore e l’influenza dei singoli prodotti
della ricerca”
Alberto Baccini, Ranking e valutazione
39. Ridurre i danni della valutazione: anche a livello
locale
http://www.roars.it/online/come-ridurre-i-danni-della-valutazione-un-commento-a-margine-di-donald-
Alberto Baccini, Ranking e valutazione
gillies/