SlideShare a Scribd company logo
VALUTATE I VALUTATORI:
L’ESPERIENZA DELL’ANVUR NELLA
PROSPETTIVA DELLA CONFERENZA
DELLA PSICOLOGIA ACCADEMICA
A. CLAUDIO BOSIO
Conferenza Psicologia Accademica - CPA
Roma, 25 Marzo 2015
2
1 OBIETTIVI E METODOLOGIA
Obiettivi
 Valutare l’«esperienza ANVUR» nella prospettiva della Psicologia Accademica
italiana (ancoraggio: propria organizzazione di appartenenza)
in generale
con riferimento a specifiche azioni ANVUR:  AVA (didattica/annuale)
 VQR (2011)
 SUA-RD (2014)
 ASN (2012)
 ASN (2013)
Metodologia
 Questionario on-line autocompilato
 Valutatore: rappresentante di sede (+ team di lavoro)
 Popolazione: 51 sedi (100%)
 Rispondenti: 35 sedi (68,7%)
Rispondenti (N=35)
2
Tasso di
risposta:
68,7%
MAPPATURA DEI RISPONDENTI
RISPONDENTI: X TIPOLOGIA DI APPARTENENZA CPA (CFR. ART. 3 COMMA A)
I principali risultati
4
5
ANVUR: VALUTAZIONE COMPLESSIVA (scala 0-10)
N Minimo Massimo Media Deviazione std.
34 0 10 5,7 2,6
--
61,8
- +
Nota
-- : (punteggi 0-3)
- : (punteggi 4-5)
+ : (punteggi 6-7)
++ : (punteggi 8-10)
++
38,2
1
6
ANVUR: VALUTAZIONE COMPLESSIVA - PER SEGMENTI
Media
Globale (n=34) 5,7
Dipartimento di Psicologia o assimilabili (n=18) 5,7
CdS in Psicologia (n=9) 5,9
Aggregazione di docenti di Psicologia (n=7) 5,4
1.1
7
VALUTAZIONE SU AVA (scala 0-10)
N Minimo Massimo Media Deviazione std.
33 1 10 5,7 2,236
-- - + ++
Nota
-- : (punteggi 0-3)
- : (punteggi 4-5)
+ : (punteggi 6-7)
++ : (punteggi 8-10)
63,636,4
2
8
AVA: VALUTAZIONE ANALITICA - PER SEGMENTI
Media
Globale (n=33) 5,7
Dipartimento di Psicologia o assimilabili (n=17) 5,0*
CdS in Psicologia (n=9) 6,8*
Aggregazione di docenti di Psicologia (n=7) 5,4
2.1
* = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
9
VALUTAZIONE VQR-2011 (scala 0-10)
N Minimo Massimo Media Deviazione std.
33 1 10 5,1 2,8
-- - + ++
42,457,6
Nota
-- : (punteggi 0-3)
- : (punteggi 4-5)
+ : (punteggi 6-7)
++ : (punteggi 8-10)
3
10
VQR-2011: VALUTAZIONE ANALITICA - PER SEGMENTI
Media
Globale (n=33) 5,1
Dipartimento di Psicologia o assimilabili (n=18) 5,8
CdS in Psicologia (n=10) 3,9*
Aggregazione di docenti di Psicologia (n=6) 5,8
3.1
* = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
11
VALUTAZIONE SUA-RD (2014) (scala 0-10)
N Minimo Massimo Media Deviazione std.
29 1 10 5,9 2,5
-- - + ++
69,031,0
Nota
-- : (punteggi 0-3)
- : (punteggi 4-5)
+ : (punteggi 6-7)
++ : (punteggi 8-10)
4
12
SUA-RD 2014: VALUTAZIONE ANALITICA - PER SEGMENTI
Media
Globale (n=29) 5,9
Dipartimento di Psicologia o assimilabili (n=15) 5,3
CdS in Psicologia (n=10) 6,1
Aggregazione di docenti di Psicologia (n=4) 6,5*
4.1
* = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
13
VALUTAZIONE ASN 2012 (scala 0-10)
N Minimo Massimo Media Deviazione std.
33 2 10 5,7 2,4
-- - + ++
Nota
-- : (punteggi 0-3)
- : (punteggi 4-5)
+ : (punteggi 6-7)
++ : (punteggi 8-10)
51,548,5
5
14
ASN 2012: VALUTAZIONE ANALITICA - PER SEGMENTI
Media
Globale (n=33) 5,7
Dipartimento di Psicologia o assimilabili (n=18) 6,0
CdS in Psicologia (n=9) 4,9*
Aggregazione di docenti di Psicologia (n=7) 6,0
5.1
* = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
15
VALUTAZIONE ASN 2013 (scala 0-10)
N Minimo Massimo Media Deviazione std.
27 2 10 5,3 2,478
-- - + ++
44,455,6
Nota
-- : (punteggi 0-3)
- : (punteggi 4-5)
+ : (punteggi 6-7)
++ : (punteggi 8-10)
6
16
ASN 2013: VALUTAZIONE ANALITICA - PER SEGMENTI
Media
Globale (n=27) 5,3
Dipartimento di Psicologia o assimilabili (n=18) 6,2*
CdS in Psicologia (n=4) 4,6*
Aggregazione di docenti di Psicologia (n=5) 5,2
6.1
* = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
17
VALUTAZIONI ANALITICHE: UN QUADRO DI SINTESI
(scala 0-10)
7
AVA
ASN (2013)
VQR (2011)
SUA-RD (2014)
ASN (2012)
5.7 5.46.8*5.0*
5.1 5.83.9*5.8
5.9 6.5*6.15.3
5.7 6.04.9*6.0
5.3 5.24.6*6.2*
Agg.CdSDip.
* = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
MEDIA
18
 Oggettività e trasparenza (N=19)
 Cultura della valutazione (N=13)
 Premio alla qualità (N=8)
 Apertura all’internazionalizzazione/
superamento logiche localistiche (N=7)
I MOTIVI DELLA VALUTAZIONE8
- +
Eccesso di burocrazia (N=25)
Criteri poco chiari e arbitrari (N=23)
Rigidità (N=5)
19
 MAGGIORE CHIAREZZA/MENO ARBITRARIETA’
PROCEDURE (N=16)
 SNELLIMENTO BUROCRAZIA/SEMPLIFICAZIONE
PROCEDURE (N=11)
 INTRODUZIONE BANCHE DATI «FREE ACCESS» (es.
google scholar) (N=6)
 PIU’ COLLABORAZIONE CON ISTITUZIONI DI
RIFERIMENTO (MIUR, CUN, CPA, AIP) (N=4)
VALUTAZIONE COMPLESSIVA: I MIGLIORAMENTI PIU’ URGENTI e
IMPORTANTI
9
20
UN TWEET ALL’ANVUR (*)10
«Il giudizio complessivo concordato è stato
sufficiente nonostante i numerosi elementi di criticità,
perché si ritiene utile sostenere e promuovere la
cultura della valutazione all’Università»
(*) Per una ricognizione analitica: cfr. appendice
21
UNA POSTILLA PERSONALE (come «portatore privilegiato» di
esperienza): ALCUNI SUGGERIMENTI
1 RIDURRE L’EFFETTO «FATICA»
 SNELLIRE PROCEDURE
 RIVEDERE CALENDARI (AVA ANNUALE?)
 EVITARE DOPPIONI (VQR e SUA-RD 2015)
 FACILITARE I PERCORSI E L’INSERIMENTO DATI
2 SOSTENERE IL PASSAGGIO
 DA UNA CULTURA DELLA QUALITA’ PER «ADEGUATEZZA FORMALE»…
 …AD UNA «PER RISULTATI»
22
(…segue)
3 ATTENZIONE AI MICRO-PROCESSI ATTUATIVI (fra questi: SSD «ecologici»)
4 RIPENSARE LE «REGOLAZIONI IMPLICITE» DEL «TAVOLO DI LAVORO»
 REGOLAZIONE ORIZZONTALE (ANVUR, MIUR, CUN…)
 REGOLAZIONE VERTICALE (ANVUR ↔ SEDE)
Appendice -
un messaggio finale
all’ANVUR
23
24
UN TWEET ALL’ANVUR (a)
«Il livello di complessità è tale da ostacolare lo svolgimento delle attività oggetto di valutazione. La valutazione deve
basarsi su criteri semplici e sul lavoro del valutatore, non valutato; la SUA RD annuale perché deve essere gestita
dall'ANVUR? Credo sia sufficiente la VQR; le altre valutazioni non potrebbero essere a carico del CUN, CRUI o degli
atenei?; in generale c'è la sensazione che essere valutati in qualsiasi ambito non porti a nulla in termini di azioni da
parte di ANVUR/MIUR»
«Includere esperti universitari (es di statistica) nel panel di chi definisce regole e metodi: anche se l'ANVUR è privato,
non può non considerare che le migliori menti stiano solo FUORI dall'università!»
«Francamente non vedo la necessità di una agenzia permanente, costosa qual è oggi l’ANVUR; gli adempimenti
burocratici sono aumentati a dismisura (vedi AVA, TECO, SUA RD) senza che a questi oneri per le strutture siano poi
seguiti risultati significativi in termini di politiche di indirizzo o di allocazione di risorse; gran parte delle funzioni svolte oggi
dall’ANVUR potrebbero tranquillamente, senza costi aggiuntivi, essere svolte dal CUN»
«La legge 240/2010 ha introdotto alcuni aspetti potenzialmente positivi in relazione ai processi di valutazione, primo tra
tutti l’Abilitazione Scientifica Nazionale. Il modo in cui l’ANVUR ha implementato il mandato del legislatore in relazione
all’ASN è risultato ampiamente insoddisfacente. Simili considerazioni possono essere fatte in relazione ai processi di
valutazione della didattica e della ricerca. I punteggi qui attributi nelle sezioni da 1 a 6 fanno specifico riferimento alle azioni
intraprese dall’ANVUR piuttosto che all’idea che processi di valutazione in ambito accademico siano necessari, idea
condivisibile e per sviluppare la quale è auspicabile un deciso cambiamento nelle politiche ministeriali. Intervento prioritario
è snellire e accorpare le procedure (è davvero necessaria la contemporanea esistenza della VQR e della SUA-RD?)
acquisendo solo le informazioni davvero rilevanti e rinunciando al controllo centralizzato di aspetti non rilevanti nella
definizione degli standard qualitativi»
25
UN TWEET ALL’ANVUR (b)
«Credo che lo sforzo dell’ANVUR sia motivato da intenzioni condivisibili. Tuttavia i compromessi che hanno caratterizzato
l’applicazione pratica dei necessari processi di valutazione esterna dei risultati della ricerca, a mio parere, hanno prodotto
effetti di segno opposto a quelle che potevano essere le intenzioni originarie. All’Università è stato imposto uno strumento
di ‘valutazione’ che non è nato all’interno del mondo accademico (e dunque tiene poco in considerazione le sue reali regole
di funzionamento), che è estremamente diverso da quelli utilizzati dalle università che figurano in posizioni alte nei ranking
internazionali, e che si sta dimostrando uno strumento, ancora più potente di quelli disponibili in passato, per umiliare i
meriti dei docenti e per rafforzare le baronie locali».
«E’ indispensabile un maggiore investimento negli atenei pubblici. Dal punto di vista dei ranking internazionali, c’è
sicuramente spazio per un miglioramento. I dati disponibili indicano che in termini di efficienza (pubblicazioni per spesa) i
risultati sono positivi. Se questo è vero, il problema dei ranking non si risolve diminuendo i finanziamenti alla ricerca, ma
aumentandoli. Inoltre, gli indici bibliometrici sono utili ma non esclusivi. Tuttavia le commissioni dell’ASN li hanno usati (o
non usati) in assenza di criteri omogenei e condivisi. Esercitare azioni di controllo sulle diverse fasi di valutazione
affinché i processi siano adeguati e non destino critiche. Portare a regime le procedure valutative per favorire una maggiore
accettazione da parte dei docenti e iniziare un processo di miglioramento».
26
UN TWEET ALL’ANVUR (c)
«Scegliere valutatori ANVUR/VQR competenti. Inoltre i criteri di valutazione dovrebbero essere pubblicati a priori.
Come i referee per gli articoli inviati alle riviste, anche i valutatori ANVUR/VQR potrebbero specificare quali criteri
definiscono un lavoro eccellente, accettabile o limitato. Nella nostra esperienza, per esempio, non è apparso chiaro in che
modo la valutazione abbia considerato la collocazione editoriale (livello locale/nazionale), la tipologia di prodotto (teorico o di
ricerca)».
«Sia per la VQR sia per l’ASN, i problemi più rilevanti e con ricadute più gravi, si sono verificati per il comportamento
disomogeneo dei colleghi del nostro macro-‐settore M-‐PSI impegnati a vario titolo nelle valutazioni».
«L’aspetto più significativo, in termini politici generali, delle politiche ANVUR e della correlata aggregazione dei settori
concorsuali e adozioni del sistema bibliometrico per la psicologia e la “separazione” dell’area CUN 11B. Per la prima volta,
dopo anni di richieste la psicologia ha di fatto un’area CUN indipendente e riconoscibile. Sia in termini politici che di
immagine pubblica, crediamo che questo possa essere di estrema importanza e si debbano mettere in atto tutte le iniziative
possibile per rafforzare questa separazione dagli altri settori dell’area 11».

More Related Content

Similar to Valutate i valutatori: l’esperienze dell’ANVUR nella prospettiva della conferenza della psicologia accademica

Css son solid_spesi_bene_aline
Css son solid_spesi_bene_alineCss son solid_spesi_bene_aline
Css son solid_spesi_bene_aline
alinepennisi
 
Revan franco novelletto
Revan franco novellettoRevan franco novelletto
Revan franco novelletto
maxcarraro
 
AVA: parole senza qualità?
AVA: parole senza qualità?AVA: parole senza qualità?
AVA: parole senza qualità?
Giuseppe De Nicolao
 
Sebastiano Pulvirenti, La rete F.A:R.O. e il Sistema Nazionale di Valutazione...
Sebastiano Pulvirenti, La rete F.A:R.O. e il Sistema Nazionale di Valutazione...Sebastiano Pulvirenti, La rete F.A:R.O. e il Sistema Nazionale di Valutazione...
Sebastiano Pulvirenti, La rete F.A:R.O. e il Sistema Nazionale di Valutazione...
sepulvi
 
Sebastiano pulvirenti, faro febbraio:marzo 2015
Sebastiano pulvirenti, faro febbraio:marzo 2015Sebastiano pulvirenti, faro febbraio:marzo 2015
Sebastiano pulvirenti, faro febbraio:marzo 2015sepulvi
 
Presentazione Percorso di Autovalutazione - Collegio Docenti "IC Robecchi" 05...
Presentazione Percorso di Autovalutazione - Collegio Docenti "IC Robecchi" 05...Presentazione Percorso di Autovalutazione - Collegio Docenti "IC Robecchi" 05...
Presentazione Percorso di Autovalutazione - Collegio Docenti "IC Robecchi" 05...
robecchi
 
Gennaro Merola
Gennaro MerolaGennaro Merola
Gennaro Merola
maxcarraro
 
Sebastiano Pulvirenti, la Rete F.A.R.O. e il Sistema Nazionale di Valutazione
Sebastiano Pulvirenti, la Rete F.A.R.O. e il Sistema Nazionale di ValutazioneSebastiano Pulvirenti, la Rete F.A.R.O. e il Sistema Nazionale di Valutazione
Sebastiano Pulvirenti, la Rete F.A.R.O. e il Sistema Nazionale di Valutazionesepulvi
 
Sebastiano pulvirenti, faro febbraio 2015
Sebastiano pulvirenti, faro febbraio 2015Sebastiano pulvirenti, faro febbraio 2015
Sebastiano pulvirenti, faro febbraio 2015sepulvi
 
Dall’autovalutazione al miglioramento scolastico
Dall’autovalutazione al miglioramento scolasticoDall’autovalutazione al miglioramento scolastico
Dall’autovalutazione al miglioramento scolastico
Istituto Nazionale di Documentazione, Innovazione e Ricerca Educativa
 
Misurazione Analisi E Miglioramento
Misurazione Analisi E MiglioramentoMisurazione Analisi E Miglioramento
Misurazione Analisi E MiglioramentoAlfonso Micuccio
 
Livelli Essenziali Di Qualita’ Dell’Integrazione. Dario Ianes. Edizioni Erick...
Livelli Essenziali Di Qualita’ Dell’Integrazione. Dario Ianes. Edizioni Erick...Livelli Essenziali Di Qualita’ Dell’Integrazione. Dario Ianes. Edizioni Erick...
Livelli Essenziali Di Qualita’ Dell’Integrazione. Dario Ianes. Edizioni Erick...
www.erickson.it
 
Aib 2008 Mdg
Aib 2008 MdgAib 2008 Mdg
Aib 2008 Mdgemmedigi
 
Mirella Paglialunga, Il progetto di miglioramento e la rendicontazione sociale
Mirella Paglialunga, Il progetto di miglioramento e la rendicontazione socialeMirella Paglialunga, Il progetto di miglioramento e la rendicontazione sociale
Mirella Paglialunga, Il progetto di miglioramento e la rendicontazione sociale
sepulvi
 
Presentazione corso rizzoli_mn_nov18
Presentazione corso rizzoli_mn_nov18Presentazione corso rizzoli_mn_nov18
Presentazione corso rizzoli_mn_nov18
istituto manzoni
 
M. C. Romano- La transizione a indagini Computer Assisted: il ridisegno delle...
M. C. Romano- La transizione a indagini Computer Assisted: il ridisegno delle...M. C. Romano- La transizione a indagini Computer Assisted: il ridisegno delle...
M. C. Romano- La transizione a indagini Computer Assisted: il ridisegno delle...
Istituto nazionale di statistica
 
Claudia Abatecola a FORUM PA 2010
Claudia Abatecola a FORUM PA 2010Claudia Abatecola a FORUM PA 2010
Claudia Abatecola a FORUM PA 2010FPA
 
L'indagine di valutazione - di Giuseppe Stassi e Alessandro Valentini, Direzi...
L'indagine di valutazione - di Giuseppe Stassi e Alessandro Valentini, Direzi...L'indagine di valutazione - di Giuseppe Stassi e Alessandro Valentini, Direzi...
L'indagine di valutazione - di Giuseppe Stassi e Alessandro Valentini, Direzi...
Istituto nazionale di statistica
 

Similar to Valutate i valutatori: l’esperienze dell’ANVUR nella prospettiva della conferenza della psicologia accademica (20)

Css son solid_spesi_bene_aline
Css son solid_spesi_bene_alineCss son solid_spesi_bene_aline
Css son solid_spesi_bene_aline
 
Revan franco novelletto
Revan franco novellettoRevan franco novelletto
Revan franco novelletto
 
AVA: parole senza qualità?
AVA: parole senza qualità?AVA: parole senza qualità?
AVA: parole senza qualità?
 
Sebastiano Pulvirenti, La rete F.A:R.O. e il Sistema Nazionale di Valutazione...
Sebastiano Pulvirenti, La rete F.A:R.O. e il Sistema Nazionale di Valutazione...Sebastiano Pulvirenti, La rete F.A:R.O. e il Sistema Nazionale di Valutazione...
Sebastiano Pulvirenti, La rete F.A:R.O. e il Sistema Nazionale di Valutazione...
 
Sebastiano pulvirenti, faro febbraio:marzo 2015
Sebastiano pulvirenti, faro febbraio:marzo 2015Sebastiano pulvirenti, faro febbraio:marzo 2015
Sebastiano pulvirenti, faro febbraio:marzo 2015
 
Presentazione Percorso di Autovalutazione - Collegio Docenti "IC Robecchi" 05...
Presentazione Percorso di Autovalutazione - Collegio Docenti "IC Robecchi" 05...Presentazione Percorso di Autovalutazione - Collegio Docenti "IC Robecchi" 05...
Presentazione Percorso di Autovalutazione - Collegio Docenti "IC Robecchi" 05...
 
Gennaro Merola
Gennaro MerolaGennaro Merola
Gennaro Merola
 
Sebastiano Pulvirenti, la Rete F.A.R.O. e il Sistema Nazionale di Valutazione
Sebastiano Pulvirenti, la Rete F.A.R.O. e il Sistema Nazionale di ValutazioneSebastiano Pulvirenti, la Rete F.A.R.O. e il Sistema Nazionale di Valutazione
Sebastiano Pulvirenti, la Rete F.A.R.O. e il Sistema Nazionale di Valutazione
 
Sebastiano pulvirenti, faro febbraio 2015
Sebastiano pulvirenti, faro febbraio 2015Sebastiano pulvirenti, faro febbraio 2015
Sebastiano pulvirenti, faro febbraio 2015
 
Dall’autovalutazione al miglioramento scolastico
Dall’autovalutazione al miglioramento scolasticoDall’autovalutazione al miglioramento scolastico
Dall’autovalutazione al miglioramento scolastico
 
Misurazione Analisi E Miglioramento
Misurazione Analisi E MiglioramentoMisurazione Analisi E Miglioramento
Misurazione Analisi E Miglioramento
 
Livelli Essenziali Di Qualita’ Dell’Integrazione. Dario Ianes. Edizioni Erick...
Livelli Essenziali Di Qualita’ Dell’Integrazione. Dario Ianes. Edizioni Erick...Livelli Essenziali Di Qualita’ Dell’Integrazione. Dario Ianes. Edizioni Erick...
Livelli Essenziali Di Qualita’ Dell’Integrazione. Dario Ianes. Edizioni Erick...
 
Presentazione tesi Egle
Presentazione tesi EglePresentazione tesi Egle
Presentazione tesi Egle
 
Aib 2008 Mdg
Aib 2008 MdgAib 2008 Mdg
Aib 2008 Mdg
 
Mirella Paglialunga, Il progetto di miglioramento e la rendicontazione sociale
Mirella Paglialunga, Il progetto di miglioramento e la rendicontazione socialeMirella Paglialunga, Il progetto di miglioramento e la rendicontazione sociale
Mirella Paglialunga, Il progetto di miglioramento e la rendicontazione sociale
 
Presentazione corso rizzoli_mn_nov18
Presentazione corso rizzoli_mn_nov18Presentazione corso rizzoli_mn_nov18
Presentazione corso rizzoli_mn_nov18
 
M. C. Romano- La transizione a indagini Computer Assisted: il ridisegno delle...
M. C. Romano- La transizione a indagini Computer Assisted: il ridisegno delle...M. C. Romano- La transizione a indagini Computer Assisted: il ridisegno delle...
M. C. Romano- La transizione a indagini Computer Assisted: il ridisegno delle...
 
Claudia Abatecola a FORUM PA 2010
Claudia Abatecola a FORUM PA 2010Claudia Abatecola a FORUM PA 2010
Claudia Abatecola a FORUM PA 2010
 
L'indagine di valutazione - di Giuseppe Stassi e Alessandro Valentini, Direzi...
L'indagine di valutazione - di Giuseppe Stassi e Alessandro Valentini, Direzi...L'indagine di valutazione - di Giuseppe Stassi e Alessandro Valentini, Direzi...
L'indagine di valutazione - di Giuseppe Stassi e Alessandro Valentini, Direzi...
 
sivad
sivadsivad
sivad
 

More from Giuseppe De Nicolao

I misteri dei dipartimenti di eccellenza: genesi, anatomia, ideologia
I misteri dei dipartimenti di eccellenza: genesi, anatomia, ideologiaI misteri dei dipartimenti di eccellenza: genesi, anatomia, ideologia
I misteri dei dipartimenti di eccellenza: genesi, anatomia, ideologia
Giuseppe De Nicolao
 
Roars blob 2021
Roars blob 2021Roars blob 2021
Roars blob 2021
Giuseppe De Nicolao
 
Didattica blended: problemi tecnici ed etici
Didattica blended: problemi tecnici ed eticiDidattica blended: problemi tecnici ed etici
Didattica blended: problemi tecnici ed etici
Giuseppe De Nicolao
 
La didattica a distanza, aspetti critici, limiti e potenzialità
La didattica a distanza, aspetti critici, limiti e potenzialitàLa didattica a distanza, aspetti critici, limiti e potenzialità
La didattica a distanza, aspetti critici, limiti e potenzialità
Giuseppe De Nicolao
 
Più citazioni se volete far carriera! La valutazione della ricerca universitaria
Più citazioni se volete far carriera! La valutazione della ricerca universitariaPiù citazioni se volete far carriera! La valutazione della ricerca universitaria
Più citazioni se volete far carriera! La valutazione della ricerca universitaria
Giuseppe De Nicolao
 
Il «fattore umano»ı. Misurare le soft skills
Il «fattore umano»ı. Misurare le soft skillsIl «fattore umano»ı. Misurare le soft skills
Il «fattore umano»ı. Misurare le soft skills
Giuseppe De Nicolao
 
State-fostered immaturity? Kant, Galileo and the Grand Evaluator
State-fostered immaturity? Kant, Galileo and the Grand EvaluatorState-fostered immaturity? Kant, Galileo and the Grand Evaluator
State-fostered immaturity? Kant, Galileo and the Grand Evaluator
Giuseppe De Nicolao
 
Una rivista ad accesso aperto, senza costi per gli autori e di alta qualità: ...
Una rivista ad accesso aperto, senza costi per gli autori e di alta qualità: ...Una rivista ad accesso aperto, senza costi per gli autori e di alta qualità: ...
Una rivista ad accesso aperto, senza costi per gli autori e di alta qualità: ...
Giuseppe De Nicolao
 
Credo quia absurdum, l'apologetica delle "Weapons of math destruction”
Credo quia absurdum, l'apologetica delle  "Weapons of math destruction” Credo quia absurdum, l'apologetica delle  "Weapons of math destruction”
Credo quia absurdum, l'apologetica delle "Weapons of math destruction”
Giuseppe De Nicolao
 
L'appello per la Scuola Pubblica
L'appello per la Scuola PubblicaL'appello per la Scuola Pubblica
L'appello per la Scuola Pubblica
Giuseppe De Nicolao
 
L'appello per la Scuola Pubblica
L'appello per la Scuola PubblicaL'appello per la Scuola Pubblica
L'appello per la Scuola Pubblica
Giuseppe De Nicolao
 
Blob roars 2017
Blob roars 2017Blob roars 2017
Blob roars 2017
Giuseppe De Nicolao
 
Eua pfo-report-december-2017
Eua pfo-report-december-2017Eua pfo-report-december-2017
Eua pfo-report-december-2017
Giuseppe De Nicolao
 
Big brother is manipulating you
Big brother is manipulating youBig brother is manipulating you
Big brother is manipulating you
Giuseppe De Nicolao
 
Dai sistemi di valutazione agli effetti sull'etica dei comportamenti
Dai sistemi di valutazione agli effetti sull'etica dei comportamentiDai sistemi di valutazione agli effetti sull'etica dei comportamenti
Dai sistemi di valutazione agli effetti sull'etica dei comportamenti
Giuseppe De Nicolao
 
Terza missione: è lei la prima vittima della "cultura della valutazione"?
Terza missione: è lei la prima vittima della "cultura della valutazione"?Terza missione: è lei la prima vittima della "cultura della valutazione"?
Terza missione: è lei la prima vittima della "cultura della valutazione"?
Giuseppe De Nicolao
 
Specializzazione e interdisciplinarità dell’Automatica attraverso la lente di...
Specializzazione e interdisciplinarità dell’Automatica attraverso la lente di...Specializzazione e interdisciplinarità dell’Automatica attraverso la lente di...
Specializzazione e interdisciplinarità dell’Automatica attraverso la lente di...
Giuseppe De Nicolao
 
P. Galimberti: Valutazione/classificazione delle riviste scientifiche
P. Galimberti: Valutazione/classificazione delle riviste scientificheP. Galimberti: Valutazione/classificazione delle riviste scientifiche
P. Galimberti: Valutazione/classificazione delle riviste scientifiche
Giuseppe De Nicolao
 
Blob Roars 2016
Blob Roars 2016Blob Roars 2016
Blob Roars 2016
Giuseppe De Nicolao
 
Finanziamenti alla ricerca e alle università - Legge Stabilità 2017
Finanziamenti alla ricerca e alle università - Legge Stabilità 2017Finanziamenti alla ricerca e alle università - Legge Stabilità 2017
Finanziamenti alla ricerca e alle università - Legge Stabilità 2017
Giuseppe De Nicolao
 

More from Giuseppe De Nicolao (20)

I misteri dei dipartimenti di eccellenza: genesi, anatomia, ideologia
I misteri dei dipartimenti di eccellenza: genesi, anatomia, ideologiaI misteri dei dipartimenti di eccellenza: genesi, anatomia, ideologia
I misteri dei dipartimenti di eccellenza: genesi, anatomia, ideologia
 
Roars blob 2021
Roars blob 2021Roars blob 2021
Roars blob 2021
 
Didattica blended: problemi tecnici ed etici
Didattica blended: problemi tecnici ed eticiDidattica blended: problemi tecnici ed etici
Didattica blended: problemi tecnici ed etici
 
La didattica a distanza, aspetti critici, limiti e potenzialità
La didattica a distanza, aspetti critici, limiti e potenzialitàLa didattica a distanza, aspetti critici, limiti e potenzialità
La didattica a distanza, aspetti critici, limiti e potenzialità
 
Più citazioni se volete far carriera! La valutazione della ricerca universitaria
Più citazioni se volete far carriera! La valutazione della ricerca universitariaPiù citazioni se volete far carriera! La valutazione della ricerca universitaria
Più citazioni se volete far carriera! La valutazione della ricerca universitaria
 
Il «fattore umano»ı. Misurare le soft skills
Il «fattore umano»ı. Misurare le soft skillsIl «fattore umano»ı. Misurare le soft skills
Il «fattore umano»ı. Misurare le soft skills
 
State-fostered immaturity? Kant, Galileo and the Grand Evaluator
State-fostered immaturity? Kant, Galileo and the Grand EvaluatorState-fostered immaturity? Kant, Galileo and the Grand Evaluator
State-fostered immaturity? Kant, Galileo and the Grand Evaluator
 
Una rivista ad accesso aperto, senza costi per gli autori e di alta qualità: ...
Una rivista ad accesso aperto, senza costi per gli autori e di alta qualità: ...Una rivista ad accesso aperto, senza costi per gli autori e di alta qualità: ...
Una rivista ad accesso aperto, senza costi per gli autori e di alta qualità: ...
 
Credo quia absurdum, l'apologetica delle "Weapons of math destruction”
Credo quia absurdum, l'apologetica delle  "Weapons of math destruction” Credo quia absurdum, l'apologetica delle  "Weapons of math destruction”
Credo quia absurdum, l'apologetica delle "Weapons of math destruction”
 
L'appello per la Scuola Pubblica
L'appello per la Scuola PubblicaL'appello per la Scuola Pubblica
L'appello per la Scuola Pubblica
 
L'appello per la Scuola Pubblica
L'appello per la Scuola PubblicaL'appello per la Scuola Pubblica
L'appello per la Scuola Pubblica
 
Blob roars 2017
Blob roars 2017Blob roars 2017
Blob roars 2017
 
Eua pfo-report-december-2017
Eua pfo-report-december-2017Eua pfo-report-december-2017
Eua pfo-report-december-2017
 
Big brother is manipulating you
Big brother is manipulating youBig brother is manipulating you
Big brother is manipulating you
 
Dai sistemi di valutazione agli effetti sull'etica dei comportamenti
Dai sistemi di valutazione agli effetti sull'etica dei comportamentiDai sistemi di valutazione agli effetti sull'etica dei comportamenti
Dai sistemi di valutazione agli effetti sull'etica dei comportamenti
 
Terza missione: è lei la prima vittima della "cultura della valutazione"?
Terza missione: è lei la prima vittima della "cultura della valutazione"?Terza missione: è lei la prima vittima della "cultura della valutazione"?
Terza missione: è lei la prima vittima della "cultura della valutazione"?
 
Specializzazione e interdisciplinarità dell’Automatica attraverso la lente di...
Specializzazione e interdisciplinarità dell’Automatica attraverso la lente di...Specializzazione e interdisciplinarità dell’Automatica attraverso la lente di...
Specializzazione e interdisciplinarità dell’Automatica attraverso la lente di...
 
P. Galimberti: Valutazione/classificazione delle riviste scientifiche
P. Galimberti: Valutazione/classificazione delle riviste scientificheP. Galimberti: Valutazione/classificazione delle riviste scientifiche
P. Galimberti: Valutazione/classificazione delle riviste scientifiche
 
Blob Roars 2016
Blob Roars 2016Blob Roars 2016
Blob Roars 2016
 
Finanziamenti alla ricerca e alle università - Legge Stabilità 2017
Finanziamenti alla ricerca e alle università - Legge Stabilità 2017Finanziamenti alla ricerca e alle università - Legge Stabilità 2017
Finanziamenti alla ricerca e alle università - Legge Stabilità 2017
 

Valutate i valutatori: l’esperienze dell’ANVUR nella prospettiva della conferenza della psicologia accademica

  • 1. VALUTATE I VALUTATORI: L’ESPERIENZA DELL’ANVUR NELLA PROSPETTIVA DELLA CONFERENZA DELLA PSICOLOGIA ACCADEMICA A. CLAUDIO BOSIO Conferenza Psicologia Accademica - CPA Roma, 25 Marzo 2015
  • 2. 2 1 OBIETTIVI E METODOLOGIA Obiettivi  Valutare l’«esperienza ANVUR» nella prospettiva della Psicologia Accademica italiana (ancoraggio: propria organizzazione di appartenenza) in generale con riferimento a specifiche azioni ANVUR:  AVA (didattica/annuale)  VQR (2011)  SUA-RD (2014)  ASN (2012)  ASN (2013) Metodologia  Questionario on-line autocompilato  Valutatore: rappresentante di sede (+ team di lavoro)  Popolazione: 51 sedi (100%)  Rispondenti: 35 sedi (68,7%)
  • 3. Rispondenti (N=35) 2 Tasso di risposta: 68,7% MAPPATURA DEI RISPONDENTI RISPONDENTI: X TIPOLOGIA DI APPARTENENZA CPA (CFR. ART. 3 COMMA A)
  • 5. 5 ANVUR: VALUTAZIONE COMPLESSIVA (scala 0-10) N Minimo Massimo Media Deviazione std. 34 0 10 5,7 2,6 -- 61,8 - + Nota -- : (punteggi 0-3) - : (punteggi 4-5) + : (punteggi 6-7) ++ : (punteggi 8-10) ++ 38,2 1
  • 6. 6 ANVUR: VALUTAZIONE COMPLESSIVA - PER SEGMENTI Media Globale (n=34) 5,7 Dipartimento di Psicologia o assimilabili (n=18) 5,7 CdS in Psicologia (n=9) 5,9 Aggregazione di docenti di Psicologia (n=7) 5,4 1.1
  • 7. 7 VALUTAZIONE SU AVA (scala 0-10) N Minimo Massimo Media Deviazione std. 33 1 10 5,7 2,236 -- - + ++ Nota -- : (punteggi 0-3) - : (punteggi 4-5) + : (punteggi 6-7) ++ : (punteggi 8-10) 63,636,4 2
  • 8. 8 AVA: VALUTAZIONE ANALITICA - PER SEGMENTI Media Globale (n=33) 5,7 Dipartimento di Psicologia o assimilabili (n=17) 5,0* CdS in Psicologia (n=9) 6,8* Aggregazione di docenti di Psicologia (n=7) 5,4 2.1 * = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
  • 9. 9 VALUTAZIONE VQR-2011 (scala 0-10) N Minimo Massimo Media Deviazione std. 33 1 10 5,1 2,8 -- - + ++ 42,457,6 Nota -- : (punteggi 0-3) - : (punteggi 4-5) + : (punteggi 6-7) ++ : (punteggi 8-10) 3
  • 10. 10 VQR-2011: VALUTAZIONE ANALITICA - PER SEGMENTI Media Globale (n=33) 5,1 Dipartimento di Psicologia o assimilabili (n=18) 5,8 CdS in Psicologia (n=10) 3,9* Aggregazione di docenti di Psicologia (n=6) 5,8 3.1 * = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
  • 11. 11 VALUTAZIONE SUA-RD (2014) (scala 0-10) N Minimo Massimo Media Deviazione std. 29 1 10 5,9 2,5 -- - + ++ 69,031,0 Nota -- : (punteggi 0-3) - : (punteggi 4-5) + : (punteggi 6-7) ++ : (punteggi 8-10) 4
  • 12. 12 SUA-RD 2014: VALUTAZIONE ANALITICA - PER SEGMENTI Media Globale (n=29) 5,9 Dipartimento di Psicologia o assimilabili (n=15) 5,3 CdS in Psicologia (n=10) 6,1 Aggregazione di docenti di Psicologia (n=4) 6,5* 4.1 * = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
  • 13. 13 VALUTAZIONE ASN 2012 (scala 0-10) N Minimo Massimo Media Deviazione std. 33 2 10 5,7 2,4 -- - + ++ Nota -- : (punteggi 0-3) - : (punteggi 4-5) + : (punteggi 6-7) ++ : (punteggi 8-10) 51,548,5 5
  • 14. 14 ASN 2012: VALUTAZIONE ANALITICA - PER SEGMENTI Media Globale (n=33) 5,7 Dipartimento di Psicologia o assimilabili (n=18) 6,0 CdS in Psicologia (n=9) 4,9* Aggregazione di docenti di Psicologia (n=7) 6,0 5.1 * = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
  • 15. 15 VALUTAZIONE ASN 2013 (scala 0-10) N Minimo Massimo Media Deviazione std. 27 2 10 5,3 2,478 -- - + ++ 44,455,6 Nota -- : (punteggi 0-3) - : (punteggi 4-5) + : (punteggi 6-7) ++ : (punteggi 8-10) 6
  • 16. 16 ASN 2013: VALUTAZIONE ANALITICA - PER SEGMENTI Media Globale (n=27) 5,3 Dipartimento di Psicologia o assimilabili (n=18) 6,2* CdS in Psicologia (n=4) 4,6* Aggregazione di docenti di Psicologia (n=5) 5,2 6.1 * = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05).
  • 17. 17 VALUTAZIONI ANALITICHE: UN QUADRO DI SINTESI (scala 0-10) 7 AVA ASN (2013) VQR (2011) SUA-RD (2014) ASN (2012) 5.7 5.46.8*5.0* 5.1 5.83.9*5.8 5.9 6.5*6.15.3 5.7 6.04.9*6.0 5.3 5.24.6*6.2* Agg.CdSDip. * = Differenze (positive/negative) significative (+/-) rispetto al totale al livello di significatività del 5% (p< .05). MEDIA
  • 18. 18  Oggettività e trasparenza (N=19)  Cultura della valutazione (N=13)  Premio alla qualità (N=8)  Apertura all’internazionalizzazione/ superamento logiche localistiche (N=7) I MOTIVI DELLA VALUTAZIONE8 - + Eccesso di burocrazia (N=25) Criteri poco chiari e arbitrari (N=23) Rigidità (N=5)
  • 19. 19  MAGGIORE CHIAREZZA/MENO ARBITRARIETA’ PROCEDURE (N=16)  SNELLIMENTO BUROCRAZIA/SEMPLIFICAZIONE PROCEDURE (N=11)  INTRODUZIONE BANCHE DATI «FREE ACCESS» (es. google scholar) (N=6)  PIU’ COLLABORAZIONE CON ISTITUZIONI DI RIFERIMENTO (MIUR, CUN, CPA, AIP) (N=4) VALUTAZIONE COMPLESSIVA: I MIGLIORAMENTI PIU’ URGENTI e IMPORTANTI 9
  • 20. 20 UN TWEET ALL’ANVUR (*)10 «Il giudizio complessivo concordato è stato sufficiente nonostante i numerosi elementi di criticità, perché si ritiene utile sostenere e promuovere la cultura della valutazione all’Università» (*) Per una ricognizione analitica: cfr. appendice
  • 21. 21 UNA POSTILLA PERSONALE (come «portatore privilegiato» di esperienza): ALCUNI SUGGERIMENTI 1 RIDURRE L’EFFETTO «FATICA»  SNELLIRE PROCEDURE  RIVEDERE CALENDARI (AVA ANNUALE?)  EVITARE DOPPIONI (VQR e SUA-RD 2015)  FACILITARE I PERCORSI E L’INSERIMENTO DATI 2 SOSTENERE IL PASSAGGIO  DA UNA CULTURA DELLA QUALITA’ PER «ADEGUATEZZA FORMALE»…  …AD UNA «PER RISULTATI»
  • 22. 22 (…segue) 3 ATTENZIONE AI MICRO-PROCESSI ATTUATIVI (fra questi: SSD «ecologici») 4 RIPENSARE LE «REGOLAZIONI IMPLICITE» DEL «TAVOLO DI LAVORO»  REGOLAZIONE ORIZZONTALE (ANVUR, MIUR, CUN…)  REGOLAZIONE VERTICALE (ANVUR ↔ SEDE)
  • 23. Appendice - un messaggio finale all’ANVUR 23
  • 24. 24 UN TWEET ALL’ANVUR (a) «Il livello di complessità è tale da ostacolare lo svolgimento delle attività oggetto di valutazione. La valutazione deve basarsi su criteri semplici e sul lavoro del valutatore, non valutato; la SUA RD annuale perché deve essere gestita dall'ANVUR? Credo sia sufficiente la VQR; le altre valutazioni non potrebbero essere a carico del CUN, CRUI o degli atenei?; in generale c'è la sensazione che essere valutati in qualsiasi ambito non porti a nulla in termini di azioni da parte di ANVUR/MIUR» «Includere esperti universitari (es di statistica) nel panel di chi definisce regole e metodi: anche se l'ANVUR è privato, non può non considerare che le migliori menti stiano solo FUORI dall'università!» «Francamente non vedo la necessità di una agenzia permanente, costosa qual è oggi l’ANVUR; gli adempimenti burocratici sono aumentati a dismisura (vedi AVA, TECO, SUA RD) senza che a questi oneri per le strutture siano poi seguiti risultati significativi in termini di politiche di indirizzo o di allocazione di risorse; gran parte delle funzioni svolte oggi dall’ANVUR potrebbero tranquillamente, senza costi aggiuntivi, essere svolte dal CUN» «La legge 240/2010 ha introdotto alcuni aspetti potenzialmente positivi in relazione ai processi di valutazione, primo tra tutti l’Abilitazione Scientifica Nazionale. Il modo in cui l’ANVUR ha implementato il mandato del legislatore in relazione all’ASN è risultato ampiamente insoddisfacente. Simili considerazioni possono essere fatte in relazione ai processi di valutazione della didattica e della ricerca. I punteggi qui attributi nelle sezioni da 1 a 6 fanno specifico riferimento alle azioni intraprese dall’ANVUR piuttosto che all’idea che processi di valutazione in ambito accademico siano necessari, idea condivisibile e per sviluppare la quale è auspicabile un deciso cambiamento nelle politiche ministeriali. Intervento prioritario è snellire e accorpare le procedure (è davvero necessaria la contemporanea esistenza della VQR e della SUA-RD?) acquisendo solo le informazioni davvero rilevanti e rinunciando al controllo centralizzato di aspetti non rilevanti nella definizione degli standard qualitativi»
  • 25. 25 UN TWEET ALL’ANVUR (b) «Credo che lo sforzo dell’ANVUR sia motivato da intenzioni condivisibili. Tuttavia i compromessi che hanno caratterizzato l’applicazione pratica dei necessari processi di valutazione esterna dei risultati della ricerca, a mio parere, hanno prodotto effetti di segno opposto a quelle che potevano essere le intenzioni originarie. All’Università è stato imposto uno strumento di ‘valutazione’ che non è nato all’interno del mondo accademico (e dunque tiene poco in considerazione le sue reali regole di funzionamento), che è estremamente diverso da quelli utilizzati dalle università che figurano in posizioni alte nei ranking internazionali, e che si sta dimostrando uno strumento, ancora più potente di quelli disponibili in passato, per umiliare i meriti dei docenti e per rafforzare le baronie locali». «E’ indispensabile un maggiore investimento negli atenei pubblici. Dal punto di vista dei ranking internazionali, c’è sicuramente spazio per un miglioramento. I dati disponibili indicano che in termini di efficienza (pubblicazioni per spesa) i risultati sono positivi. Se questo è vero, il problema dei ranking non si risolve diminuendo i finanziamenti alla ricerca, ma aumentandoli. Inoltre, gli indici bibliometrici sono utili ma non esclusivi. Tuttavia le commissioni dell’ASN li hanno usati (o non usati) in assenza di criteri omogenei e condivisi. Esercitare azioni di controllo sulle diverse fasi di valutazione affinché i processi siano adeguati e non destino critiche. Portare a regime le procedure valutative per favorire una maggiore accettazione da parte dei docenti e iniziare un processo di miglioramento».
  • 26. 26 UN TWEET ALL’ANVUR (c) «Scegliere valutatori ANVUR/VQR competenti. Inoltre i criteri di valutazione dovrebbero essere pubblicati a priori. Come i referee per gli articoli inviati alle riviste, anche i valutatori ANVUR/VQR potrebbero specificare quali criteri definiscono un lavoro eccellente, accettabile o limitato. Nella nostra esperienza, per esempio, non è apparso chiaro in che modo la valutazione abbia considerato la collocazione editoriale (livello locale/nazionale), la tipologia di prodotto (teorico o di ricerca)». «Sia per la VQR sia per l’ASN, i problemi più rilevanti e con ricadute più gravi, si sono verificati per il comportamento disomogeneo dei colleghi del nostro macro-‐settore M-‐PSI impegnati a vario titolo nelle valutazioni». «L’aspetto più significativo, in termini politici generali, delle politiche ANVUR e della correlata aggregazione dei settori concorsuali e adozioni del sistema bibliometrico per la psicologia e la “separazione” dell’area CUN 11B. Per la prima volta, dopo anni di richieste la psicologia ha di fatto un’area CUN indipendente e riconoscibile. Sia in termini politici che di immagine pubblica, crediamo che questo possa essere di estrema importanza e si debbano mettere in atto tutte le iniziative possibile per rafforzare questa separazione dagli altri settori dell’area 11».

Editor's Notes

  1. 1