SlideShare a Scribd company logo
1 of 41
Download to read offline
Martin Srholec
29. 9. 2015
www.metodika.reformy-msmt.cz
Obecné zásady
hodnocení programů
účelové podpory
výzkumu, vývoje a
inovací
Kdo je Martin Srholec?
Ekonomie inovací, inovační politika, ekonomický rozvoj
http://home.cerge-ei.cz/srholec/index.html
• Ph.D. na VŠE v Praze (2003) a na Univerzitě v Oslu (2005)
• Research Fellow a postdok na Univerzitě v Oslu, Norsko (2002-2010)
• Výzkumný pracovník na CERGE-EI v Praze (od roku 2010)
• Associate Professor na Univezitě v Lundu, Švédsko (od roku 2011)
Spolupracovník IPn Metodika, MŠMT
Hodnocení projektů pro GAČR (předseda panelu P403) a TAČR (expertní
hodnotící komise programu OMEGA)
Komise pro hodnocení výsledků výzkumných organizací a ukončených
programů při RVVI
RIO (dříve ERAWATCH) korespondent, Evropská komise
Konzultační práce pro UNCTAD, UNECE a UNIDO
1
Účelové výdaje státního rozpočtu
na VVI v roce 2014
• Nezahrnuje dotace na VVI z OP EU
• Nezahrnuje nepřímou podporu (daňové odpočty) pro VaV ve firmách
2
Mezinárodní audit systému VVI v
ČR (Technopolis, 2011)
• Na rozdíl od vyspělých zemí EU není v ČR hodnocení programů VaVaI považováno za
důležitou součást procesu přípravy a realizace politik v oblasti VaVaI.
• Systém hodnocení programů VVI je spíše jen ex-post monitorováním dosažených
výsledků a nákladů potřebných k jejich dosažení.
• Velice negativně byla zhodnocena kvalita hodnocení, resp. zpráv z hodnocení
ukončených programů.
• Zprávy z hodnocení jednotlivých ukončených programů VVI nelze považovat za
„standardní“ evaluační zprávy, protože obsahují jen popis ukončených programů
VaVaI a jejich výsledků.
• Za velice diskutabilní je spolehlivost uváděných analýz, přičemž používaná data
většinou pocházejí pouze z IS VaVaI.
• Ačkoliv zprávy o hodnocení uvádějí jasné závěry, většina z nich není dostatečně a
spolehlivě doložena.
• Doporučení pro tvorbu navazujících či jiných programů VVI zpravidla nejsou ve
zprávách obsažena.
3
Metodika hodnocení od roku 2011
Rok 2013:
• Metodika hodnocení výsledků výzkumných organizací a hodnocení výsledků
ukončených programů (platná pro léta 2013 až 2015) – tzv. Metodika 2013 - opuštěn
tzv. „Index SR“, ale pouze dvě stránky o (souhrnném) hodnocení programů.
Rok 2014:
• Pracovní skupina při RVVI k systémovému opatření č. 18 Aktualizace Národní politiky
výzkumu, vývoje a inovací České republiky na léta 2009 až 2015 s výhledem do roku
2020
Rok 2015:
• Dokument „Základní principy přípravy a hodnocení programů a skupin grantových
projektů výzkumu, vývoje a inovací“ schválen předsednictvem RVVI
• Usnesení vlády č. 351 ze dne 13. května 2015, které ukládá vypracovat podle těchto
principů a vládě do 31. prosince 2016 předložit obecně závazný dokument upravující
přípravu a hodnocení programů a skupin grantových projektů
• Probíhá revize Metodiky 2013 pro rok 2016 (pouze menší změny)
Jak se budou hodnotit programy v období 2017+?
4
Příspěvek IPN Metodika
• Hlavním cílem projektu je vytvořit návrh nového systému hodnocení a financování
výzkumných organizací, tj. otázka institucionálního financování (spolupráce s firmou
Technopolis, atd.)
• Na podzim 2014 bylo rozhodnuto, že bude přidána i aktivita s cílem „navrhnout obecné
principy metodiky hodnocení programů účelové podpory v souladu s nejlepší
mezinárodní praxí v podmínkách ČR ... i návrh systémových změn potřebných pro
zavedení mezinárodních standardů hodnocení.“
• V první polovině roku 2015 byl zpracován dokument „Návrh obecných zásad
hodnocení programů účelové podpory výzkumu, vývoje a inovací a potřebných
systémových změn“
• Připomínky k první pracovní verzi od vybraných odborníků a první revize v dubnu a
květnu 2015
• Pracovní verze pro konzultace se zainteresovanými subjekty uvolněna během léta
2015
• Revize v září a finální verze v říjnu 2015
5
6
Cílem tohoto dokumentu je vymezit zásady, jak by
se mělo provádět hodnocení programů účelové
podpory výzkumu, vývoje a inovací v českých
podmínkách v návaznosti na nejlepší mezinárodní
praxi. Zásady jsou navrženy v obecné rovině tak,
aby mohly být zavedeny jako strategický nástroj pro
řízení na úrovni systému a následně rozpracovány
na konkrétní podmínky jednotlivých programů.
7
Obecné zásady hodnocení
pro různé typy hodnocení, včetně ex-ante hodnocení
návrhu programu, průběžného hodnocení chodu
programu a ex-post hodnocení jeho dopadů
a
pro různé druhy programů od skupin grantových projektů
pro akademický výzkum, přes programy pro podporu
spolupráce ve výzkumu až po dotace zaměřené na
inovace.
8
9
Program účelové podpory je nástroj implementace
národní politiky VVI.
10
Hodnocení programů
• Účelem hodnocení (anebo evaluace) je poskytovat poznatky pro
posuzování vhodnosti veřejných výdajových programů.
• Hodnocení pomáhá zlepšovat programy samotné a poskytuje svědectví
o jejich účincích.
• Hodnocení není monitorování, účetnictví, audit, statistika a ani
empirický výzkum.
• Hodnocen může být v podstatě kdokoliv, a na něm potažmo cokoliv,
avšak ne jakkoliv.
• K tomu, aby hodnocení plnilo své funkce, je nutné, aby se drželo
určitých obecných zásad.
11
Nejlepší mezinárodní praxe
• Severské země Dánsko, Finsko, Norsko a Švédsko, sousední Německo
s Rakouskem a tradičně Nizozemí, Velká Británie a Spojené státy
americké.
• Doporučení mezinárodních institucí a asociací jako Evropská komise,
OECD a European Network of Innovation Agencies (TAFTIE).
• Zejména byly využity průřezově laděné texty, tj. obecné příručky,
směrnice a manuály pro hodnocení.
• Nejedná se o nic světoborně nového, nýbrž o v zahraničí ověřené
postupy.
12
Desatero zásad hodnocení
1. Změna jako cíl. Smyslem programu je dosažení změny, ke které by za jinak stejných podmínek
nedošlo.
2. Dopady nade vše. Zajímají nás dopady, výsledky a výstupy v tomto pořadí důležitosti. Bez širších
dopadů program postrádá opodstatnění. Výstupy jsou pouze prostředkem k výsledkům a
potažmo dopadům.
3. Střih na míru. Každý program má vlastní metodiku hodnocení. Není přínosné se pokoušet vymezit
jeden vzorec použitelný pro všechny programy.
4. Kvalita důležitější kvantity. Nemá smysl hodnotit za každou cenu. Jedno kvalitně provedené
hodnocení má větší váhu než deset mizerných.
5. Hodnocení není popis. Hodnocení analyzuje přínosy podpory, podává normativní závěry,
nekonstatuje pouze fakta.
6. Důkazy, nikoliv názory. Závěry hodnocení jsou založeny na prokázaných skutečnostech. Pro
nepodložené spekulace není v hodnocení místo.
7. Jaká data, takové hodnocení. Hodnocení stojí a padá s kvalitou dat. Na datovou základnu pro
hodnocení je nutné myslet již na prvopočátku programu.
8. Sebehodnocení pro učení. Poskytovatel hodnotí vlastní program, pokud je hlavní funkce
hodnocení učící, pokud motivace pro jeho provedení vychází zevnitř.
9. Externí hodnocení pro kontrolu. Pokud je motivace pro hodnocení externí, pokud je ve hře
rozdělování peněz z národního rozpočtu, hodnocení provádí externí subjekt.
10. Naučit se učit se. Bez zpětné vazby na rozhodování tvůrců politik a poskytovatelů je hodnocení
zbytečné.
13
Východiska a koncept
hodnocení
14
Cíle a logika programu
• Program je soubor vzájemně se podporujících opatření, která jsou zaměřená na
dosažení jednoho anebo více konkrétních a předem vymezených cílů.
• Smyslem vládní intervence je dosažení změny, zlepšení neuspokojivého stavu, změna
chování příjemců podpory, napravení nějakého selhání. Cíle programu tudíž musí být
vymezeny dynamicky ve srovnání s výchozím stavem.
• Předpokladem pro kvalitní zhodnocení programu je jasné vymezení jeho cílů, v čem
bude spočívat úspěch a jakým způsobem to bude možné sledovat.
• Pokud jsou cíle vágní, nekonkrétní a neověřitelné, nemá se na jedné straně hodnotitel
o co opřít a na druhé straně se nemá poskytovatel na co odvolat, pokud by mu
hodnocení nepřipadalo spravedlivé.
• Model intervenční logiky uvádí principy působení programu. Jeho účelem je vysvětlit,
jak by mělo být s navrženými vstupy dosaženo zamýšlených cílů, pomocí jakých
mechanismů a na zakladě jakých předpokladů.
• Konkrétní vstupy, výstupy, výsledky a především širší dopady (a očekávané příčinné
souvislosti mezi nimi) se následně odvodí z těchto argumentů.
• Již návrh programu by měl obsahovat i) hlavní a dílčí cíle, ii) model intervenční logiky,
iii) metriku výkonnosti, iv) rozpočet se samostatnou položkou na hodnocení, v) plán
hodnocení.
15
Funkce hodnocení
• Funkce legitimizační - poskytovat opodstatnění pro použití veřejných
zdrojů za daným účelem.
• Funkce informační - přinášet informace o tom, jak se nakládá
s veřejnými prostředky a co z toho má společnost, tj. jaké má program
dopady.
• Funkce učící - poučit se z předchozích úspěchů a nezdarů, tj. postupné
zlepšování podpůrných programů.
• Funkce usměrňovací - pomáhat při stanovování strategií, cílů a plánů
programů do budoucna.
• Funkce mediační - tříbit, kultivovat diskusi a vyhrazovat mantinely
během střetu konkurečních zájmů jednotlivých aktérů.
16
Typy hodnocení
17
Metodika hodnocení
18
Co je to metodika hodnocení?
• Metodika hodnocení je postup zvláště vytvořený za účelem hodnocení
jednoho konkrétního programu.
• Může zahrnovat jednu metodu anebo častěji kombinaci různých -
kvantitativních i kvalitativních - metod.
• Každý program má svoji vlastní metodiku hodnocení, která se v
závislosti na jeho nastavení, cílech, průběhu, kontextu a dostupných
datech liší od jiných programů.
• Není přínosné snažit se vymezit jednu metodiku použitelnou pro
všechny programy.
• Nicméně je možné vymezit obecné náležitosti, které by mělo hodnocení
z hlediska metodiky splňovat.
19
Poznámky k metodice
• Rozdíl mezi monitorováním a hodnocením - sběr dat o průběhu programu a
celkově vytváření datové základny je sice zásadní podpůrnou činností,
nicméně samotné hodnocení začíná teprve tam, kde monitorování končí,
hodnocení programů nelze zužovat na prosté počítání bodů za výstupy
uplatněné pod jejich hlavičkou.
• Hodnocení má být průkazné - hodnocení má být tzv. „evidence-based“, což
znamená, že zodpovězení hodnotících otázek není založeno na doměnkách,
spekulacích a nepodložených tvrzeních, ale na základě výsledků získaných
pomocí metod k tomu určených, které jsou schopny na dané otázky
uspokojivě odpovědět.
• Rozmanitost použitelných metod - hodnocení může zahrnovat jednu metodu
anebo daleko lépe kombinaci metod, tzv. triangulaci, které mohou být
kvantitativní i kvalitativní.
20
Hodnotící otázky
Kritéria hodnocení programů podle tzv. I-O-O-I modelu:
• Relevance (relevance) – ptáme se, zda se cíle programu zaměřují na dostatečně závažná
selhání, která je prioritní řešit s odkazem na strategické vládní dokumenty (děláme správnou
věc?).
• Efektivnost (effectiveness) – zjišťujeme, zda přínosy podpořených aktivit jsou v souladu s cíli
programu, jak velký byl motivační (pákový) efekt podpory a do jaké míry lze přínosy
přiřkrnout podpoře (co se stalo v důsledku podpory?).
• Efektivita (efficiency) – zkoumáme, zda jsou veřejné zdroje vynaloženy hospodárně, tj. zda
dopady, výsledky a výstupy odpovídají vstupům (bylo možné dosáhnout stejného účinku s
méně vstupy?).
• Užitečnost (utility) – šetříme, zda program vyřešil (anebo pomáhá řešit) selhání, kvůli
kterému byl spuštěn, včetně jeho nezamýšlených následků, a komu to je ku prospěchu (je
ještě třeba udělat něco dalšího?).
• Udržitelnost (sustainability) – chceme vědět, do jaké míry bude působení programu
pokračovat i po jeho skončení (bude mít podpora trvalé přínosy?).
Zdroj: (Boekholt, P., et al. (2014, str. 10).
21
Design hodnocení
• Je nutné pátrat po příčinných souvislostech, tj. určení příčiny a
následku?
• Lze rozlišit tři základní možnosti:
• Neexperimentální design – k zodpovězení hodnotících otázek není třeba určovat
příčinné souvislosti, tj postačuje deskriptivní přístup, což je typické pro ex-ante a
obvykle i průběžné hodnocení.
• Kvaziexperimentální design – zodpovězení hodnotících otázek vyžaduje pátrání
po příčinných souvislostech, což je rostoucí měrou součástí ex-post hodnocení a
podstatou hodnocení dopadů, avšak podpora nebyla mezi žadatele záměrně
rozdělena náhodným způsobem, tj. nahodilost musíme simulovat pomocí
kvaziexperimentálních metod.
• Experimentální design – hodnotící otázky se ptají po příčinných souvislostech,
přičemž podpora byla žadatelům přidělena náhodně, což sice v případě veřejných
výdajových programů není zcela vyloučeno, avšak v praxi zřídka proveditelné.
22
Kontrafaktuální přístup
Rozklíčování kontrafaktuálního problému, co by bylo (např. jaké
by byly výsledky), kdyby účelová dotace poskytnuta nebyla.
Řízený experiment (zpravidla) není možný, takže kvazi- (pseudo)-
experimenty pomocí simulace kontrafaktuální situace s použitím
rozličných analytických metod.
Spočívá v testování „hypotéz“ o (ne)existenci účinku podpory na
vstupy, chování, výstupy a širší dopady.
Podobné jako „výzkum“ v sociálních vědách, tj. použití vědecké
metody, ale nikoliv s požadavkem na prvek novosti.
23
Datová základna
24
Zdroje dat
• Data z monitorování – posbíraná poskytovatelem v průběhu implementace
programu – klíčový zdroj pro hodnocení průběžné, ex-post i dopadů, který
zahrnuje nejenom data povinně zadávaná do IS VaVaI, ale i přímo od
poskytovatele, včetně dat z procesu hodnocení žádostí o projekty jako údaje
vyplněné do žádostí, seznamy financovaných i nepodpořených projektů, jejich
pořadí nad „čarou“ financování a pod ní, rozdělení žádostí mezi zpravodaje,
apod.
• Sekundární databáze – získatelná z existujících databází – záleží na kvalitě
datové infrastruktury v zemi, zahrnuje data z předchozích hodnocení, volně
přístupných databází, komerčních databází a data sbíraná veřejnými institucemi
jako je statistický úřad; výhodou je dostupnost dat i za kontrolní skupinu, tj.
nežadatele o podporu, a zpravidla za delší časové řady, avšak problém může
nastat při zajištění přístupu k nim.
• Primární šetření – v písemné (dotazníkové) podobě anebo pomocí rozhovorů –
používá se pro získání dat jinak nedostupných, která je nutné nově sesbírat
v průběhu hodnocení, většinou jsou z důvodu nákladů na sběr omezena na
příjemce podpory, takže chybí údaje za kontrolní skupinu, problematická je míra
odezvy respondentů, a tudíž reprezentativnost sesbíraných dat.
25
Mikrodata, mikrodata, mikrodata
• Pokročilejší analytické metody zpravidla vyžadují individální údaje, tj. mikrodata.
• Při agregaci mikrodat dochází ke ztrátě variability, která může být zásadní právě
pro vyhodnocení účinku podpory.
• Příjemcem podpory nikdy není odvětví, sektor anebo region, ale konkrétní mikro
subjekt.
• Pokud analyzujeme agregovaná data, nemůžeme si být nikdy jisti, že zjištěné
výsledky nejsou pouze statistickým klamem.
• Účinky na agregátní úrovni, které nás rovněž mohou zajímat, lze do modelů
definovaných na individuální úrovni zabudovat.
• Rozsáhlé zdroje mikrodat existují, zřídka se však v českých podmínkách
využívají k analytickým účelům.
• Otázkou je zajištění přístupu k mikrodatům, které je třeba řešit systematicky na
centrální úrovni.
26
Systém hodnocení
27
Role aktérů v systému
• Tvůrce politik – má na starosti strategické směřování programů VVI. Společenskou poptávku po řešení
určitých selhání převádí do priorit pro vládní intervence, čímž vymezuje životní prostor pro programy, tj.
nastavuje „terč“, do kterého se strefují návrhy programů od poskytovatelů. Činí politická rozhodnutí,
zajišťuje koordinaci a doporučuje návrhy programů k financování. Jeho hlavním nástrojem jsou strategické
vládní dokumenty, nařízení a rozhodnutí.
• Poskytovatel – provádí taktické řízení programů VVI. Přichází s řešením selhání v rámci priorit vymezených
tvůrcem politik. Předkládá návrhy programů a plní roli jejich správce. Rozhoduje o podpoře pro jednotlivé
projekty v programech a tuto podporu poskytuje. Jeho hlavním nástrojem je návrh programu, zadávací
dokumentace programu a obecně vše, co souvisí s jeho implementací.
• Zadavatel – zadává hodnocení programů VVI, buď interně pro svůj vlastní program, anebo externě pro
programy jiných aktérů. Stanovuje základní parametry hodnocení, mezi které patří cíle, funkce, předmět,
metody a časový rozvrh hodnocení. Jeho hlavním nástrojem je zadávací dokumentace hodnocení, případně
smlouva s externím hodnotitelem.
• Hodnotitel – provádí hodnocení progamů VVI, ať už interně v rámci poskytovatele, anebo externě. Podle
zadávací dokumentace hodnocení navrhuje jeho projekt a zajišťuje hodnotící práce. Na základě odborného
posouzení poskytuje zpětnou vazbu k programům. Přináší podložená doporučení pro rozhodování. Jeho
hlavním nástrojem je hodnotící zpráva.
• Veřejnost – sleduje, kontroluje a vyjadřuje se k dění v systému. Tvoří ji všechny ostatní zainteresované
subjekty v oblasti programů VVI, mezi které patří i cílová skupina programu, příjemci podpory, uživatelé
přínosů programu, zájmové skupiny, nezávislý odborníci i široká veřejnost. Jejich hlavním nástrojem jsou
sdělení pro ostatní aktéry, mezi které může patřit i pro bono hodnocení programů.
28
Režimy provádění
• Plnohodnotný režim (pro velké programy) - celý cyklus hodnocení, mělo by
to být povinné podle určitých měřítek jako délka v rocích anebo výše
rozpočtu, například pro programy trvající více než pět let s rozpočtem více
než 1 mld. Kč.
• Zjednodušený režim (pro střední programy, co do délky a velikosti) - úlevy z
vybraných požadavků, například možnost vynechání průběžného hodnocení
pro krátké programy, odpuštění hodnocení dopadů anebo obecně nižší
požadavky na data a metody, avšak ex-post hodnocení by mělo zůstat
povinné.
• Minimalizovaný režim (pro malé a krátké programy) – možnost výrazných
úlev v hodnocení průběžném, ex-post i dopadů anebo jejich úplné
odpuštění, například pro programy trvající do tří let s rozpočtem méně než
100 mil. Kč.
29
Nezávislost, nestrannost a etika
30
Nástrahy, nároky a důvěryhodnost
• Pro spravedlivé hodnocení musí všechny zainteresované strany dodržovat určitá
pravidla chování.
• Hodnotitelé se mohou ocitnout pod tlakem silných a zároveň protichůdných zájmů,
kterým se nezávislost hodnocení a nebezpečí toho či onoho závěru protiví.
• Nastavit systém hodnocení, aby v něm tyto tlaky měly co nejmenší prostor na
uplatnění.
• Hodnotitel musí dodržovat základní etické principy, na kterých je provádění jeho
profese postaveno (např. Česká evaluační společnost).
• Zadavatel musí respektovat nezávislost hodnotitele. Měl by se vystříhat přímých
zásahů do procesu hodnocení.
• Hodnocení musí být provedeno nestranně. Pokud mají být závěry hodnocení
hodnověrné, musí být podložené, spravedlivé a transparentní.
• Nezávislost, nestrannost a etické principy hodnocení je třeba brát velmi vážně, protože
jinak se systém hodnocení může přeměnit na nástroj pro výrobu argumentů k
prosazování parciálních zájmů.
31
Návrh systémových změn
32
Nastavení systému
• ÚVVI se stane ústředním aktérem v systému hodnocení programů, vymezí
obecné zásady hodnocení programů, které budou závazné pro ostatní aktéry.
• Poskytovatelé budou mít pravomoc předkládat návrhy programů k ex-ante
hodnocení.
• ÚVVI bude mít povinnost zajišťovat ex-ante hodnocení návrhů programů od
poskytovatelů a bude doporučovat návrhy programů k financování před
předložením do vlády.
• Poskytovatelé budou mít odpovědnost za průběžné hodnocení svých programů.
• ÚVVI bude mít odpovědnost za hodnocení ex-post a dopadů vybraných
programů.
• ÚVVI bude rozhodovat o režimu hodnocení programů a organizovat jeho
případné změnové řízení.
• ÚVVI bude dohlížet na kvalitu veškerého hodnocení programů a případně
stanovovat odpovídající sankce.
33
Navrhované rozdělení rolí
v českých podmínkách
34
Hodnocení
ex-ante
Průběžné
hodnocení
Hodnocení
ex-post
Hodnocení
dopadů
Kdo nese za
hodnocení
dopovědnost?
ÚVVI Poskytovatel ÚVVI ÚVVI
Kdo hodnocení
provádí?
ÚVVI anebo externí
hodnotitel (může
být zadáno
externě)
Poskytovatel anebo
externí hodnotitel
(může být zadáno
externě)
Smíšený tým z
ÚVVI,
poskytovatele a
externího
hodnotitele anebo
pouze externí
hodnotitel
Externí hodnotitel
Kdo zadává externí
hodnocení?
ÚVVI Poskytovatel ÚVVI ÚVVI
Kdo zajišťuje
uplatnění závěrů
hodnocení?
ÚVVI Poskytovatel ÚVVI ÚVVI
Kdo dohlíží na
kvalitu hodnocení?
ÚVVI ÚVVI ÚVVI ÚVVI
Lidské zdroje
• Rozvinout program celoživotního vzdělávání pro lidi, kteří již v systémů
působí.
• Zavést na některé z vysokých škol studium VVI problematiky pro
vzdělávání nových odborníků.
• Provádět pilotní hodnocení s důrazem na učení se.
• Nespoléhat se pouze na zahraniční hodnotitele, zadávat hodnocení pro
kombinované domácí a zahraniční týmy a tím podpořit vytvoření domácí
znalostní báze.
• Založit českou platformu pro hodnocení VVI podle vzoru FTEVAL v
Rakousku.
35
Datové zdroje
• Zavést systém pro vzdálený přístup ke chráněným mikrodatům ČSÚ,
vytvořit systém pro přístup ke chráněným mikrodatům z IS VaVaI a
následně oba systémy propojit, tj. vytvořit centrální databázi mikrodat.
• Vytvořit depozitář primárních dat, tj. všechna primární mikrodata
posbíraná v rámci hodnocení programů budou pro budoucí využití
uložena na jednom místě.
• Zavést informační povinnost žadatelů o podporu, tj. příjemci i odmítnutí
žadatelé se přihlášením do veřejné soutěže o podporu pod hrozbou
sankce zavazují poskytovat data potřebná pro vyhodnocení programu.
36
Finanční zdroje
• Na systém hodnocení bude řádově vyčleněno 0,5 až 1,0%, tj. řádově 70
až 140 mil. Kč, z ročních výdajů na programy účelové podpory.
• Bude nutné zavést takový způsob zadávání veřejných zakázek pro
externí hodnocení programů, aby byla zajištěna zásadní váha faktoru
kvality.
37
Připomínky od zainteresovaných
subjektů
• Obecné zásady, které jsou příliš obecné.
• Není to v souladu s platnými zákony (zákon o VVI, kompetenční zákon, zákon o
statistice, atd.).
• Jedná se o standardní zásady hodnocení, které známe ze zahraničí, není na tom
nic nového.
• Nemáme na to lidi, neznáme metody, nejsou k tomu potřebná data, bude to
obtížné.
• Odhad nákladů na takový systém hodnocení je příliš nízký anebo příliš vysoký,
nevíme, kolik to bude stát.
• Nejsou řešeny otázky implementace, vizí už máme dost, potřebujeme vědět, jak
to implementovat.
• Naše programy jsou jiné než ostatních, nás se to netýká, hodnotit
nepotřebujeme, nechte nás být.
38
Stupňující se tlak ze strany Evropské komise na
zkvalitnění hodnocení programů (Evalution in the
field of State aid: Methodological Guidance Paper,
apod.)
39
Děkuji za pozornost!
www.metodika.reformy-msmt.cz

More Related Content

What's hot

Poučení z evaluací vzdělávacích projektů
Poučení z evaluací vzdělávacích projektůPoučení z evaluací vzdělávacích projektů
Poučení z evaluací vzdělávacích projektůInka Pibilova
 
Doporučené změny vnitřních předpisů VVŠ
Doporučené změny vnitřních předpisů VVŠDoporučené změny vnitřních předpisů VVŠ
Doporučené změny vnitřních předpisů VVŠMEYS, MŠMT in Czech
 
MALÉ PILOTNÍ HODNOCENÍ A VYUŽITÍ IS VaVaI JAKO NÁSTROJE PŘI HODNOCENÍ / Záv...
MALÉ PILOTNÍ HODNOCENÍ A VYUŽITÍ IS VaVaI JAKO NÁSTROJE PŘI HODNOCENÍ  /  Záv...MALÉ PILOTNÍ HODNOCENÍ A VYUŽITÍ IS VaVaI JAKO NÁSTROJE PŘI HODNOCENÍ  /  Záv...
MALÉ PILOTNÍ HODNOCENÍ A VYUŽITÍ IS VaVaI JAKO NÁSTROJE PŘI HODNOCENÍ / Záv...MEYS, MŠMT in Czech
 
Harmonogram postupných kroků realizace návrhů nového hodnocení a financování ...
Harmonogram postupných kroků realizace návrhů nového hodnocení a financování ...Harmonogram postupných kroků realizace návrhů nového hodnocení a financování ...
Harmonogram postupných kroků realizace návrhů nového hodnocení a financování ...MEYS, MŠMT in Czech
 
Podklady a doporučení pro zapracování do věcného záměru zákona nahrazujícího ...
Podklady a doporučení pro zapracování do věcného záměru zákona nahrazujícího ...Podklady a doporučení pro zapracování do věcného záměru zákona nahrazujícího ...
Podklady a doporučení pro zapracování do věcného záměru zákona nahrazujícího ...MEYS, MŠMT in Czech
 
Monitoring zamereny na vysledky a evaluace
Monitoring zamereny na vysledky a evaluace Monitoring zamereny na vysledky a evaluace
Monitoring zamereny na vysledky a evaluace Inka Pibilova
 
Návrh obecných zásad hodnocení programů účelové podpory VVI a potřebných syst...
Návrh obecných zásad hodnocení programů účelové podpory VVI a potřebných syst...Návrh obecných zásad hodnocení programů účelové podpory VVI a potřebných syst...
Návrh obecných zásad hodnocení programů účelové podpory VVI a potřebných syst...MEYS, MŠMT in Czech
 
Pilotní ověření návrhu nové metodiky hodnocení výzkumných organizací
Pilotní ověření návrhu nové metodiky hodnocení výzkumných organizacíPilotní ověření návrhu nové metodiky hodnocení výzkumných organizací
Pilotní ověření návrhu nové metodiky hodnocení výzkumných organizacíMEYS, MŠMT in Czech
 
Základní přehled přístupů k hodnocení programů účelové podpory VaVaI ve vybra...
Základní přehled přístupů k hodnocení programů účelové podpory VaVaI ve vybra...Základní přehled přístupů k hodnocení programů účelové podpory VaVaI ve vybra...
Základní přehled přístupů k hodnocení programů účelové podpory VaVaI ve vybra...MEYS, MŠMT in Czech
 
Hodnocení účelové podpory zkušenosti TA ČR
Hodnocení účelové podpory zkušenosti TA ČRHodnocení účelové podpory zkušenosti TA ČR
Hodnocení účelové podpory zkušenosti TA ČRMEYS, MŠMT in Czech
 

What's hot (18)

IPN Metodika / O projektu
IPN Metodika / O projektuIPN Metodika / O projektu
IPN Metodika / O projektu
 
Poučení z evaluací vzdělávacích projektů
Poučení z evaluací vzdělávacích projektůPoučení z evaluací vzdělávacích projektů
Poučení z evaluací vzdělávacích projektů
 
Analýza rizik pro zavedení NERO
Analýza rizik pro zavedení NEROAnalýza rizik pro zavedení NERO
Analýza rizik pro zavedení NERO
 
Knap
KnapKnap
Knap
 
Doporučené změny vnitřních předpisů VVŠ
Doporučené změny vnitřních předpisů VVŠDoporučené změny vnitřních předpisů VVŠ
Doporučené změny vnitřních předpisů VVŠ
 
MALÉ PILOTNÍ HODNOCENÍ A VYUŽITÍ IS VaVaI JAKO NÁSTROJE PŘI HODNOCENÍ / Záv...
MALÉ PILOTNÍ HODNOCENÍ A VYUŽITÍ IS VaVaI JAKO NÁSTROJE PŘI HODNOCENÍ  /  Záv...MALÉ PILOTNÍ HODNOCENÍ A VYUŽITÍ IS VaVaI JAKO NÁSTROJE PŘI HODNOCENÍ  /  Záv...
MALÉ PILOTNÍ HODNOCENÍ A VYUŽITÍ IS VaVaI JAKO NÁSTROJE PŘI HODNOCENÍ / Záv...
 
Harmonogram postupných kroků realizace návrhů nového hodnocení a financování ...
Harmonogram postupných kroků realizace návrhů nového hodnocení a financování ...Harmonogram postupných kroků realizace návrhů nového hodnocení a financování ...
Harmonogram postupných kroků realizace návrhů nového hodnocení a financování ...
 
Podklady a doporučení pro zapracování do věcného záměru zákona nahrazujícího ...
Podklady a doporučení pro zapracování do věcného záměru zákona nahrazujícího ...Podklady a doporučení pro zapracování do věcného záměru zákona nahrazujícího ...
Podklady a doporučení pro zapracování do věcného záměru zákona nahrazujícího ...
 
Jak napsat grantovou žádost
Jak napsat grantovou žádostJak napsat grantovou žádost
Jak napsat grantovou žádost
 
Monitoring zamereny na vysledky a evaluace
Monitoring zamereny na vysledky a evaluace Monitoring zamereny na vysledky a evaluace
Monitoring zamereny na vysledky a evaluace
 
Návrh obecných zásad hodnocení programů účelové podpory VVI a potřebných syst...
Návrh obecných zásad hodnocení programů účelové podpory VVI a potřebných syst...Návrh obecných zásad hodnocení programů účelové podpory VVI a potřebných syst...
Návrh obecných zásad hodnocení programů účelové podpory VVI a potřebných syst...
 
K2 msmt - prazakova
K2   msmt - prazakovaK2   msmt - prazakova
K2 msmt - prazakova
 
Best Project Management 2008 Souhrn
Best Project Management 2008 SouhrnBest Project Management 2008 Souhrn
Best Project Management 2008 Souhrn
 
Pilotní ověření návrhu nové metodiky hodnocení výzkumných organizací
Pilotní ověření návrhu nové metodiky hodnocení výzkumných organizacíPilotní ověření návrhu nové metodiky hodnocení výzkumných organizací
Pilotní ověření návrhu nové metodiky hodnocení výzkumných organizací
 
K2 nidv - hoskova
K2   nidv - hoskovaK2   nidv - hoskova
K2 nidv - hoskova
 
K2 spvc - faiferlikova
K2   spvc - faiferlikovaK2   spvc - faiferlikova
K2 spvc - faiferlikova
 
Základní přehled přístupů k hodnocení programů účelové podpory VaVaI ve vybra...
Základní přehled přístupů k hodnocení programů účelové podpory VaVaI ve vybra...Základní přehled přístupů k hodnocení programů účelové podpory VaVaI ve vybra...
Základní přehled přístupů k hodnocení programů účelové podpory VaVaI ve vybra...
 
Hodnocení účelové podpory zkušenosti TA ČR
Hodnocení účelové podpory zkušenosti TA ČRHodnocení účelové podpory zkušenosti TA ČR
Hodnocení účelové podpory zkušenosti TA ČR
 

Viewers also liked

Family Book SM - Public
Family Book SM - PublicFamily Book SM - Public
Family Book SM - PublicAlana Rhoden
 
What is Associated Equipment Distributors?
What is Associated Equipment Distributors?What is Associated Equipment Distributors?
What is Associated Equipment Distributors?aedinformation
 
Lettera m5 s sulle problematiche dei pendolari
Lettera m5 s sulle problematiche dei pendolariLettera m5 s sulle problematiche dei pendolari
Lettera m5 s sulle problematiche dei pendolariClaudia Bertanza
 
Исследование рынка mHealth в России и Мире: отдельные результаты
Исследование рынка  mHealth в России и Мире: отдельные результатыИсследование рынка  mHealth в России и Мире: отдельные результаты
Исследование рынка mHealth в России и Мире: отдельные результатыAlexey Kondrashov
 
Рынок предпочтовой подготовки в России и за рубежом: общее состояние и перспе...
Рынок предпочтовой подготовки в России и за рубежом: общее состояние и перспе...Рынок предпочтовой подготовки в России и за рубежом: общее состояние и перспе...
Рынок предпочтовой подготовки в России и за рубежом: общее состояние и перспе...Alexey Kondrashov
 
[W f stoecker]_refrigeration_and_a_ir_conditioning_(book_zz.org)
[W f stoecker]_refrigeration_and_a_ir_conditioning_(book_zz.org)[W f stoecker]_refrigeration_and_a_ir_conditioning_(book_zz.org)
[W f stoecker]_refrigeration_and_a_ir_conditioning_(book_zz.org)Mike Mentzos
 
Parotiditis - Virus de la Parotiditis.
Parotiditis - Virus de la Parotiditis.Parotiditis - Virus de la Parotiditis.
Parotiditis - Virus de la Parotiditis.Ivann Peron
 
Asthma1
Asthma1Asthma1
Asthma1lawba
 

Viewers also liked (13)

The Emoji Movie
The Emoji MovieThe Emoji Movie
The Emoji Movie
 
Grey_Zone_Model
Grey_Zone_ModelGrey_Zone_Model
Grey_Zone_Model
 
Chrisy sarmiento 3ro c
Chrisy sarmiento 3ro cChrisy sarmiento 3ro c
Chrisy sarmiento 3ro c
 
Family Book SM - Public
Family Book SM - PublicFamily Book SM - Public
Family Book SM - Public
 
What is Associated Equipment Distributors?
What is Associated Equipment Distributors?What is Associated Equipment Distributors?
What is Associated Equipment Distributors?
 
Lettera m5 s sulle problematiche dei pendolari
Lettera m5 s sulle problematiche dei pendolariLettera m5 s sulle problematiche dei pendolari
Lettera m5 s sulle problematiche dei pendolari
 
e2 proclamation
e2 proclamatione2 proclamation
e2 proclamation
 
The Emoji Movie
The Emoji MovieThe Emoji Movie
The Emoji Movie
 
Исследование рынка mHealth в России и Мире: отдельные результаты
Исследование рынка  mHealth в России и Мире: отдельные результатыИсследование рынка  mHealth в России и Мире: отдельные результаты
Исследование рынка mHealth в России и Мире: отдельные результаты
 
Рынок предпочтовой подготовки в России и за рубежом: общее состояние и перспе...
Рынок предпочтовой подготовки в России и за рубежом: общее состояние и перспе...Рынок предпочтовой подготовки в России и за рубежом: общее состояние и перспе...
Рынок предпочтовой подготовки в России и за рубежом: общее состояние и перспе...
 
[W f stoecker]_refrigeration_and_a_ir_conditioning_(book_zz.org)
[W f stoecker]_refrigeration_and_a_ir_conditioning_(book_zz.org)[W f stoecker]_refrigeration_and_a_ir_conditioning_(book_zz.org)
[W f stoecker]_refrigeration_and_a_ir_conditioning_(book_zz.org)
 
Parotiditis - Virus de la Parotiditis.
Parotiditis - Virus de la Parotiditis.Parotiditis - Virus de la Parotiditis.
Parotiditis - Virus de la Parotiditis.
 
Asthma1
Asthma1Asthma1
Asthma1
 

Similar to Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

Research Evaluation -Approaches and Methods
Research Evaluation -Approaches and MethodsResearch Evaluation -Approaches and Methods
Research Evaluation -Approaches and MethodsMEYS, MŠMT in Czech
 
Souhrnná zpráva / Metodika hodnocení ve Výzkumu a vývoji a zásady financování
Souhrnná zpráva / Metodika hodnocení ve Výzkumu a vývoji a zásady financováníSouhrnná zpráva / Metodika hodnocení ve Výzkumu a vývoji a zásady financování
Souhrnná zpráva / Metodika hodnocení ve Výzkumu a vývoji a zásady financováníMEYS, MŠMT in Czech
 
IPN „Zajišťování a hodnocení kvality vsystému terciárního vzdělávání“
IPN „Zajišťování a hodnocení kvality vsystému terciárního vzdělávání“IPN „Zajišťování a hodnocení kvality vsystému terciárního vzdělávání“
IPN „Zajišťování a hodnocení kvality vsystému terciárního vzdělávání“MŠMT IPN KVALITA
 
EPR2014: Implementace ESIF v programovém období 2014-2020 (D. Nohejlová)
EPR2014: Implementace ESIF v programovém období 2014-2020 (D. Nohejlová)EPR2014: Implementace ESIF v programovém období 2014-2020 (D. Nohejlová)
EPR2014: Implementace ESIF v programovém období 2014-2020 (D. Nohejlová)Regionální Rada Moravskoslezsko
 
Alice_IT_Startegy_CZE_v2
Alice_IT_Startegy_CZE_v2Alice_IT_Startegy_CZE_v2
Alice_IT_Startegy_CZE_v2Jiri Novacek
 
Základní informace o projektu / Závěrečná konference
Základní informace o projektu / Závěrečná konferenceZákladní informace o projektu / Závěrečná konference
Základní informace o projektu / Závěrečná konferenceMŠMT IPN KVALITA
 
Metodika pro odborné konzultanty
Metodika pro odborné konzultantyMetodika pro odborné konzultanty
Metodika pro odborné konzultantyNarodniInstitut
 
Úvod k metodikám IPN KVALITA
Úvod k metodikám IPN KVALITAÚvod k metodikám IPN KVALITA
Úvod k metodikám IPN KVALITAMŠMT IPN KVALITA
 
Hlavní úkol č. 8 - Strategie 2. řádu a revize interních předpisů
Hlavní úkol č. 8 - Strategie 2. řádu a revize interních předpisůHlavní úkol č. 8 - Strategie 2. řádu a revize interních předpisů
Hlavní úkol č. 8 - Strategie 2. řádu a revize interních předpisůMŠMT IPN KREDO
 
Rizeni neziskovych organizaci
Rizeni neziskovych organizaciRizeni neziskovych organizaci
Rizeni neziskovych organizaciInnovation Tank
 
Praxe a zkušenosti se současným způsobem hodnocení programů v ČR
Praxe a zkušenosti se současným způsobem hodnocení programů v ČRPraxe a zkušenosti se současným způsobem hodnocení programů v ČR
Praxe a zkušenosti se současným způsobem hodnocení programů v ČRMEYS, MŠMT in Czech
 
K2 system olina - brabenec
K2   system olina - brabenecK2   system olina - brabenec
K2 system olina - brabenecNarodniInstitut
 
Program ZÉTA - seminář před vyhlášením veřejné soutěže
Program ZÉTA -  seminář před vyhlášením veřejné soutěžeProgram ZÉTA -  seminář před vyhlášením veřejné soutěže
Program ZÉTA - seminář před vyhlášením veřejné soutěžeTechnologická agentura ČR
 
Hodnocení výzkumných o rganizací / Závěrečná zpráva 1
Hodnocení výzkumných o rganizací / Závěrečná zpráva 1Hodnocení výzkumných o rganizací / Závěrečná zpráva 1
Hodnocení výzkumných o rganizací / Závěrečná zpráva 1MEYS, MŠMT in Czech
 
Srovnání způsobu hodnocení programů zaměřených na podporu dlouhodobé spoluprá...
Srovnání způsobu hodnocení programů zaměřených na podporu dlouhodobé spoluprá...Srovnání způsobu hodnocení programů zaměřených na podporu dlouhodobé spoluprá...
Srovnání způsobu hodnocení programů zaměřených na podporu dlouhodobé spoluprá...MEYS, MŠMT in Czech
 
Soubor podkladů pro strategické rozhodování – Řízení VŠ
Soubor podkladů pro strategické rozhodování – Řízení VŠSoubor podkladů pro strategické rozhodování – Řízení VŠ
Soubor podkladů pro strategické rozhodování – Řízení VŠMŠMT IPN KREDO
 
Hlavní úkol č. 9 - Akční plán na rok 2016
Hlavní úkol č. 9 - Akční plán na rok 2016Hlavní úkol č. 9 - Akční plán na rok 2016
Hlavní úkol č. 9 - Akční plán na rok 2016MŠMT IPN KREDO
 

Similar to Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací (20)

Research Evaluation -Approaches and Methods
Research Evaluation -Approaches and MethodsResearch Evaluation -Approaches and Methods
Research Evaluation -Approaches and Methods
 
TA ČR v Horizontu 2020
TA ČR v Horizontu 2020TA ČR v Horizontu 2020
TA ČR v Horizontu 2020
 
Souhrnná zpráva / Metodika hodnocení ve Výzkumu a vývoji a zásady financování
Souhrnná zpráva / Metodika hodnocení ve Výzkumu a vývoji a zásady financováníSouhrnná zpráva / Metodika hodnocení ve Výzkumu a vývoji a zásady financování
Souhrnná zpráva / Metodika hodnocení ve Výzkumu a vývoji a zásady financování
 
Hubbard effective prfs_cz
Hubbard  effective prfs_czHubbard  effective prfs_cz
Hubbard effective prfs_cz
 
IPN „Zajišťování a hodnocení kvality vsystému terciárního vzdělávání“
IPN „Zajišťování a hodnocení kvality vsystému terciárního vzdělávání“IPN „Zajišťování a hodnocení kvality vsystému terciárního vzdělávání“
IPN „Zajišťování a hodnocení kvality vsystému terciárního vzdělávání“
 
EPR2014: Implementace ESIF v programovém období 2014-2020 (D. Nohejlová)
EPR2014: Implementace ESIF v programovém období 2014-2020 (D. Nohejlová)EPR2014: Implementace ESIF v programovém období 2014-2020 (D. Nohejlová)
EPR2014: Implementace ESIF v programovém období 2014-2020 (D. Nohejlová)
 
Alice_IT_Startegy_CZE_v2
Alice_IT_Startegy_CZE_v2Alice_IT_Startegy_CZE_v2
Alice_IT_Startegy_CZE_v2
 
Základní informace o projektu / Závěrečná konference
Základní informace o projektu / Závěrečná konferenceZákladní informace o projektu / Závěrečná konference
Základní informace o projektu / Závěrečná konference
 
Metodika pro odborné konzultanty
Metodika pro odborné konzultantyMetodika pro odborné konzultanty
Metodika pro odborné konzultanty
 
Úvod k metodikám IPN KVALITA
Úvod k metodikám IPN KVALITAÚvod k metodikám IPN KVALITA
Úvod k metodikám IPN KVALITA
 
Hlavní úkol č. 8 - Strategie 2. řádu a revize interních předpisů
Hlavní úkol č. 8 - Strategie 2. řádu a revize interních předpisůHlavní úkol č. 8 - Strategie 2. řádu a revize interních předpisů
Hlavní úkol č. 8 - Strategie 2. řádu a revize interních předpisů
 
Rizeni neziskovych organizaci
Rizeni neziskovych organizaciRizeni neziskovych organizaci
Rizeni neziskovych organizaci
 
Praxe a zkušenosti se současným způsobem hodnocení programů v ČR
Praxe a zkušenosti se současným způsobem hodnocení programů v ČRPraxe a zkušenosti se současným způsobem hodnocení programů v ČR
Praxe a zkušenosti se současným způsobem hodnocení programů v ČR
 
K2 system olina - brabenec
K2   system olina - brabenecK2   system olina - brabenec
K2 system olina - brabenec
 
Program ZÉTA - seminář před vyhlášením veřejné soutěže
Program ZÉTA -  seminář před vyhlášením veřejné soutěžeProgram ZÉTA -  seminář před vyhlášením veřejné soutěže
Program ZÉTA - seminář před vyhlášením veřejné soutěže
 
Hodnocení výzkumných o rganizací / Závěrečná zpráva 1
Hodnocení výzkumných o rganizací / Závěrečná zpráva 1Hodnocení výzkumných o rganizací / Závěrečná zpráva 1
Hodnocení výzkumných o rganizací / Závěrečná zpráva 1
 
K2
K2K2
K2
 
Srovnání způsobu hodnocení programů zaměřených na podporu dlouhodobé spoluprá...
Srovnání způsobu hodnocení programů zaměřených na podporu dlouhodobé spoluprá...Srovnání způsobu hodnocení programů zaměřených na podporu dlouhodobé spoluprá...
Srovnání způsobu hodnocení programů zaměřených na podporu dlouhodobé spoluprá...
 
Soubor podkladů pro strategické rozhodování – Řízení VŠ
Soubor podkladů pro strategické rozhodování – Řízení VŠSoubor podkladů pro strategické rozhodování – Řízení VŠ
Soubor podkladů pro strategické rozhodování – Řízení VŠ
 
Hlavní úkol č. 9 - Akční plán na rok 2016
Hlavní úkol č. 9 - Akční plán na rok 2016Hlavní úkol č. 9 - Akční plán na rok 2016
Hlavní úkol č. 9 - Akční plán na rok 2016
 

More from MEYS, MŠMT in Czech

Pilot test of new evaluation methodology of research organisations
Pilot test of new evaluation methodology of research organisationsPilot test of new evaluation methodology of research organisations
Pilot test of new evaluation methodology of research organisationsMEYS, MŠMT in Czech
 
Průvodce pro hodnocené výzkumné organizace
Průvodce pro hodnocené výzkumné organizacePrůvodce pro hodnocené výzkumné organizace
Průvodce pro hodnocené výzkumné organizaceMEYS, MŠMT in Czech
 
Souhrnné tabulky s údaji o počtu pracovníků a výstupů EvU a jejich RU
Souhrnné tabulky s údaji o počtu pracovníků a výstupů EvU a jejich RUSouhrnné tabulky s údaji o počtu pracovníků a výstupů EvU a jejich RU
Souhrnné tabulky s údaji o počtu pracovníků a výstupů EvU a jejich RUMEYS, MŠMT in Czech
 
Komentáře členů hlavních a oborových panelů k metodice hodnocení a pilotnímu...
Komentáře členů hlavních a oborových panelů k metodice hodnocení a pilotnímu...Komentáře členů hlavních a oborových panelů k metodice hodnocení a pilotnímu...
Komentáře členů hlavních a oborových panelů k metodice hodnocení a pilotnímu...MEYS, MŠMT in Czech
 
Komentáře hodnocených a výzkumných jednotek k metodice hodnocení a pilotní...
Komentáře hodnocených a výzkumných jednotek k metodice hodnocení a pilotní...Komentáře hodnocených a výzkumných jednotek k metodice hodnocení a pilotní...
Komentáře hodnocených a výzkumných jednotek k metodice hodnocení a pilotní...MEYS, MŠMT in Czech
 
Final report 1 / The R&D Evaluation Methodology
Final report 1 / The R&D Evaluation MethodologyFinal report 1 / The R&D Evaluation Methodology
Final report 1 / The R&D Evaluation MethodologyMEYS, MŠMT in Czech
 
Final report 2: The Institutional Funding Principles
Final report 2: The Institutional Funding PrinciplesFinal report 2: The Institutional Funding Principles
Final report 2: The Institutional Funding PrinciplesMEYS, MŠMT in Czech
 
The Small Pilot Evaluation and the Use of the RD&I Information System for Eva...
The Small Pilot Evaluation and the Use of the RD&I Information System for Eva...The Small Pilot Evaluation and the Use of the RD&I Information System for Eva...
The Small Pilot Evaluation and the Use of the RD&I Information System for Eva...MEYS, MŠMT in Czech
 
Summary Report / R&D Evaluation Methodology and Funding Principles
Summary Report / R&D Evaluation Methodology and Funding PrinciplesSummary Report / R&D Evaluation Methodology and Funding Principles
Summary Report / R&D Evaluation Methodology and Funding PrinciplesMEYS, MŠMT in Czech
 
Identifikace vědeckých pracovníků
Identifikace vědeckých pracovníkůIdentifikace vědeckých pracovníků
Identifikace vědeckých pracovníkůMEYS, MŠMT in Czech
 
Studie proveditelnosti institucionálního zajištění navrhovaného systému hodno...
Studie proveditelnosti institucionálního zajištění navrhovaného systému hodno...Studie proveditelnosti institucionálního zajištění navrhovaného systému hodno...
Studie proveditelnosti institucionálního zajištění navrhovaného systému hodno...MEYS, MŠMT in Czech
 
Metodika hodnocení přínosů ČR v mezinárodních organizacích výzkumu a vývoje /...
Metodika hodnocení přínosů ČR v mezinárodních organizacích výzkumu a vývoje /...Metodika hodnocení přínosů ČR v mezinárodních organizacích výzkumu a vývoje /...
Metodika hodnocení přínosů ČR v mezinárodních organizacích výzkumu a vývoje /...MEYS, MŠMT in Czech
 
ZÁSADY INSTITUCIONÁLNÍHO FINANCOVÁNÍ / Závěrečná zpráva 2
ZÁSADY INSTITUCIONÁLNÍHO FINANCOVÁNÍ / Závěrečná zpráva 2ZÁSADY INSTITUCIONÁLNÍHO FINANCOVÁNÍ / Závěrečná zpráva 2
ZÁSADY INSTITUCIONÁLNÍHO FINANCOVÁNÍ / Závěrečná zpráva 2MEYS, MŠMT in Czech
 

More from MEYS, MŠMT in Czech (20)

Pilot test of new evaluation methodology of research organisations
Pilot test of new evaluation methodology of research organisationsPilot test of new evaluation methodology of research organisations
Pilot test of new evaluation methodology of research organisations
 
Tabulky nákladového modelu
Tabulky nákladového modeluTabulky nákladového modelu
Tabulky nákladového modelu
 
Organizační schémata
Organizační schémataOrganizační schémata
Organizační schémata
 
Průvodce pro hodnocené výzkumné organizace
Průvodce pro hodnocené výzkumné organizacePrůvodce pro hodnocené výzkumné organizace
Průvodce pro hodnocené výzkumné organizace
 
Šablona sebeevaluační zprávy
Šablona sebeevaluační zprávyŠablona sebeevaluační zprávy
Šablona sebeevaluační zprávy
 
Zápisy z kalibračních schůzek
Zápisy z kalibračních schůzekZápisy z kalibračních schůzek
Zápisy z kalibračních schůzek
 
Úpravy bibliometrické zprávy
Úpravy bibliometrické zprávyÚpravy bibliometrické zprávy
Úpravy bibliometrické zprávy
 
Příklad bibliometrické zprávy
Příklad bibliometrické zprávyPříklad bibliometrické zprávy
Příklad bibliometrické zprávy
 
Průvodce pro členy panelů
Průvodce pro členy panelůPrůvodce pro členy panelů
Průvodce pro členy panelů
 
Souhrnné tabulky s údaji o počtu pracovníků a výstupů EvU a jejich RU
Souhrnné tabulky s údaji o počtu pracovníků a výstupů EvU a jejich RUSouhrnné tabulky s údaji o počtu pracovníků a výstupů EvU a jejich RU
Souhrnné tabulky s údaji o počtu pracovníků a výstupů EvU a jejich RU
 
Komentáře členů hlavních a oborových panelů k metodice hodnocení a pilotnímu...
Komentáře členů hlavních a oborových panelů k metodice hodnocení a pilotnímu...Komentáře členů hlavních a oborových panelů k metodice hodnocení a pilotnímu...
Komentáře členů hlavních a oborových panelů k metodice hodnocení a pilotnímu...
 
Komentáře hodnocených a výzkumných jednotek k metodice hodnocení a pilotní...
Komentáře hodnocených a výzkumných jednotek k metodice hodnocení a pilotní...Komentáře hodnocených a výzkumných jednotek k metodice hodnocení a pilotní...
Komentáře hodnocených a výzkumných jednotek k metodice hodnocení a pilotní...
 
Final report 1 / The R&D Evaluation Methodology
Final report 1 / The R&D Evaluation MethodologyFinal report 1 / The R&D Evaluation Methodology
Final report 1 / The R&D Evaluation Methodology
 
Final report 2: The Institutional Funding Principles
Final report 2: The Institutional Funding PrinciplesFinal report 2: The Institutional Funding Principles
Final report 2: The Institutional Funding Principles
 
The Small Pilot Evaluation and the Use of the RD&I Information System for Eva...
The Small Pilot Evaluation and the Use of the RD&I Information System for Eva...The Small Pilot Evaluation and the Use of the RD&I Information System for Eva...
The Small Pilot Evaluation and the Use of the RD&I Information System for Eva...
 
Summary Report / R&D Evaluation Methodology and Funding Principles
Summary Report / R&D Evaluation Methodology and Funding PrinciplesSummary Report / R&D Evaluation Methodology and Funding Principles
Summary Report / R&D Evaluation Methodology and Funding Principles
 
Identifikace vědeckých pracovníků
Identifikace vědeckých pracovníkůIdentifikace vědeckých pracovníků
Identifikace vědeckých pracovníků
 
Studie proveditelnosti institucionálního zajištění navrhovaného systému hodno...
Studie proveditelnosti institucionálního zajištění navrhovaného systému hodno...Studie proveditelnosti institucionálního zajištění navrhovaného systému hodno...
Studie proveditelnosti institucionálního zajištění navrhovaného systému hodno...
 
Metodika hodnocení přínosů ČR v mezinárodních organizacích výzkumu a vývoje /...
Metodika hodnocení přínosů ČR v mezinárodních organizacích výzkumu a vývoje /...Metodika hodnocení přínosů ČR v mezinárodních organizacích výzkumu a vývoje /...
Metodika hodnocení přínosů ČR v mezinárodních organizacích výzkumu a vývoje /...
 
ZÁSADY INSTITUCIONÁLNÍHO FINANCOVÁNÍ / Závěrečná zpráva 2
ZÁSADY INSTITUCIONÁLNÍHO FINANCOVÁNÍ / Závěrečná zpráva 2ZÁSADY INSTITUCIONÁLNÍHO FINANCOVÁNÍ / Závěrečná zpráva 2
ZÁSADY INSTITUCIONÁLNÍHO FINANCOVÁNÍ / Závěrečná zpráva 2
 

Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací

  • 1. Martin Srholec 29. 9. 2015 www.metodika.reformy-msmt.cz Obecné zásady hodnocení programů účelové podpory výzkumu, vývoje a inovací
  • 2. Kdo je Martin Srholec? Ekonomie inovací, inovační politika, ekonomický rozvoj http://home.cerge-ei.cz/srholec/index.html • Ph.D. na VŠE v Praze (2003) a na Univerzitě v Oslu (2005) • Research Fellow a postdok na Univerzitě v Oslu, Norsko (2002-2010) • Výzkumný pracovník na CERGE-EI v Praze (od roku 2010) • Associate Professor na Univezitě v Lundu, Švédsko (od roku 2011) Spolupracovník IPn Metodika, MŠMT Hodnocení projektů pro GAČR (předseda panelu P403) a TAČR (expertní hodnotící komise programu OMEGA) Komise pro hodnocení výsledků výzkumných organizací a ukončených programů při RVVI RIO (dříve ERAWATCH) korespondent, Evropská komise Konzultační práce pro UNCTAD, UNECE a UNIDO 1
  • 3. Účelové výdaje státního rozpočtu na VVI v roce 2014 • Nezahrnuje dotace na VVI z OP EU • Nezahrnuje nepřímou podporu (daňové odpočty) pro VaV ve firmách 2
  • 4. Mezinárodní audit systému VVI v ČR (Technopolis, 2011) • Na rozdíl od vyspělých zemí EU není v ČR hodnocení programů VaVaI považováno za důležitou součást procesu přípravy a realizace politik v oblasti VaVaI. • Systém hodnocení programů VVI je spíše jen ex-post monitorováním dosažených výsledků a nákladů potřebných k jejich dosažení. • Velice negativně byla zhodnocena kvalita hodnocení, resp. zpráv z hodnocení ukončených programů. • Zprávy z hodnocení jednotlivých ukončených programů VVI nelze považovat za „standardní“ evaluační zprávy, protože obsahují jen popis ukončených programů VaVaI a jejich výsledků. • Za velice diskutabilní je spolehlivost uváděných analýz, přičemž používaná data většinou pocházejí pouze z IS VaVaI. • Ačkoliv zprávy o hodnocení uvádějí jasné závěry, většina z nich není dostatečně a spolehlivě doložena. • Doporučení pro tvorbu navazujících či jiných programů VVI zpravidla nejsou ve zprávách obsažena. 3
  • 5. Metodika hodnocení od roku 2011 Rok 2013: • Metodika hodnocení výsledků výzkumných organizací a hodnocení výsledků ukončených programů (platná pro léta 2013 až 2015) – tzv. Metodika 2013 - opuštěn tzv. „Index SR“, ale pouze dvě stránky o (souhrnném) hodnocení programů. Rok 2014: • Pracovní skupina při RVVI k systémovému opatření č. 18 Aktualizace Národní politiky výzkumu, vývoje a inovací České republiky na léta 2009 až 2015 s výhledem do roku 2020 Rok 2015: • Dokument „Základní principy přípravy a hodnocení programů a skupin grantových projektů výzkumu, vývoje a inovací“ schválen předsednictvem RVVI • Usnesení vlády č. 351 ze dne 13. května 2015, které ukládá vypracovat podle těchto principů a vládě do 31. prosince 2016 předložit obecně závazný dokument upravující přípravu a hodnocení programů a skupin grantových projektů • Probíhá revize Metodiky 2013 pro rok 2016 (pouze menší změny) Jak se budou hodnotit programy v období 2017+? 4
  • 6. Příspěvek IPN Metodika • Hlavním cílem projektu je vytvořit návrh nového systému hodnocení a financování výzkumných organizací, tj. otázka institucionálního financování (spolupráce s firmou Technopolis, atd.) • Na podzim 2014 bylo rozhodnuto, že bude přidána i aktivita s cílem „navrhnout obecné principy metodiky hodnocení programů účelové podpory v souladu s nejlepší mezinárodní praxí v podmínkách ČR ... i návrh systémových změn potřebných pro zavedení mezinárodních standardů hodnocení.“ • V první polovině roku 2015 byl zpracován dokument „Návrh obecných zásad hodnocení programů účelové podpory výzkumu, vývoje a inovací a potřebných systémových změn“ • Připomínky k první pracovní verzi od vybraných odborníků a první revize v dubnu a květnu 2015 • Pracovní verze pro konzultace se zainteresovanými subjekty uvolněna během léta 2015 • Revize v září a finální verze v říjnu 2015 5
  • 7. 6
  • 8. Cílem tohoto dokumentu je vymezit zásady, jak by se mělo provádět hodnocení programů účelové podpory výzkumu, vývoje a inovací v českých podmínkách v návaznosti na nejlepší mezinárodní praxi. Zásady jsou navrženy v obecné rovině tak, aby mohly být zavedeny jako strategický nástroj pro řízení na úrovni systému a následně rozpracovány na konkrétní podmínky jednotlivých programů. 7
  • 9. Obecné zásady hodnocení pro různé typy hodnocení, včetně ex-ante hodnocení návrhu programu, průběžného hodnocení chodu programu a ex-post hodnocení jeho dopadů a pro různé druhy programů od skupin grantových projektů pro akademický výzkum, přes programy pro podporu spolupráce ve výzkumu až po dotace zaměřené na inovace. 8
  • 10. 9
  • 11. Program účelové podpory je nástroj implementace národní politiky VVI. 10
  • 12. Hodnocení programů • Účelem hodnocení (anebo evaluace) je poskytovat poznatky pro posuzování vhodnosti veřejných výdajových programů. • Hodnocení pomáhá zlepšovat programy samotné a poskytuje svědectví o jejich účincích. • Hodnocení není monitorování, účetnictví, audit, statistika a ani empirický výzkum. • Hodnocen může být v podstatě kdokoliv, a na něm potažmo cokoliv, avšak ne jakkoliv. • K tomu, aby hodnocení plnilo své funkce, je nutné, aby se drželo určitých obecných zásad. 11
  • 13. Nejlepší mezinárodní praxe • Severské země Dánsko, Finsko, Norsko a Švédsko, sousední Německo s Rakouskem a tradičně Nizozemí, Velká Británie a Spojené státy americké. • Doporučení mezinárodních institucí a asociací jako Evropská komise, OECD a European Network of Innovation Agencies (TAFTIE). • Zejména byly využity průřezově laděné texty, tj. obecné příručky, směrnice a manuály pro hodnocení. • Nejedná se o nic světoborně nového, nýbrž o v zahraničí ověřené postupy. 12
  • 14. Desatero zásad hodnocení 1. Změna jako cíl. Smyslem programu je dosažení změny, ke které by za jinak stejných podmínek nedošlo. 2. Dopady nade vše. Zajímají nás dopady, výsledky a výstupy v tomto pořadí důležitosti. Bez širších dopadů program postrádá opodstatnění. Výstupy jsou pouze prostředkem k výsledkům a potažmo dopadům. 3. Střih na míru. Každý program má vlastní metodiku hodnocení. Není přínosné se pokoušet vymezit jeden vzorec použitelný pro všechny programy. 4. Kvalita důležitější kvantity. Nemá smysl hodnotit za každou cenu. Jedno kvalitně provedené hodnocení má větší váhu než deset mizerných. 5. Hodnocení není popis. Hodnocení analyzuje přínosy podpory, podává normativní závěry, nekonstatuje pouze fakta. 6. Důkazy, nikoliv názory. Závěry hodnocení jsou založeny na prokázaných skutečnostech. Pro nepodložené spekulace není v hodnocení místo. 7. Jaká data, takové hodnocení. Hodnocení stojí a padá s kvalitou dat. Na datovou základnu pro hodnocení je nutné myslet již na prvopočátku programu. 8. Sebehodnocení pro učení. Poskytovatel hodnotí vlastní program, pokud je hlavní funkce hodnocení učící, pokud motivace pro jeho provedení vychází zevnitř. 9. Externí hodnocení pro kontrolu. Pokud je motivace pro hodnocení externí, pokud je ve hře rozdělování peněz z národního rozpočtu, hodnocení provádí externí subjekt. 10. Naučit se učit se. Bez zpětné vazby na rozhodování tvůrců politik a poskytovatelů je hodnocení zbytečné. 13
  • 16. Cíle a logika programu • Program je soubor vzájemně se podporujících opatření, která jsou zaměřená na dosažení jednoho anebo více konkrétních a předem vymezených cílů. • Smyslem vládní intervence je dosažení změny, zlepšení neuspokojivého stavu, změna chování příjemců podpory, napravení nějakého selhání. Cíle programu tudíž musí být vymezeny dynamicky ve srovnání s výchozím stavem. • Předpokladem pro kvalitní zhodnocení programu je jasné vymezení jeho cílů, v čem bude spočívat úspěch a jakým způsobem to bude možné sledovat. • Pokud jsou cíle vágní, nekonkrétní a neověřitelné, nemá se na jedné straně hodnotitel o co opřít a na druhé straně se nemá poskytovatel na co odvolat, pokud by mu hodnocení nepřipadalo spravedlivé. • Model intervenční logiky uvádí principy působení programu. Jeho účelem je vysvětlit, jak by mělo být s navrženými vstupy dosaženo zamýšlených cílů, pomocí jakých mechanismů a na zakladě jakých předpokladů. • Konkrétní vstupy, výstupy, výsledky a především širší dopady (a očekávané příčinné souvislosti mezi nimi) se následně odvodí z těchto argumentů. • Již návrh programu by měl obsahovat i) hlavní a dílčí cíle, ii) model intervenční logiky, iii) metriku výkonnosti, iv) rozpočet se samostatnou položkou na hodnocení, v) plán hodnocení. 15
  • 17. Funkce hodnocení • Funkce legitimizační - poskytovat opodstatnění pro použití veřejných zdrojů za daným účelem. • Funkce informační - přinášet informace o tom, jak se nakládá s veřejnými prostředky a co z toho má společnost, tj. jaké má program dopady. • Funkce učící - poučit se z předchozích úspěchů a nezdarů, tj. postupné zlepšování podpůrných programů. • Funkce usměrňovací - pomáhat při stanovování strategií, cílů a plánů programů do budoucna. • Funkce mediační - tříbit, kultivovat diskusi a vyhrazovat mantinely během střetu konkurečních zájmů jednotlivých aktérů. 16
  • 20. Co je to metodika hodnocení? • Metodika hodnocení je postup zvláště vytvořený za účelem hodnocení jednoho konkrétního programu. • Může zahrnovat jednu metodu anebo častěji kombinaci různých - kvantitativních i kvalitativních - metod. • Každý program má svoji vlastní metodiku hodnocení, která se v závislosti na jeho nastavení, cílech, průběhu, kontextu a dostupných datech liší od jiných programů. • Není přínosné snažit se vymezit jednu metodiku použitelnou pro všechny programy. • Nicméně je možné vymezit obecné náležitosti, které by mělo hodnocení z hlediska metodiky splňovat. 19
  • 21. Poznámky k metodice • Rozdíl mezi monitorováním a hodnocením - sběr dat o průběhu programu a celkově vytváření datové základny je sice zásadní podpůrnou činností, nicméně samotné hodnocení začíná teprve tam, kde monitorování končí, hodnocení programů nelze zužovat na prosté počítání bodů za výstupy uplatněné pod jejich hlavičkou. • Hodnocení má být průkazné - hodnocení má být tzv. „evidence-based“, což znamená, že zodpovězení hodnotících otázek není založeno na doměnkách, spekulacích a nepodložených tvrzeních, ale na základě výsledků získaných pomocí metod k tomu určených, které jsou schopny na dané otázky uspokojivě odpovědět. • Rozmanitost použitelných metod - hodnocení může zahrnovat jednu metodu anebo daleko lépe kombinaci metod, tzv. triangulaci, které mohou být kvantitativní i kvalitativní. 20
  • 22. Hodnotící otázky Kritéria hodnocení programů podle tzv. I-O-O-I modelu: • Relevance (relevance) – ptáme se, zda se cíle programu zaměřují na dostatečně závažná selhání, která je prioritní řešit s odkazem na strategické vládní dokumenty (děláme správnou věc?). • Efektivnost (effectiveness) – zjišťujeme, zda přínosy podpořených aktivit jsou v souladu s cíli programu, jak velký byl motivační (pákový) efekt podpory a do jaké míry lze přínosy přiřkrnout podpoře (co se stalo v důsledku podpory?). • Efektivita (efficiency) – zkoumáme, zda jsou veřejné zdroje vynaloženy hospodárně, tj. zda dopady, výsledky a výstupy odpovídají vstupům (bylo možné dosáhnout stejného účinku s méně vstupy?). • Užitečnost (utility) – šetříme, zda program vyřešil (anebo pomáhá řešit) selhání, kvůli kterému byl spuštěn, včetně jeho nezamýšlených následků, a komu to je ku prospěchu (je ještě třeba udělat něco dalšího?). • Udržitelnost (sustainability) – chceme vědět, do jaké míry bude působení programu pokračovat i po jeho skončení (bude mít podpora trvalé přínosy?). Zdroj: (Boekholt, P., et al. (2014, str. 10). 21
  • 23. Design hodnocení • Je nutné pátrat po příčinných souvislostech, tj. určení příčiny a následku? • Lze rozlišit tři základní možnosti: • Neexperimentální design – k zodpovězení hodnotících otázek není třeba určovat příčinné souvislosti, tj postačuje deskriptivní přístup, což je typické pro ex-ante a obvykle i průběžné hodnocení. • Kvaziexperimentální design – zodpovězení hodnotících otázek vyžaduje pátrání po příčinných souvislostech, což je rostoucí měrou součástí ex-post hodnocení a podstatou hodnocení dopadů, avšak podpora nebyla mezi žadatele záměrně rozdělena náhodným způsobem, tj. nahodilost musíme simulovat pomocí kvaziexperimentálních metod. • Experimentální design – hodnotící otázky se ptají po příčinných souvislostech, přičemž podpora byla žadatelům přidělena náhodně, což sice v případě veřejných výdajových programů není zcela vyloučeno, avšak v praxi zřídka proveditelné. 22
  • 24. Kontrafaktuální přístup Rozklíčování kontrafaktuálního problému, co by bylo (např. jaké by byly výsledky), kdyby účelová dotace poskytnuta nebyla. Řízený experiment (zpravidla) není možný, takže kvazi- (pseudo)- experimenty pomocí simulace kontrafaktuální situace s použitím rozličných analytických metod. Spočívá v testování „hypotéz“ o (ne)existenci účinku podpory na vstupy, chování, výstupy a širší dopady. Podobné jako „výzkum“ v sociálních vědách, tj. použití vědecké metody, ale nikoliv s požadavkem na prvek novosti. 23
  • 26. Zdroje dat • Data z monitorování – posbíraná poskytovatelem v průběhu implementace programu – klíčový zdroj pro hodnocení průběžné, ex-post i dopadů, který zahrnuje nejenom data povinně zadávaná do IS VaVaI, ale i přímo od poskytovatele, včetně dat z procesu hodnocení žádostí o projekty jako údaje vyplněné do žádostí, seznamy financovaných i nepodpořených projektů, jejich pořadí nad „čarou“ financování a pod ní, rozdělení žádostí mezi zpravodaje, apod. • Sekundární databáze – získatelná z existujících databází – záleží na kvalitě datové infrastruktury v zemi, zahrnuje data z předchozích hodnocení, volně přístupných databází, komerčních databází a data sbíraná veřejnými institucemi jako je statistický úřad; výhodou je dostupnost dat i za kontrolní skupinu, tj. nežadatele o podporu, a zpravidla za delší časové řady, avšak problém může nastat při zajištění přístupu k nim. • Primární šetření – v písemné (dotazníkové) podobě anebo pomocí rozhovorů – používá se pro získání dat jinak nedostupných, která je nutné nově sesbírat v průběhu hodnocení, většinou jsou z důvodu nákladů na sběr omezena na příjemce podpory, takže chybí údaje za kontrolní skupinu, problematická je míra odezvy respondentů, a tudíž reprezentativnost sesbíraných dat. 25
  • 27. Mikrodata, mikrodata, mikrodata • Pokročilejší analytické metody zpravidla vyžadují individální údaje, tj. mikrodata. • Při agregaci mikrodat dochází ke ztrátě variability, která může být zásadní právě pro vyhodnocení účinku podpory. • Příjemcem podpory nikdy není odvětví, sektor anebo region, ale konkrétní mikro subjekt. • Pokud analyzujeme agregovaná data, nemůžeme si být nikdy jisti, že zjištěné výsledky nejsou pouze statistickým klamem. • Účinky na agregátní úrovni, které nás rovněž mohou zajímat, lze do modelů definovaných na individuální úrovni zabudovat. • Rozsáhlé zdroje mikrodat existují, zřídka se však v českých podmínkách využívají k analytickým účelům. • Otázkou je zajištění přístupu k mikrodatům, které je třeba řešit systematicky na centrální úrovni. 26
  • 29. Role aktérů v systému • Tvůrce politik – má na starosti strategické směřování programů VVI. Společenskou poptávku po řešení určitých selhání převádí do priorit pro vládní intervence, čímž vymezuje životní prostor pro programy, tj. nastavuje „terč“, do kterého se strefují návrhy programů od poskytovatelů. Činí politická rozhodnutí, zajišťuje koordinaci a doporučuje návrhy programů k financování. Jeho hlavním nástrojem jsou strategické vládní dokumenty, nařízení a rozhodnutí. • Poskytovatel – provádí taktické řízení programů VVI. Přichází s řešením selhání v rámci priorit vymezených tvůrcem politik. Předkládá návrhy programů a plní roli jejich správce. Rozhoduje o podpoře pro jednotlivé projekty v programech a tuto podporu poskytuje. Jeho hlavním nástrojem je návrh programu, zadávací dokumentace programu a obecně vše, co souvisí s jeho implementací. • Zadavatel – zadává hodnocení programů VVI, buď interně pro svůj vlastní program, anebo externě pro programy jiných aktérů. Stanovuje základní parametry hodnocení, mezi které patří cíle, funkce, předmět, metody a časový rozvrh hodnocení. Jeho hlavním nástrojem je zadávací dokumentace hodnocení, případně smlouva s externím hodnotitelem. • Hodnotitel – provádí hodnocení progamů VVI, ať už interně v rámci poskytovatele, anebo externě. Podle zadávací dokumentace hodnocení navrhuje jeho projekt a zajišťuje hodnotící práce. Na základě odborného posouzení poskytuje zpětnou vazbu k programům. Přináší podložená doporučení pro rozhodování. Jeho hlavním nástrojem je hodnotící zpráva. • Veřejnost – sleduje, kontroluje a vyjadřuje se k dění v systému. Tvoří ji všechny ostatní zainteresované subjekty v oblasti programů VVI, mezi které patří i cílová skupina programu, příjemci podpory, uživatelé přínosů programu, zájmové skupiny, nezávislý odborníci i široká veřejnost. Jejich hlavním nástrojem jsou sdělení pro ostatní aktéry, mezi které může patřit i pro bono hodnocení programů. 28
  • 30. Režimy provádění • Plnohodnotný režim (pro velké programy) - celý cyklus hodnocení, mělo by to být povinné podle určitých měřítek jako délka v rocích anebo výše rozpočtu, například pro programy trvající více než pět let s rozpočtem více než 1 mld. Kč. • Zjednodušený režim (pro střední programy, co do délky a velikosti) - úlevy z vybraných požadavků, například možnost vynechání průběžného hodnocení pro krátké programy, odpuštění hodnocení dopadů anebo obecně nižší požadavky na data a metody, avšak ex-post hodnocení by mělo zůstat povinné. • Minimalizovaný režim (pro malé a krátké programy) – možnost výrazných úlev v hodnocení průběžném, ex-post i dopadů anebo jejich úplné odpuštění, například pro programy trvající do tří let s rozpočtem méně než 100 mil. Kč. 29
  • 32. Nástrahy, nároky a důvěryhodnost • Pro spravedlivé hodnocení musí všechny zainteresované strany dodržovat určitá pravidla chování. • Hodnotitelé se mohou ocitnout pod tlakem silných a zároveň protichůdných zájmů, kterým se nezávislost hodnocení a nebezpečí toho či onoho závěru protiví. • Nastavit systém hodnocení, aby v něm tyto tlaky měly co nejmenší prostor na uplatnění. • Hodnotitel musí dodržovat základní etické principy, na kterých je provádění jeho profese postaveno (např. Česká evaluační společnost). • Zadavatel musí respektovat nezávislost hodnotitele. Měl by se vystříhat přímých zásahů do procesu hodnocení. • Hodnocení musí být provedeno nestranně. Pokud mají být závěry hodnocení hodnověrné, musí být podložené, spravedlivé a transparentní. • Nezávislost, nestrannost a etické principy hodnocení je třeba brát velmi vážně, protože jinak se systém hodnocení může přeměnit na nástroj pro výrobu argumentů k prosazování parciálních zájmů. 31
  • 34. Nastavení systému • ÚVVI se stane ústředním aktérem v systému hodnocení programů, vymezí obecné zásady hodnocení programů, které budou závazné pro ostatní aktéry. • Poskytovatelé budou mít pravomoc předkládat návrhy programů k ex-ante hodnocení. • ÚVVI bude mít povinnost zajišťovat ex-ante hodnocení návrhů programů od poskytovatelů a bude doporučovat návrhy programů k financování před předložením do vlády. • Poskytovatelé budou mít odpovědnost za průběžné hodnocení svých programů. • ÚVVI bude mít odpovědnost za hodnocení ex-post a dopadů vybraných programů. • ÚVVI bude rozhodovat o režimu hodnocení programů a organizovat jeho případné změnové řízení. • ÚVVI bude dohlížet na kvalitu veškerého hodnocení programů a případně stanovovat odpovídající sankce. 33
  • 35. Navrhované rozdělení rolí v českých podmínkách 34 Hodnocení ex-ante Průběžné hodnocení Hodnocení ex-post Hodnocení dopadů Kdo nese za hodnocení dopovědnost? ÚVVI Poskytovatel ÚVVI ÚVVI Kdo hodnocení provádí? ÚVVI anebo externí hodnotitel (může být zadáno externě) Poskytovatel anebo externí hodnotitel (může být zadáno externě) Smíšený tým z ÚVVI, poskytovatele a externího hodnotitele anebo pouze externí hodnotitel Externí hodnotitel Kdo zadává externí hodnocení? ÚVVI Poskytovatel ÚVVI ÚVVI Kdo zajišťuje uplatnění závěrů hodnocení? ÚVVI Poskytovatel ÚVVI ÚVVI Kdo dohlíží na kvalitu hodnocení? ÚVVI ÚVVI ÚVVI ÚVVI
  • 36. Lidské zdroje • Rozvinout program celoživotního vzdělávání pro lidi, kteří již v systémů působí. • Zavést na některé z vysokých škol studium VVI problematiky pro vzdělávání nových odborníků. • Provádět pilotní hodnocení s důrazem na učení se. • Nespoléhat se pouze na zahraniční hodnotitele, zadávat hodnocení pro kombinované domácí a zahraniční týmy a tím podpořit vytvoření domácí znalostní báze. • Založit českou platformu pro hodnocení VVI podle vzoru FTEVAL v Rakousku. 35
  • 37. Datové zdroje • Zavést systém pro vzdálený přístup ke chráněným mikrodatům ČSÚ, vytvořit systém pro přístup ke chráněným mikrodatům z IS VaVaI a následně oba systémy propojit, tj. vytvořit centrální databázi mikrodat. • Vytvořit depozitář primárních dat, tj. všechna primární mikrodata posbíraná v rámci hodnocení programů budou pro budoucí využití uložena na jednom místě. • Zavést informační povinnost žadatelů o podporu, tj. příjemci i odmítnutí žadatelé se přihlášením do veřejné soutěže o podporu pod hrozbou sankce zavazují poskytovat data potřebná pro vyhodnocení programu. 36
  • 38. Finanční zdroje • Na systém hodnocení bude řádově vyčleněno 0,5 až 1,0%, tj. řádově 70 až 140 mil. Kč, z ročních výdajů na programy účelové podpory. • Bude nutné zavést takový způsob zadávání veřejných zakázek pro externí hodnocení programů, aby byla zajištěna zásadní váha faktoru kvality. 37
  • 39. Připomínky od zainteresovaných subjektů • Obecné zásady, které jsou příliš obecné. • Není to v souladu s platnými zákony (zákon o VVI, kompetenční zákon, zákon o statistice, atd.). • Jedná se o standardní zásady hodnocení, které známe ze zahraničí, není na tom nic nového. • Nemáme na to lidi, neznáme metody, nejsou k tomu potřebná data, bude to obtížné. • Odhad nákladů na takový systém hodnocení je příliš nízký anebo příliš vysoký, nevíme, kolik to bude stát. • Nejsou řešeny otázky implementace, vizí už máme dost, potřebujeme vědět, jak to implementovat. • Naše programy jsou jiné než ostatních, nás se to netýká, hodnotit nepotřebujeme, nechte nás být. 38
  • 40. Stupňující se tlak ze strany Evropské komise na zkvalitnění hodnocení programů (Evalution in the field of State aid: Methodological Guidance Paper, apod.) 39