SlideShare a Scribd company logo
1 of 24
Download to read offline
EFFEKTMÅLING: HVAD
OG HVORDAN?

Mette Deding
VI HAR BRUG FOR VIDEN OM EFFEKTER
Fordi vi gerne vil vide, om de indsatser vi sætter i værk, rent
faktisk virker
Og fordi vi gerne vil sikre os, at indsatserne ikke har en
skadelig virkning.

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

2
HVORFOR EFFEKTMÅLING?
Webb 1932: ”There is far more experimentation going on in the world
of sociological laboratory in which we all live than in any other kind
of laboratory, but most of this social experimentation is wrapped in
secrecy and thus yields nothing to science”
Det sociale område som et stort ukontrolleret forsøg
Store mængder penge bliver brugt på indsatser som vi ikke kender
effekten af.
Behov for viden om hvad der virker bedst - for at kunne bruge knappe
ressourcer bedst muligt og give den optimale indsats til borgerne
EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

3
HVORFOR ER DET VIGTIGT AT KENDE
EFFEKTEN?

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

4
HVORFOR ER DET VIGTIGT AT KENDE
EFFEKTEN?

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

5
HVORFOR ER DET VIGTIGT AT KENDE
EFFEKTEN?

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

6
EVIDENS HANDLER OM EFFEKT:

Effektmåling besvarer spørgsmål om
kausalitet:
Hvordan går det (i gennemsnit)
personer, der modtager en specifik
indsats, i forhold til hvordan det
ville være gået, hvis de ikke havde
modtaget indsatsen?

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

7
MEN EVIDENS HANDLER OGSÅ OM MEGET
ANDET END EFFEKT
• Viden om sociale problemers
karakter og udbredelse
• Viden om målgruppens
karakteristika og adfærdsmønstre
• Viden om hvilke indsatser der
anvendes
• Viden om ressourceforbrug ved
hidtidig indsats
• Viden om effekter af forskellige
former for indsatser
• …
EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

8
EFFEKT STIGEN

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

9
EFFEKT STIGEN

Effektmåling

Ikke effektmåling

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

10
TILFREDSHEDSUNDERSØGELSER OG
EFTERMÅLINGER
90% af dem, der modtog behandlingen var tilfredse eller meget
tilfredse…
…men det siger ikke noget om effekten
75% af dem, der trænede havde et kondital på 40…
… men hvad var deres kondital før træningsprogrammet?
Kan ikke bruges til effektmålinger

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

11
FØR-EFTERMÅLINGER

Man måler inden man starter indsatsen
(førmåling) og når indsatsen er udført
(eftermåling) for hele målgruppen.

Nok det mest anvendte undersøgelsesdesign – og noget som vi
alle bruger.

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

12
FØR-EFTERMÅLING AF LÆSE INTERVENTION
105
100
95
Indsats
Kontrol

90
85
80

Før

Efter

Statistisk signifikant forskel p < 0.001
EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

13
FØR-EFTERMÅLING AF LÆSE INTERVENTION
110
105
100
Indsats
Kontrol

95
90
85
80

Før

Efter

Forskel mellem grupper er IKKE signifikant
EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

14
KAUSAL EFFEKT
FORMÅL MED EFFEKTMÅLING:
At finde den kausale effekt af indsats på udfaldsmål

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

15
EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

16
KAUSAL EFFEKT – HVAD KAN GÅ GALT?
Enkelt at undersøge, om der er en sammenhæng eller
korrelation mellem indsats og udfaldsmål
En sådan sammenhæng kan imidlertid ikke nødvendigvis
fortolkes som en kausal effekt – at det er netop A der giver B
Eksempler:
Antal storke og børnefødsler
Alkoholindtagelse og lungecancer

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

17
INDSATS- OG KONTROLGRUPPE

Indsatsgruppen består af personer, der modtager indsatsen

Kontrolgruppen består af personer, der ikke modtager indsatsen
For at kunne tale om en effektmåling SKAL der være en
form for kontrolgruppe

EFFEKTMÅLING: HVAD OG HVORDAN
HVAD ER EN EFFEKTMÅLING?

11-10-2013
11-10-2013

18
18
TO HOVEDTYPER AF METODER TIL
EFFEKTMÅLING
RANDOMISEREDE
KONTROLLEREDE FORSØG

MIKRO-ØKONOMETRISKE
METODER

• Designes før indsatsen sættes i
værk

• Kan bruges både før og efter
indsats er gennemført

• Data indsamles undervejs

• Kan anvende eksisterende data

• Via randomisering ”styrer” man,
hvem der får en indsats

• Ikke muligt at styre, hvem der
deltager

• Indsats- og kontrolgruppe kan
umiddelbart sammenlignes

• Indsats- og kontrolgruppe er
typisk ikke ”ens” - metoderne
anvendes til at korrigere for
forskelle

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

19
EFFEKT STIGEN

RCT’S

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

20
EFFEKT STIGEN

RCT’S

EFFEKTMÅLING: HVAD OG HVORDAN

MIKRO-ØKONOMETRI

11-10-2013

21
EFFEKT STIGEN

RCT’S

MIKRO-ØKONOMETRI

Før og efter

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

22
HVORNÅR SKAL MAN LAVE EFFEKTMÅLING

 Når det giver mening…
 Når der kan findes en kontrolgruppe…
 Men det giver (næsten) altid mening med en før-eftermåling

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

23
SPØRGSMÅL OG
KOMMENTARER?!

EFFEKTMÅLING: HVAD OG HVORDAN

11-10-2013

24

More Related Content

More from SFI-slides

More from SFI-slides (20)

Hvordan hjælper vi bedste udsatte unge på vej
Hvordan hjælper vi bedste udsatte unge på vejHvordan hjælper vi bedste udsatte unge på vej
Hvordan hjælper vi bedste udsatte unge på vej
 
Psykisk sårbarhed blandt unge
Psykisk sårbarhed blandt ungePsykisk sårbarhed blandt unge
Psykisk sårbarhed blandt unge
 
Børns skoleoplevelser og veje gennem uddannelsessystemet
Børns skoleoplevelser og veje gennem uddannelsessystemetBørns skoleoplevelser og veje gennem uddannelsessystemet
Børns skoleoplevelser og veje gennem uddannelsessystemet
 
Etniske minoritetsunge - uddannelse og udsathed
Etniske minoritetsunge - uddannelse og udsathedEtniske minoritetsunge - uddannelse og udsathed
Etniske minoritetsunge - uddannelse og udsathed
 
Jan Storø - En verdig start på voksenlivet
Jan Storø - En verdig start på voksenlivetJan Storø - En verdig start på voksenlivet
Jan Storø - En verdig start på voksenlivet
 
Bente Adolphsen oplæg på SFI.konference 24. maj 2016
Bente Adolphsen oplæg på SFI.konference 24. maj 2016Bente Adolphsen oplæg på SFI.konference 24. maj 2016
Bente Adolphsen oplæg på SFI.konference 24. maj 2016
 
Familiebaggrund og social marginalisering
Familiebaggrund og social marginalisering Familiebaggrund og social marginalisering
Familiebaggrund og social marginalisering
 
Det hele, udsatte menneske
Det hele, udsatte menneskeDet hele, udsatte menneske
Det hele, udsatte menneske
 
Mere socialt mix i udsatte boligområder
Mere socialt mix i udsatte boligområderMere socialt mix i udsatte boligområder
Mere socialt mix i udsatte boligområder
 
Mikkel warming
Mikkel warmingMikkel warming
Mikkel warming
 
Anne Sonnet, OECD
Anne Sonnet, OECDAnne Sonnet, OECD
Anne Sonnet, OECD
 
Ældres deltagelse på det danske arbejdsmarked
Ældres deltagelse på det danske arbejdsmarkedÆldres deltagelse på det danske arbejdsmarked
Ældres deltagelse på det danske arbejdsmarked
 
Release of working better with age in denmark
Release of working better with age in denmarkRelease of working better with age in denmark
Release of working better with age in denmark
 
DE 60-65-ÅRIGES KOMPETENCER
DE 60-65-ÅRIGES KOMPETENCERDE 60-65-ÅRIGES KOMPETENCER
DE 60-65-ÅRIGES KOMPETENCER
 
De +60-årige på arbejdsmarkedet
De +60-årige på arbejdsmarkedet De +60-årige på arbejdsmarkedet
De +60-årige på arbejdsmarkedet
 
SFI oplæg 26. maj 2015 - Forældrerolle 2
SFI oplæg 26. maj 2015 - Forældrerolle 2SFI oplæg 26. maj 2015 - Forældrerolle 2
SFI oplæg 26. maj 2015 - Forældrerolle 2
 
SFI oplæg 26. maj 2015 - Forældrerolle
SFI oplæg 26. maj 2015 - ForældrerolleSFI oplæg 26. maj 2015 - Forældrerolle
SFI oplæg 26. maj 2015 - Forældrerolle
 
Den åbne skole oplæg til sfi-konference
Den åbne skole   oplæg til sfi-konferenceDen åbne skole   oplæg til sfi-konference
Den åbne skole oplæg til sfi-konference
 
Understøttende undervisning og lektiehjælp sfi konf 2015
Understøttende undervisning og lektiehjælp sfi konf 2015Understøttende undervisning og lektiehjælp sfi konf 2015
Understøttende undervisning og lektiehjælp sfi konf 2015
 
Social mobilitet sfi konf maj 15
Social mobilitet  sfi konf maj 15Social mobilitet  sfi konf maj 15
Social mobilitet sfi konf maj 15
 

Effektmåling hvad og hvordan

  • 2. VI HAR BRUG FOR VIDEN OM EFFEKTER Fordi vi gerne vil vide, om de indsatser vi sætter i værk, rent faktisk virker Og fordi vi gerne vil sikre os, at indsatserne ikke har en skadelig virkning. EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 2
  • 3. HVORFOR EFFEKTMÅLING? Webb 1932: ”There is far more experimentation going on in the world of sociological laboratory in which we all live than in any other kind of laboratory, but most of this social experimentation is wrapped in secrecy and thus yields nothing to science” Det sociale område som et stort ukontrolleret forsøg Store mængder penge bliver brugt på indsatser som vi ikke kender effekten af. Behov for viden om hvad der virker bedst - for at kunne bruge knappe ressourcer bedst muligt og give den optimale indsats til borgerne EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 3
  • 4. HVORFOR ER DET VIGTIGT AT KENDE EFFEKTEN? EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 4
  • 5. HVORFOR ER DET VIGTIGT AT KENDE EFFEKTEN? EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 5
  • 6. HVORFOR ER DET VIGTIGT AT KENDE EFFEKTEN? EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 6
  • 7. EVIDENS HANDLER OM EFFEKT: Effektmåling besvarer spørgsmål om kausalitet: Hvordan går det (i gennemsnit) personer, der modtager en specifik indsats, i forhold til hvordan det ville være gået, hvis de ikke havde modtaget indsatsen? EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 7
  • 8. MEN EVIDENS HANDLER OGSÅ OM MEGET ANDET END EFFEKT • Viden om sociale problemers karakter og udbredelse • Viden om målgruppens karakteristika og adfærdsmønstre • Viden om hvilke indsatser der anvendes • Viden om ressourceforbrug ved hidtidig indsats • Viden om effekter af forskellige former for indsatser • … EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 8
  • 9. EFFEKT STIGEN EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 9
  • 11. TILFREDSHEDSUNDERSØGELSER OG EFTERMÅLINGER 90% af dem, der modtog behandlingen var tilfredse eller meget tilfredse… …men det siger ikke noget om effekten 75% af dem, der trænede havde et kondital på 40… … men hvad var deres kondital før træningsprogrammet? Kan ikke bruges til effektmålinger EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 11
  • 12. FØR-EFTERMÅLINGER Man måler inden man starter indsatsen (førmåling) og når indsatsen er udført (eftermåling) for hele målgruppen. Nok det mest anvendte undersøgelsesdesign – og noget som vi alle bruger. EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 12
  • 13. FØR-EFTERMÅLING AF LÆSE INTERVENTION 105 100 95 Indsats Kontrol 90 85 80 Før Efter Statistisk signifikant forskel p < 0.001 EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 13
  • 14. FØR-EFTERMÅLING AF LÆSE INTERVENTION 110 105 100 Indsats Kontrol 95 90 85 80 Før Efter Forskel mellem grupper er IKKE signifikant EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 14
  • 15. KAUSAL EFFEKT FORMÅL MED EFFEKTMÅLING: At finde den kausale effekt af indsats på udfaldsmål EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 15
  • 16. EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 16
  • 17. KAUSAL EFFEKT – HVAD KAN GÅ GALT? Enkelt at undersøge, om der er en sammenhæng eller korrelation mellem indsats og udfaldsmål En sådan sammenhæng kan imidlertid ikke nødvendigvis fortolkes som en kausal effekt – at det er netop A der giver B Eksempler: Antal storke og børnefødsler Alkoholindtagelse og lungecancer EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 17
  • 18. INDSATS- OG KONTROLGRUPPE Indsatsgruppen består af personer, der modtager indsatsen Kontrolgruppen består af personer, der ikke modtager indsatsen For at kunne tale om en effektmåling SKAL der være en form for kontrolgruppe EFFEKTMÅLING: HVAD OG HVORDAN HVAD ER EN EFFEKTMÅLING? 11-10-2013 11-10-2013 18 18
  • 19. TO HOVEDTYPER AF METODER TIL EFFEKTMÅLING RANDOMISEREDE KONTROLLEREDE FORSØG MIKRO-ØKONOMETRISKE METODER • Designes før indsatsen sættes i værk • Kan bruges både før og efter indsats er gennemført • Data indsamles undervejs • Kan anvende eksisterende data • Via randomisering ”styrer” man, hvem der får en indsats • Ikke muligt at styre, hvem der deltager • Indsats- og kontrolgruppe kan umiddelbart sammenlignes • Indsats- og kontrolgruppe er typisk ikke ”ens” - metoderne anvendes til at korrigere for forskelle EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 19
  • 20. EFFEKT STIGEN RCT’S EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 20
  • 21. EFFEKT STIGEN RCT’S EFFEKTMÅLING: HVAD OG HVORDAN MIKRO-ØKONOMETRI 11-10-2013 21
  • 22. EFFEKT STIGEN RCT’S MIKRO-ØKONOMETRI Før og efter EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 22
  • 23. HVORNÅR SKAL MAN LAVE EFFEKTMÅLING  Når det giver mening…  Når der kan findes en kontrolgruppe…  Men det giver (næsten) altid mening med en før-eftermåling EFFEKTMÅLING: HVAD OG HVORDAN 11-10-2013 23