2. Voorstelling
Nina Van den Driessche
Evaluator bij VDAB
Beleidsevaluaties van strategische thema’s
Vb. werking naar jongeren toe
Vb. behoeftepeiling bij 55+
Gegevens nodig!
2
3. Overzicht
Hoe data verzamelen
Vragen stellen
Online onderzoek
Online vragenlijsten
Online tools voor vragenlijsten
Survey Monkey
Google Forms
Live vragen stellen
3
4. Beschikbare data
Monitoring
Gegevens werkzoekenden
Gegevens vacatures
Demografische gegevens
Gegevens dienstverlening
Wie volgt opleiding?
Infosessies bouw
Taalversterking
4
Visualisatie via Arvastat
5. Beschikbare data
binnen bibliotheek
Aantal ontleningen (duurtijd, genres, ...)
Evoluties: vb. stijging/daling ontlening dvd’s, e-books, ...
Profiel van de gebruiker
Drukste momenten
Afstand tussen woonplaats ontlener en bibliotheek
5
6. Zelf data verzamelen
Soms is bestaande monitoring niet voldoende:
Vb. actieve bemiddeling tot aan pensioen
Groep mensen die wij tot voor kort niet bemiddelden
Wat zijn hun behoeften?
Behoeftepeiling 55+
Via vragenlijst (online en op papier)
Via individuele interviews
6
7. Aantal mogelijke vragen
Waarom bezoeken onze klanten onze bibliotheek?
Hoe ervaren mensen een bezoek aan onze bibliotheek?
Wie zijn onze klanten?
Wat zijn hun behoeften?
Welke vragen hebben onze klanten?
Hoe kunnen we onze dienstverlening nog verbeteren?
Moeten we meer inzetten op een aanbod?
7
8. Zelf data verzamelen
Kwantitatief:
In cijfers uit te drukken
Vb. gemiddelde tevredenheid
Vaak via vragenlijsten
+ Grote aantallen, vergelijkbaar en veralgemeenbaar
Kwalitatief:
Niet in cijfers uit te drukken
Vb. welke verbeterpunten zijn er?
Vaak via interviews en gesprekken
+ Motieven, behoeftes, achterliggende overtuigingen het ‘waarom’
Mixed methods:
In een ideale wereld
Combinatie van kwalitatieve en kwantitatieve methoden
Vb. in welke mate zijn de bezoekers tevreden en waarom zijn zij tevreden?
8
13. Vragen stellen
Goede vragen opstellen is niet gemakkelijk
Vereist zowel kennis als ervaring
Betrouwbaarheid: wanneer men het onderzoek herhaalt, komen dan dezelfde
resultaten naar boven?
test-hertest
Validiteit: wordt er gemeten wat de bedoeling is?
Interne validiteit: zijn de resultaten van het onderzoek geldig voor de onderzochte groep?
Extern validiteit: zijn de resultaten de generaliseren naar de volledige populatie?
Oorzaken: ambiguïteit, sociale wenselijkheid, inhoudelijke fouten of onvolledig,
meetfouten,
Pre-test, beoordeling door experts, desk research, gebruik van gevalideerde
schalen
13
14. Case: tevredenheid klant
over dienstverlening
Hoeveel keer per week bezoekt u de bibliotheek?
Hoe tevreden bent u over de gondella’s?
Waarom bent u tevreden over het personeel?
14
15. Case: tevredenheid klant
over dienstverlening
Hoeveel keer per week bezoekt u de bibliotheek?
In welke mate bent u tevreden over het personeel?
Hoe tevreden bent u over de gondella’s?
Waarom bent u tevreden over het personeel?
15
16. Case: tevredenheid klant
over dienstverlening
Hoeveel keer per week bezoekt u de bibliotheek?
Hoe tevreden bent u over de gondella’s?
Waarom bent u tevreden over het personeel?
16
17. Case: tevredenheid klant
over dienstverlening
Hoeveel keer per week bezoekt u de bibliotheek?
Hoe tevreden bent u over de gondella’s?
Hoe tevreden bent u met de boekenrekken?
Waarom bent u tevreden over het personeel?
17
18. Case: tevredenheid klant
over dienstverlening
Hoeveel keer per week bezoekt u de bibliotheek?
Hoe tevreden bent u over de gondella’s?
Waarom bent u tevreden over het personeel?
18
19. Case: tevredenheid klant
over dienstverlening
Hoeveel keer per week bezoekt u de bibliotheek?
Hoe tevreden bent u over de gondella’s?
Waarom bent u tevreden over het personeel?
Waarom bent u tevreden of ontevreden over het personeel?
19
20. Aantal tips:
Wees zuinig met open vragen
Gebruik niet teveel vaktermen en moeilijke woorden
Vermijd onduidelijke vragen (globale termen, meervoudige vragen,
dubbele ontkenningen)
Vermijd sturende enquêtevragen
Vermijd sturende antwoordmogelijkheden
Maak gebruik van antwoordschalen
Maak je enquête niet te lang en niet te kort
Houd rekening met de doelgroep
Vraag naar een aantal achtergrondvariabelen (als je die niet hebt)
Zet je vragen in een logische volgorde
Test je vragenlijst
Schrijf een duidelijke instructie: Voor wie? Wat is het onderwerp?
Waarvoor worden resultaten gebruikt? Is deelname anoniem?
20
21. Privacy
Er zijn wettelijke regels bij het uitvoeren van onderzoek en het
beschermen van persoonlijke gegevens
Persoonsgegevens mogen enkel gebruikt worden met een duidelijk en
vooraf gesteld doel
Gegevens mogen enkel voor onderzoeksdoeleinden gebruikt worden
https://www.privacycommission.be/sites/privacycommission/files/docum
ents/vademecum-voor-de-onderzoeker_0.pdf
21
23. Veel mogelijkheden
Online survey
Bulletin boards
Live focusgroepen,
Chatsessies/fora
Live webcam
Co-creation labs
Online communities
23
24. Online onderzoek
Voordelen
Mensen kunnen deelnemen los
van geografische beperkingen
Geen verplaatsingskosten
Vaak goedkoper
Nadelen
Gaan er zaken verloren? Dezelfde
soort interactie?
Kan moderator nog ingrijpen?
Hoe wordt de privacy verzekerd?
24
26. Online vragenlijsten
Meest gebruikte vorm van gegevensverzameling
Een gestructureerde vragenlijst wordt op een webpagina geplaatst
Respondenten vullen de vragenlijst in en gegevens worden verzonden
naar online databank van de onderzoekers
26
27. Online vragenlijsten
Voordelen
Goedkoper dan traditioneel onderzoek
Mogelijkheid om grote steekproeven te nemen
Snelle respons en gegevensverzameling
Minder gegevensverwerking
Minder kans op menselijke fouten
Goede en makkelijke follow-up respons
Rijke data
Grote bereikbaarheid van allerlei populaties
Gevoelige onderwerpen mogelijk
Ontvangen surveys altijd volledig en foutloos
Grote interactieve grafische en multi-media
mogelijkheden
Gebruiksvriendelijk
Automatische filtervragen (relevantie)
Controle op volgorde vragen
Geen interviewvertekening
24/7
Nadelen
In sommige gevallen zijn online webpopulatie
en offline populatie sterk verschillend van elkaar
Nationale representatieve steekproef
trekken is moeilijk
Beperkte ondervertegenwoordiging van
sommige groepen
Veelal geen steekproefkader
Zelfselectie door respondenten
Technische moeilijkheden (modelsnelheid,
slechte browser,…)
Websurvey opzetten moeten geschikt zijn voor
verschillende browsers en platforms
27
28. Hoe respondenten kiezen?
Mensen onderscheppen wanneer ze website bezoeken
Panels van internetgebruikers
E-mailadressenbestand van klanten
Geregistreerde bestemmelingen van nieuwsbrieven of
computerapplicaties
28
31. Hoe respondenten kiezen?
Mensen onderscheppen wanneer ze website bezoeken
Panels van internetgebruikers
E-mailadressenbestand van klanten
Geregistreerde bestemmelingen van nieuwsbrieven of
computerapplicaties
31
33. Tools voor online vragenlijsten
QUALTRICS GOOGLE FORMS SURVEYMONKEY THESISTOOLS
+ Veel mogelijkheden
qua structuur en
type vragen
+ Uitgebreide online
ondersteuning
+ Overzichtelijke
resultaten (excel,
spss)
+ Makkelijk te
exporteren
+ Gratis
+ Beschikbaar op
google-drive
+ Makkelijk
samenwerken
+ Overzichtelijke
resultaten
+ Makkelijk te
exporteren
+ Gratis
+ Uitgebreide versie
mogelijk voor
bedrijven
+ Relatief veel
mogelijkheden qua
structuur
+ Online manier om
statistieken weer te
geven
+ Export Excel ook
mogelijk
+ Gratis
+ Panel aanwezig
+ Overzichtelijke
resultaten
+ Makkelijk te
exporteren
‐ Licentie nodig
‐ Tijdrovend
‐ Relatief weinig
structuuropties
‐ Minder geschikt
voor uitgebreide
enquêtes
‐ Google-account
vereist
‐ Gratis versie : maar
10 vragen en niet
alle functies
beschikbaar
‐ Uitgebreide versie
is betalend
‐ Weinig vraag- en
structuuropties
‐ Advertenties
‐ Minder geschikt
voor uitgebreide
enquêtes
33
34. Links naar de tools
www.qualtrics.com
https://docs.google.com/forms/u/0/
https://nl.surveymonkey.com/
http://www.thesistools.com/
34
58. Live data verzamelen
Data verzamelen wordt steeds efficiënter
Penetratie van mobiele apparaten (desktops, smartphones en tablets)
Vb. smartphone laat toe dat mensen in real-time vragenlijst kunnen
invullen, vb. voor of na een beleving
58
59. Vb. kathoot.it
Voordelen
Respondenten vergeten minder
Goed wanneer betrokkenheid
laag is
Resultaten zijn snel beschikbaar
Gevoerde actie kan snel
geëvalueerd worden
Nadelen
Kosten van data-overdracht voor
respondent
Privacy
Technische beperkingen
Zelfselectie
59
de enquête levert de ‘statistiek’ (de betrouwbaarheid) en de interviews geven een verdieping om erachter te komen wat er werkelijk speelt (de validiteit).
Interne validiteit
de vraag meet klantentrouw en niet tevredenheid
De vraag is onduidelijk, want klanten weten niet wat een gondella is. Pretest kan dit oplossen
De vraag is niet neutraal en kan de meting beïnvloeden. Oplossing is nieuwe meetvraag.