Badania konsumenckie:
O co nie pytać, w co nie wierzyć, gdzie szukać. Długa droga od szczerych odpowiedzi do prawdziwej wiedzy.
Jak długo rozmawiasz przez telefon?
Wywiady kognitywne, protokoły głośnomyślenia (tzw. thinkalouds)
125 Czy Konsumenci Umieją Liczyć - 4P Research Mix
1. SESJA: VIII
O co nie pytać, w co nie
wierzyć, gdzie szukać.
Długa droga od szczerych
odpowiedzi do prawdziwej
wiedzy.
TEMAT 1,2,5 …
Czy konsumenci potrafią liczyć?
OPRACOWANY TOMASZA DULINICZA
AGATĘ GRABOWSKĄ
PRZEZ
AGNIESZKĘ PILAWSKĄ
4P research mix
ELŻBIETĘ ŁĘGOSZ
Play
2. Co powiemy i skąd to wiemy
Powiemy:
• jakie mechanizmy poznawcze wiążą się z liczeniem i szacowaniem
• jakie błędy popełniają respondenci pytani o wartości numeryczne
• przedstawimy wyniki badań jakościowych i ilościowych użytkowników sieci
Play
• sformułujemy rekomendacje metodologiczne
Nasze dane:
• wywiady kognitywne, N=16, z użytkownikami sieci Play
• sondaż CATI, N=600, z użytkownikami sieci Play (split ballot)
3. Liczby i ludzie
Wszyscy mamy na co dzień do czynienia z cyframi i liczbami: daty,
godziny, piny, ceny, rozmiary, numery telefonów, miary… Większość
ludzi nie ma jednak wyobraźni numerycznej i popełnia poważne
błędy przeszacowania lub niedoszacowania.
W badaniach często zadajemy jednak respondentom pytania typu:
1. Ile filiżanek kawy wypija Pana(i) w ciągu dnia?
2. Ile czasu poświęca Pan(i) codziennie na
oglądanie telewizji?
3. Ile wnosi roczny dochód netto Pana(i)
gospodarstwa domowego?
4. Ja często robi Pan(i) zakupy spożywcze?
5. Jakiej wysokości alimenty Pan(i) płaci?
3
4. Metr ≠ metr
• Jak długi jest metr? (…a na Ukranie, a na Litwie)
• Jak daleko jest „nie-tak-daleko” w Polsce i w Wietnamie?
• Ile papierosów wypala nałogowy palacz w Polsce i w USA?
…a ile trwa minuta?
Zdaniem użytkowników sieci Play minuta minucie nie równa. Najkrótsza
minuta trwała 17 sekund, najdłuższa – 1 minutę i 42 sekundy.
Czas jest jedną z najtrudniejszych do oszacowania wielkości
numerycznych. Niewiele mniejszą trudność sprawiają jednak
ludziom: odległość, powtarzalne zachowania i wydatki.
7. Strategie poznawcze
Liczenie jest bardziej dokładne niż szacowanie dla epizodów podobnych i
nieregularnych, niezależnie od ich częstotliwości.
Strategia Średnia liczba Błąd Korelacja pomiędzy
epizodów faktyczną a deklarowaną
częstotliwością epizodu
Czeki
Liczenie 12.7 .41 .76
Szacowanie 17.1 .67 .30
Bankomat
Liczenie 2.3 .30 .64
Szacowanie 5.2 .44 .46
S. Sudman, N.Bradburn, N.Schwartz, 1995, Thinking About Answers: The Application of Cognitive Processes to Survey
Methodology
8. Typy błędów
Błędy popełniane przez respondentów w
odpowiedziach wynikają zazwyczaj z:
- zbyt dużego obciążenia poznawczego
- nieadekwatnego przedziału czasowego
- cech epizodu/ zachowania
- złudzenia stabilności
Liczenie Szacowanie
włączenie fałszywy wzór
pominięcie
(comission) niedoszacowanie
(omission) przeszacowanie
9. Efekt zakotwiczenia
W eksperymencie dotyczącym oglądania TV połowa respondentów posługiwała
się skalą rozpiętą pomiędzy „do 30 min ” i „więcej niż 2.5 godziny” (skala 1) , a
druga połowa skalą rozpiętą pomiędzy odpowiedziami „2.5 godziny ” i „więcej niż
4.5 godziny” (skala 2).
Skala 1
Skala 1 Skala 2
38% osób ogląda telewizję dłużej niż 2,5
% respondentów % respondentów
godziny dziennie
<0.5 godz. 7.4 <2.5 godz. 62.5
0.5 godz. do 1 godz. 17.7 2.5 godz. do 3 godz. 23.4
1 godz. do 1.5 godz. Skala 3 godz. do 3.5 godz.
26.5 2 7.8
1.5 godz. do 2 godz. 14.7 3.5 godz. do 4 godz. 4.7
2 godz. do 2.5 godz. 17.7 4 godz. do 4.5 godz. 1.6
> 2.5 godz. osób
16% ogląda 16.2 > 4.5 godz.
telewizję dłużej niż 2,5
0.0
godziny132
N=
dziennie
N. Schwarz, N., Knauper Rating Scales: Numeric Values May Change the Meaning of Scale Labels.,
Public Opinion Quarterly, 1991
10. Polska i włoska arytmetyka lekarska
Polacy Włosi
liczenie 4 godz 05 min (3.1)* 6 godz 05 min (4.3)
procentowanie 7 godz 45 9 min (1.7) 8 godz 45 min (1.6)
czas rzeczywisty 3 godz 45 min 4 godz 25 min
Polacy Włosi
błąd (liczenie) 20 min 1 godz 40 min
błąd (procentowanie) 3 godz 4 godz 25 min Źródło: badanie własne,
A.Grabowska, S. Davi, 2006
*Trudność zadania – liczenia i procentowania - lekarze określali na skali od 1 (łatwe) do 5 (trudne)
Użyto czasowników strony czynnej, w 1 os lp. „dedicare tiempo a” oraz „poświęcać czas na”
11. Ile dni ma tydzień? Ostatnie siedem dni
Przedział
Wywiady kognitywne pozwalają odkryć poprawny dzień początkowy 24%
jak ludzie interpretują oczywiste
wydawałoby się sformułowanie „ostatnie
poprawny dzień końcowy 25%
siedem dni”. Siedem dni to niekoniecznie
sześć dni plus jeden, a już na pewno nie poprawny przedział czasu 6%
tyle samo co tydzień. przedział zawierający dziś 46%
Liczba dni
1-3 6%
4-6 15%
7 20%
8-10 37%
Więcej niż 10 5%
Niejasne 17%
Oryginalna treść pytania
kwestionariuszowego:
Pyt. Jaką ilość słodycz kupił Pan w ciągu
ostatnich siedmiu dni, nie licząc dzisiejszego dnia?
W.A. Belson, 1986, Validity in Survey Research Gower Publishing Co
13. Metodologia
Protokoły głośnomyślenia (tzw. thinkalouds) nawiązują do dziewiętnastowiecznych
psychologicznych technik introspekcyjnych stosowanych przez Williama James’a i
współczesnych badań Ericssona i Simona.
jak vs. co
Respondenta prosi się o to, żeby na głos zastanawiał się nad odpowiedzią. Interesuje
na jak doszedł do danej odpowiedzi, a nie jaka ona jest.
M: Ile razy w ciągu ostatniego roku był Pan u lekarza
pierwszego kontaktu?
R: To mogło być ze trzy, może cztery razy.
M: Czy liczył Pan każdą wizytę u lekarza czy po prostu ogólnie ocenił,
oszacował ile ich było?
M: (jeśli respodnent szacował): Jak Pan to oszacował?
14. Dzwonię, gadam, nie liczę… M: A jak dużo w ogóle
rozmawiasz?
R: No, miesięcznie to
Wywiady kognitywne pozwoliły odkryć : ze trzy godziny
• jak respondenci interpretują pytanie (np. pojęcie „tydzień”)
• jakie przedziały czasowe są dla nich „podręcznym” punktem
odniesienia
• jakie stosują strategie liczenia i szacowania
• jak rozumieją i stosują pojęcie „średniej”
• które pytania są dla nich za trudne – stanowią zbyt duże obciążenie
poznawcze
• jakie popełniają błędy i jak wprowadzają autokorekty
Ogólna obserwacja: na ogólne pytania o dzwonienie, SMSowanie,
wydatki respondenci odpowiadają pewnie, bez zastanowienia, ale
niekoniecznie trafnie.
15. Nasze obserwacje
Interpretacja
pytania
Tydzień wiele ma imion i jest dla respondentów trudnym do interpretacji pojęciem.
Według niektórych to pięć dni pracy, inni wliczają weekend, jeszcze inni biorą pod
uwagę tylko te dni, w które oni sami pracują.
Forma pytania
Pytania w formie 1) „jak długo…(masz telefon w sieci Play) generują większy błąd
niż pytania w formie 2) „od kiedy…”.
Od sześciu miesięcy. Od 7 stycznia, zaraz po moich urodzinach.
Taki efekt jest wynikiem:
• zjawiska znanego jako simple digit preference
• zastosowania osobistego landmarku
16. Nasze obserwacje
bottom -up
Strategie liczenia
top-down
Dwie możliwe strategie:
• dekompozycja (top-down) – szacowanie ogólnej wartości, a
potem szczegółów ( większe ryzyko niedoszacowania)
• sumowanie (bottom-up) – zaczyna się od liczenia i potem
automatycznie mnożenie
M: A to będzie codziennie tak samo?
Obliczanie średniej R: No, faktycznie, w poniedziałki to ja
nie jeżdżę [taksówką] to nie dzwonię,
to odjąć trzeba za ten dzień. 60
Średnia obliczana jest przez: weźmy, nie 70 [SMSów].
• przemnożenie (np. x 7 dni) i dopiero po sugestii
moderatora wprowadzana jest autokorekta.
• szacowanie, ale bardzo niedokładnie, bez żadnej arytmetycznej
logiki np. 20 - 40 SMSów dziennie.
17. -Ile mniej więcej minut wydzwaniasz w miesiącu?
- 30-40 minut.
-A jak to obliczyłeś?
-No rozmowa trwa tak z 5 minut, to tak mniej więcej wyjdzie.
- A ile rozmawiasz w tygodniu?
- 25-35 minut tygodniowo jak się po 5 minut rozmawia.
- A w miesiącu 30-40 minut?(!)
- No nie, bo to właśnie różnie bywa.
- A ile minut dziennie rozmawiasz?
-Tak do 5 minut.
- A dziennie ile rozmów wykonujesz?
Niekonsekwencja nie stanowi problemu.
-Ze dwie.
- A jak myślisz ile średnio trwa rozmowa?
Respondenci minuty. przejmują się 4-6 minut] coś się nie
- 2-3 nie [czyli faktycznie dziennie tym, że
zgadza, wiesz, że jak by tak policzyćuspójnićżeinformacji.
-A nie starają się to wychodzi,
minut miesięcznie?
wydzwaniasz ze 140-150
- O kurcze…tak? No to jest różnica i to duża, taka ilość trochę mnie
przeraża.
19. Przekonania i fakty
Przekonanie Fakt
bardzo dobrze znam ofertę poprawną cenę minuty we własnej
mojego operatora sieci podaje tylko 25% z nich
zwykle doskonale wiem, tylko 9% z nich potrafi w miarę
ile rozmawiam dokładnie oszacować czas rozmów
ponad 30% z nich odbiera więcej
więcej dzwonię niż odbieram
połączeń niż wykonuje
ponad 20% z nich więcej dzwoni niż
więcej odbieram niż dzwonię
odbiera
ponad 50% z nich wykonało więcej
więcej SMS-uję niż dzwonię
rozmów niż wysłało SMS
20. Co ludzie zapamiętują ?
Dobrze pamiętane:
Dobrze znane są:
dane odnoszące się
• wysokość abonamentu (90% zna)
do konkretnego
• wysokość ostatniego doładowania (73%)
doświadczenia
• data ostatniego doładowania (74%)
Gorzej pamiętane:
Słabo znane są: informacje nie wiążące
• cena za minutę rozmowy (37% zna) się z bezpośrednim
• cena SMS (25% zna) doświadczeniem
21. Ile wynoszą wydatki ?
Realne wydatki miesięczne: Realne wydatki miesięczne:
100* 250*
karta abonament
Deklarowane wydatki: Deklarowane wydatki:
230! 260
Przeszacowują, ponieważ: Trafnie szacują, ponieważ:
• miesiąc nie jest dla nich dobrą miarą – • płacą za telefon miesięcznie - pytanie
ich "czas" płynie inaczej – od o miesięczne wydatki jest adekwatne
doładowania do doładowania. do doświadczenia
• często się doładowują - mają • otrzymują fakturę, widzą czarno na
przekonanie, że "ciągle wydają jakieś białym ile płacą
pieniądze".
*indeks wydatków / 100=srednie realne wydatki użytkowników na kartę
22. Od czego zależy dokładność szacowania ?
karta abonament
• Kobiety potrafią oszacować swoje Dokładność szacowania wydatków w
wydatki lepiej niż mężczyźni – panie ofertach z abonamentem jest wysoka,
przeszacowują wydatki o około 30 złotych, jednak jedna prawidłowość jest wyraźna:
panowie o prawie 45 złotych. osoby mniej zamożne znacznie lepiej
• Im starsza osoba, tym lepiej szacuje potrafią oszacować swoje wydatki niż
wydatki. Osoby powyżej 50 roku życia osoby bogate.
szacują je prawie idealnie.
• Im wyższe wydatki, tym większa
umiejętność ich oszacowania. Osoby
wydające ponad 50 złotych miesięcznie,
szacują znacznie dokładniej.
23. Ile trwa średnia rozmowa ? poprawny
zaniżony
zawyżony
nie potrafi powiedzieć
karta abonament
• kontrolują koszty, starają się oszczędzać • nie są tak wrażliwi na ceny (zamożniejsi)
• mają limitowane środki na karcie • w abonamencie mają często duże pakiety minut
• czasem nie są pewni kiedy będą mieli znów • nie muszą się martwić o wyczerpanie się konta
możliwość doładowania
Efekt: rozmawiają krócej niż im się wydaje Efekt: rozmawiają dłużej niż im się wydaje
24. Jak dużo Pan(i) rozmawia ?
Ile połączeń wykonuje Pan(i) ze swojego telefonu:
tygodniowo:
równie często
dziennie: przeszacowanie jak i
tendencja do niedoszacowanie
przeszacowania
miesięcznie:
poprawny tendencja do
zaniżony unikania
zawyżony odpowiedzi
nie potrafi powiedzieć
25. Jak dużo ludzie rozmawiają ?
im dłuższy okres jest …tym lepsza jakość
szacowany… oszacowania
Średni faktyczny miesięczny czas rozmów: 100
Gdy pytamy Gdy pytamy Gdy pytamy
.
.
.
o średnią o średnią o średnią
dzienną: tygodniową: miesięczną:
średnia z średnia z średnia z
deklaracji: deklaracji: deklaracji:
198 114 99
Nietypowe dni czy tygodnie "znoszą się w skali miesiąca", osoby
najmniej pewne własnego zdania wycofują się z deklaracji.
26. Jak pytać o wydatki ?
Można spytać wprost: Ile miesięcznie wydaje Pan(i) na korzystanie z telefonu?
Jednak wtedy następuje przeszacowanie o: 112%
Można spytać pośrednio:
Dokładnie Dość dokładnie Tak wyliczone
szacują szacują LICZBĘ średnie miesięczne
WYSOKOŚĆ doładowań w są ZNACZNIE
ostatniego ciągu ostatnich dokładniejsze niż
doładowania. 3 miesięcy. pytanie wprost.
Wtedy przeszacowanie wynosi tylko: 36%
27. Jak pytać o rozmowy ?
LEPIEJ: Proszę spróbować policzyć/
Lepiej jest pytać o LICZBĘ ROZMÓW niż oszacować, ile telefonów z tego numeru
o CZAS TRWANIA ROZMÓW – wykonuje Pan(i) w ciągu miesiąca?
respondenci lepiej są w stanie
przypomnieć sobie fakt wykonania GORZEJ: Proszę spróbować policzyć/
połączenia, niż czas jego trwania. oszacować, ile średnio minut rozmawia
Pan(i) przez ten telefon w ciągu miesiąca?
• a
LEPIEJ: Proszę spróbować policzyć ile
Lepsze efekty daje poproszenie o
telefonów z tego numeru wykonuje Pan(i)
POLICZENIE liczby wykonywanych
w ciągu miesiąca?
rozmów w zadanym okresie niż o ich
OSZACOWANIE. GORZEJ: Proszę spróbować oszacować,
ile telefonów z tego numeru wykonuje
Pan(i) w ciągu miesiąca?
28. Czytanki badacza
H.Hippler, N., Schwarz.N. Response effects in
surveys. w: H. Hippler, Social Information Processing
and Survey Methodology., 1987
R.Torangeau, L.J. Rips, K. Rasinski, The
Psychology of Survey Response., 2000
S. Sudman, N.Bradburn, N.Schwartz,
Thinking About Answers: The Application of
Cognitive Processes to Survey
Methodology., 1995
N. Schwarz, N., Knauper, Rating Scales:
Numeric Values May Change the Meaning of
Scale Labels., Public Opinion Quarterly, 1991