Олександр Дзюба та Євгеній Тур "Майстер-клас “Вивчення гравців. DIY” Ми реально навчимо робити найкращі ігри в світі через аналіз гравців" GameDev Conference 2018
GameDev Conference 2018
Олександр Дзюба та Євгеній Тур "Майстер-клас “Вивчення гравців. DIY” Ми реально навчимо робити найкращі ігри в світі через аналіз гравців"
What Users Want: Methods of Making Successful Apps and Games -- Alexander Dzyuba, Sales Director, Playtestix (White Nights: Mobile Games Conference http://www.wnconf.com/)
5 уроĸов из провальных АБ тестов / Сергей Гилев (Playkot)DevGAMM Conference
Многие ĸомпании уверены, что АБ тесты и опора на данных помогут им решить проблемы с принятием продуĸтовых решений. Однаĸо, лишь немногие осознают ограничения этого подхода и знают способы обезопасить себя от них. На этой сессии Сергей рассĸажет о неĸоторых опасностях подхода и посоветует, как их можно избежать. Компаниям, которые только начинают внедрять у себя АБ тестирование, это может помочь избежать этих ошибок.
Небольшая презентация о методе решения задач «Мозговой штурм» — как применять, какова процедура.
Small presentation on the tasks solving method of «Mind storm» — how to apply, what is the procedure.
Ольга Лужецька - Exploratory testing: Love it or Leave it?DataArt
Є думка, що exploratory testing - це хаотичний процес, яким важко керувати. Ми розберемось, чи можна організувати exploratory testing так, щоб продукт був крутим та якісним, ризики більш передбачувані, а тестувальники отримували задоволення.
What Users Want: Methods of Making Successful Apps and Games -- Alexander Dzyuba, Sales Director, Playtestix (White Nights: Mobile Games Conference http://www.wnconf.com/)
5 уроĸов из провальных АБ тестов / Сергей Гилев (Playkot)DevGAMM Conference
Многие ĸомпании уверены, что АБ тесты и опора на данных помогут им решить проблемы с принятием продуĸтовых решений. Однаĸо, лишь немногие осознают ограничения этого подхода и знают способы обезопасить себя от них. На этой сессии Сергей рассĸажет о неĸоторых опасностях подхода и посоветует, как их можно избежать. Компаниям, которые только начинают внедрять у себя АБ тестирование, это может помочь избежать этих ошибок.
Небольшая презентация о методе решения задач «Мозговой штурм» — как применять, какова процедура.
Small presentation on the tasks solving method of «Mind storm» — how to apply, what is the procedure.
Ольга Лужецька - Exploratory testing: Love it or Leave it?DataArt
Є думка, що exploratory testing - це хаотичний процес, яким важко керувати. Ми розберемось, чи можна організувати exploratory testing так, щоб продукт був крутим та якісним, ризики більш передбачувані, а тестувальники отримували задоволення.
Андрей Мандрика: Доверяй но проверяй. Или зачем нужно проверять гипотезы при ...Andrii Mandrika
У вас возникла отличная идея как можно реализовать тот или иной функционал? Это очень хорошо… НО! поверьте, не стоит сразу бросаться в разработку. Почему? А именно об этом мы и поговорим в сегодняшнем докладе.
Какие бывают гипотезы?
Почему стоит их проверять и опровергать?
Как влияет разработка через гипотезы на процесс работы с требованиями?
Какие способы и техники проверки гипотез существуют? Какие работают, а какие нет - рассмотрим реальные примеры использования из практики.
Прыжок веры. От настоящегого к будущему. (AnalystDays2016)Alexey Vasilyev
При разработке и внедрении ИТ-систем мы так концентрируемся на факторе "чего бы такое продать клиенту, чтобы он купил", что забываем о "жизни после продажи". Как результат разработанная ИТ-система или изделие стоит на полке у Заказчика, а пользователи решают свои задачи привычным им способом.
К сожалению, о том, что надо было сделать, мы понимаем слишком поздно.
Как бы так сделать, чтобы подумать о будущем уже сегодня? Как заглянуть за горизонт событий?
А. Дзюба. "Чего хотят пользователи? Методика создания успешных игр и приложений"Playtestix
What Users Want: Methods of Making Successful Apps and Games -- Alexander Dzyuba, СЕО, Playtestix
(White Nights: Mobile Games Conference 2013: http://www.wnconf.com/)
Александр Дзюба, СЕО компании Playtestix, 21 ноября в рамках конференции Game Factory рассказал о том, как правильно проводить плейтесты.
На лекции были рассмотрены следующие вопросы:
- возможности пользовательского тестирования, задачи, которые поможет решить плейтест, а также его возможные форматы;
- методы сбора данных, как их правильно выбирать, формировать и использовать;
- этапы подготовки тестирования.
Во время выступления совместно с аудиторией был составлен инструментарий, а также проведен открытый плейтест.
Андрей Мандрика: Доверяй но проверяй. Или зачем нужно проверять гипотезы при ...Andrii Mandrika
У вас возникла отличная идея как можно реализовать тот или иной функционал? Это очень хорошо… НО! поверьте, не стоит сразу бросаться в разработку. Почему? А именно об этом мы и поговорим в сегодняшнем докладе.
Какие бывают гипотезы?
Почему стоит их проверять и опровергать?
Как влияет разработка через гипотезы на процесс работы с требованиями?
Какие способы и техники проверки гипотез существуют? Какие работают, а какие нет - рассмотрим реальные примеры использования из практики.
Прыжок веры. От настоящегого к будущему. (AnalystDays2016)Alexey Vasilyev
При разработке и внедрении ИТ-систем мы так концентрируемся на факторе "чего бы такое продать клиенту, чтобы он купил", что забываем о "жизни после продажи". Как результат разработанная ИТ-система или изделие стоит на полке у Заказчика, а пользователи решают свои задачи привычным им способом.
К сожалению, о том, что надо было сделать, мы понимаем слишком поздно.
Как бы так сделать, чтобы подумать о будущем уже сегодня? Как заглянуть за горизонт событий?
Similar to Олександр Дзюба та Євгеній Тур "Майстер-клас “Вивчення гравців. DIY” Ми реально навчимо робити найкращі ігри в світі через аналіз гравців" GameDev Conference 2018
А. Дзюба. "Чего хотят пользователи? Методика создания успешных игр и приложений"Playtestix
What Users Want: Methods of Making Successful Apps and Games -- Alexander Dzyuba, СЕО, Playtestix
(White Nights: Mobile Games Conference 2013: http://www.wnconf.com/)
Александр Дзюба, СЕО компании Playtestix, 21 ноября в рамках конференции Game Factory рассказал о том, как правильно проводить плейтесты.
На лекции были рассмотрены следующие вопросы:
- возможности пользовательского тестирования, задачи, которые поможет решить плейтест, а также его возможные форматы;
- методы сбора данных, как их правильно выбирать, формировать и использовать;
- этапы подготовки тестирования.
Во время выступления совместно с аудиторией был составлен инструментарий, а также проведен открытый плейтест.
Feedback collection proper way. How to avoid data garblingDevGAMM Conference
Alexander Dzyuba, CEO, Sense.Vision
Evgeniy Tur, Sense.Vision
How to collect user feedback for decision making by game designer and game producer. Rules of research methodology picking and questions formulation. Dramatic differences from colloquial language.
Striking data garbling during data collection, caused by wrong actions – results of provocative experiments with innocent players.
QA Fest 2014. Татьяна Завьялова. Юзабилити и живые людиQAFest
Классический подход к созданию программного продукта с высоким уровнем юзабилити предусматривает итеративную разработку с тестированием на потенциальных пользователях в конце каждой итерации. Зачем проводить тестирование на живых людях? Мы все прекрасно понимаем, что каждая отдельная конфигурация системы, будь то аппаратное или программное обеспечение, влияет на качество работы системы. Но вот с той стороны экрана есть два, вроде как стандартных, глаза, которые видят изображение на экране, и мозг, который полученную информацию интерпретирует. Конфигурации (опыт и навыки) этого мозга настолько разнообразны, что заранее предугадать последующую интерпретацию - задача очень даже нетривиальная.
Я расскажу о том, как проверить догадки бизнеса, дизайнеров и разработчиков методом пользовательского тестирования. Затрону методологию, протоколы, покажу примеры из своей практики. Будет интересно.
Тема скорее обзорная и рассчитана на широкую аудиторию. Формат: лекция с элементами дискуссии.
Ксения Стернина | (Mail.Ru Group)Gamer Experience Research на различных этапа...RIF-Technology
На примерах реальных кейсов Mail.Ru Group я расскажу о том, как методы UX исследований помогают разрабатывать игры на различных этапах от идеи до проверки готовых решений. Обсудим, какие методики UXR можно оставить без изменения, а какие требуют адаптации.
Playtestix: Playtesting: cases and figures. ‘Before’ and ‘after’, ways of ach...DevGAMM Conference
Playtesting will be shown as an integral part of development process and backed up with cases, examples. Particular projects, real-life stories, metrics and ways of searching for solutions.
Проектирование интерфейсов весна 2014 занятие 7Technopark
Similar to Олександр Дзюба та Євгеній Тур "Майстер-клас “Вивчення гравців. DIY” Ми реально навчимо робити найкращі ігри в світі через аналіз гравців" GameDev Conference 2018 (20)
Artem Bykovets: Чому люди не стають раптово кросс-функціональними, хоча в нас...Lviv Startup Club
Artem Bykovets: Чому люди не стають раптово кросс-функціональними, хоча в нас Agile? (UA)
Kyiv PMDay 2024 Summer
Website – www.pmday.org
Youtube – https://www.youtube.com/startuplviv
FB – https://www.facebook.com/pmdayconference
Natalia Renska & Roman Astafiev: Нарциси і психопати в організаціях. Як це вп...Lviv Startup Club
Natalia Renska & Roman Astafiev: Нарциси і психопати в організаціях. Як це впливає на розробку продуктів та реалізацію інноваційних рішень (UA)
Kyiv PMDay 2024 Summer
Website – www.pmday.org
Youtube – https://www.youtube.com/startuplviv
FB – https://www.facebook.com/pmdayconference
Igor Protsenko: Difference between outsourcing and product companies for prod...Lviv Startup Club
Igor Protsenko: Difference between outsourcing and product companies for product managers and related challenges (UA)
Kyiv PMDay 2024 Summer
Website – www.pmday.org
Youtube – https://www.youtube.com/startuplviv
FB – https://www.facebook.com/pmdayconference
Kseniya Leshchenko: Shared development support service model as the way to ma...Lviv Startup Club
Kseniya Leshchenko: Shared development support service model as the way to make small projects with small budgets profitable for the company (UA)
Kyiv PMDay 2024 Summer
Website – www.pmday.org
Youtube – https://www.youtube.com/startuplviv
FB – https://www.facebook.com/pmdayconference
Anna Kompanets: Проблеми впровадження проєктів, про які б ви ніколи не подума...Lviv Startup Club
Anna Kompanets: Проблеми впровадження проєктів, про які б ви ніколи не подумали (UA)
Kyiv PMDay 2024 Summer
Website – www.pmday.org
Youtube – https://www.youtube.com/startuplviv
FB – https://www.facebook.com/pmdayconference
Kateryna Kubasova: Абстрактне Оксфордське лідерство конкретному українському ...
Олександр Дзюба та Євгеній Тур "Майстер-клас “Вивчення гравців. DIY” Ми реально навчимо робити найкращі ігри в світі через аналіз гравців" GameDev Conference 2018
2. Евгений Тур
Head of Analytics/Product
в Sense.Vision
Больше 6 лет опыта
в исследованиях и аналитике
Фанат индустрии видеоигр
2
Обо мне
3. 3
● Проводим плейтесты
по всему миру
● Команда работает
почти 5 лет
● Нам доверяют лидеры
рынка видеоигр
Sense.Vision. Кто мы?
4. 4
О чем будем говорить?
● Что такое плейтест и зачем их проводить?
● Отличия плейтестов от QA и аналитики
● Форматы и этапы организации плейтеста
● Поиск респондентов
● Методы сбора данных
WORKSHOP PLAN
5. $24,5 млрд объем рынка
видеоигр США
Общий объем в мире
более $100 млрд
5
Индустрия видеоигр
6. ● Попасть в магазин никогда не было так легко
● Получить внимание никогда не было так сложно
● В 2017 году на Steam вышло 7672 игры (+40% к 2016)
● Это больше игр, чем за весь период 2005-2015 (!)
● Десятки новых игр на всех платформах каждый день
● У игры есть только один шанс привлечь аудиторию
6
Рост конкуренции
12. Плейтест — это
пользовательское
тестирование игры,
проводимое с целью оценить
играбельность, управление,
введение игрока в игру,
общее впечатление,
потенциал по удержанию
игроков и монетизации.
12
Что такое плейтест?
13. 13
Что дают плейтесты?
- понимание ЦА
- правильные решения
- видеть проблемы заранее
- знать, как изменять игру
- сделать игроков счастливыми
14. ● Экономия бюджета на
переделки
● Становятся выше
ретеншн, LTV,
виральность, NPS
● Органический трафик
● PR
Коммерческая выгода
плейтестов
14
16. 16
Типичные задачи плейтеста
● Изучить конкурентов или игры/референсы
● Оценка/сравнение прототипов игры
● Привлечение игроков в игру (Acquisition)
● Удержание игроков (Retention)
● Потенциал монетизации (Monetization)
● Оценка различных составляющих игры:
○ обучение (формат и понятность);
○ управление и интерфейс
○ игровые механики,
○ игровой мир (сеттинг);
○ графика и звук.
17. 17
Не путать роли
Не ожидать готовых идей
Оценивать то, что есть в игре
Игровая сессия до 2 часов
Не использовать одних
и тех же игроков
Ограничения плейтестов
18. 18
QA и плейтесты
● QA тестирование
(англ. quality assurance)
● Пользовательское
тестирование (плейтесты)
19. Плейтест:
● позволяет увидеть
впечатления и эмоции игрока
от игры;
● дает информацию о
проблемах, с которыми
сталкивается игрок;
● можно проводить задолго до
релиза (не требуют активной
базы игроков в игре);
● не дает точных метрик, но
позволяет лучше понимать их. 19
Игровая
аналитика:
● работает с большими
массивами данных;
● ориентирована на точные
метрики (ARPU, Retention%,
DAU, WAU, MAU и т.п.);
● не дает инсайтов о причинах
поведения игрока;
● не дает информации об
эмоциях и проблемах, с
которыми сталкивается игрок
21. 21
Задачи исследований
Идея Прототип Альфа
Выбор ЦА игры
Когда, как долго, где,
с кем и для чего играют
Лучшие каналы промо игры
По каким критериям игроки
оценивают и выбирают игры
Драйверы, триггеры, барьеры
Видение идеальной игры
Идея игры
Основная механика
Игровые цели
Модель управления
Идея сеттинга
Вызванные эмоции
Манера взаимодействия
22. 22
Задачи исследований
Бета Софт-лонч Апдейт
Геймплей
Графика, звук
Навигация
Управление и UI
Сеттинг
Баланс
Ретеншн (расчет и увеличение)
Монетизация (модель, цены т.д.)
23. Процесс организации плейтеста
1. Постановка задачи
2. Уточнение параметров ЦА
3. Определение кол-ва участников
4. Подготовка методологии
5. Рекрутинг участников
6. Игровая сессия
7. Сбор данных
8. Анализ данных
9. Воплощение результатов
Playtesting
The difference between cake and evil robots
23
25. Постановка задачи
25
● Насколько туториал справляется со своими задачами
● Эмоции и впечатления от основного геймплея
● Оценка графики, эстетики, игрового мира
● Оценка сюжета, персонажей
● Оценка баланса сложности
● Оценка системы прогресса в игре
● Драйверы и барьеры ретеншна 7 дня
● Драйверы и барьеры монетизации
26. Пол, возраст
Платформа и устройства
Опыт игры в референсы
Любимые жанры
Хардкорность
Кто ваши игроки?
26
28. ВАЖНО!!!
Отборочный скринер
Вознаграждение - лучше не деньгами
Источники поиска респондентов:
● Аудитория предыдущих проектов
● Сайты
● Сообщества, форумы
● Соцсети
● Мероприятия
● Сайты поиска работы
● Сарафанное радио
Поиск подходящих игроков
28
29. Преимущества профильной компании:
● наличие базы респондентов
● строгий контроль респондентов в базе (данные, когда последний
раз участвовали);
● профессиональные рекрутеры в разных странах мира (США,
Германия, Великобритания, Нидерланды, Китай, Япония)
● подписание NDA со всеми респондентами.
Поиск подходящих игроков
29
30. ● Тест юзабилити - 5 человек для выявления 80% проблем
● Стандартный плейтест - 10-25 человек
● Если нужно сравнивать варианты - нужно хотя бы 50
● Многодневный плейтест - учитывайте отвал респондентов
Определение количества игроков
30
Количество
игроков
Погрешность
измерений
(P=95%*)
Количество
игроков
Погрешность
измерений
(P=95%*)
25 19,5% 200 6,9%
50 13,8% 300 5,7%
75 11,3% 400 4,9%
100 9,8% 800 3,5%
150 8,0% 1000 3,1%
32. 32
Логика сбора данных
Кол-во
игрового
времени
Этапы формирования
игрового опыта
О чем спрашиваем
0 минут Отсутствует Данные респондента (фамилия, имя, пол, возраст, предпочитаемые игры,
прочее).
0 минут Ожидания, сформированные
маркетинговыми
материалами
Впечатления от иконки, названия, описания в сторе, скриншотов, видео.
Ожидания от игры, для кого игра. Желание установить игру, начать играть.
2 минуты Первое впечатление Первое впечатление от игры (что за игра). Разобрался ли игрок с целями на
уровне и управлением, есть ли желание продолжить игру
10 минут Первый опыт Разобрался ли игрок с игровыми целями, привык ли к управлению. Оценка
туториала (доступность, полнота, удобство).
30 минут Значительный опыт Качество реализации замысла. Освоение основных игровых механик. Оценка
понимания системы прогресса в игре. Комфорт в возрастании сложности.
Удобство реализации меню и интерфейса, приемов управления. Желание
играть дальше.
60 минут Полный опыт Общая оценка игры, насколько оправдались ожидания. Сильные и слабые
стороны игры. Оценка игрового процесса. Баланс сложности. Темп прогресса.
Оценка графики и звука. Оценка сюжета, положительных и отрицательных
героев, главного героя. Готовность рекомендовать друзьям, соревноваться,
делиться в соцсетях. Общие пожелания, идеи. Желание вернуться в игру.
33. 33
● Анкетирование
● Наблюдение
● Видеозапись
● Индивидуальное интервью
● Групповое интервью (фокус-группа)
● Экспертное интервью
● Мысли вслух
Основные методы сбора данных
34. 34
Анкетирование
● Данные собирают с помощью анкеты
● Вопросы в анкете могут быть закрытые и открытые
● Цель - сбор основных впечатлений, оценок на
различных этапах тестирования
35. Закрытые вопросы — дают возможность получить количественную
оценку определенному свойству изучаемого объекта.
● Номинальные шкалы:
- с выбором одной альтернативы;
- с множественным выбором альтернатив;
● Порядковые (или ранговые) шкалы
● Метрические шкалы (семантический дифференциал)
Открытые вопросы — место для развернутого комментария;
хороший способ получить интересные мысли, идеи, лучше понять
игрока.
Типы вопросов в анкете
35
36. 36
Только открытые вопросы - ЗЛО
Игрок не ограничен
в высказываниях
Легче готовить
инструментарий
Тяжело обрабатывать данные
Тяжело получить
количественные показатели
Тяжело сравнивать ответы
разных респондентов
Много игроков ленятся писать,
ответы из одного слова
42. 42
Интервью
Индивидуальное интервью - это структурированная
беседа с игроком на определенном этапе знакомства с
продуктом с целью выявления мотивов игрока (главное
- ответ на вопрос “почему?”).
43. Один вопрос за раз
Нейтральность вопросов
Однозначность формулировки
Уточняющие вопросы
Как задавать вопросы
44. Правильно
Открытые вопросы
Что Вы думаете об этом?
Как бы Вы описали систему
прогресса в игре?
Уточняющие вопросы
Что именно в интерфейсе Вам
непонятно?
45. НЕправильно
Закрытые вопросы
Вам понравилась игра?
Наводящие вопросы
Понятно ли, что цель игры состоит в наборе
максимального количества очков?
Вопросы о будущем
Будете играть, если добавят метагейм?
46. Видеозапись и транскрипт
Общие тенденции
и разногласия
Причины поведения
Смыслы, идеи,
а не количество
Гипотезы
46
Анализ интервью
47. ФГИ - одновременное интервьюирование 6-10 человек
в формате дискуссии.
Продолжительность - 1-2 часа.
Типичные задачи для ФГИ:
- отношение к играм подобного жанра
- изучение предпочтений ЦА
- тестирование маркетинговых материалов
Групповое интервью (фокус-группа)
47
50. In-house плейтест
50
Преимущества:
● полный контроль за
проведением;
● самостоятельный подбор
респондентов;
● изменение методологии на
лету.
Недостатки:
● временные затраты;
● трудности с поиском
подходящих респондентов;
● организационные сложности;
● большой риск ошибок при
проведении;
● трудности с донесением
результатов до команды.