SlideShare a Scribd company logo
ПРАКТИЧЕСКАЯ
ВИЗУАЛИЗАЦИЯ ПОЛЬЗЫ
ТЕСТИРОВАНИЯ ДЛЯ
КЛИЕНТА
QA FEST
ЗАВЕРТАЙЛО ЮЛИЯ
О себе
• 9 лет в тестировании, из них 7 лет
в компании ITERA
• Последние 4 года работаю с
большими страховыми
компаниями в Скандинавии
• Основная специализация –
мануальное тестирование, QA и
тест менеджмент
• Основной фронт работы –
построение процессов по
тестированию в компаниях и тест
лидершип в проектах
• Ментор и коучер для
подрастающего поколения
тестировщиков
09.11.2015 / 2
Содержание
• Основные проблемы в области качества и тестирования
• Что улучшать?
• Что интересно знать клиенту о результатах нашей работы? (наше
мнение)
• Что же на самом деле интересно клиенту? (мнение клиента)
• KPIs – примеры
09.11.2015 / 3
Основные проблемы в области
качества и тестирования
• Отсутствие тестового покрытия
• Часто изменяемые и нечеткие требования к продукту /
функциональности
• Отсутствие профессионального мануального и
автоматизированного тестирования
• Позднее обнаружение дефектов во время разработки
• Критические дефекты обнаруживаются в продакшене
• Неэффективные трудозатраты на тестирование
• Отсутствие гибкости к необходимым изменениям в ходе
разработки
09.11.2015 / 4
Что улучшать?
• Эффективность команды разработчиков
• Качество самого тестирования
• Уменьшать затраты на тестирование и последующую поддержку
продукта
09.11.2015 / 5
Что интересно знать клиенту о результатах
нашей работы? (наше мнение)
• Какая мы хорошая команда тестировщиков и как здорово
вписались в проект
• Сколько тестировщики написали тест планов, тест кейсов и тест
самари репортов
• Как много мы находим багов
• Как здорово мы понимаем бизнес и требования клиента
• Как здорово вы умеем коммуницировать и решать проблемы
• …
09.11.2015 / 6
Что же на самом деле интересно клиенту?
(мнение клиента)
• Сколько критических и шоустопер багов было найдено в
продакшене (и сколько миллионов крон, евро, долларов было
потеряно из-за багов)?
• Насколько меньше времени (в часах) стали тратить бизнес-
пользователи на тестирование?
• Стало ли возможно увеличить частоту поставок в продакшен и
прийти к continuous integration?
• Насколько минимизировались затраты на регресионное
тестирование
09.11.2015 / 7
KPI – Пример1: Тестовое покрытие
09.11.2015 / 8
Как собирать:
• Настроить ТМ tool (TFS, Jira)
• «Ручками» в Excel
Какую информацию это дает клиенту:
• Визуализирует «темные» дыры приложения: показывает, что в приложении Х
функций и риск ошибок равен % того, что не покрыто тестами
• Визуализирует, что чем больше покрытие, тем меньше риск упущенных дефектов
• Визуализирует функциональность, требующую большего внимания, и дальнейшие
вложения на покрытие тестами
354
182
118 122
68
17
325
80
118
107
54
12
180
5
23
46
10 10
0
50
100
150
200
250
300
350
400
Модуль 1 Модуль 2 Модуль 3 Модуль 4 Модуль 5 Модуль 6
Всего фич Покрыто тестами Автоматизировано
KPI - Пример2: Временные затраты бизнес
ресурсов
Как собирать:
• Логировать время на задачах по тестированию в трекинговой системе
• Запрашивать информацию по факту –трекать в Excel
09.11.2015 / 9
Какую информацию это дает клиенту:
• Визуализирует минимизацию трудозатрат пользователей
0
10
20
30
40
50
60
70
80
Релиз 1 Релиз 2 Релиз 3 Релиз 4 Релиз 5 Релиз 6 Релиз 7 Релиз 8 Релиз 9
Модуль1 Модуль2 Модуль3
KPI – Пример3: Количество дефектов
Как собирать:
• TFS&Pivot tables
• Jira: filters &dashboards
• «Ручками» в Excel
09.11.2015 / 10
Какую информацию это дает клиенту
• Тренд уменьшения количества дефектов в продакшене
• Увеличение количества дефектов в ходе разработки
238
26
7
13
7 10 8
212
206
156
116
214
112
0
50
100
150
200
250
Релиз1 Релиз2 Релиз3 Релиз4 Релиз5 Релиз6
Всего Продакшен Разработка
KPI – Пример 4: Время на фидбек о качестве
продукта
Как собирать:
• Cравнить время на прогон автотестов с мануальными затратами
• Посчитать коэффициент: во сколько раз автотесты дают быстрее фидбек, чем
ручное тестирование
09.11.2015 / 11
Какую информацию это дает клиенту:
• Как часто можно делать поставки в продакшен после изменений
• Принять решение о рисках, связанных с хотфиксами
Тест Сьют
Кол-во тестов в
сьюте
Время
на прогон сьюта
автотестами,
в часах
Время
на прогон сьюта
мануально,
в часах
Смоук Тест Сьют 6 0,2 1,5
Модуль1 39 2,5 9,75
Модуль2 9 0,2 2,25
Модуль3 30 1 7,5
Модуль4 32 1,3 8
Модуль5 15 0,5 3,75
Регресионный сьют 1 191 5,5 47,75
Регресионный сьют 2 204 5,5 51
Регресионный сьют 3 194 5,5 48,5
Всего 720 22,2 180
Выводы
• Чем лучше настроены тулы и поставлены процессы – тем лучше!
• Чем хуже и бестолковей процессы по тестированию и
конфигурация ТМ тулов – тем меньше мотивации собирать
информацию руками и тем больше времени тратится на сбор
данных!
• Говорить на языке клиента – нужно и можно!
• Все сложное – удивительно просто!
09.11.2015 / 12
ВОПРОСЫ?
09.11.2015 / 13
СПАСИБО!
09.11.2015 / 14
QA Fest 2015. Юлия Завертайло. Практическая визуализация пользы тестирования для клиента

More Related Content

What's hot

Эффективное взаимодействие тестировщика и аналитика
Эффективное взаимодействие тестировщика и аналитикаЭффективное взаимодействие тестировщика и аналитика
Эффективное взаимодействие тестировщика и аналитика
SQALab
 
Test design techniques basics
Test design techniques basicsTest design techniques basics
Test design techniques basics
Artem Bykovets
 
Подготовка стратегии тестирования под высокорискованный, высокодоходный проект
Подготовка стратегии тестирования под высокорискованный, высокодоходный проектПодготовка стратегии тестирования под высокорискованный, высокодоходный проект
Подготовка стратегии тестирования под высокорискованный, высокодоходный проект
SQALab
 
Введение в performance management
Введение в performance managementВведение в performance management
Введение в performance management
SQALab
 
WP как экспериментальная платформа
WP как экспериментальная платформаWP как экспериментальная платформа
WP как экспериментальная платформа
SQALab
 
Оценки тестирования - полезные и условные метрики
Оценки тестирования - полезные и условные метрикиОценки тестирования - полезные и условные метрики
Оценки тестирования - полезные и условные метрики
SQALab
 
Как автотесты ускоряют релизы в OK.ru
Как автотесты ускоряют релизы в OK.ruКак автотесты ускоряют релизы в OK.ru
Как автотесты ускоряют релизы в OK.ru
Badoo Development
 
Делаем автоматизацию проектных KPIs
Делаем автоматизацию проектных KPIsДелаем автоматизацию проектных KPIs
Делаем автоматизацию проектных KPIs
SQALab
 
Quality Assurance vs Quality Control - так в чем же заключается работа специа...
Quality Assurance vs Quality Control - так в чем же заключается работа специа...Quality Assurance vs Quality Control - так в чем же заключается работа специа...
Quality Assurance vs Quality Control - так в чем же заключается работа специа...
COMAQA.BY
 
Гибкое тестирование
Гибкое тестированиеГибкое тестирование
Гибкое тестирование
Rina Uzhevko
 
QA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
QA Fes 2016. Анастасия Асеева. Роль тестирования в DevopsQA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
QA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
QAFest
 
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Автоматизация 0.0: 0 - бюджет, 0 - опыт программированияАвтоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
SQALab
 
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
SQALab
 
QA Fest 2015. Aлександр Кузняк. Тестовая документация. How-To и типичные ошибки
QA Fest 2015. Aлександр Кузняк. Тестовая документация. How-To и типичные ошибкиQA Fest 2015. Aлександр Кузняк. Тестовая документация. How-To и типичные ошибки
QA Fest 2015. Aлександр Кузняк. Тестовая документация. How-To и типичные ошибки
QAFest
 
Новый процесс тестирования на "старом" проекте
Новый процесс тестирования на "старом" проектеНовый процесс тестирования на "старом" проекте
Новый процесс тестирования на "старом" проекте
SQALab
 
QA как драйвер трансформации
QA как драйвер трансформацииQA как драйвер трансформации
QA как драйвер трансформации
SQALab
 
Темная сторона метрик
Темная сторона метрикТемная сторона метрик
Темная сторона метрик
Roman Ivliev
 
Как развить отдел тестирования от палки-копалки до CI
Как развить отдел тестирования от палки-копалки до CIКак развить отдел тестирования от палки-копалки до CI
Как развить отдел тестирования от палки-копалки до CI
CEE-SEC(R)
 
Добиваемся эффективности каждого из 9000+ UI-тестов
Добиваемся эффективности каждого из 9000+ UI-тестовДобиваемся эффективности каждого из 9000+ UI-тестов
Добиваемся эффективности каждого из 9000+ UI-тестов
SQALab
 
"Давайте не будем про качество"
"Давайте не будем про качество""Давайте не будем про качество"
"Давайте не будем про качество"
SQALab
 

What's hot (20)

Эффективное взаимодействие тестировщика и аналитика
Эффективное взаимодействие тестировщика и аналитикаЭффективное взаимодействие тестировщика и аналитика
Эффективное взаимодействие тестировщика и аналитика
 
Test design techniques basics
Test design techniques basicsTest design techniques basics
Test design techniques basics
 
Подготовка стратегии тестирования под высокорискованный, высокодоходный проект
Подготовка стратегии тестирования под высокорискованный, высокодоходный проектПодготовка стратегии тестирования под высокорискованный, высокодоходный проект
Подготовка стратегии тестирования под высокорискованный, высокодоходный проект
 
Введение в performance management
Введение в performance managementВведение в performance management
Введение в performance management
 
WP как экспериментальная платформа
WP как экспериментальная платформаWP как экспериментальная платформа
WP как экспериментальная платформа
 
Оценки тестирования - полезные и условные метрики
Оценки тестирования - полезные и условные метрикиОценки тестирования - полезные и условные метрики
Оценки тестирования - полезные и условные метрики
 
Как автотесты ускоряют релизы в OK.ru
Как автотесты ускоряют релизы в OK.ruКак автотесты ускоряют релизы в OK.ru
Как автотесты ускоряют релизы в OK.ru
 
Делаем автоматизацию проектных KPIs
Делаем автоматизацию проектных KPIsДелаем автоматизацию проектных KPIs
Делаем автоматизацию проектных KPIs
 
Quality Assurance vs Quality Control - так в чем же заключается работа специа...
Quality Assurance vs Quality Control - так в чем же заключается работа специа...Quality Assurance vs Quality Control - так в чем же заключается работа специа...
Quality Assurance vs Quality Control - так в чем же заключается работа специа...
 
Гибкое тестирование
Гибкое тестированиеГибкое тестирование
Гибкое тестирование
 
QA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
QA Fes 2016. Анастасия Асеева. Роль тестирования в DevopsQA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
QA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
 
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Автоматизация 0.0: 0 - бюджет, 0 - опыт программированияАвтоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
 
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
 
QA Fest 2015. Aлександр Кузняк. Тестовая документация. How-To и типичные ошибки
QA Fest 2015. Aлександр Кузняк. Тестовая документация. How-To и типичные ошибкиQA Fest 2015. Aлександр Кузняк. Тестовая документация. How-To и типичные ошибки
QA Fest 2015. Aлександр Кузняк. Тестовая документация. How-To и типичные ошибки
 
Новый процесс тестирования на "старом" проекте
Новый процесс тестирования на "старом" проектеНовый процесс тестирования на "старом" проекте
Новый процесс тестирования на "старом" проекте
 
QA как драйвер трансформации
QA как драйвер трансформацииQA как драйвер трансформации
QA как драйвер трансформации
 
Темная сторона метрик
Темная сторона метрикТемная сторона метрик
Темная сторона метрик
 
Как развить отдел тестирования от палки-копалки до CI
Как развить отдел тестирования от палки-копалки до CIКак развить отдел тестирования от палки-копалки до CI
Как развить отдел тестирования от палки-копалки до CI
 
Добиваемся эффективности каждого из 9000+ UI-тестов
Добиваемся эффективности каждого из 9000+ UI-тестовДобиваемся эффективности каждого из 9000+ UI-тестов
Добиваемся эффективности каждого из 9000+ UI-тестов
 
"Давайте не будем про качество"
"Давайте не будем про качество""Давайте не будем про качество"
"Давайте не будем про качество"
 

Similar to QA Fest 2015. Юлия Завертайло. Практическая визуализация пользы тестирования для клиента

Quality Assurance
Quality AssuranceQuality Assurance
Quality Assurance
KIT_Conference
 
Вебинар: ИТ-проекты глазами Заказчика
Вебинар: ИТ-проекты глазами ЗаказчикаВебинар: ИТ-проекты глазами Заказчика
Вебинар: ИТ-проекты глазами Заказчика
Александр Кольцов
 
KPI тестировщиков - особенности и проблемы
KPI тестировщиков - особенности и проблемыKPI тестировщиков - особенности и проблемы
KPI тестировщиков - особенности и проблемы
Rina Uzhevko
 
Внедрение тестирования в Scrum
Внедрение тестирования в ScrumВнедрение тестирования в Scrum
Внедрение тестирования в ScrumDenis Petelin
 
Внедрение тестирования в Scrum
Внедрение тестирования в ScrumВнедрение тестирования в Scrum
Внедрение тестирования в ScrumDenis Petelin
 
Роль аналитика в негибких методологиях разработки
Роль аналитика в негибких методологиях разработкиРоль аналитика в негибких методологиях разработки
Роль аналитика в негибких методологиях разработки
DevDay
 
Software craftsmanship 8
Software craftsmanship 8Software craftsmanship 8
Software craftsmanship 8
Pavel Veinik
 
Can we have some more quality - Russian version
Can we have some more quality - Russian versionCan we have some more quality - Russian version
Can we have some more quality - Russian version
Alexander Pushkarev
 
Юрий Филатов, Create: Почему мы перестали делать сайты и приложения и начали ...
Юрий Филатов, Create: Почему мы перестали делать сайты и приложения и начали ...Юрий Филатов, Create: Почему мы перестали делать сайты и приложения и начали ...
Юрий Филатов, Create: Почему мы перестали делать сайты и приложения и начали ...
SPECIA
 
Как мы перестали делать сайты и приложения и начали создавать продукты
Как мы перестали делать сайты и приложения и начали создавать продуктыКак мы перестали делать сайты и приложения и начали создавать продукты
Как мы перестали делать сайты и приложения и начали создавать продукты
Create Digital
 
«Metrics and KPIs – measuring project, process, team» by Sergey Stefurak
«Metrics and KPIs – measuring project, process, team» by Sergey Stefurak«Metrics and KPIs – measuring project, process, team» by Sergey Stefurak
«Metrics and KPIs – measuring project, process, team» by Sergey Stefurak
Dive_into_Management
 
Yuriy malyi testinginscrumagile
Yuriy malyi testinginscrumagileYuriy malyi testinginscrumagile
Yuriy malyi testinginscrumagileAgile Base Camp
 
Testing in Scrum - Yuriy Malyi
Testing in Scrum - Yuriy Malyi Testing in Scrum - Yuriy Malyi
Testing in Scrum - Yuriy Malyi
Agile Base Camp
 
Пример внедрения Agile в крупном проекте. Как не следует внедрять Agile
Пример внедрения Agile в крупном проекте. Как не следует внедрять AgileПример внедрения Agile в крупном проекте. Как не следует внедрять Agile
Пример внедрения Agile в крупном проекте. Как не следует внедрять AgileAlexey Krivitsky
 
Enter: testing
Enter: testingEnter: testing
Enter: testing
Kamil Samigullin
 
Introduction to Automation Testing
Introduction to Automation TestingIntroduction to Automation Testing
Introduction to Automation Testing
Return on Intelligence
 
Автоматизация сборки и тестирования в разрезе эффективного производства
Автоматизация сборки и тестирования в разрезе эффективного производстваАвтоматизация сборки и тестирования в разрезе эффективного производства
Автоматизация сборки и тестирования в разрезе эффективного производства
SQALab
 
Как Mail.Ru и AT Consulting перевели профили абонентов Beeline на Tarantool /...
Как Mail.Ru и AT Consulting перевели профили абонентов Beeline на Tarantool /...Как Mail.Ru и AT Consulting перевели профили абонентов Beeline на Tarantool /...
Как Mail.Ru и AT Consulting перевели профили абонентов Beeline на Tarantool /...
Ontico
 

Similar to QA Fest 2015. Юлия Завертайло. Практическая визуализация пользы тестирования для клиента (20)

Quality Assurance
Quality AssuranceQuality Assurance
Quality Assurance
 
Вебинар: ИТ-проекты глазами Заказчика
Вебинар: ИТ-проекты глазами ЗаказчикаВебинар: ИТ-проекты глазами Заказчика
Вебинар: ИТ-проекты глазами Заказчика
 
KPI тестировщиков - особенности и проблемы
KPI тестировщиков - особенности и проблемыKPI тестировщиков - особенности и проблемы
KPI тестировщиков - особенности и проблемы
 
Внедрение тестирования в Scrum
Внедрение тестирования в ScrumВнедрение тестирования в Scrum
Внедрение тестирования в Scrum
 
Внедрение тестирования в Scrum
Внедрение тестирования в ScrumВнедрение тестирования в Scrum
Внедрение тестирования в Scrum
 
Роль аналитика в негибких методологиях разработки
Роль аналитика в негибких методологиях разработкиРоль аналитика в негибких методологиях разработки
Роль аналитика в негибких методологиях разработки
 
Software craftsmanship 8
Software craftsmanship 8Software craftsmanship 8
Software craftsmanship 8
 
Can we have some more quality - Russian version
Can we have some more quality - Russian versionCan we have some more quality - Russian version
Can we have some more quality - Russian version
 
Юрий Филатов, Create: Почему мы перестали делать сайты и приложения и начали ...
Юрий Филатов, Create: Почему мы перестали делать сайты и приложения и начали ...Юрий Филатов, Create: Почему мы перестали делать сайты и приложения и начали ...
Юрий Филатов, Create: Почему мы перестали делать сайты и приложения и начали ...
 
Как мы перестали делать сайты и приложения и начали создавать продукты
Как мы перестали делать сайты и приложения и начали создавать продуктыКак мы перестали делать сайты и приложения и начали создавать продукты
Как мы перестали делать сайты и приложения и начали создавать продукты
 
«Metrics and KPIs – measuring project, process, team» by Sergey Stefurak
«Metrics and KPIs – measuring project, process, team» by Sergey Stefurak«Metrics and KPIs – measuring project, process, team» by Sergey Stefurak
«Metrics and KPIs – measuring project, process, team» by Sergey Stefurak
 
Yuriy malyi testinginscrumagile
Yuriy malyi testinginscrumagileYuriy malyi testinginscrumagile
Yuriy malyi testinginscrumagile
 
Testing in Scrum - Yuriy Malyi
Testing in Scrum - Yuriy Malyi Testing in Scrum - Yuriy Malyi
Testing in Scrum - Yuriy Malyi
 
Пример внедрения Agile в крупном проекте. Как не следует внедрять Agile
Пример внедрения Agile в крупном проекте. Как не следует внедрять AgileПример внедрения Agile в крупном проекте. Как не следует внедрять Agile
Пример внедрения Agile в крупном проекте. Как не следует внедрять Agile
 
Enter: testing
Enter: testingEnter: testing
Enter: testing
 
Introduction to Automation Testing
Introduction to Automation TestingIntroduction to Automation Testing
Introduction to Automation Testing
 
презентация планов
презентация плановпрезентация планов
презентация планов
 
Автоматизация сборки и тестирования в разрезе эффективного производства
Автоматизация сборки и тестирования в разрезе эффективного производстваАвтоматизация сборки и тестирования в разрезе эффективного производства
Автоматизация сборки и тестирования в разрезе эффективного производства
 
презентация планов
презентация плановпрезентация планов
презентация планов
 
Как Mail.Ru и AT Consulting перевели профили абонентов Beeline на Tarantool /...
Как Mail.Ru и AT Consulting перевели профили абонентов Beeline на Tarantool /...Как Mail.Ru и AT Consulting перевели профили абонентов Beeline на Tarantool /...
Как Mail.Ru и AT Consulting перевели профили абонентов Beeline на Tarantool /...
 

More from QAFest

QA Fest 2019. Сергій Короленко. Топ веб вразливостей за 40 хвилин
QA Fest 2019. Сергій Короленко. Топ веб вразливостей за 40 хвилинQA Fest 2019. Сергій Короленко. Топ веб вразливостей за 40 хвилин
QA Fest 2019. Сергій Короленко. Топ веб вразливостей за 40 хвилин
QAFest
 
QA Fest 2019. Анна Чернышова. Self-healing test automation 2.0. The Future
QA Fest 2019. Анна Чернышова. Self-healing test automation 2.0. The FutureQA Fest 2019. Анна Чернышова. Self-healing test automation 2.0. The Future
QA Fest 2019. Анна Чернышова. Self-healing test automation 2.0. The Future
QAFest
 
QA Fest 2019. Doug Sillars. It's just too Slow: Testing Mobile application pe...
QA Fest 2019. Doug Sillars. It's just too Slow: Testing Mobile application pe...QA Fest 2019. Doug Sillars. It's just too Slow: Testing Mobile application pe...
QA Fest 2019. Doug Sillars. It's just too Slow: Testing Mobile application pe...
QAFest
 
QA Fest 2019. Катерина Спринсян. Параллельное покрытие автотестами и другие и...
QA Fest 2019. Катерина Спринсян. Параллельное покрытие автотестами и другие и...QA Fest 2019. Катерина Спринсян. Параллельное покрытие автотестами и другие и...
QA Fest 2019. Катерина Спринсян. Параллельное покрытие автотестами и другие и...
QAFest
 
QA Fest 2019. Никита Галкин. Как зарабатывать больше
QA Fest 2019. Никита Галкин. Как зарабатывать большеQA Fest 2019. Никита Галкин. Как зарабатывать больше
QA Fest 2019. Никита Галкин. Как зарабатывать больше
QAFest
 
QA Fest 2019. Сергей Пирогов. Why everything is spoiled
QA Fest 2019. Сергей Пирогов. Why everything is spoiledQA Fest 2019. Сергей Пирогов. Why everything is spoiled
QA Fest 2019. Сергей Пирогов. Why everything is spoiled
QAFest
 
QA Fest 2019. Сергей Новик. Между мотивацией и выгоранием
QA Fest 2019. Сергей Новик. Между мотивацией и выгораниемQA Fest 2019. Сергей Новик. Между мотивацией и выгоранием
QA Fest 2019. Сергей Новик. Между мотивацией и выгоранием
QAFest
 
QA Fest 2019. Владимир Никонов. Код Шредингера или зачем и как мы тестируем н...
QA Fest 2019. Владимир Никонов. Код Шредингера или зачем и как мы тестируем н...QA Fest 2019. Владимир Никонов. Код Шредингера или зачем и как мы тестируем н...
QA Fest 2019. Владимир Никонов. Код Шредингера или зачем и как мы тестируем н...
QAFest
 
QA Fest 2019. Владимир Трандафилов. GUI automation of WEB application with SV...
QA Fest 2019. Владимир Трандафилов. GUI automation of WEB application with SV...QA Fest 2019. Владимир Трандафилов. GUI automation of WEB application with SV...
QA Fest 2019. Владимир Трандафилов. GUI automation of WEB application with SV...
QAFest
 
QA Fest 2019. Иван Крутов. Bulletproof Selenium Cluster
QA Fest 2019. Иван Крутов. Bulletproof Selenium ClusterQA Fest 2019. Иван Крутов. Bulletproof Selenium Cluster
QA Fest 2019. Иван Крутов. Bulletproof Selenium Cluster
QAFest
 
QA Fest 2019. Николай Мижигурский. Миссия /*не*/выполнима: гуманитарий собесе...
QA Fest 2019. Николай Мижигурский. Миссия /*не*/выполнима: гуманитарий собесе...QA Fest 2019. Николай Мижигурский. Миссия /*не*/выполнима: гуманитарий собесе...
QA Fest 2019. Николай Мижигурский. Миссия /*не*/выполнима: гуманитарий собесе...
QAFest
 
QA Fest 2019. Володимир Стиран. Чим раніше – тим вигідніше, але ніколи не піз...
QA Fest 2019. Володимир Стиран. Чим раніше – тим вигідніше, але ніколи не піз...QA Fest 2019. Володимир Стиран. Чим раніше – тим вигідніше, але ніколи не піз...
QA Fest 2019. Володимир Стиран. Чим раніше – тим вигідніше, але ніколи не піз...
QAFest
 
QA Fest 2019. Дмитрий Прокопук. Mocks and network tricks in UI automation
QA Fest 2019. Дмитрий Прокопук. Mocks and network tricks in UI automationQA Fest 2019. Дмитрий Прокопук. Mocks and network tricks in UI automation
QA Fest 2019. Дмитрий Прокопук. Mocks and network tricks in UI automation
QAFest
 
QA Fest 2019. Екатерина Дядечко. Тестирование медицинского софта — вызовы и в...
QA Fest 2019. Екатерина Дядечко. Тестирование медицинского софта — вызовы и в...QA Fest 2019. Екатерина Дядечко. Тестирование медицинского софта — вызовы и в...
QA Fest 2019. Екатерина Дядечко. Тестирование медицинского софта — вызовы и в...
QAFest
 
QA Fest 2019. Катерина Черникова. Tune your P’s: the pop-art of keeping testa...
QA Fest 2019. Катерина Черникова. Tune your P’s: the pop-art of keeping testa...QA Fest 2019. Катерина Черникова. Tune your P’s: the pop-art of keeping testa...
QA Fest 2019. Катерина Черникова. Tune your P’s: the pop-art of keeping testa...
QAFest
 
QA Fest 2019. Алиса Бойко. Какнезапутаться в коммуникативных сетях IT
QA Fest 2019. Алиса Бойко. Какнезапутаться в коммуникативных сетях ITQA Fest 2019. Алиса Бойко. Какнезапутаться в коммуникативных сетях IT
QA Fest 2019. Алиса Бойко. Какнезапутаться в коммуникативных сетях IT
QAFest
 
QA Fest 2019. Святослав Логин. Как найти уязвимости в мобильном приложении
QA Fest 2019. Святослав Логин. Как найти уязвимости в мобильном приложенииQA Fest 2019. Святослав Логин. Как найти уязвимости в мобильном приложении
QA Fest 2019. Святослав Логин. Как найти уязвимости в мобильном приложении
QAFest
 
QA Fest 2019. Катерина Шепелєва та Інна Оснач. Що українцям потрібно знати пр...
QA Fest 2019. Катерина Шепелєва та Інна Оснач. Що українцям потрібно знати пр...QA Fest 2019. Катерина Шепелєва та Інна Оснач. Що українцям потрібно знати пр...
QA Fest 2019. Катерина Шепелєва та Інна Оснач. Що українцям потрібно знати пр...
QAFest
 
QA Fest 2019. Антон Серпутько. Нагрузочное тестирование распределенных асинхр...
QA Fest 2019. Антон Серпутько. Нагрузочное тестирование распределенных асинхр...QA Fest 2019. Антон Серпутько. Нагрузочное тестирование распределенных асинхр...
QA Fest 2019. Антон Серпутько. Нагрузочное тестирование распределенных асинхр...
QAFest
 
QA Fest 2019. Петр Тарасенко. QA Hackathon - The Cookbook 22
QA Fest 2019. Петр Тарасенко. QA Hackathon - The Cookbook 22QA Fest 2019. Петр Тарасенко. QA Hackathon - The Cookbook 22
QA Fest 2019. Петр Тарасенко. QA Hackathon - The Cookbook 22
QAFest
 

More from QAFest (20)

QA Fest 2019. Сергій Короленко. Топ веб вразливостей за 40 хвилин
QA Fest 2019. Сергій Короленко. Топ веб вразливостей за 40 хвилинQA Fest 2019. Сергій Короленко. Топ веб вразливостей за 40 хвилин
QA Fest 2019. Сергій Короленко. Топ веб вразливостей за 40 хвилин
 
QA Fest 2019. Анна Чернышова. Self-healing test automation 2.0. The Future
QA Fest 2019. Анна Чернышова. Self-healing test automation 2.0. The FutureQA Fest 2019. Анна Чернышова. Self-healing test automation 2.0. The Future
QA Fest 2019. Анна Чернышова. Self-healing test automation 2.0. The Future
 
QA Fest 2019. Doug Sillars. It's just too Slow: Testing Mobile application pe...
QA Fest 2019. Doug Sillars. It's just too Slow: Testing Mobile application pe...QA Fest 2019. Doug Sillars. It's just too Slow: Testing Mobile application pe...
QA Fest 2019. Doug Sillars. It's just too Slow: Testing Mobile application pe...
 
QA Fest 2019. Катерина Спринсян. Параллельное покрытие автотестами и другие и...
QA Fest 2019. Катерина Спринсян. Параллельное покрытие автотестами и другие и...QA Fest 2019. Катерина Спринсян. Параллельное покрытие автотестами и другие и...
QA Fest 2019. Катерина Спринсян. Параллельное покрытие автотестами и другие и...
 
QA Fest 2019. Никита Галкин. Как зарабатывать больше
QA Fest 2019. Никита Галкин. Как зарабатывать большеQA Fest 2019. Никита Галкин. Как зарабатывать больше
QA Fest 2019. Никита Галкин. Как зарабатывать больше
 
QA Fest 2019. Сергей Пирогов. Why everything is spoiled
QA Fest 2019. Сергей Пирогов. Why everything is spoiledQA Fest 2019. Сергей Пирогов. Why everything is spoiled
QA Fest 2019. Сергей Пирогов. Why everything is spoiled
 
QA Fest 2019. Сергей Новик. Между мотивацией и выгоранием
QA Fest 2019. Сергей Новик. Между мотивацией и выгораниемQA Fest 2019. Сергей Новик. Между мотивацией и выгоранием
QA Fest 2019. Сергей Новик. Между мотивацией и выгоранием
 
QA Fest 2019. Владимир Никонов. Код Шредингера или зачем и как мы тестируем н...
QA Fest 2019. Владимир Никонов. Код Шредингера или зачем и как мы тестируем н...QA Fest 2019. Владимир Никонов. Код Шредингера или зачем и как мы тестируем н...
QA Fest 2019. Владимир Никонов. Код Шредингера или зачем и как мы тестируем н...
 
QA Fest 2019. Владимир Трандафилов. GUI automation of WEB application with SV...
QA Fest 2019. Владимир Трандафилов. GUI automation of WEB application with SV...QA Fest 2019. Владимир Трандафилов. GUI automation of WEB application with SV...
QA Fest 2019. Владимир Трандафилов. GUI automation of WEB application with SV...
 
QA Fest 2019. Иван Крутов. Bulletproof Selenium Cluster
QA Fest 2019. Иван Крутов. Bulletproof Selenium ClusterQA Fest 2019. Иван Крутов. Bulletproof Selenium Cluster
QA Fest 2019. Иван Крутов. Bulletproof Selenium Cluster
 
QA Fest 2019. Николай Мижигурский. Миссия /*не*/выполнима: гуманитарий собесе...
QA Fest 2019. Николай Мижигурский. Миссия /*не*/выполнима: гуманитарий собесе...QA Fest 2019. Николай Мижигурский. Миссия /*не*/выполнима: гуманитарий собесе...
QA Fest 2019. Николай Мижигурский. Миссия /*не*/выполнима: гуманитарий собесе...
 
QA Fest 2019. Володимир Стиран. Чим раніше – тим вигідніше, але ніколи не піз...
QA Fest 2019. Володимир Стиран. Чим раніше – тим вигідніше, але ніколи не піз...QA Fest 2019. Володимир Стиран. Чим раніше – тим вигідніше, але ніколи не піз...
QA Fest 2019. Володимир Стиран. Чим раніше – тим вигідніше, але ніколи не піз...
 
QA Fest 2019. Дмитрий Прокопук. Mocks and network tricks in UI automation
QA Fest 2019. Дмитрий Прокопук. Mocks and network tricks in UI automationQA Fest 2019. Дмитрий Прокопук. Mocks and network tricks in UI automation
QA Fest 2019. Дмитрий Прокопук. Mocks and network tricks in UI automation
 
QA Fest 2019. Екатерина Дядечко. Тестирование медицинского софта — вызовы и в...
QA Fest 2019. Екатерина Дядечко. Тестирование медицинского софта — вызовы и в...QA Fest 2019. Екатерина Дядечко. Тестирование медицинского софта — вызовы и в...
QA Fest 2019. Екатерина Дядечко. Тестирование медицинского софта — вызовы и в...
 
QA Fest 2019. Катерина Черникова. Tune your P’s: the pop-art of keeping testa...
QA Fest 2019. Катерина Черникова. Tune your P’s: the pop-art of keeping testa...QA Fest 2019. Катерина Черникова. Tune your P’s: the pop-art of keeping testa...
QA Fest 2019. Катерина Черникова. Tune your P’s: the pop-art of keeping testa...
 
QA Fest 2019. Алиса Бойко. Какнезапутаться в коммуникативных сетях IT
QA Fest 2019. Алиса Бойко. Какнезапутаться в коммуникативных сетях ITQA Fest 2019. Алиса Бойко. Какнезапутаться в коммуникативных сетях IT
QA Fest 2019. Алиса Бойко. Какнезапутаться в коммуникативных сетях IT
 
QA Fest 2019. Святослав Логин. Как найти уязвимости в мобильном приложении
QA Fest 2019. Святослав Логин. Как найти уязвимости в мобильном приложенииQA Fest 2019. Святослав Логин. Как найти уязвимости в мобильном приложении
QA Fest 2019. Святослав Логин. Как найти уязвимости в мобильном приложении
 
QA Fest 2019. Катерина Шепелєва та Інна Оснач. Що українцям потрібно знати пр...
QA Fest 2019. Катерина Шепелєва та Інна Оснач. Що українцям потрібно знати пр...QA Fest 2019. Катерина Шепелєва та Інна Оснач. Що українцям потрібно знати пр...
QA Fest 2019. Катерина Шепелєва та Інна Оснач. Що українцям потрібно знати пр...
 
QA Fest 2019. Антон Серпутько. Нагрузочное тестирование распределенных асинхр...
QA Fest 2019. Антон Серпутько. Нагрузочное тестирование распределенных асинхр...QA Fest 2019. Антон Серпутько. Нагрузочное тестирование распределенных асинхр...
QA Fest 2019. Антон Серпутько. Нагрузочное тестирование распределенных асинхр...
 
QA Fest 2019. Петр Тарасенко. QA Hackathon - The Cookbook 22
QA Fest 2019. Петр Тарасенко. QA Hackathon - The Cookbook 22QA Fest 2019. Петр Тарасенко. QA Hackathon - The Cookbook 22
QA Fest 2019. Петр Тарасенко. QA Hackathon - The Cookbook 22
 

QA Fest 2015. Юлия Завертайло. Практическая визуализация пользы тестирования для клиента

  • 2. О себе • 9 лет в тестировании, из них 7 лет в компании ITERA • Последние 4 года работаю с большими страховыми компаниями в Скандинавии • Основная специализация – мануальное тестирование, QA и тест менеджмент • Основной фронт работы – построение процессов по тестированию в компаниях и тест лидершип в проектах • Ментор и коучер для подрастающего поколения тестировщиков 09.11.2015 / 2
  • 3. Содержание • Основные проблемы в области качества и тестирования • Что улучшать? • Что интересно знать клиенту о результатах нашей работы? (наше мнение) • Что же на самом деле интересно клиенту? (мнение клиента) • KPIs – примеры 09.11.2015 / 3
  • 4. Основные проблемы в области качества и тестирования • Отсутствие тестового покрытия • Часто изменяемые и нечеткие требования к продукту / функциональности • Отсутствие профессионального мануального и автоматизированного тестирования • Позднее обнаружение дефектов во время разработки • Критические дефекты обнаруживаются в продакшене • Неэффективные трудозатраты на тестирование • Отсутствие гибкости к необходимым изменениям в ходе разработки 09.11.2015 / 4
  • 5. Что улучшать? • Эффективность команды разработчиков • Качество самого тестирования • Уменьшать затраты на тестирование и последующую поддержку продукта 09.11.2015 / 5
  • 6. Что интересно знать клиенту о результатах нашей работы? (наше мнение) • Какая мы хорошая команда тестировщиков и как здорово вписались в проект • Сколько тестировщики написали тест планов, тест кейсов и тест самари репортов • Как много мы находим багов • Как здорово мы понимаем бизнес и требования клиента • Как здорово вы умеем коммуницировать и решать проблемы • … 09.11.2015 / 6
  • 7. Что же на самом деле интересно клиенту? (мнение клиента) • Сколько критических и шоустопер багов было найдено в продакшене (и сколько миллионов крон, евро, долларов было потеряно из-за багов)? • Насколько меньше времени (в часах) стали тратить бизнес- пользователи на тестирование? • Стало ли возможно увеличить частоту поставок в продакшен и прийти к continuous integration? • Насколько минимизировались затраты на регресионное тестирование 09.11.2015 / 7
  • 8. KPI – Пример1: Тестовое покрытие 09.11.2015 / 8 Как собирать: • Настроить ТМ tool (TFS, Jira) • «Ручками» в Excel Какую информацию это дает клиенту: • Визуализирует «темные» дыры приложения: показывает, что в приложении Х функций и риск ошибок равен % того, что не покрыто тестами • Визуализирует, что чем больше покрытие, тем меньше риск упущенных дефектов • Визуализирует функциональность, требующую большего внимания, и дальнейшие вложения на покрытие тестами 354 182 118 122 68 17 325 80 118 107 54 12 180 5 23 46 10 10 0 50 100 150 200 250 300 350 400 Модуль 1 Модуль 2 Модуль 3 Модуль 4 Модуль 5 Модуль 6 Всего фич Покрыто тестами Автоматизировано
  • 9. KPI - Пример2: Временные затраты бизнес ресурсов Как собирать: • Логировать время на задачах по тестированию в трекинговой системе • Запрашивать информацию по факту –трекать в Excel 09.11.2015 / 9 Какую информацию это дает клиенту: • Визуализирует минимизацию трудозатрат пользователей 0 10 20 30 40 50 60 70 80 Релиз 1 Релиз 2 Релиз 3 Релиз 4 Релиз 5 Релиз 6 Релиз 7 Релиз 8 Релиз 9 Модуль1 Модуль2 Модуль3
  • 10. KPI – Пример3: Количество дефектов Как собирать: • TFS&Pivot tables • Jira: filters &dashboards • «Ручками» в Excel 09.11.2015 / 10 Какую информацию это дает клиенту • Тренд уменьшения количества дефектов в продакшене • Увеличение количества дефектов в ходе разработки 238 26 7 13 7 10 8 212 206 156 116 214 112 0 50 100 150 200 250 Релиз1 Релиз2 Релиз3 Релиз4 Релиз5 Релиз6 Всего Продакшен Разработка
  • 11. KPI – Пример 4: Время на фидбек о качестве продукта Как собирать: • Cравнить время на прогон автотестов с мануальными затратами • Посчитать коэффициент: во сколько раз автотесты дают быстрее фидбек, чем ручное тестирование 09.11.2015 / 11 Какую информацию это дает клиенту: • Как часто можно делать поставки в продакшен после изменений • Принять решение о рисках, связанных с хотфиксами Тест Сьют Кол-во тестов в сьюте Время на прогон сьюта автотестами, в часах Время на прогон сьюта мануально, в часах Смоук Тест Сьют 6 0,2 1,5 Модуль1 39 2,5 9,75 Модуль2 9 0,2 2,25 Модуль3 30 1 7,5 Модуль4 32 1,3 8 Модуль5 15 0,5 3,75 Регресионный сьют 1 191 5,5 47,75 Регресионный сьют 2 204 5,5 51 Регресионный сьют 3 194 5,5 48,5 Всего 720 22,2 180
  • 12. Выводы • Чем лучше настроены тулы и поставлены процессы – тем лучше! • Чем хуже и бестолковей процессы по тестированию и конфигурация ТМ тулов – тем меньше мотивации собирать информацию руками и тем больше времени тратится на сбор данных! • Говорить на языке клиента – нужно и можно! • Все сложное – удивительно просто! 09.11.2015 / 12

Editor's Notes

  1. Отсутствие тестового покрытия (сколько всего фич в системе, что тестируется что нет, что важно тестировать что нет) Часто изменяемые и нечеткие требования к продукту-функциональности Отсутствие професионального мануального и автоматизированного тестирования (тестирование проводиться конечными пользователями) Позднее обнаружение дефектов во время разработки Критические дефекты обнаруживаются в продакшене Неефективные трудозатраты на тестирование со стороны конечных пользователей (на тестирование уходит от 2х до 6 недель) Отсутствие гибкости к необходимым изменениям в ходе разработки
  2. Еффективность команды разработчиков Путем внедрения постоянного тестирования (мануального и автоматизированного) и уменьшением временных затрат бизнес ресурсов Качество самого тестирования Путем формализации тест кейсов и баг репортов, запуска автотестов в каждом поставке (релизе) Уменьшать затраты на тестирование и последующую поддерджку продукта Путем уменьшения риска в регресионном тестировании и гаранитировании более высокого качества поставок
  3. Стало ли возможно увеличить частоту поставок в продакшен и прийти к continuous integration (чтобы динамика бизнеса на рынке позволяла софту угнаться за изменениями)
  4. - TFS (позволяет построить traceability matrix путем линкования Epic/US к тест кейсам которые можно маркировать как мануальные или привязать к сценарию в Тим сити. Pivot tables в помощь) Jira (позволяет строить ту же матрицу) Excel (выписать фичи , все, и прописать что покрыто тестами что нет. И какими)
  5. Тренд уменьшения кол-ва дефектов в продакшене (соот-но затрат и рисков на их фикс) Увеличение кол-ва дефектов в ходе разработки (сколько потенциальных дефектов не ушло в продакшен)
  6. <автотесты - дают постоянный фидбек о состоянии функциональности– время затраты на прогон ТА в сравнении с мануальным тестированием>