SlideShare a Scribd company logo
1 of 31
12th CENTRAL & EASTERN EUROPEAN
SOFTWARE ENGINEERING CONFERENCE IN RUSSIA
October 28 - 29, Moscow
Taya Rybak
Как развить отдел тестирования от палки копалки доCI
Organization name or logo
О себе
 Опыт работы в этой сфере: Более 12 лет.
 Прошла путь от инженера по ручному тестированию до
руководителя.
 Занимала должность директора по развитию бизнеса в
Hewlett – Packard по Центральной и Восточной Европе .
 Занималась ручным, автоматизированным функциональным и
нагрузочным тестированем билинговых систем, банковких
систем и хранилищ данных.
 На данный момент работаю консультантом и
специализируюсь на постановке и аудите процессов
разработки ПО
 Веду тренинги по тестированию
Что такоеCI
Разработка
Прогоняем
тесты
Разработка
Разработка
Разработка
Отчет о
тестировании
Сборка
Установка
Меньше ошибок
Быстрое исправление
Реальность
Путь кCI
Начальный
Управляемый
Определенный
Управляемый с KPI
Оптимизируемый
1.
начальный
 Каждый релиз – уникальный процесс
 Нет общих политик управления тестированием
 Качество сильно варьируется от релиза к релизу
 Нет инструментов поддержки тестирования
 Конечный пользователь в качестве тестироващика
 Цель тестирования показать, что ПО в принципе работает
2.
управляемый
 Описаны политики тестирования
 Используются точечные инструменты тестирования
 Есть выделенные роли тестировщиков
 Стабильное качество для проектов одинакового размера и
уровня сложности
 Точечная автоматизация тестирования
 Цель тестирования- показать что приложение соответствует
требованиям в рамках одного проекта
3.
определенный
 Ход реализации проекта измеряется по KPI
 Повторное использование артефактов проекта
 Частичная интеграция инструментов тестирования
 Стабильное качество для проектов разного размера
 Выделение подразделения тестирования
 Регулярная автоматизация
 Подсчет ROI
 Цель тестирования- показать что приложение соответствует
требованиям в рамках всей организации
4.
управляемый на
основе
количественных
данных
 Расширение KPI и их постоянный мониторинг
 Прослеживаемость требований
 Интеграция инструментов поддерживающих процесс
 Изменения в процесс вносятся на основании ROI
 Высокий уровень покрытия автотестами
 Выделяется в подразделении тестирования подразделение
автоматизации тестирования
 Выделяется подразделение по контролю качества процессов
производства ПО
 Цель тестирования – оценка уровня тестирования по KPI
Основные KPI
вСI для
тестирования
 Количество найденных дефектов в продуктиве пользователями
 Время на тестирование/количество дефектов Urgent High
 Количество сбоев в автотестах
 Время на доработку автотестов
5.
оптимизируемый
 Процесс тестирования интегрирован в IT сервисы
 Непрерывная разработки приложений
 Постоянный мониторинг по качеству процессов IT
 Процесс DevOps
 Предотвратить дефекты
 Если процессы выстроены разово – они не будут жить вечно, их
нужно поддерживать.Упс, и
такое
бывает
СКОЛЬКО
Начальный
Управляемый
Определенный
Управляемый с KPI
Оптимизируемый
вот нельзя
просто взять
и внедритьCI
Карта
внедрения
процессов
Карта внедрения процессов
1 2 3 4 5
Непрерывная разработки V
Сервисное и Проектное управление V
DEVOps V
Непрерывное тестирование
BDD V
Нагрузочное тестирование V
Автоматизация функционального
тестирования V
Внедрение KPI по тестированию V
Трассировка требований и тестов V
Управление релизами V
Управление требованиями V
Тестовые сценарии V
Управление дефектами в тестировании V
Управление инцидентами V
А теперь как это было
Фаза 0: Подготовительная
• Версионность
• Хранение исходного кода
• Сервер сборки
• Нужен «обученный» тестировщик
Упс, и
такое
бывает
Фаза 1: Развитие тестирования
• Управление требованиями;
• Управление тестированием:
• Создание тестов в виде чек листов
• автоматизация функционального тестирования (Санитарное
тестирование)
• нагрузочное тестирование по 10 операциям;
• Управление запросами на изменение.
Фаза 2 :Внедрение
Внедрение тестирования как процесса с повторяемым результатом:
• Проектная команда: 2 человека со стороны Заказчика
• Описание процессов: 3 недели
• Настройка системы: 3 недели
Результаты
внедрения
 Управление дефектами
– внутренний регламент
– «прозрачный» процесс тестирования
 Управление требованиями
– покрытие тестами
– запросы на изменение
 Автоматизация тестирования
– сокращение сроков приемки ПО
– раннее обнаружение проблем производительности
Фаза 3: Автоматизация тестирования
• Количество тестов: 120
• Временные затраты: 4 недели
• Время на тестирование:
• вручную: 90 минут
• автоматически: 5-10 минут
Мы все еще в
пути
Основные KPI
вСI
 Время развертывания (Deployment LeadTime) – время, необходимое
на сборку проекта.
 MTTR (MeanTimeTo Repair — среднее время восстановления
работоспособности). Можно измерить время, прошедшее от
сообщения об ошибочной сборке, до исправления.
 MTTD (MeanTimeTo Detect – среднее время обнаружения
неисправности). измеряется время, которое прошло от внесения
ошибки, до определения, что возникла проблема и в чем она
заключается.
Системы,
которые
позициониру
ются как CI
 CruiseControl
 CruiseControl.Net
 Atlassian Bamboo
 Pipeline
 Jenkins
 MicrosoftTeam Foundation Server
 Team City
 Git CI
Что такоеCI
Разработка
Тестирование
Разработка
Разработка
Разработка
Отчет о
тестировании
Сборка + Unit
тесты
Управление
требованиями
Управление
конфигарациями
Управление
инцидентами
Управление
Релизами
CaliberRM
HP ALM
Polarion
EnterpriseArchitect
Jira
Serena Dimensions RM
IBM Rational Doors SVN
Git
TFS
VS
Ant
Maven
Установка
VS
E-mail
HP ALM
VS
Junit
Xunit
Литература
 Continuous Integration on a Dollar a Day —Джеймс Шор
 Continuous Integration: Improving Software Quality and Reducing
Поль Дюваль
Вопросы
Taya Rybak
Taya.sib@gmail.com

More Related Content

What's hot

Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙСтановление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙCEE-SEC(R)
 
Как не налететь на рифы в море преимуществ Scrum: организация и оптимизация т...
Как не налететь на рифы в море преимуществ Scrum: организация и оптимизация т...Как не налететь на рифы в море преимуществ Scrum: организация и оптимизация т...
Как не налететь на рифы в море преимуществ Scrum: организация и оптимизация т...CEE-SEC(R)
 
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...SQALab
 
Новый процесс тестирования на "старом" проекте
Новый процесс тестирования на "старом" проектеНовый процесс тестирования на "старом" проекте
Новый процесс тестирования на "старом" проектеSQALab
 
Введение в performance management
Введение в performance managementВведение в performance management
Введение в performance managementSQALab
 
QA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
QA Fes 2016. Анастасия Асеева. Роль тестирования в DevopsQA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
QA Fes 2016. Анастасия Асеева. Роль тестирования в DevopsQAFest
 
Шаблоны проектирования нагрузочных скриптов
Шаблоны проектирования нагрузочных скриптовШаблоны проектирования нагрузочных скриптов
Шаблоны проектирования нагрузочных скриптовSQALab
 
Подготовка стратегии тестирования под высокорискованный, высокодоходный проект
Подготовка стратегии тестирования под высокорискованный, высокодоходный проектПодготовка стратегии тестирования под высокорискованный, высокодоходный проект
Подготовка стратегии тестирования под высокорискованный, высокодоходный проектSQALab
 
Особенности внедрения KPI или как доказать, что Ваш «зеленый» проект реально ...
Особенности внедрения KPI или как доказать, что Ваш «зеленый» проект реально ...Особенности внедрения KPI или как доказать, что Ваш «зеленый» проект реально ...
Особенности внедрения KPI или как доказать, что Ваш «зеленый» проект реально ...CEE-SEC(R)
 
Эволюция нагрузочного тестирования – от простой автоматизации до BDD
Эволюция нагрузочного тестирования – от простой автоматизации до BDDЭволюция нагрузочного тестирования – от простой автоматизации до BDD
Эволюция нагрузочного тестирования – от простой автоматизации до BDDCEE-SEC(R)
 
Обеспечение качества: Практические советы
Обеспечение качества: Практические советыОбеспечение качества: Практические советы
Обеспечение качества: Практические советыSQALab
 
Оценка методологии автоматизации - MBT
Оценка методологии автоматизации - MBTОценка методологии автоматизации - MBT
Оценка методологии автоматизации - MBTSQALab
 
Делаем автоматизацию проектных KPIs
Делаем автоматизацию проектных KPIsДелаем автоматизацию проектных KPIs
Делаем автоматизацию проектных KPIsSQALab
 
Crystal Agile, или как мы приспособили процесс разработки для обеспечения мак...
Crystal Agile, или как мы приспособили процесс разработки для обеспечения мак...Crystal Agile, или как мы приспособили процесс разработки для обеспечения мак...
Crystal Agile, или как мы приспособили процесс разработки для обеспечения мак...SQALab
 
Эффективное взаимодействие тестировщика и аналитика
Эффективное взаимодействие тестировщика и аналитикаЭффективное взаимодействие тестировщика и аналитика
Эффективное взаимодействие тестировщика и аналитикаSQALab
 
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Автоматизация 0.0: 0 - бюджет, 0 - опыт программированияАвтоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Автоматизация 0.0: 0 - бюджет, 0 - опыт программированияSQALab
 
Внедрение тестирования в Scrum
Внедрение тестирования в ScrumВнедрение тестирования в Scrum
Внедрение тестирования в ScrumDenis Petelin
 
Тестируем производительность с помощью Selenium
Тестируем производительность с помощью SeleniumТестируем производительность с помощью Selenium
Тестируем производительность с помощью SeleniumSQALab
 
Тестирование инсталляторов
Тестирование инсталляторовТестирование инсталляторов
Тестирование инсталляторовSQALab
 
Организация процесса ручного тестирования
Организация процесса ручного тестированияОрганизация процесса ручного тестирования
Организация процесса ручного тестированияIT61
 

What's hot (20)

Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙСтановление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
Становление процесса автоматизированного тестирования в интернет-магазине ОКЕЙ
 
Как не налететь на рифы в море преимуществ Scrum: организация и оптимизация т...
Как не налететь на рифы в море преимуществ Scrum: организация и оптимизация т...Как не налететь на рифы в море преимуществ Scrum: организация и оптимизация т...
Как не налететь на рифы в море преимуществ Scrum: организация и оптимизация т...
 
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
Что ждет тестировщиков при организации процесса тестирования Enterprise-проду...
 
Новый процесс тестирования на "старом" проекте
Новый процесс тестирования на "старом" проектеНовый процесс тестирования на "старом" проекте
Новый процесс тестирования на "старом" проекте
 
Введение в performance management
Введение в performance managementВведение в performance management
Введение в performance management
 
QA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
QA Fes 2016. Анастасия Асеева. Роль тестирования в DevopsQA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
QA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
 
Шаблоны проектирования нагрузочных скриптов
Шаблоны проектирования нагрузочных скриптовШаблоны проектирования нагрузочных скриптов
Шаблоны проектирования нагрузочных скриптов
 
Подготовка стратегии тестирования под высокорискованный, высокодоходный проект
Подготовка стратегии тестирования под высокорискованный, высокодоходный проектПодготовка стратегии тестирования под высокорискованный, высокодоходный проект
Подготовка стратегии тестирования под высокорискованный, высокодоходный проект
 
Особенности внедрения KPI или как доказать, что Ваш «зеленый» проект реально ...
Особенности внедрения KPI или как доказать, что Ваш «зеленый» проект реально ...Особенности внедрения KPI или как доказать, что Ваш «зеленый» проект реально ...
Особенности внедрения KPI или как доказать, что Ваш «зеленый» проект реально ...
 
Эволюция нагрузочного тестирования – от простой автоматизации до BDD
Эволюция нагрузочного тестирования – от простой автоматизации до BDDЭволюция нагрузочного тестирования – от простой автоматизации до BDD
Эволюция нагрузочного тестирования – от простой автоматизации до BDD
 
Обеспечение качества: Практические советы
Обеспечение качества: Практические советыОбеспечение качества: Практические советы
Обеспечение качества: Практические советы
 
Оценка методологии автоматизации - MBT
Оценка методологии автоматизации - MBTОценка методологии автоматизации - MBT
Оценка методологии автоматизации - MBT
 
Делаем автоматизацию проектных KPIs
Делаем автоматизацию проектных KPIsДелаем автоматизацию проектных KPIs
Делаем автоматизацию проектных KPIs
 
Crystal Agile, или как мы приспособили процесс разработки для обеспечения мак...
Crystal Agile, или как мы приспособили процесс разработки для обеспечения мак...Crystal Agile, или как мы приспособили процесс разработки для обеспечения мак...
Crystal Agile, или как мы приспособили процесс разработки для обеспечения мак...
 
Эффективное взаимодействие тестировщика и аналитика
Эффективное взаимодействие тестировщика и аналитикаЭффективное взаимодействие тестировщика и аналитика
Эффективное взаимодействие тестировщика и аналитика
 
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Автоматизация 0.0: 0 - бюджет, 0 - опыт программированияАвтоматизация 0.0: 0 - бюджет, 0 - опыт программирования
Автоматизация 0.0: 0 - бюджет, 0 - опыт программирования
 
Внедрение тестирования в Scrum
Внедрение тестирования в ScrumВнедрение тестирования в Scrum
Внедрение тестирования в Scrum
 
Тестируем производительность с помощью Selenium
Тестируем производительность с помощью SeleniumТестируем производительность с помощью Selenium
Тестируем производительность с помощью Selenium
 
Тестирование инсталляторов
Тестирование инсталляторовТестирование инсталляторов
Тестирование инсталляторов
 
Организация процесса ручного тестирования
Организация процесса ручного тестированияОрганизация процесса ручного тестирования
Организация процесса ручного тестирования
 

Viewers also liked

Инструментация среды исполнения в арсенале тестировщика
Инструментация среды исполнения в арсенале тестировщикаИнструментация среды исполнения в арсенале тестировщика
Инструментация среды исполнения в арсенале тестировщикаSQALab
 
DevOps подходы в инфраструктуре автоматизации тестирования
DevOps подходы в инфраструктуре автоматизации тестированияDevOps подходы в инфраструктуре автоматизации тестирования
DevOps подходы в инфраструктуре автоматизации тестированияSQALab
 
Можно ли прикрутить нечеткий логический вывод к тестированию
Можно ли прикрутить нечеткий логический вывод к тестированиюМожно ли прикрутить нечеткий логический вывод к тестированию
Можно ли прикрутить нечеткий логический вывод к тестированиюSQALab
 
Как Cluster Membership Software может помочь QA
Как Cluster Membership Software может помочь QAКак Cluster Membership Software может помочь QA
Как Cluster Membership Software может помочь QASQALab
 
Are you in control of Testing, or does Testing control you?
Are you in control of Testing, or does Testing control you? Are you in control of Testing, or does Testing control you?
Are you in control of Testing, or does Testing control you? SQALab
 
Управление качеством проекта
Управление качеством проектаУправление качеством проекта
Управление качеством проектаSQALab
 
The Challenge of Accepting Software
The Challenge of Accepting SoftwareThe Challenge of Accepting Software
The Challenge of Accepting SoftwareSQALab
 
Building a testing team
Building a testing teamBuilding a testing team
Building a testing teamSQALab
 
Развитие процессов тестирования в Badoo за три года
Развитие процессов тестирования в Badoo за три годаРазвитие процессов тестирования в Badoo за три года
Развитие процессов тестирования в Badoo за три годаSQALab
 
Тестировщик в стартапе. Зачем и как
Тестировщик в стартапе. Зачем и какТестировщик в стартапе. Зачем и как
Тестировщик в стартапе. Зачем и какSQALab
 
Тестирование в условиях Lean: как приручить MVP?
Тестирование в условиях Lean: как приручить MVP?Тестирование в условиях Lean: как приручить MVP?
Тестирование в условиях Lean: как приручить MVP?SQALab
 
14 lessons for successful testing outsourcing
14 lessons for successful testing outsourcing14 lessons for successful testing outsourcing
14 lessons for successful testing outsourcingSQALab
 
Как тестировщику выжить в стартапе
Как тестировщику выжить в стартапе Как тестировщику выжить в стартапе
Как тестировщику выжить в стартапе SQALab
 
Быстрое прототипирование системы управления БПЛА
Быстрое прототипирование системы управления БПЛАБыстрое прототипирование системы управления БПЛА
Быстрое прототипирование системы управления БПЛАCEE-SEC(R)
 
CI: Автоматизация сборки, развёртывания и тестирования
CI: Автоматизация сборки, развёртывания и тестированияCI: Автоматизация сборки, развёртывания и тестирования
CI: Автоматизация сборки, развёртывания и тестированияSQALab
 
Быстрый онлайн-доступ к огромному количеству оффлайн-данных в LinkedIn
Быстрый онлайн-доступ к огромному количеству оффлайн-данных в LinkedInБыстрый онлайн-доступ к огромному количеству оффлайн-данных в LinkedIn
Быстрый онлайн-доступ к огромному количеству оффлайн-данных в LinkedInCEE-SEC(R)
 
Как подготовить себе преемника?
Как подготовить себе преемника?Как подготовить себе преемника?
Как подготовить себе преемника?SQALab
 
“Обезьянье тестирование” в мобильных проектах
“Обезьянье тестирование” в мобильных проектах“Обезьянье тестирование” в мобильных проектах
“Обезьянье тестирование” в мобильных проектахautomated-testing.info
 
Автоматизация тестирования - возврат инвестиций
Автоматизация тестирования - возврат инвестицийАвтоматизация тестирования - возврат инвестиций
Автоматизация тестирования - возврат инвестицийSQALab
 
Идеальный тестдизайн: от Цема Канера до Agile
Идеальный тестдизайн: от Цема Канера до AgileИдеальный тестдизайн: от Цема Канера до Agile
Идеальный тестдизайн: от Цема Канера до AgileCodeFest
 

Viewers also liked (20)

Инструментация среды исполнения в арсенале тестировщика
Инструментация среды исполнения в арсенале тестировщикаИнструментация среды исполнения в арсенале тестировщика
Инструментация среды исполнения в арсенале тестировщика
 
DevOps подходы в инфраструктуре автоматизации тестирования
DevOps подходы в инфраструктуре автоматизации тестированияDevOps подходы в инфраструктуре автоматизации тестирования
DevOps подходы в инфраструктуре автоматизации тестирования
 
Можно ли прикрутить нечеткий логический вывод к тестированию
Можно ли прикрутить нечеткий логический вывод к тестированиюМожно ли прикрутить нечеткий логический вывод к тестированию
Можно ли прикрутить нечеткий логический вывод к тестированию
 
Как Cluster Membership Software может помочь QA
Как Cluster Membership Software может помочь QAКак Cluster Membership Software может помочь QA
Как Cluster Membership Software может помочь QA
 
Are you in control of Testing, or does Testing control you?
Are you in control of Testing, or does Testing control you? Are you in control of Testing, or does Testing control you?
Are you in control of Testing, or does Testing control you?
 
Управление качеством проекта
Управление качеством проектаУправление качеством проекта
Управление качеством проекта
 
The Challenge of Accepting Software
The Challenge of Accepting SoftwareThe Challenge of Accepting Software
The Challenge of Accepting Software
 
Building a testing team
Building a testing teamBuilding a testing team
Building a testing team
 
Развитие процессов тестирования в Badoo за три года
Развитие процессов тестирования в Badoo за три годаРазвитие процессов тестирования в Badoo за три года
Развитие процессов тестирования в Badoo за три года
 
Тестировщик в стартапе. Зачем и как
Тестировщик в стартапе. Зачем и какТестировщик в стартапе. Зачем и как
Тестировщик в стартапе. Зачем и как
 
Тестирование в условиях Lean: как приручить MVP?
Тестирование в условиях Lean: как приручить MVP?Тестирование в условиях Lean: как приручить MVP?
Тестирование в условиях Lean: как приручить MVP?
 
14 lessons for successful testing outsourcing
14 lessons for successful testing outsourcing14 lessons for successful testing outsourcing
14 lessons for successful testing outsourcing
 
Как тестировщику выжить в стартапе
Как тестировщику выжить в стартапе Как тестировщику выжить в стартапе
Как тестировщику выжить в стартапе
 
Быстрое прототипирование системы управления БПЛА
Быстрое прототипирование системы управления БПЛАБыстрое прототипирование системы управления БПЛА
Быстрое прототипирование системы управления БПЛА
 
CI: Автоматизация сборки, развёртывания и тестирования
CI: Автоматизация сборки, развёртывания и тестированияCI: Автоматизация сборки, развёртывания и тестирования
CI: Автоматизация сборки, развёртывания и тестирования
 
Быстрый онлайн-доступ к огромному количеству оффлайн-данных в LinkedIn
Быстрый онлайн-доступ к огромному количеству оффлайн-данных в LinkedInБыстрый онлайн-доступ к огромному количеству оффлайн-данных в LinkedIn
Быстрый онлайн-доступ к огромному количеству оффлайн-данных в LinkedIn
 
Как подготовить себе преемника?
Как подготовить себе преемника?Как подготовить себе преемника?
Как подготовить себе преемника?
 
“Обезьянье тестирование” в мобильных проектах
“Обезьянье тестирование” в мобильных проектах“Обезьянье тестирование” в мобильных проектах
“Обезьянье тестирование” в мобильных проектах
 
Автоматизация тестирования - возврат инвестиций
Автоматизация тестирования - возврат инвестицийАвтоматизация тестирования - возврат инвестиций
Автоматизация тестирования - возврат инвестиций
 
Идеальный тестдизайн: от Цема Канера до Agile
Идеальный тестдизайн: от Цема Канера до AgileИдеальный тестдизайн: от Цема Канера до Agile
Идеальный тестдизайн: от Цема Канера до Agile
 

Similar to Как развить отдел тестирования от палки-копалки до CI

Сергей Ревко
Сергей РевкоСергей Ревко
Сергей РевкоSQALab
 
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...Tech Talks @NSU
 
Anton Sytnyk ITEM 2018
Anton Sytnyk ITEM 2018Anton Sytnyk ITEM 2018
Anton Sytnyk ITEM 2018ITEM
 
Слайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть IIСлайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть IISergiy Povolyashko
 
Человеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкойЧеловеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкойSQALab
 
Роман Василенко. Continuous delivery или как упростить себе жизнь
Роман Василенко. Continuous delivery или как упростить себе жизньРоман Василенко. Continuous delivery или как упростить себе жизнь
Роман Василенко. Continuous delivery или как упростить себе жизнь_itcampus
 
Модуль 8. Лекция 37-38. Управление качеством проекта
Модуль 8. Лекция 37-38. Управление качеством проектаМодуль 8. Лекция 37-38. Управление качеством проекта
Модуль 8. Лекция 37-38. Управление качеством проектаYana Brodetski
 
IntroductionPrinciples
IntroductionPrinciplesIntroductionPrinciples
IntroductionPrinciplesQA Guards
 
3 anastasia dovgan - practical tips and pitfalls of passing an external audit
3   anastasia dovgan - practical tips and pitfalls of passing an external audit3   anastasia dovgan - practical tips and pitfalls of passing an external audit
3 anastasia dovgan - practical tips and pitfalls of passing an external auditIevgenii Katsan
 
Внедрение тестирования в Scrum
Внедрение тестирования в ScrumВнедрение тестирования в Scrum
Внедрение тестирования в ScrumDenis Petelin
 
Jazz team cooperation roadmap
Jazz team cooperation roadmapJazz team cooperation roadmap
Jazz team cooperation roadmapKrystsinaDurovich
 
современные модели качества программного обеспечения
современные модели качества программного обеспечениясовременные модели качества программного обеспечения
современные модели качества программного обеспеченияcezium
 
Software Measurements Training Overview
Software Measurements Training OverviewSoftware Measurements Training Overview
Software Measurements Training OverviewSergiy Povolyashko
 
Jazz team cooperation roadmap
Jazz team cooperation roadmapJazz team cooperation roadmap
Jazz team cooperation roadmapKrystsinaDurovich
 
Тестирование весна 2013 лекция 1
Тестирование весна 2013 лекция 1Тестирование весна 2013 лекция 1
Тестирование весна 2013 лекция 1Technopark
 

Similar to Как развить отдел тестирования от палки-копалки до CI (20)

Сергей Ревко
Сергей РевкоСергей Ревко
Сергей Ревко
 
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
 
Anton Sytnyk ITEM 2018
Anton Sytnyk ITEM 2018Anton Sytnyk ITEM 2018
Anton Sytnyk ITEM 2018
 
Test management print
Test management printTest management print
Test management print
 
Слайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть IIСлайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть II
 
Enter: testing
Enter: testingEnter: testing
Enter: testing
 
Человеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкойЧеловеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкой
 
Роман Василенко. Continuous delivery или как упростить себе жизнь
Роман Василенко. Continuous delivery или как упростить себе жизньРоман Василенко. Continuous delivery или как упростить себе жизнь
Роман Василенко. Continuous delivery или как упростить себе жизнь
 
Software Measurements Training Overview
Software Measurements Training OverviewSoftware Measurements Training Overview
Software Measurements Training Overview
 
Модуль 8. Лекция 37-38. Управление качеством проекта
Модуль 8. Лекция 37-38. Управление качеством проектаМодуль 8. Лекция 37-38. Управление качеством проекта
Модуль 8. Лекция 37-38. Управление качеством проекта
 
IntroductionPrinciples
IntroductionPrinciplesIntroductionPrinciples
IntroductionPrinciples
 
Testing
TestingTesting
Testing
 
3 anastasia dovgan - practical tips and pitfalls of passing an external audit
3   anastasia dovgan - practical tips and pitfalls of passing an external audit3   anastasia dovgan - practical tips and pitfalls of passing an external audit
3 anastasia dovgan - practical tips and pitfalls of passing an external audit
 
Внедрение тестирования в Scrum
Внедрение тестирования в ScrumВнедрение тестирования в Scrum
Внедрение тестирования в Scrum
 
Jazz team cooperation roadmap
Jazz team cooperation roadmapJazz team cooperation roadmap
Jazz team cooperation roadmap
 
современные модели качества программного обеспечения
современные модели качества программного обеспечениясовременные модели качества программного обеспечения
современные модели качества программного обеспечения
 
Software Measurements Training Overview
Software Measurements Training OverviewSoftware Measurements Training Overview
Software Measurements Training Overview
 
01ka-nov
01ka-nov01ka-nov
01ka-nov
 
Jazz team cooperation roadmap
Jazz team cooperation roadmapJazz team cooperation roadmap
Jazz team cooperation roadmap
 
Тестирование весна 2013 лекция 1
Тестирование весна 2013 лекция 1Тестирование весна 2013 лекция 1
Тестирование весна 2013 лекция 1
 

More from CEE-SEC(R)

Подбор и адаптация методологий разработки ПО под различные типы производствен...
Подбор и адаптация методологий разработки ПО под различные типы производствен...Подбор и адаптация методологий разработки ПО под различные типы производствен...
Подбор и адаптация методологий разработки ПО под различные типы производствен...CEE-SEC(R)
 
Проектный офис и аналитик
Проектный офис и аналитикПроектный офис и аналитик
Проектный офис и аналитикCEE-SEC(R)
 
Онлайн-революция: от ранних репозиториев – к современным МООС-курсам
Онлайн-революция: от ранних репозиториев – к современным МООС-курсамОнлайн-революция: от ранних репозиториев – к современным МООС-курсам
Онлайн-революция: от ранних репозиториев – к современным МООС-курсамCEE-SEC(R)
 
Массовый параллелизм для гетерогенных вычислений на C++ для беспилотных автом...
Массовый параллелизм для гетерогенных вычислений на C++ для беспилотных автом...Массовый параллелизм для гетерогенных вычислений на C++ для беспилотных автом...
Массовый параллелизм для гетерогенных вычислений на C++ для беспилотных автом...CEE-SEC(R)
 
Как компании с вузами вместе ИТ специалиста готовили или Чем ИТ компания може...
Как компании с вузами вместе ИТ специалиста готовили или Чем ИТ компания може...Как компании с вузами вместе ИТ специалиста готовили или Чем ИТ компания може...
Как компании с вузами вместе ИТ специалиста готовили или Чем ИТ компания може...CEE-SEC(R)
 
«Знак качества» как инструмент анализа восприятия продукта клиентами
«Знак качества» как инструмент анализа восприятия продукта клиентами«Знак качества» как инструмент анализа восприятия продукта клиентами
«Знак качества» как инструмент анализа восприятия продукта клиентамиCEE-SEC(R)
 
Машинное обучение на каждый день
Машинное обучение на каждый деньМашинное обучение на каждый день
Машинное обучение на каждый деньCEE-SEC(R)
 
Process и Case Management в информационной системе:
Process и Case Management в информационной системе: Process и Case Management в информационной системе:
Process и Case Management в информационной системе: CEE-SEC(R)
 
Проблемы процесса разработки с точки зрения тестирования
Проблемы процесса разработки с точки зрения тестированияПроблемы процесса разработки с точки зрения тестирования
Проблемы процесса разработки с точки зрения тестированияCEE-SEC(R)
 
Как ЧПУ станку в домашней мастерской не превратиться в мульт героев “двое из ...
Как ЧПУ станку в домашней мастерской не превратиться в мульт героев “двое из ...Как ЧПУ станку в домашней мастерской не превратиться в мульт героев “двое из ...
Как ЧПУ станку в домашней мастерской не превратиться в мульт героев “двое из ...CEE-SEC(R)
 
Ай-трекинг в UX исследованиях
Ай-трекинг в UX исследованияхАй-трекинг в UX исследованиях
Ай-трекинг в UX исследованияхCEE-SEC(R)
 
Настоящее и будущее решений для разработки кросс-платформенных мобильных гибр...
Настоящее и будущее решений для разработки кросс-платформенных мобильных гибр...Настоящее и будущее решений для разработки кросс-платформенных мобильных гибр...
Настоящее и будущее решений для разработки кросс-платформенных мобильных гибр...CEE-SEC(R)
 
Технологичный подход к повышению продуктивности – кейсы и исследования
Технологичный подход к повышению продуктивности – кейсы и исследованияТехнологичный подход к повышению продуктивности – кейсы и исследования
Технологичный подход к повышению продуктивности – кейсы и исследованияCEE-SEC(R)
 
Субъектно-ориентированные информационные системы на предприятиях
Субъектно-ориентированные информационные системы на предприятияхСубъектно-ориентированные информационные системы на предприятиях
Субъектно-ориентированные информационные системы на предприятияхCEE-SEC(R)
 
Шаблоны контейнеров в Virtuozzo
Шаблоны контейнеров в VirtuozzoШаблоны контейнеров в Virtuozzo
Шаблоны контейнеров в VirtuozzoCEE-SEC(R)
 
Apache Storm: от простого приложения до подробностей реализации
Apache Storm: от простого приложения до подробностей реализацииApache Storm: от простого приложения до подробностей реализации
Apache Storm: от простого приложения до подробностей реализацииCEE-SEC(R)
 
Семантическое ядро рунета
Семантическое ядро рунетаСемантическое ядро рунета
Семантическое ядро рунетаCEE-SEC(R)
 
Разработка требований для противоречащих законодательств
Разработка требований для противоречащих законодательствРазработка требований для противоречащих законодательств
Разработка требований для противоречащих законодательствCEE-SEC(R)
 
IT-Лаборатория: кузница кадров и стартапов
IT-Лаборатория: кузница кадров и стартаповIT-Лаборатория: кузница кадров и стартапов
IT-Лаборатория: кузница кадров и стартаповCEE-SEC(R)
 
Законы создания IT команд и следствия законов для IT проектов «на пальцах»
Законы создания IT команд и следствия законов для IT проектов «на пальцах»Законы создания IT команд и следствия законов для IT проектов «на пальцах»
Законы создания IT команд и следствия законов для IT проектов «на пальцах»CEE-SEC(R)
 

More from CEE-SEC(R) (20)

Подбор и адаптация методологий разработки ПО под различные типы производствен...
Подбор и адаптация методологий разработки ПО под различные типы производствен...Подбор и адаптация методологий разработки ПО под различные типы производствен...
Подбор и адаптация методологий разработки ПО под различные типы производствен...
 
Проектный офис и аналитик
Проектный офис и аналитикПроектный офис и аналитик
Проектный офис и аналитик
 
Онлайн-революция: от ранних репозиториев – к современным МООС-курсам
Онлайн-революция: от ранних репозиториев – к современным МООС-курсамОнлайн-революция: от ранних репозиториев – к современным МООС-курсам
Онлайн-революция: от ранних репозиториев – к современным МООС-курсам
 
Массовый параллелизм для гетерогенных вычислений на C++ для беспилотных автом...
Массовый параллелизм для гетерогенных вычислений на C++ для беспилотных автом...Массовый параллелизм для гетерогенных вычислений на C++ для беспилотных автом...
Массовый параллелизм для гетерогенных вычислений на C++ для беспилотных автом...
 
Как компании с вузами вместе ИТ специалиста готовили или Чем ИТ компания може...
Как компании с вузами вместе ИТ специалиста готовили или Чем ИТ компания може...Как компании с вузами вместе ИТ специалиста готовили или Чем ИТ компания може...
Как компании с вузами вместе ИТ специалиста готовили или Чем ИТ компания може...
 
«Знак качества» как инструмент анализа восприятия продукта клиентами
«Знак качества» как инструмент анализа восприятия продукта клиентами«Знак качества» как инструмент анализа восприятия продукта клиентами
«Знак качества» как инструмент анализа восприятия продукта клиентами
 
Машинное обучение на каждый день
Машинное обучение на каждый деньМашинное обучение на каждый день
Машинное обучение на каждый день
 
Process и Case Management в информационной системе:
Process и Case Management в информационной системе: Process и Case Management в информационной системе:
Process и Case Management в информационной системе:
 
Проблемы процесса разработки с точки зрения тестирования
Проблемы процесса разработки с точки зрения тестированияПроблемы процесса разработки с точки зрения тестирования
Проблемы процесса разработки с точки зрения тестирования
 
Как ЧПУ станку в домашней мастерской не превратиться в мульт героев “двое из ...
Как ЧПУ станку в домашней мастерской не превратиться в мульт героев “двое из ...Как ЧПУ станку в домашней мастерской не превратиться в мульт героев “двое из ...
Как ЧПУ станку в домашней мастерской не превратиться в мульт героев “двое из ...
 
Ай-трекинг в UX исследованиях
Ай-трекинг в UX исследованияхАй-трекинг в UX исследованиях
Ай-трекинг в UX исследованиях
 
Настоящее и будущее решений для разработки кросс-платформенных мобильных гибр...
Настоящее и будущее решений для разработки кросс-платформенных мобильных гибр...Настоящее и будущее решений для разработки кросс-платформенных мобильных гибр...
Настоящее и будущее решений для разработки кросс-платформенных мобильных гибр...
 
Технологичный подход к повышению продуктивности – кейсы и исследования
Технологичный подход к повышению продуктивности – кейсы и исследованияТехнологичный подход к повышению продуктивности – кейсы и исследования
Технологичный подход к повышению продуктивности – кейсы и исследования
 
Субъектно-ориентированные информационные системы на предприятиях
Субъектно-ориентированные информационные системы на предприятияхСубъектно-ориентированные информационные системы на предприятиях
Субъектно-ориентированные информационные системы на предприятиях
 
Шаблоны контейнеров в Virtuozzo
Шаблоны контейнеров в VirtuozzoШаблоны контейнеров в Virtuozzo
Шаблоны контейнеров в Virtuozzo
 
Apache Storm: от простого приложения до подробностей реализации
Apache Storm: от простого приложения до подробностей реализацииApache Storm: от простого приложения до подробностей реализации
Apache Storm: от простого приложения до подробностей реализации
 
Семантическое ядро рунета
Семантическое ядро рунетаСемантическое ядро рунета
Семантическое ядро рунета
 
Разработка требований для противоречащих законодательств
Разработка требований для противоречащих законодательствРазработка требований для противоречащих законодательств
Разработка требований для противоречащих законодательств
 
IT-Лаборатория: кузница кадров и стартапов
IT-Лаборатория: кузница кадров и стартаповIT-Лаборатория: кузница кадров и стартапов
IT-Лаборатория: кузница кадров и стартапов
 
Законы создания IT команд и следствия законов для IT проектов «на пальцах»
Законы создания IT команд и следствия законов для IT проектов «на пальцах»Законы создания IT команд и следствия законов для IT проектов «на пальцах»
Законы создания IT команд и следствия законов для IT проектов «на пальцах»
 

Как развить отдел тестирования от палки-копалки до CI

  • 1. 12th CENTRAL & EASTERN EUROPEAN SOFTWARE ENGINEERING CONFERENCE IN RUSSIA October 28 - 29, Moscow Taya Rybak Как развить отдел тестирования от палки копалки доCI Organization name or logo
  • 2. О себе  Опыт работы в этой сфере: Более 12 лет.  Прошла путь от инженера по ручному тестированию до руководителя.  Занимала должность директора по развитию бизнеса в Hewlett – Packard по Центральной и Восточной Европе .  Занималась ручным, автоматизированным функциональным и нагрузочным тестированем билинговых систем, банковких систем и хранилищ данных.  На данный момент работаю консультантом и специализируюсь на постановке и аудите процессов разработки ПО  Веду тренинги по тестированию
  • 6.
  • 9.
  • 10. 1. начальный  Каждый релиз – уникальный процесс  Нет общих политик управления тестированием  Качество сильно варьируется от релиза к релизу  Нет инструментов поддержки тестирования  Конечный пользователь в качестве тестироващика  Цель тестирования показать, что ПО в принципе работает
  • 11. 2. управляемый  Описаны политики тестирования  Используются точечные инструменты тестирования  Есть выделенные роли тестировщиков  Стабильное качество для проектов одинакового размера и уровня сложности  Точечная автоматизация тестирования  Цель тестирования- показать что приложение соответствует требованиям в рамках одного проекта
  • 12. 3. определенный  Ход реализации проекта измеряется по KPI  Повторное использование артефактов проекта  Частичная интеграция инструментов тестирования  Стабильное качество для проектов разного размера  Выделение подразделения тестирования  Регулярная автоматизация  Подсчет ROI  Цель тестирования- показать что приложение соответствует требованиям в рамках всей организации
  • 13. 4. управляемый на основе количественных данных  Расширение KPI и их постоянный мониторинг  Прослеживаемость требований  Интеграция инструментов поддерживающих процесс  Изменения в процесс вносятся на основании ROI  Высокий уровень покрытия автотестами  Выделяется в подразделении тестирования подразделение автоматизации тестирования  Выделяется подразделение по контролю качества процессов производства ПО  Цель тестирования – оценка уровня тестирования по KPI
  • 14. Основные KPI вСI для тестирования  Количество найденных дефектов в продуктиве пользователями  Время на тестирование/количество дефектов Urgent High  Количество сбоев в автотестах  Время на доработку автотестов
  • 15. 5. оптимизируемый  Процесс тестирования интегрирован в IT сервисы  Непрерывная разработки приложений  Постоянный мониторинг по качеству процессов IT  Процесс DevOps  Предотвратить дефекты
  • 16.  Если процессы выстроены разово – они не будут жить вечно, их нужно поддерживать.Упс, и такое бывает
  • 19. Карта внедрения процессов Карта внедрения процессов 1 2 3 4 5 Непрерывная разработки V Сервисное и Проектное управление V DEVOps V Непрерывное тестирование BDD V Нагрузочное тестирование V Автоматизация функционального тестирования V Внедрение KPI по тестированию V Трассировка требований и тестов V Управление релизами V Управление требованиями V Тестовые сценарии V Управление дефектами в тестировании V Управление инцидентами V
  • 20. А теперь как это было
  • 21. Фаза 0: Подготовительная • Версионность • Хранение исходного кода • Сервер сборки • Нужен «обученный» тестировщик Упс, и такое бывает
  • 22. Фаза 1: Развитие тестирования • Управление требованиями; • Управление тестированием: • Создание тестов в виде чек листов • автоматизация функционального тестирования (Санитарное тестирование) • нагрузочное тестирование по 10 операциям; • Управление запросами на изменение.
  • 23. Фаза 2 :Внедрение Внедрение тестирования как процесса с повторяемым результатом: • Проектная команда: 2 человека со стороны Заказчика • Описание процессов: 3 недели • Настройка системы: 3 недели
  • 24. Результаты внедрения  Управление дефектами – внутренний регламент – «прозрачный» процесс тестирования  Управление требованиями – покрытие тестами – запросы на изменение  Автоматизация тестирования – сокращение сроков приемки ПО – раннее обнаружение проблем производительности
  • 25. Фаза 3: Автоматизация тестирования • Количество тестов: 120 • Временные затраты: 4 недели • Время на тестирование: • вручную: 90 минут • автоматически: 5-10 минут
  • 26. Мы все еще в пути
  • 27. Основные KPI вСI  Время развертывания (Deployment LeadTime) – время, необходимое на сборку проекта.  MTTR (MeanTimeTo Repair — среднее время восстановления работоспособности). Можно измерить время, прошедшее от сообщения об ошибочной сборке, до исправления.  MTTD (MeanTimeTo Detect – среднее время обнаружения неисправности). измеряется время, которое прошло от внесения ошибки, до определения, что возникла проблема и в чем она заключается.
  • 28. Системы, которые позициониру ются как CI  CruiseControl  CruiseControl.Net  Atlassian Bamboo  Pipeline  Jenkins  MicrosoftTeam Foundation Server  Team City  Git CI
  • 29. Что такоеCI Разработка Тестирование Разработка Разработка Разработка Отчет о тестировании Сборка + Unit тесты Управление требованиями Управление конфигарациями Управление инцидентами Управление Релизами CaliberRM HP ALM Polarion EnterpriseArchitect Jira Serena Dimensions RM IBM Rational Doors SVN Git TFS VS Ant Maven Установка VS E-mail HP ALM VS Junit Xunit
  • 30. Литература  Continuous Integration on a Dollar a Day —Джеймс Шор  Continuous Integration: Improving Software Quality and Reducing Поль Дюваль

Editor's Notes

  1. Исходный код и всё, что необходимо для сборки и тестирования проекта, хранится в репозитории системы управления версиями; Операции копирования из репозитория, сборки и тестирования всего проекта автоматизированы и легко вызываются из внешней программы. Организация[править | править вики-текст] На выделенном сервере организуется служба, в задачи которой входят: получение исходного кода из репозитория; сборка проекта; выполнение тестов; развёртывание готового проекта; отправка отчетов. Локальная сборка может осуществляться: по внешнему запросу, по расписанию, по факту обновления репозитория и по другим критериям.
  2. Мем невозможно взять и построить
  3. Добравить слайд с опросом Разбить на слайды Требовани это не б ольшой документ, не важно в в каком они виде 5 уровень дорогий и долгий Добавить временные рамки для переходов с этапа на этап. Добавить для каких типов компаний.
  4. Есть ли у вас отдельная группа тестировнаия Есть ли тестовые сценарии Есть ли система хранения исходного кода Сервер сбоки Есть ли требования Есть ли трассировка и версионность
  5. Примеры KPI добавить к 4 уровню Если дефектов нет от пользователей, то они и не так важны Часто слышу автотесте много переделываем, пытались не пошло – это некачественные автотесты!!!
  6. Кино поиск Impact Mapping
  7. Так бывает
  8. Вопрос: есть ли статистика по сбору инцилентов? Если интересно посомтрите на Agile Days
  9. Так бывает
  10. Всего 57 модулей больших и маленьких
  11. Добравить слайд с опросом Разбить на слайды Требовани это не б ольшой документ, не важно в в каком они виде 5 уровень дорогий и долгий Добавить временные рамки для переходов с этапа на этап. Добавить для каких типов компаний.
  12. CALIBER rm mICROfOCUS VS для Azure Оповещатся и разработчики и тестировщики причина сборки — например изменения в репозитории изменения в исходных кодах — здесь возможны два варианта изменения от последней сборки или от последней успешной сборки отчеты по статическому анализу кода — все результаты какие есть лог сборки лог модульных тестов — какие тесты прошли и, что важнее, какие не прошли лог регрессионных тестов — аналогично модульным тестам статистика сборок проекта: общее число удачных/провальных сборок распределение удачных/провальных сборок во времени статистика результатов статического анализа кода все другие метрики используемые и собираемые в проекте — это поможет менеджеру проекта видеть все и сразу
  13. поч