SlideShare a Scribd company logo
ТЕСТ-ДИЗАЙНЕР В
   «ПОПУГАЯХ»:
МЕТРИКИ ПРОЕКТИРОВАНИЯ
        ТЕСТОВ
                   Федоров Александр
                  Лаборатория качества

        Москва 2009
МЕТРИКИ В
         ТЕСТИРОВАНИИ
Метрики в тестировании - количественные
измерения результатов труда сотрудников отдела
качества

Метрики нужны для:

1. Оценки деятельности сотрудника
2. Мотивации сотрудника
3. Совершенствования процессов
СОСТАВ МЕТРИК
  Метрики                        Метрики
 выполнения    МЕТРИКИ        проектирования
   тестов                         тестов




Тестировщик   Тест-менеджер   Тест-дизайнер
ОЦЕНКА СОТРУДНИКА
                 Эффективность =
      (Количество*Сложность*Качество)/Время
Количество - количество выполненных единиц деятельности.

Сложность - коэффициент, призванный отразить трудозатраты связанные с
узостью предметной области:
   1. Тест-дизайнеру приходится разбираться в функционале.
   2. Специфика функционала влияет на степень детализации тест-кейсов.

Качество - присутствует в формуле в роли коэффициента.

Время - количество затраченных человеко-часов.
КОЛИЧЕСТВО
             И СЛОЖНОСТЬ
Количество

Количественному подсчету может быть подвергнута любая
деятельность: написание тест-кейсов, тестирование требований,
создание тестовой документации и пр.

Сложность

Сложность возникает из следующих факторов:
1. Тест-дизайнеру приходится разбираться в функционале.
2. Специфика функционала влияет на степень детализации тест-
кейсов.
КАЧЕСТВО РАБОТЫ
Определение качества тест-дизайна:

•   Метрическое - покрытие требований, code-coverage.
•   Путем аудита - разбор используемых в тест-дизайне
    методик, чтение тест-кейсов.
•   Через обратную связь - отзывы тестировщиков,
    проходящих тест-кейсы.
•   Определение постфактум - покрытие тест-кейсов
    найденными багами, количество обнаруженных в
    последствии багов.
МОТИВАЦИЯ
Метрики позволяют мотивировать
сотрудников, имеющих склонности:

 К соревновательности (с результатами других
 сотрудников или своими собственными)
 К процедурности (сотрудник знает критерии, по
 которым его оценивают, используется мотивация
 «справедливости»)
МОТИВАЦИЯ
Использование «процедурности» при мотивации
позволяет назначать «бонусы» за достижения:

 • похвала (личная от руководителя лтбо коллективная)
 • признание (доска почета, уважение коллег)
 • премия (денежная или подарок)
 • повышение (карьерный рост)
СОВЕРШЕНСТВОВАНИЕ
                ПРОЦЕССОВ
При условии ведения нескольких проектов, новые методы и
инструменты внедряются как правило на «пилотном проекте».

Единственным инструментом объективной оценки полезности
нововведений является использование метрик для сравнения с
другими проектами:

•   Количество написанных тестов.
•   Время прогона.
•   Количество найденных багов и их критичность.
•   Количество багов, найденных не по тест-кейсам.
•   и т. д.
МЕТРИКИ МНОГООБРАЗНЫ
Можно использовать множество различных метрик, в
зависимости от имеющихся задач и потребностей.

Пример.

Распределение коэффициента полезности тестов: оценка
количества и важности найденных багов и их распределение по
приоритетам тестов.

В результате можно сделать выводы о правильности
приоритизации тестов и об отсутствии/наличии в них
избыточности.
Тест-дизайнер в "попугаях"

More Related Content

What's hot

Istqb lesson 4
Istqb lesson 4Istqb lesson 4
Istqb lesson 4
Eugene Bulba
 
Тестирование ПО
Тестирование ПОТестирование ПО
Тестирование ПОseleznev_stas
 
Istqb lesson 6
Istqb lesson 6Istqb lesson 6
Istqb lesson 6
Eugene Bulba
 
Управление конфигурациями и артефакты тестирования
Управление конфигурациями и артефакты тестированияУправление конфигурациями и артефакты тестирования
Управление конфигурациями и артефакты тестирования
SQALab
 
Istqb lesson 3
Istqb lesson 3Istqb lesson 3
Istqb lesson 3
Eugene Bulba
 
Тестирование сложных программных решений и комплексных систем.
Тестирование сложных программных решений и комплексных систем.Тестирование сложных программных решений и комплексных систем.
Тестирование сложных программных решений и комплексных систем.
DressTester
 
Обучение IT-аналитиков
Обучение IT-аналитиковОбучение IT-аналитиков
Обучение IT-аналитиков
Natalia Zhelnova
 
IntroductionPrinciples
IntroductionPrinciplesIntroductionPrinciples
IntroductionPrinciplesQA Guards
 
Как возникают ловушки заказного тестирования
Как возникают ловушки заказного тестированияКак возникают ловушки заказного тестирования
Как возникают ловушки заказного тестирования
SQALab
 
Варианты использования (use cases) для быстрой оценки проектов
Варианты использования (use cases) для быстрой оценки проектовВарианты использования (use cases) для быстрой оценки проектов
Варианты использования (use cases) для быстрой оценки проектов
SQALab
 
Istqb lesson 1
Istqb lesson 1Istqb lesson 1
Istqb lesson 1
Eugene Bulba
 
Istqb lesson 5
Istqb lesson 5Istqb lesson 5
Istqb lesson 5
Eugene Bulba
 
Выстраиваем процесс управления требованиями
Выстраиваем процесс управления требованиямиВыстраиваем процесс управления требованиями
Выстраиваем процесс управления требованиями
SQALab
 
От тестирования к QA
От тестирования к QAОт тестирования к QA
От тестирования к QA
DressTester
 
Grey box techniques
Grey box techniquesGrey box techniques
Grey box techniquesQA Guards
 

What's hot (20)

Istqb lesson 4
Istqb lesson 4Istqb lesson 4
Istqb lesson 4
 
Тестирование ПО
Тестирование ПОТестирование ПО
Тестирование ПО
 
Istqb lesson 6
Istqb lesson 6Istqb lesson 6
Istqb lesson 6
 
Управление конфигурациями и артефакты тестирования
Управление конфигурациями и артефакты тестированияУправление конфигурациями и артефакты тестирования
Управление конфигурациями и артефакты тестирования
 
Test design print
Test design printTest design print
Test design print
 
презентация планов
презентация плановпрезентация планов
презентация планов
 
презентация планов
презентация плановпрезентация планов
презентация планов
 
Istqb lesson 3
Istqb lesson 3Istqb lesson 3
Istqb lesson 3
 
Тестирование сложных программных решений и комплексных систем.
Тестирование сложных программных решений и комплексных систем.Тестирование сложных программных решений и комплексных систем.
Тестирование сложных программных решений и комплексных систем.
 
Обучение IT-аналитиков
Обучение IT-аналитиковОбучение IT-аналитиков
Обучение IT-аналитиков
 
IntroductionPrinciples
IntroductionPrinciplesIntroductionPrinciples
IntroductionPrinciples
 
Как возникают ловушки заказного тестирования
Как возникают ловушки заказного тестированияКак возникают ловушки заказного тестирования
Как возникают ловушки заказного тестирования
 
Варианты использования (use cases) для быстрой оценки проектов
Варианты использования (use cases) для быстрой оценки проектовВарианты использования (use cases) для быстрой оценки проектов
Варианты использования (use cases) для быстрой оценки проектов
 
Test levels
Test levelsTest levels
Test levels
 
Istqb lesson 1
Istqb lesson 1Istqb lesson 1
Istqb lesson 1
 
Istqb lesson 5
Istqb lesson 5Istqb lesson 5
Istqb lesson 5
 
Выстраиваем процесс управления требованиями
Выстраиваем процесс управления требованиямиВыстраиваем процесс управления требованиями
Выстраиваем процесс управления требованиями
 
От тестирования к QA
От тестирования к QAОт тестирования к QA
От тестирования к QA
 
Test management print
Test management printTest management print
Test management print
 
Grey box techniques
Grey box techniquesGrey box techniques
Grey box techniques
 

Similar to Тест-дизайнер в "попугаях"

Александр Александров: Процессный консалтинг - как и зачем это делается и ког...
Александр Александров: Процессный консалтинг - как и зачем это делается и ког...Александр Александров: Процессный консалтинг - как и зачем это делается и ког...
Александр Александров: Процессный консалтинг - как и зачем это делается и ког...
Luxoft Education Center
 
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
Tech Talks @NSU
 
Тестирование весна 2014 лекция 1
Тестирование весна 2014 лекция 1Тестирование весна 2014 лекция 1
Тестирование весна 2014 лекция 1Technopark
 
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Andrey Ladutko
 
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизацияQA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QAFest
 
Человеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкойЧеловеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкой
SQALab
 
Тестирование весна 2013 лекция 1
Тестирование весна 2013 лекция 1Тестирование весна 2013 лекция 1
Тестирование весна 2013 лекция 1Technopark
 
Тестирование осень 2013 лекция 1
Тестирование осень 2013 лекция 1Тестирование осень 2013 лекция 1
Тестирование осень 2013 лекция 1Technopark
 
Роман Кокин «Организация тестирования в больших командах»
Роман Кокин «Организация тестирования в больших командах»Роман Кокин «Организация тестирования в больших командах»
Роман Кокин «Организация тестирования в больших командах»DataArt
 
Test management
Test managementTest management
Test managementQA Guards
 
Alexandrov, Alexandr основы управления качеством
Alexandrov, Alexandr основы управления качествомAlexandrov, Alexandr основы управления качеством
Alexandrov, Alexandr основы управления качествомrit2010
 
Слайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть IIСлайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть IISergiy Povolyashko
 
Процесс тестирования. Измерение и оценка
Процесс тестирования. Измерение и оценкаПроцесс тестирования. Измерение и оценка
Процесс тестирования. Измерение и оценка
SQALab
 
Software Measurements Training Overview
Software Measurements Training OverviewSoftware Measurements Training Overview
Software Measurements Training Overview
Sergiy Povolyashko, PMP
 
Как оценить время на тестирование. Александр Зиновьев, Test Lead Softengi
Как оценить время на тестирование. Александр Зиновьев, Test Lead SoftengiКак оценить время на тестирование. Александр Зиновьев, Test Lead Softengi
Как оценить время на тестирование. Александр Зиновьев, Test Lead Softengi
Softengi
 
How to estimate time for testing
How to estimate time for testingHow to estimate time for testing
How to estimate time for testingAlexandr Zinovyev
 
Становление программы внутренних аудитов.
Становление программы внутренних аудитов.Становление программы внутренних аудитов.
Становление программы внутренних аудитов.
Elena Petrova
 
Слайдкаст. Измерения в ИТ и ПО. Часть I
Слайдкаст. Измерения в ИТ и ПО. Часть IСлайдкаст. Измерения в ИТ и ПО. Часть I
Слайдкаст. Измерения в ИТ и ПО. Часть ISergiy Povolyashko
 
KPI тестировщиков - особенности и проблемы
KPI тестировщиков - особенности и проблемыKPI тестировщиков - особенности и проблемы
KPI тестировщиков - особенности и проблемы
Rina Uzhevko
 
Software Measurements Training Overview
Software Measurements Training OverviewSoftware Measurements Training Overview
Software Measurements Training Overview
Sergiy Povolyashko
 

Similar to Тест-дизайнер в "попугаях" (20)

Александр Александров: Процессный консалтинг - как и зачем это делается и ког...
Александр Александров: Процессный консалтинг - как и зачем это делается и ког...Александр Александров: Процессный консалтинг - как и зачем это делается и ког...
Александр Александров: Процессный консалтинг - как и зачем это делается и ког...
 
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
Tech Talks @NSU: Организация тестирования в IT-компаниях Академгородка. Карье...
 
Тестирование весна 2014 лекция 1
Тестирование весна 2014 лекция 1Тестирование весна 2014 лекция 1
Тестирование весна 2014 лекция 1
 
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
Test Strategy: creation and optimization - QA Fest-2017 (Тестовая стратегия: ...
 
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизацияQA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
QA Fest 2017. Андрей Ладутько.Тестовая стратегия: создание и оптимизация
 
Человеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкойЧеловеко-дни на тестирование или как не ошибиться с оценкой
Человеко-дни на тестирование или как не ошибиться с оценкой
 
Тестирование весна 2013 лекция 1
Тестирование весна 2013 лекция 1Тестирование весна 2013 лекция 1
Тестирование весна 2013 лекция 1
 
Тестирование осень 2013 лекция 1
Тестирование осень 2013 лекция 1Тестирование осень 2013 лекция 1
Тестирование осень 2013 лекция 1
 
Роман Кокин «Организация тестирования в больших командах»
Роман Кокин «Организация тестирования в больших командах»Роман Кокин «Организация тестирования в больших командах»
Роман Кокин «Организация тестирования в больших командах»
 
Test management
Test managementTest management
Test management
 
Alexandrov, Alexandr основы управления качеством
Alexandrov, Alexandr основы управления качествомAlexandrov, Alexandr основы управления качеством
Alexandrov, Alexandr основы управления качеством
 
Слайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть IIСлайдкаст. Измерения в ИТ и ПО. Часть II
Слайдкаст. Измерения в ИТ и ПО. Часть II
 
Процесс тестирования. Измерение и оценка
Процесс тестирования. Измерение и оценкаПроцесс тестирования. Измерение и оценка
Процесс тестирования. Измерение и оценка
 
Software Measurements Training Overview
Software Measurements Training OverviewSoftware Measurements Training Overview
Software Measurements Training Overview
 
Как оценить время на тестирование. Александр Зиновьев, Test Lead Softengi
Как оценить время на тестирование. Александр Зиновьев, Test Lead SoftengiКак оценить время на тестирование. Александр Зиновьев, Test Lead Softengi
Как оценить время на тестирование. Александр Зиновьев, Test Lead Softengi
 
How to estimate time for testing
How to estimate time for testingHow to estimate time for testing
How to estimate time for testing
 
Становление программы внутренних аудитов.
Становление программы внутренних аудитов.Становление программы внутренних аудитов.
Становление программы внутренних аудитов.
 
Слайдкаст. Измерения в ИТ и ПО. Часть I
Слайдкаст. Измерения в ИТ и ПО. Часть IСлайдкаст. Измерения в ИТ и ПО. Часть I
Слайдкаст. Измерения в ИТ и ПО. Часть I
 
KPI тестировщиков - особенности и проблемы
KPI тестировщиков - особенности и проблемыKPI тестировщиков - особенности и проблемы
KPI тестировщиков - особенности и проблемы
 
Software Measurements Training Overview
Software Measurements Training OverviewSoftware Measurements Training Overview
Software Measurements Training Overview
 

Тест-дизайнер в "попугаях"

  • 1. ТЕСТ-ДИЗАЙНЕР В «ПОПУГАЯХ»: МЕТРИКИ ПРОЕКТИРОВАНИЯ ТЕСТОВ Федоров Александр Лаборатория качества Москва 2009
  • 2. МЕТРИКИ В ТЕСТИРОВАНИИ Метрики в тестировании - количественные измерения результатов труда сотрудников отдела качества Метрики нужны для: 1. Оценки деятельности сотрудника 2. Мотивации сотрудника 3. Совершенствования процессов
  • 3. СОСТАВ МЕТРИК Метрики Метрики выполнения МЕТРИКИ проектирования тестов тестов Тестировщик Тест-менеджер Тест-дизайнер
  • 4. ОЦЕНКА СОТРУДНИКА Эффективность = (Количество*Сложность*Качество)/Время Количество - количество выполненных единиц деятельности. Сложность - коэффициент, призванный отразить трудозатраты связанные с узостью предметной области: 1. Тест-дизайнеру приходится разбираться в функционале. 2. Специфика функционала влияет на степень детализации тест-кейсов. Качество - присутствует в формуле в роли коэффициента. Время - количество затраченных человеко-часов.
  • 5. КОЛИЧЕСТВО И СЛОЖНОСТЬ Количество Количественному подсчету может быть подвергнута любая деятельность: написание тест-кейсов, тестирование требований, создание тестовой документации и пр. Сложность Сложность возникает из следующих факторов: 1. Тест-дизайнеру приходится разбираться в функционале. 2. Специфика функционала влияет на степень детализации тест- кейсов.
  • 6. КАЧЕСТВО РАБОТЫ Определение качества тест-дизайна: • Метрическое - покрытие требований, code-coverage. • Путем аудита - разбор используемых в тест-дизайне методик, чтение тест-кейсов. • Через обратную связь - отзывы тестировщиков, проходящих тест-кейсы. • Определение постфактум - покрытие тест-кейсов найденными багами, количество обнаруженных в последствии багов.
  • 7. МОТИВАЦИЯ Метрики позволяют мотивировать сотрудников, имеющих склонности: К соревновательности (с результатами других сотрудников или своими собственными) К процедурности (сотрудник знает критерии, по которым его оценивают, используется мотивация «справедливости»)
  • 8. МОТИВАЦИЯ Использование «процедурности» при мотивации позволяет назначать «бонусы» за достижения: • похвала (личная от руководителя лтбо коллективная) • признание (доска почета, уважение коллег) • премия (денежная или подарок) • повышение (карьерный рост)
  • 9. СОВЕРШЕНСТВОВАНИЕ ПРОЦЕССОВ При условии ведения нескольких проектов, новые методы и инструменты внедряются как правило на «пилотном проекте». Единственным инструментом объективной оценки полезности нововведений является использование метрик для сравнения с другими проектами: • Количество написанных тестов. • Время прогона. • Количество найденных багов и их критичность. • Количество багов, найденных не по тест-кейсам. • и т. д.
  • 10. МЕТРИКИ МНОГООБРАЗНЫ Можно использовать множество различных метрик, в зависимости от имеющихся задач и потребностей. Пример. Распределение коэффициента полезности тестов: оценка количества и важности найденных багов и их распределение по приоритетам тестов. В результате можно сделать выводы о правильности приоритизации тестов и об отсутствии/наличии в них избыточности.