Presentation about Test Automation principles at itSMF conference
Speakers: Petr Neugebauer and Marcel Veselka ([pro]Test! Heroes)
Motivation
Failures
Goals and Benefits
4. itSMF CZECH REPUBLIC 2017 | 4
TESTOVÁNÍ
VÝZVY
1
DOBA DODÁVKY
SE ZKRACUJE
5
ZÁKAZNÍK
OČEKÁVÁ VYSOKOU KVALITU
3
INTERAKCE MEZI SYSTÉMY
ROSTE
6
VARIABILITA ZAŘÍZENÍ
A PLATFOREM ROSTE
2
SLOŽITOST SYSTÉMŮ
SE ZVYŠUJE
4
ZMĚNOVÁ ŘÍZENÍ
JSOU BĚŽNÁ
5. itSMF CZECH REPUBLIC 2017 | 5
PERSPEKTIVY
KVALITY
PRODUKT
UŽIVATELSKÉ
POTŘEBY
PROCESY
POCIT
HODNOTA
ZÁKAZNÍK
VÝVOJÁŘ
TESTER
TECHNIK
MANAGER
6. itSMF CZECH REPUBLIC 2017 | 6
CÍLE SPOLEČNOSTI
STRATEGIE
ZVÝŠENÍ PRODUKTIVITY O 10%
SNÍŽENÍ NÁKLADŮ O 5%
DODÁNÍ 2 NOVÝCH PRODUKTŮ
NA TRH KAŽDÉ 3 ROKY
ZVÝŠENÍ PODÍLU
NA TRHU O 3%
SNÍŽENÍ DEFEKTŮ
Z PRODUKCE
O 10%
SPOUŠTĚNÍ TESTŮ
EXTERNÍ FIRMOU
7. itSMF CZECH REPUBLIC 2017 | 7
VYSOKÉ PROCENTO AUTOMATIZAČNÍCH
PROCESŮ SELŽE NEBO NESPLNÍ
OČEKÁVÁNÍ OHLEDNĚ ROI.
ÚROVEŇ
AUTOMATIZACE
TESTŮ
AUTOMATIZACE
AKTUÁLNÍ STAV
A TRENDY
Top priorita 2016:
ZLEPŠIT AUTOMATIZACE TESTŮ
(pro 58% společností)
2014 2015 2016
28% 45% 29%
Quality Report 2015-2016 / 2016-2017
8. itSMF CZECH REPUBLIC 2017 | 8
VÝHODY
VĚTŠÍ MNOŽSTVÍ TESTŮ
ČASTĚJŠÍ BĚH TESTŮ
PŘESNOST A BEZCHYBNOST
RYCHLOST
AUTOMATIZACE
TESTOVÁNÍ
NEVÝHODY
CENA (POČÁTEČNÍ INVESTICE)
ZNALOSTI A DOVEDNOSTI
TECHNOLOGIE (NÁSTROJE)
ÚDRŽBA (AKTUÁLNOST)
9. itSMF CZECH REPUBLIC 2017 | 9
AUTOMATIZACE
TESTOVÁNÍ
VÝHODY vs NEVÝHODY
MOŽNOST ČASTĚJŠÍHO BĚHU TESTŮ
MENŠÍ NÁCHYLNOST NA CHYBY
(LIDSKÉ)
MOŽNOST SLOŽITĚJŠÍCH A TĚŽCE
SPUSTITELNÝCH MANUÁLNÍCH TESTŮ
RYCHLOST TESTŮ A VČASNÁ ZPĚTNÁ
VAZBA
EFEKTIVNOST A EFEKTIVITA VYUŽITÍ
LIDSKÝCH ZDROJŮ
KONZISTENTNOST A STABILITA
POČÁTEČNÍ NÁKLADY
VYŽADUJE TECHNOLOGIE
VYŽADUJE DALŠÍ SCHOPNOSTI A
DOVEDNOSTI TESTERŮ
NÁKLADY NA ÚDRŽBU
VÝVOJ AUTOMATICKÝCH TESTŮ
NAÚKOR TESTOVÁNÍ
NÁCHYLNOST NA ZMĚNY
LIMITACE AUTOMATIZACE TESTŮ
VŠECHNY TESTY NELZE AUTOMATIZOVAT
AUTOMATIZOVANÉ TESTY NETESTUJÍ, POUZE
KONTROLUJÍ OČEKÁVANÉ VÝSLEDKY
NENAHRAZUJE MANUÁLNÍ TESTY (ET)
10. itSMF CZECH REPUBLIC 2017 | 10
MÝTUS #1
Automatizace řeší VŠECHNO
MÝTUS #3
Automatizace snižuje nároky
na MNOŽSTVÍ TESTERŮ
MÝTUS #5
Automatizace je o simulaci
webového rozhraní
AUTOMATIZACE
MÝTY A POVĚRY
AUTOMATIZACE
NENACHÁZÍ CHYBY,
CHYBY NACHÁZÍ TESTY.
AUTOMATIZACE SE
NETÝKÁ VÝHRADNĚ
FUNKCIONALITY
MÝTUS #2
Automatizovat může KAŽDÝ
MÝTUS #4
Automatizací vždy ušetříme,
aneb automatizace je LEVNÁ
MÝTUS #6
Automatizace je record-and-play
aktivita
11. itSMF CZECH REPUBLIC 2017 | 11
NÁVRATNOST INVESTICE DO
AUTOMATIZACE TESTOVÁNÍ
ROZHODUJE SKUTEČNĚ POUZE ROI?
ROI
14. itSMF CZECH REPUBLIC 2017 | 15
MOTIVACE
CENA
RYCHLOST
KVALITA
TRANSPARENTNOST
DEMOTIVACE
TLAK ZHORA
NESPRÁVNÉ OČEKÁVÁNÍ
PROČ TO DĚLAT
KDY TO DĚLAT
(DE)MOTIVACE
MANAGER
SPRÁVNÁ OČEKÁVÁNÍMOTIVACE
15. itSMF CZECH REPUBLIC 2017 | 16
MOTIVACE
NOVÉ “HRAČKY”
RYCHLÁ ZPĚTNÁ VAZBA
UŽ NEJSEM “KLIKAČ”
NIŽŠÍ PRACNOST
DEMOTIVACE
ÚDRŽBA
TESTOVÁNÍ TESTŮ
TESTOVACÍ DATA
KVALITA PRODUKTU
(DE)MOTIVACE
AJŤÁK
NOVÝ VÝVOJ VS
ÚDRŽBAKARIÉRA
16. itSMF CZECH REPUBLIC 2017 | 17
MOTIVACE
PROFITABILITA / ÚSPĚCH PRODUKTU
ČAS DODÁNÍ NA TRH (Time to market)
RYCHLEJŠÍ REAKCE NA KONKURENCI
KVALITA
DEMOTIVACE
POČÁTEČNÍ INVESTICE
ŠPATNÉ POROZUMĚNÍ (KDO - schopnosti týmu)
POROZUMĚNÍ TECHNICKÝM DETAILŮM
(DE)MOTIVACE
ZÁKAZNÍK
HODNOTA
MOŽNOST ZPĚTNÉ
VAZBY
17. itSMF CZECH REPUBLIC 2017 | 18
• METRIKY A KPI
• POKRYTÍ
• PRIORITY
• ZMĚNY
• ZDROJE
• ROLE
SPOLUPRÁCE
18. itSMF CZECH REPUBLIC 2017 | 19
Zdroj: The Unexpected Truth
About UI Test Automation Pilot
Projects, telerik
Na průzkum odpovědelo 239 testerů a 604 vývojářů
JAK USPĚT PŘI AUTOMATIZACI
19. itSMF CZECH REPUBLIC 2017 | 20
Zapojení DEV týmu
do automatizace
Realistická
očekávání
managementu
Efektivní
komunikace mezi
managementem a
lídrem automatizace
JAK USPĚT
20. itSMF CZECH REPUBLIC 2017 | 21
Zapojení DEV týmu
do automatizace
Zvolené testovací
nástroje jsou
neefektivní
anebo se težko s nimi
pracuje
Tým nemá
zkušenosti
v automatizaci testů
ČEMU SE
VYVAROVAT
21. itSMF CZECH REPUBLIC 2017 | 22
AUTOMATIZACE
JAK USPĚT • Automatizace je vývoj SW
• Testy ladíme s vývojem
• Open source vs komerční nástroje? (svoboda)
Technologie
(nástroje, prostředí,
data, . . .)
• Myslete na automatizaci už při startu =
automatizovatelnost jako součást business zádání
• Smoke > Regresní testy
• Testovací data
• Nefunkční požadavky (výkon, kompatibilita, stabilita)
Testovaná
aplikace
• Skvělý tester z bankovní pobočky není vývojář,
rozumí business problematice, ale ne programování
• Ideální automatizér je vývojář, tester, architekt a
business specialista
Tým
Kdo?
23. itSMF CZECH REPUBLIC 2017 | 24
JASNÁ KOMUNIKACE
ŠKOLENÍ
AKTUALIZACE TESTŮ
BUDGET
JAK USPĚT
STRATEGIE
PŘÍSTUPY
NÁSTROJE
DEFINICE
VIZE
CÍLŮ
PRIORIT
POCHOPENÍ
SPOLEČNOSTI
ZÁKAZNÍKA
OČEKÁVÁNÍ
VYHODNOCENÍ
PILOT
ZLEPŠOVÁNÍ
24. itSMF CZECH REPUBLIC 2017 | 25
AUTOMATIZACE: ANO ČI NE?
VŠELÉK NEBO PLACEBO?
JAK AUTOMATIZOVAT?
SHRNUTÍ
AUTOMATIZACE TESTOVÁNÍ
VŠELÉK NEBO PLACEBO?
25. itSMF CZECH REPUBLIC 2017 | 26
AUTOMATIZACE TESTOVÁNÍ
VŠELÉK NEBO PLACEBO?
MARCEL
VESELKA
tesena | SMART TESTING
PETR
NEUGEBAUER
YES4Q | PASSION FOR
QUALITY
marcel.veselka@tesena.com
https://www.linked.com/in/petrneugebauerhttps://www.linked.com/in/marcelveselka
petr@yes4Q.com
Editor's Notes
Externí (mimo automatizaci)
Aplikace se mení príliš často
Projektová metodika nepočítá s automatizací
Nesprávné vstupy do automatizaci (co testovat a jak testovat)
Interní (v samotní automatizaci)
Nevhodné nástroje pro automatizaci
Nemáme správně definovánou metodiku automatizace
Nedostatek zkušených lidí v automatizaci testů
PRODUCT-BASED (MEASURABLE QUALITY ATTRIBUTES)
USER-BASED (CAPACITY TO SATISFY THE NEEDS, WANTS AND DESIRES OF THE USER(S))
MANUFACTURING-BASED (PROCESSES)
VALUE-BASED (PRICE VS BENEFITS)
TRANSCENDENT-BASED (CANNOT BE DEFINED, BUT WE KNOW IT WHEN WE SEE IT OR ARE AWARE OF ITS ABSENCE WHEN IT IS MISSING)
PRODUKT (MĚŘITELNÉ ATRIBUTY KVALITY)
UŽIVATEL (POTŘEBY, PŘÁNÍ, VYUŽITÍ)
VÝVOJ / VÝROBA (PROCESY)
HODNOTA (CENA vs BENEFIT)
POCIT (CO JE VIDĚT)
Zdroj: Quality Report 2015-16 a 2016-17
Test automation is a vital contributor to testing efficiency, yet this year’s study participants claim just 29% of testing activities are automated. Further, a high percentage of automation projects fail or don’t result in the anticipated Return on Investment. There are a number of reasons for this, beginning with a lack of central coordination and guidelines on tools and their usage. Another cause is a short-term focus on automating what is required to meet current project and/
or release needs, rather than long-term strategic planning
and maintenance
Do úvodu
Máme ve výhodách a nevýhodách
NESPRÁVNÉ OČEKÁVÁNÍTOP managementu (= vše a hned)
Proč to dělat - po projektu to nepotřebuju, postará se někdo jíný
Kdy to dělat? Zbytečne zbrzdím projekt!?
45% of software features were never used and
only 20% were used often or always
VÝVOJÁŘI vs TESTEŘI
Do řešení – jak uspět
Nepochopení procesů vede k nekompletnímu a nekorektnímu otestování aplikace
Testeři automatizují, aby nacházely lehké defekty
Automatizace: ANO či NE?
Marcel:
Petr: ANO, pokud to někdo chce. ANO v případě, že to jinak nejde.
Automatizace je trend Stakeholderi – jine ocekani
Všelék nebo placebo?
Marcel:
Petr: Efektivní kontrola kvality (regresní testy), ale pro nacházení defektů jsou efektivní jiné přístupy.
Co automatizovat?
Marcel:
Petr: Good enough quality