Проверка на прочность или нагрузочное тестирование с JmeterAleksey Derkach
Мой доклад на второй мини-конференции компании Anadea в феврале 2015 года. Обобщение опыта, полученного в результате проведения полноценной сессии нагрузочного тестирования Web-приложения с использованием Jmeter.
Андрей Похилько — Нагрузочное тестирование типичного интернет сервисаYandex
Нагрузочное тестирование интернет-сервиса начинается с того, что мы выясняем ожидаемый профиль нагрузки. Вооружившись подходящим инструментом, мы проводим типовую последовательность тестов и измеряем основные показатели производительности: ёмкость, скорость и надёжность. При этом особое внимание необходимо уделять наблюдению за состоянием ресурсов тестируемой системы.
Часто о нагрузочном тестировании рассказывают через призму используемого инструментария, хорошо раскрывая слово «нагрузочное» и часто оставляя слово «тестирование» за кадром. Так давайте же попробуем поговорить о месте именно тестирования в нагрузочном тестировании.
Проверка на прочность или нагрузочное тестирование с JmeterAleksey Derkach
Мой доклад на второй мини-конференции компании Anadea в феврале 2015 года. Обобщение опыта, полученного в результате проведения полноценной сессии нагрузочного тестирования Web-приложения с использованием Jmeter.
Андрей Похилько — Нагрузочное тестирование типичного интернет сервисаYandex
Нагрузочное тестирование интернет-сервиса начинается с того, что мы выясняем ожидаемый профиль нагрузки. Вооружившись подходящим инструментом, мы проводим типовую последовательность тестов и измеряем основные показатели производительности: ёмкость, скорость и надёжность. При этом особое внимание необходимо уделять наблюдению за состоянием ресурсов тестируемой системы.
Часто о нагрузочном тестировании рассказывают через призму используемого инструментария, хорошо раскрывая слово «нагрузочное» и часто оставляя слово «тестирование» за кадром. Так давайте же попробуем поговорить о месте именно тестирования в нагрузочном тестировании.
Building Open Source Test Automation Frameworks. Watir based automation case ...Aliaksandr Ikhelis
Summary: Presentation on open source testing frameworks at SQA Days 2008 conference by Aliaksandr Ikhelis. Sponte framework developer and owner is Stanislaw Wozniak, Expedia Limited, UK. Sponte project homepage: http://rubyforge.org/projects/sponte/; http://github.com/swozniak/sponte/tree/master
От простого к сложному: автоматизируем ручные тест-планы | Сергей ТимченкоPositive Hack Days
1. Смотрим по сторонам - обычный процесс авто-тестирования
2. Убираем лишнее - реалистичный целевой процесс
3. DataDrivenTesting - создание спец. инструментов для конкретных сценариев
4. RobotFramework - что делать, если простых сценариев слишком много
Building Open Source Test Automation Frameworks. Watir based automation case ...Aliaksandr Ikhelis
Summary: Presentation on open source testing frameworks at SQA Days 2008 conference by Aliaksandr Ikhelis. Sponte framework developer and owner is Stanislaw Wozniak, Expedia Limited, UK. Sponte project homepage: http://rubyforge.org/projects/sponte/; http://github.com/swozniak/sponte/tree/master
От простого к сложному: автоматизируем ручные тест-планы | Сергей ТимченкоPositive Hack Days
1. Смотрим по сторонам - обычный процесс авто-тестирования
2. Убираем лишнее - реалистичный целевой процесс
3. DataDrivenTesting - создание спец. инструментов для конкретных сценариев
4. RobotFramework - что делать, если простых сценариев слишком много
Андрей Рохилько – J-meter внутри и снаружи Яндекс.ТанкаYandex
В первой части доклада я расскажу, для каких задач Яндекс использует JMeter и почему мы оборачиваем его внутрь Яндекс.Танка. Во второй части кратко рассмотрю тему плагинов для JMeter, выделив ключевые моменты для профессиональных нагрузочных тестировщиков.
Оптимизация производительности и нагрузочное тестирование в среде Visual Stud...Dmitry Andreev
Производительность информационной системы - одно из важных свойств которое должно учитываться, а затем постоянно контролироваться на всех этапах создания программного обеспечения. Но эта задача при неверном подходе в решении рискует превратиться в кропотливую и очень трудоемкую работу, которая может значительно снизить общую эффективность разрабатываемой системы. Баланс между усилиями по оптимизации и результатами достигается с помощью инструментальных средств. Одним из таких средств являются функциональные возможности Visual Studio 2010 по профилированию, нагрузочному тестированию и автоматизации тестирования. В докладе будет проведен краткий обзор этих возможностей и основные сценарии применения для построения комплексной системы нагрузочного тестирования и имитационного мониторинга производительности.
Автоматизация нагрузочного тестирования в связке JMeter + TeamСity + Grafana ...Positive Hack Days
1. Описание старого процесса сбора данных о тестах: как было до, что хорошего, что плохого
2. Influxdb, как хранилище time-series данных,
3. Zabbix - мониторинг нагрузочных стендов: windows и linux агенты, активный сбор данных, autodiscovery виртуальных машин в esx
4. Grafana, как способ превратить графики и дашборды в конфетку
5. Автоматизация нагрузки от пользователей через web-UI при помощи Jmeter, отображение статистики в реальном времени, CI в Teamcity
Как провести юзабилити-тестирование самостоятельноНетология
Видеозапись открытого занятия «Оценка эффективности SMM-кампании: как достичь цели?» можно посмотреть здесь - http://bit.ly/1swilQC
Юзабилити-тестирование позволяет узнать, насколько хорошо интерфейс вашего сайта позволяет решать задачи пользователей. Узнайте, как организовать аудит сайта самостоятельно, и что для этого потребуется.
— Что такое юзабилити-текстирование?
— Что такое юзабилити-экспертиза?
— Когда и как проводить тестирование?
— Когде не надо проводить юзабилити-тестирование?
— Этапы ю-тестирования
— Различные варианты ю-тестирования
"Опыт создания системы управления сборкой и тестированием" (полная)SPB SQA Group
Доклад посвящен вопросам создания и использования собственной системы управления процессами сборки и тестирования ПО. Описываются ключевые моменты построения таких систем, в частности: вопросы интерфейсов, быстродействия, качества и интеграции в общую инфраструктуру. Затрагиваются концепции встраивания качества в код, сбора и использования метрик ПО, неотделимости сборки от тестирования, автоматизированного ведения базы знаний об ошибках и другие.
4. Производительность (Performance)
• степень, с которой система или компонент выполняет заложенные
в нее функции в установленных рамках
на время обработки
на пропускную способность.
Профилирование производительности (performance
profiling)
• определение пользовательских профилей в тестировании
производительности, нагрузочном или стрессовом тестировании.
Профили должны отражать ожидаемое или реальное
использование, основываясь на функциональный разрез
компонента или системы и, соответственно, ожидаемой рабочей
нагрузки.
Функциональный разрез (operational profile)
• представление особого множества задач, выполняемых
компонентом или системой, возможно опирающихся на поведение
пользователя при взаимодействии с компонентом или системой, с
указанием вероятности их появления.
5. Эффективность (efficiency)
• способность системы обеспечивать
необходимую производительность,
относительно количества ресурсов,
используемых при установленных условиях. [ISO
9126]
Тестирование эффективности
• это процесс тестирования для установления
эффективности программного продукта
6. тип тестирования
производительности,
проводимый с целью
• оценки поведения
компонента или системы
при возрастающей
нагрузке, например
количестве
параллельных
пользователей и/или
операций,
• определения какую
нагрузку может
выдержать компонент
или система.
9. Надежность (reliability)
• способность программного
продукта функционировать при
заданных условиях на
протяжении определенного
периода времени, или для
определенного количества
операций. Также применяются
термины soak testing, endurance
testing и т.д.
Тестирование надежности
• процесс тестирования,
исследующий надежность
программного продукта.
10. вид тестирования производительности, оценивающий
систему или компонент на граничных значениях рабочих
нагрузок или за их пределами, или же в состоянии
ограниченных ресурсов, таких как память или доступ к
серверу.
11. Тестирование использования ресурсов (resource
utilization testing)
• процесс тестирования, исследующий использование ресурсов
программным продуктом. Использование ресурсов (resource
utilization) - способность использования программным
продуктом соответствующего количества ресурсов
определенного типа (например, объема оперативной памяти и
памяти второго уровня, размера временных файлов и т.д.) во
время работы в установленных условиях.
12. Тестирование масштабируемости
(scalability testing)
• тестирование с целью оценить масштабируемость
программного продукта. Масштабируемость
(scalability) – способность программного продукта к
модернизации с целью удовлетворения
возрастающей нагрузки.
13. Базовые этапы
Анализ, определение
и проектирование
модели нагрузки
(профилирование)
Настройка
стенда
реализации
Разработка
типовых
сценариев и
реализация
модели
нагрузки
Проведение
испытаний
Анализ
результатов
Подготовка
отчетов
14. Профилирование:
• Изучение бизнес-процесса, опрос конечных
пользователей об условиях и требованиях к
эксплуатации
• Анализ текущего состояния системы
• Апроксимации и прогнозы развития системы
• т. д.
Кто? Сколько человек? Какие операции?
В каком количесвте? Как часто? Сколько
данных? Как долго? Как быстро? И т.д.
15. Продумать и обговорить
следующие моменты:
• Точно определить, какие параметры
компьютера/сервера необходимы
для проведения испытаний.
Параметры компьютера должны
быть максимально приближены к
тем, которые будут использованы у
конечных пользоватей;
• Определить какое программное
обеспечение будет установлено на
стенде, в том числе и инструменты
для проведения испытаний и
инструменты для мониторинга
системы. А также определить какую
нагрузку на систему будут нести все
установленные приложения;
• Убедиться, что стенд для
проведения испытаний будет
изолирован от внешних.
16. Проектирование сценариев
Запись VU-скриптов
Подготовка данных
Подготовка конфигураций
Подготовка профилей нагрузки
17. • Варианты запуска:
Все одновременно
Постепенно по одному
По расписанию
Хаотично партиями
• Варианты прогона:
Все фремя фиксированная нагрузка
(load/performance/efficiency )
Все время возрастающая нагрузка (stress)
Переменная нагрузка (reliability)
19. Зафиксировать состояние системы
Следить за состоянием системы между
тестами
Предварительный прогон теста с
разными уровнями нагрузки (малыми)
Настроить средства мониторинга
производительности системы:
• Обычный
• Агентный
• Встроенный
20. MS Performance
• Для запуска системного монитора также достаточно
ввести perfmon из Start (Пуск)/Run (Выполнить)
21. OS Unix
• sar -
http://www.opennet.ru/man.shtml?topic=sar&russian=0&cat
egory=&submit=%F0%CF%CB%C1%DA%C1%D4%D8+m
an
• http://www.ibm.com/developerworks/ru/library/au-unix-perfmonsar/
index.html
• top -
http://www.opennet.ru/man.shtml?topic=top&russian=0&cat
egory=&submit=%F0%CF%CB%C1%DA%C1%D4%D8+m
an
• vmstat –
http://www.opennet.ru/man.shtml?topic=vmstat&russian=0&
category=&submit=%F0%CF%CB%C1%DA%C1%D4%D8
+man
22. Время отклика системы
Степень загрузки процессора
• системная загрузка
• пользовательская загрузка
• ожидание окончания операции ввода-вывода
• Бездействие
Память
Дисковая подсистема и операции
ввода-вывода
Загруженность сети