Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Алексей Рагозин, Performance Test Driven Development

653 views

Published on

Для многих проектов требования по производительности являются не менее важными, чем функциональные требования. Не смотря на это, иногда кажется, что культура нагрузочного тестирования на годы отстаёт от функционального. Часто ли вы встречали, например, «непрерывное нагрузочное тестирование»?
В этом докладе Алексей поделится опытом внедрения культуры нагрузочного тестирования (и в частности применения TDD подхода для нефункциональных требований).

Published in: Technology
  • Be the first to comment

  • Be the first to like this

Алексей Рагозин, Performance Test Driven Development

  1. 1. Алексей Рагозин, Россия, Deutsche Bank Доклад Test Driven Development HIGHLOAD DEV CONF #hdconf
  2. 2. Тестирование и нагрузочное тестирование Функциональное тестирование • Количество тест-кейсов увеличивается по мере разработки • Стоимость ошибки уменьшается по мере тестирования Нагрузочное тестирование • Количество потенциальных сценариев тестирования стабилизируется на ранних стадиях разработки • Стоимость ошибки экспонетциально растёт с ростом функционала
  3. 3. Тестирование и нагрузочное тестирование Функциональное тестирование Cost of bug Test volume Release Нагрузочное тестирование Cost of bug Test volume Release
  4. 4. Performance Test Driver Development • Пишем неоптимизированный код • Пишем нагрузочные тесты / бенчмарк • Исправляем проблемы производительности • Организуем изолированные тесты в профили нагрузки по мере добавления функционала • Непрерывное тестирование производительности
  5. 5. А на практике?  Трудоёмкость нагрузочных тестов • Сложная логика тестов, распределённые сценарии • “Ручной труд” в сценариях тестирования  Отсутствие нагрузочных требованией • “Должно работать быстро и обрабатывать много данных” • Нагрузочный тест план требует отдельного анализа  Отсутствие адекватной тестовой среды • Никто не хочет платить за оборудование дважды • Зависимость от внешних компонентов
  6. 6. А на практике?
  7. 7. И тем не менее Фундамент для PTTD • End-to-End автоматизация тестов • Инкрементальный подход бенчмарк → изолированный тест → профиль нагрузки • Непрерывное нагрузочное тестирование • Нагрузочное тестирование – ответственность комады разработчиков
  8. 8. Автоматизация “Классический” подход • bash + ssh + анализ логов + Excel / R • Мало пригоден для повторного использования • Короткий период полураспада тестов • Использование незнакомого инструментария “Монокультурный” подход • Платформа приложения = платформа автоматизации − Приходится изобретать велосипеды, но + Решается проблема культурного диссонанса
  9. 9. Спектр нагрузочных тестов • Бенчмарки и распределённые бенчмарки  Проверка гипотез, прототипирование • Непрерывные нагрузочные тесты  Поддержка тестовой базы в консистентном состоянии  Раннее обнаружение проблем производительности • Нагрузочные профили  Нагрузочный эквивалент интеграционного тестирования  Проверка соответствия NFR  Профилирование и диагностика проблем
  10. 10. “Правильные” нагрузочные тесты • Мониторинг, мониторинг, мониторинг – Системные и сетевые метрики, тайминги внешних систем и т.д. • Верификация результатов – Эффективность отдачи 503 – не ваш KPI • Корректность генерации нагрузки • Качество тестовых данных
  11. 11. Работа с результатами измерений Результаты тестирования • Ложь – неверно интерпретированные данные • Откровенная ложь – ошибки сценария или сбора данных • Статистка – то с чем нужно работать Сбор истории результатов тестирования • Анализ трендов • Выявление неучтённых факторов
  12. 12. Lucene nightly benchmarks http://people.apache.org/~mikemccand/lucenebench/
  13. 13. Последствия PTTD практики • Мы стали писать меньше кода • Тестированием оказались покрыты многие моменты, до которых раньше никогда не доходили руки • Результаты, полученные на ранних этапах разработки, позволяют более аккуратно планировать закупки оборудования Открытые проблемы • Важность нагрузочного тестирования по-прежнему недооценена • Практически всегда приходится интерполировать результаты из-за ограничений тестовой среды
  14. 14. Ссылки релевантные для Java Удалённое/распределённое выполнение кода на Java - http://code.google.com/p/gridkit/wiki/NanoCloudTutorial - http://blog.ragozin.info/2013/01/remote-code-execution-in-java-made.html - https://github.com/gridkit/gridant Статистические расчёты - https://sites.google.com/site/piotrwendykier/software/parallelcolt Простая библиотека для графиков - https://github.com/timmolter/XChart
  15. 15. СПАСИБО Алексей Рагозин alexey.ragozin@gmail.com http://blog.ragozin.info

×