Performance Test Driven Development (CEE SERC 2013 Moscow)
- 1. Девятая независимая научно-практическая конференция «Разработка ПО 2013» 23 - 25 октября, Москва Test Driven Development Alexey Ragozin Deutsche Bank
- 2. Тестирование и нагрузочное тестирование Функциональное тестирование • Количество тест-кейсов увеличивается по мере разработки • Стоимость ошибки уменьшается по мере тестирования Нагрузочное тестирование • Количество потенциальных сценариев тестирования стабилизируется на ранних стадиях разработки • Стоимость ошибки экспонетциально растёт с ростом функционала
- 3. Тестирование и нагрузочное тестирование Функциональное тестирование Cost of bug Test volume Нагрузочное тестирование Release Cost of bug Test volume Release
- 4. Performance Test Driver Development Пишем неоптимизированный код Пишем нагрузочные тесты / бенчмарк Исправляем проблемы производительности Организуем изолированные тесты в профили нагрузки по мере добавления функционала Непрерывное тестирование производительности
- 5. А на практике? Трудоёмкость нагрузочных тестов • Сложная логика тестов, распределённые • “Ручной труд” в сценариях тестирования Отсутствие нагрузочных требованией • “Должно работать быстро и обрабатывать много данных” • Нагрузочный тест план требует отдельного анализа Отсутствие адекватной тестовой среды • Никто не хочет платить за оборудование дважды • Зависимость от внешних компонентов
- 7. И тем не менее Фундамент для PTTD End-to-End автоматизация тестов Инкрементальный подход бенчмарк → изолированный тест → профиль нагрузки Непрерывное нагрузочное тестирование Нагрузочное тестирование – ответственность комады разработчиков
- 8. Автоматизация “Классический” подход bash + ssh + анализ логов + Excel / R Мало пригоден для повторного использования Короткий период полураспада тестов Использование незнакомого инструментария “Монокультурный” подход Платформа приложения = платформа автоматизации − Приходится изобретать велосипеды, но + Решается проблема культурного диссонанса
- 9. Спектр нагрузочных тестов Бенчмарки и распределённые бенчмарки Проверка гипотез, прототипирование Непрерывные нагрузочные тесты Поддержка тестовой базы в консистентном состоянии Раннее обнаружение проблем производительности Нагрузочные профили Нагрузочный эквивалент интеграционного тестирования Проверка соответствия NFR Профилирование и диагностика проблем
- 10. “Правильные” нагрузочные тесты Мониторинг, мониторинг, мониторинг Системные и сетевые метрики, тайминги внешних систем и т.д. Верификация результатов Эффективность отдачи 503 – не ваш KPI Корректность генерации нагрузки Качество тестовых данных
- 11. Последствия PTTD практики Мы стали писать меньше кода Тестированием оказались покрыты многие моменты, до которых раньше никогда не доходили руки Результаты, полученные на ранних этапах разработки, позволяют более аккуратно планировать закупки оборудования Открытые проблемы Важность нагрузочного тестирования по-прежнему недооценена Практически всегда приходится интерполировать результаты из-за ограничений тестовой среды
- 12. Ссылки релевантные для Java Удалённое/распределённое выполнение кода на Java - http://code.google.com/p/gridkit/wiki/NanoCloudTutorial - http://blog.ragozin.info/2013/01/remote-code-execution-in-java-made.html - https://github.com/gridkit/gridant Статистические расчёты - https://sites.google.com/site/piotrwendykier/software/parallelcolt Простая библиотека для графиков - https://github.com/timmolter/XChart