SlideShare a Scribd company logo
Стратегия тестирования
крупного проекта в
условиях agile разработки.
Разработка и внедрение
системы регрессионного
тестирования



Евгений Тян
«Аскон»
tyan@ascon.ru
Стратегия тестирования крупного проекта в условиях Agile разработки v2
Сложность




9!
Сложность




          46
9!   10
Сложность




                   ∞?
          46
9!   10
Наш проект
Наш проект
Наш проект
 Решение для архитектуры и
 строительства
 Срок разработки: 3-4 года
 CLOC > 120 000
3D Проектирование
Максимальная свобода
Как начинали
               -Ручное
                тестирование

    UI         - TDD, Покрытие
                тестами ~40%
Integration

Unit tests
Unit тестов не достаточно

Сложно предусмотреть все возможные
варианты использования модуля
Unit тестов не достаточно

Сложно предусмотреть все возможные
варианты использования модуля
Unit тестов не достаточно




Сложно перейти от условий
ошибки к Unit-тесту
Unit тестов не достаточно




Сложно воспроизвести ошибку
Unit тестов не достаточно

Интеграционные тесты работают с
приложением на более высоком уровне
Unit тестов не достаточно

Интеграционные тесты работают с
приложением на более высоком уровне
Unit тестов не достаточно

Интеграционные тесты работают с
приложением на более высоком уровне
Проект буксует
1 итерация
Проект буксует
1 итерация   2 итерация
Проект буксует
1 итерация   2 итерация   3 итерация

                           1
Проект буксует
1 итерация   2 итерация   3 итерация

                           1



Итерация 4   Итерация 5

 1      2     1      3
Проект буксует
1 итерация   2 итерация   3 итерация

                           1



Итерация 4   Итерация 5   Итерация 6

 1      2     1      3     1      2
                           3
Стоимость исправлений
Что еще хуже
Что еще хуже
Что еще хуже
КАК ПОДДЕРЖИВАТЬ
КАЧЕСТВО ПРОДУКТА?
Тестировать руками?

У нас нет столько
        тестеров
Автоматизация?
Рассматривали:
 TestComplete
 Squish
Автоматизация?
Выяснили:
 Существуют риски с
 поддержкой технологий
 Зависимость от GUI
 Медленно
Автоматизация?

Решение: собственная
система автоматизации
     тестирования
Решение. Инструмент
Решение. Инструмент
Решение. Инструмент
Что такое тест?
Инструмент тестера
Решение. Инструмент
Решение. DoD
Unit test-ы написаны
Code Review проведен
Код слит в основную ветку

Старые тесты работают
Приемочные тесты написаны
Автоматизация
Проблемы внедрения
Хрупкость тестов на раннем этапе
разработки
Сложность анализа причин поломки теста
Долго не могли привыкнуть поддерживать
тесты
Проблемы внедрения
Хрупкость тестов на раннем этапе
разработки
Проблемы внедрения
Хрупкость тестов на раннем этапе
разработки
Проблемы внедрения. Анализ
Поддержка тестов
Поддержка тестов




• Каждый ответственен за то,
  что его commit не ломает тесты
• Если тест нужно исправить, то этим
  занимается разработчик, который
  внес изменение
Что получили
Собственная система интеграционного
тестирования. Полный контроль
Скорость. За счет возможности отвязаться от
GUI и запустить интеграционные тесты в
несколько потоков. Прохождение 500 тестов ~
3-4 мин.
Возможность запускать тесты на каждый
commit
Система записи сценария встроена в
приложение – любой пользователь может
записать ошибку и отправить нам
300


250


200


150                                          Собственная утилита
                                             Testcomplete

100


50


  0
      Время прохождения 500 сценариев, мин
Что получили

Затратили времени ~ 2 командо-месяца (5
человек)
Есть ошибки в самом инструменте
тестирования
Поддержка. Любые хотелки делаем сами
(форматы вывода результатов,
интерфейсные удобства, средства анализа)
Как сейчас
              - Ручное тестирование
              - Автоматизированное
              тестирование,
    UI        ~500 сценариев
     UI       - TDD, более
              1500 unit-тестов
Integration   Покрытие ~60%
   tests

Unit tests
Как сейчас

    UI
Integration
                   UI
 Unit              UI
               Integration
                  tests

              Unit tests
Как сейчас
1 итерация   2 итерация     3 итерация

                             1
Как сейчас
1 итерация   2 итерация     3 итерация

                             1



Итерация 4   Итерация 5     Итерация 6

        2            3
Не нужно оглядываться,
смотрим вперед,
движемся уверенней
Кому это надо?
Стратегия тестирования крупного проекта в условиях Agile разработки v2
Евгений Тян
tyan@ascon.ru

More Related Content

PDF
Introduction into Test Driven Development
PDF
Марина Широчкина: Тестирование
PDF
Автоматизация тестирования как сервис
PPTX
Использование комбинаторного тестирования для мобильных приложений
PPTX
ROCS 2 - advanced platform for automated test execution in clustered environm...
PPTX
Гибкое тестирование
PDF
Оценка проектов тестирования
PPTX
Severity и Priority для неначинающих: очевидное и невероятное
Introduction into Test Driven Development
Марина Широчкина: Тестирование
Автоматизация тестирования как сервис
Использование комбинаторного тестирования для мобильных приложений
ROCS 2 - advanced platform for automated test execution in clustered environm...
Гибкое тестирование
Оценка проектов тестирования
Severity и Priority для неначинающих: очевидное и невероятное

What's hot (19)

PPT
Организация тестового набора при автоматизированном функциональном тестировании
PPTX
Как тестируют в гугле - обзор книги
PPTX
QA Fest 2016. Инна Блажко. ISTQB – What is it? Who needs it? How to prepare a...
PPTX
Темная сторона метрик
PDF
М. Микрюков "Стоит ли внедрять тестирование. Наш опыт", DUMP-2014
PPTX
Ui testing how intel does this
PPTX
Sqadays 2010 burmistrov_fomin_20101120(2)
PDF
CodeFest 2014. Павлов И. — Как делать прототипы в автоматизации тестирования
PPT
Павел Степанов
PPT
Unit testing
PPTX
А вы знаете что тестируют ваши тесты?
PPT
Виталий Стрелюк
PDF
Марина Широчкина — «Тестирование»
PDF
Марина Широчкина - Тестирование
PDF
QA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
PDF
Software testing in practice
PPTX
Continuous Integration для QA
PPT
Внедрение тестирования в Scrum
PDF
Процесс тестирования в распределенной команде
Организация тестового набора при автоматизированном функциональном тестировании
Как тестируют в гугле - обзор книги
QA Fest 2016. Инна Блажко. ISTQB – What is it? Who needs it? How to prepare a...
Темная сторона метрик
М. Микрюков "Стоит ли внедрять тестирование. Наш опыт", DUMP-2014
Ui testing how intel does this
Sqadays 2010 burmistrov_fomin_20101120(2)
CodeFest 2014. Павлов И. — Как делать прототипы в автоматизации тестирования
Павел Степанов
Unit testing
А вы знаете что тестируют ваши тесты?
Виталий Стрелюк
Марина Широчкина — «Тестирование»
Марина Широчкина - Тестирование
QA Fes 2016. Анастасия Асеева. Роль тестирования в Devops
Software testing in practice
Continuous Integration для QA
Внедрение тестирования в Scrum
Процесс тестирования в распределенной команде
Ad

Viewers also liked (7)

PDF
Solutions pre intermediate-wb
PDF
Progress tests answer key
PDF
El112 new headway-plus_upper_intermediate_workbook_answer_key
PDF
Solutions intermediate teachers_book
PDF
English book 2 teacher 2015 - 2016
PDF
English book 3 teacher 2015 - 2016
PDF
English book 4 teacher 2015 - 2016
Solutions pre intermediate-wb
Progress tests answer key
El112 new headway-plus_upper_intermediate_workbook_answer_key
Solutions intermediate teachers_book
English book 2 teacher 2015 - 2016
English book 3 teacher 2015 - 2016
English book 4 teacher 2015 - 2016
Ad

Similar to Стратегия тестирования крупного проекта в условиях Agile разработки v2 (20)

PPT
лившиц владимир - независимое тестирование миф
PDF
Тестирование весна 2013 лекция 5
PDF
Светлана Федянина - Процесс тестирования в распределенной команде
PPT
Unit Testing
PPTX
Do you know what you are testing?
PPTX
Continious integration-Automated Testing-Solid-Agile
PPTX
Тестирование ПО
PDF
Benefits of unit-testing and inversion of controll
PPTX
Agile: разработка + тестирование
PPT
Внедрение тестирования в Scrum
PDF
Тестирование осень 2013 лекция 5
PPTX
Mva stf module 2 - rus
PDF
мартюшев почему юнит-тесты не работают. история большого проекта
PPTX
мартюшев почему юнит-тесты не работают. история большого проекта
PPT
Автоматизация тестирования на крупных проектах
PPTX
Добиваемся эффективности каждого из 9000+ UI-тестов
PDF
тестирование
PPTX
Тестирование крупных проектов командой из одного тестировщика
PPTX
Тестирование крупного проекта командой из одного тестировщика
PPTX
Андрей Сильчук: "Автоматическое тестирование".
лившиц владимир - независимое тестирование миф
Тестирование весна 2013 лекция 5
Светлана Федянина - Процесс тестирования в распределенной команде
Unit Testing
Do you know what you are testing?
Continious integration-Automated Testing-Solid-Agile
Тестирование ПО
Benefits of unit-testing and inversion of controll
Agile: разработка + тестирование
Внедрение тестирования в Scrum
Тестирование осень 2013 лекция 5
Mva stf module 2 - rus
мартюшев почему юнит-тесты не работают. история большого проекта
мартюшев почему юнит-тесты не работают. история большого проекта
Автоматизация тестирования на крупных проектах
Добиваемся эффективности каждого из 9000+ UI-тестов
тестирование
Тестирование крупных проектов командой из одного тестировщика
Тестирование крупного проекта командой из одного тестировщика
Андрей Сильчук: "Автоматическое тестирование".

More from Magneta AI (20)

PDF
From outsource to productsource!
PPTX
BDD test structure
PPTX
AgileCamp15. Процессный трек
PPTX
Как создать концепцию продукта в виде Lean Canvas
PPTX
Эффективные ретроспективы
PDF
зотин Scrum, kanban, что дальше. история nokia
PPTX
абраменко как сделать нужный людям продукт
PDF
павлов все, что вы хотели знать о юнит тестах, но боялись спросить
PPTX
тучин как внедрить Agile, чтобы никто не заметил
PDF
ткаченко качество без этапа тестирования
PPTX
сенькова разное ретро для разных команд (как провести ретро для новичков, с...
PDF
мациевский путь самурая. уволить нельзя оставить
PPTX
лустин статические анализаторы систем 1с ad2015
PDF
лосев контрольные карты шухарта в анализе деятельности Scrum команд
PPTX
корецкий как мы улучшили экспертную оценку проектов
PPSX
зиновьева повышение эффективности команды. ретроспектива как инструмент
PPTX
виноградова внедрение изменений без длинных документов, долгих согласований...
PPTX
верещак. построение культуры Dev ops. v0.5 copy
PPTX
бородин об эмпирической разработке
PPTX
богуславский Agile days непрерывное качество в непрерывной разработке
From outsource to productsource!
BDD test structure
AgileCamp15. Процессный трек
Как создать концепцию продукта в виде Lean Canvas
Эффективные ретроспективы
зотин Scrum, kanban, что дальше. история nokia
абраменко как сделать нужный людям продукт
павлов все, что вы хотели знать о юнит тестах, но боялись спросить
тучин как внедрить Agile, чтобы никто не заметил
ткаченко качество без этапа тестирования
сенькова разное ретро для разных команд (как провести ретро для новичков, с...
мациевский путь самурая. уволить нельзя оставить
лустин статические анализаторы систем 1с ad2015
лосев контрольные карты шухарта в анализе деятельности Scrum команд
корецкий как мы улучшили экспертную оценку проектов
зиновьева повышение эффективности команды. ретроспектива как инструмент
виноградова внедрение изменений без длинных документов, долгих согласований...
верещак. построение культуры Dev ops. v0.5 copy
бородин об эмпирической разработке
богуславский Agile days непрерывное качество в непрерывной разработке

Стратегия тестирования крупного проекта в условиях Agile разработки v2