ночью через лес Stress-test пяти almost-the-same-functionality shared-nothing-cluster no sql субд
Download as PPTX, PDF0 likes412 views
Документ описывает стресс-тестирование различных NoSQL баз данных в условиях сбоя кластеров и анализа их поведения. Авторы обсуждают важность надежного хранения данных и стоимости систем, а также делятся опытом тестирования и проблемами с каждой из использованных технологий. В заключении делается вывод о предпочтении использования Aerospike в будущих проектах.
ночью через лес Stress-test пяти almost-the-same-functionality shared-nothing-cluster no sql субд
- 1. ночью через лес: stress- test пяти almost-the- same-functionality shared-nothing-cluster NoSQL СУБД
- 2. Здравствуйте, меня зовут Даниил, я системно администирую уже 20 лет и у меня проблема
- 3. откуда вообще взялась эта идея 1. Данные надо где-то хранить 2. РСУБД работают хорошо. 1. Пока нам не нужна репликация 2. И шардинг 3. Распределенные СУБД 1. Они нам нравятся 1. Потому что мы ленивые 2. Но работают они как-то странно 1. особенно когда нам по-настоящему надо, чтобы они работали хорошо 3. и нельзя сказать, что нас не предупредили
- 4. Чего мы собственно хотим ● У нас есть чтения и записи ● Чтения должны происходить надежно ● Данные должны храниться надежно ● Объем хранилища должен наращиваться горизонтально ● все это должно быть ДЕШЕВО
- 5. Методика тестирования 1. создаем кластер из 5 нод 2. заливаем с максимально возможной скоростью записи в базу 3. запускаем процесс случайного чтения a. с того же сервера запускаем писателя 4. имитируем сбой одной из нод 5. наблюдаем за поведением кластера, читателей и писателей 6. из ранее удаленной ноды создаем новую и возвращаем ее в кластер 7. наблюдаем за поведением кластера, читателей и писателей до полного восстановления кластера 8. добавляем в кластер еще одну ноду 9. наблюдаем за поведением кластера, читателей и писателей 10. Узнать мы хотим о сюрпризах, которые готовит нам эксплуатация продукта в экстремальных условиях a. а все остальное нас интересует постольку-поскольку b. некоторые кандидаты закончили тестирование на этапе чтения документации
- 6. Отбор кандидатов ● Источник вдохновения: http://nosql-database.org/ ● aerospike ● cassandra ● crate.io ● elasticsearch ● orientdb ● rethinkdb ● где RIAK?! ● Но обзор будет анонимным
- 7. Тестовая среда ● 5-6 машин для кластера o RAID0, кеширование записи ● Выделенная машина для клиента записи-чтения ● Выделенная машина для Grafana ● Выделенная гигабитная сеть - и, забегая вперед, сеть должна бы быть получше ● docker как метод деплоя
- 8. Продукт A
- 9. Продукт A ● Поначалу все хорошо ● Потом все похуже ● А вот мы выключили ноду - и где же все?! ● А вот кластер проснулся
- 10. Продукт B оказался надстройкой над продуктом A в смысле технологий репликации и шардинга
- 11. Продукт C ● Выглядит многообещающе ● “Думайте обо мне как о массиве дисков” ● Но как делать ребалансинг?! ● И куда попадают новые ноды?!!
- 12. Продукт D
- 13. Продукт D ● Поначалу все хорошо ● И потом все хорошо ● А вот мы выключили ноду. Пришлось перезапустить чтение. ● А вот мы вернули ноду в строй ● А вот мы добавили шестую машину ● Похоже, это идеальный кандидат o но при дефолтных настройках ребалансинг очень медленный
- 14. Продукт Е
- 15. Продукт Е
- 16. Продукт Е ● Поначалу все хорошо ● И потом все хорошо o Но к концу появляются ошибки записи. Их мало, они не видны на графике ● Вот мы выключили ноду - все, вроде, хорошо ● А вот мы ее включили. Откуда эти ошибки чтения?! o Прежде, чем включать ноду на том же IP - надо поприседать вокруг конфигов o И вообще - ребалансинг представляет собой нетривиальную задачу
- 17. Продукт F
- 18. Продукт F ● Какой хороший GUI! ● И поначалу все хорошо ● А потом похуже ● А почему все данные в одном шарде?! o Ну давайте попробуем использовать SHA1 в качестве primary key ● Стало лучше - теперь данные распределены по двум шардам. Из пяти… ● Картинки не будет - как только я собрался ее снять, кластер упал ● Совсем упал - запустить его опять не удалось за приемлемлемое время
- 19. Деанонимизация A - ElasticSearch B - Crate.IO C - Aerospike D - OrientDB E - Cassandra F - RethinkDB
- 20. Выводы ● Как страшно жить ● Будем делать на Aerospike