Архитектура бэкенда карт sputnik.ru. HighLoad++ 2014

1. Архитектура
бэкенда карт
sputnik.ru
Максим Дементьев
max@orofarne.ru

2. Структура доклада
• Как устроен кластер генерации карт?
• Почему мы используем язык Go?
• Как мы тестируем нашу систему?
• Какие у нас планы на будущее?

3. Как устроен
кластер генерации
карт

4. OpenStreetMap
• Открытая база геоданных
• Более миллиона участников по всему миру
• Участвовать может каждый

5. OpenStreetMap
http://wiki.openstreetmap.org/wiki/Component_overview

6. OpenStreetMap

7. Тайлы
© Спутник © OpenStreetMap contributors

8. Откуда берутся тайлы
© Спутник © OpenStreetMap contributors

9. Основные технологии

10. Challenge

11. Challenge accepted
• Сложный стиль (~7500 правил)
• Большое время генерации тайлов (~5 дней)
• Большой объем тайлового кэша (~2 Тб)
• Модель периодического обновления (1 месяц)

12. Challenge accepted
OpenStreetMap.org Sputnik.ru
74 слоя 187 слоев
~3000 правил ~7500 правил
~19000 строк в Mapnik XML ~48000 строк в Mapnik XML

13. Классический подход

14. Проблемы классического подхода
• Ориентированность на файловую систему
• Плохая масштабируемость

15. Go + Mapnik = Gopnik
© Renee French © Diamond00744

16. Gopnik
• Ориентированность на файловую систему
• Плохая масштабируемость
• Гибкая модульная архитектура
• Пользователь получает результат генерации сразу
• Простая конфигурация
• Набор дополнительных утилит

17. Gopnik

18. Gopnik

19. Gopnik

20. Метатайлы
© Mapbox

21. Gopnik

22. Заполнение кэша
• Гибкий конфигуратор заданий
• Кластерная генерация
• Распределенная очередь
• CLI и web интерфейсы

23. Заполнение кэша

24. Заполнение кэша

25. Заполнение кэша

26. Заполнение кэша

27. Почему мы
выбрали язык Go

28. Что было до Go
• С++
• Perl
• Python
• Scala

29. Плюсы Go
• Очень простой
• Компилируемый
• Строгая типизация
• Сборка мусора
• Простая и понятная модель многопоточности
• Быстрая компиляция
• Хорошая стандартная библиотека
• Большой набор полезных утилит

30. Как мы тестируем
нашу систему

31. Unit-тесты
• go test
• gtest для C++
© Renee French

32. Интеграционные и системные
тесты
• Docker
• Netem
• Yandex.Tank

33. Планы на будущее

34. Что уже сделано
• Гибкая модульная платформа
• Поддержка тайловых кэшей с eventual consistency
• Дополнительные утилиты
• Удобный кластерный рендеринг
• Простая конфигурация

35. Что еще хотим сделать
• Gossip
• SPDY
• QUIC
• Data-tiles

36. Open source

37. Вопросы?