Downloaded 30 times
![В чем сложность?
1. Корректность взаимодействия с другими сервисами
2. Сервис назначения доступен, но:
• Отвечает очень медленно
• Отвечает эпизодически
• Отвечает некорректно
Circuit Breaker!
[Hystrix, Netflix]](https://image.slidesharecdn.com/rutube-160610175658/85/RuTube-49-320.jpg)
![Оркестрация
• docker swarm [1.2.2] — доставка, регистрация, масштабирование (consul)
• nomad [0.3.2] — доставка, регистрация, масштабирование (consul)
• kubernetes [1.2.4] — доставка, регистрация, масштабирование, LB (etcd)
• mesos [0.28.1] (marathon [1.1.1]) — доставка, регистрация,
масштабирование, LB (zookeeper, HAProxy)](https://image.slidesharecdn.com/rutube-160610175658/85/RuTube-61-320.jpg)
Uploaded byOntico
Чему мы научились, разрабатывая микросервисы / Вадим Мадисон (RuTube)
Документ обсуждает опыт разработки микросервисов, включая их преимущества и проблемы, такие как сложности архитектуры и сохранения целостности данных. Рассматриваются требования к микросервисам, методы управления конфигурацией, а также мониторинг и тестирование таких систем. В нем также приведены рекомендации по инструментам и подходам для эффективного развертывания и управления микросервисами.
More Related Content
Similar to Чему мы научились, разрабатывая микросервисы / Вадим Мадисон (RuTube)
Чему мы научились, разрабатывая микросервисы / Вадим Мадисон (RuTube)
- 1. Чему мы научились, разрабатывая микросервисы? МадисонВадим, М-Тех 2016
- 2. • Услуги системнойинтеграции, начиная от разработки технологических решений и заканчивая доставкой видео-сигнала до конечного пользователя • Интернет-видеоплатформа для каналов МатчТВ и НТВ-ПЛЮС • 300 000 одновременных пользователей • > 1 000 000 уникальных посетителей в сутки • Отдаем контента до 300 Тб/час
- 3. — Достучаться донебес (фильм) «Пойми, на небесах только и говорят, что о море. Как оно бесконечно прекрасно…»
- 4. Кто не знает,что такое микросервис?
- 5.
- 6. Проблемы • Pipeline: длякаждого свой проект в git, CI, … • Сложность системы: распределенные коммуникации, дополнительное API, больше точек отказа и логики их обработки • Контроль целостности данных, сложность распределенных транзакций
- 7.
- 8. Проблемы • Оверхед: сетевой,сериализация/десериализация • Обнаружение сервисов • Постоянный контроль независимости сервисов • Инструментарий!
- 10.
- 11. В чем бонусы? •Независимая разработка
- 12. В чем бонусы? •Независимая разработка • Отсутствие завязки на технологии
- 13. В чем бонусы? •Независимая разработка • Отсутствие завязки на технологии • Скорость тестирования (независимость при тестировании)
- 14. В чем бонусы? •Независимая разработка • Отсутствие завязки на технологии • Скорость тестирования (независимость при тестировании) • Легкость масштабирования (если она вообще есть)
- 15. В чем бонусы? •Независимая разработка • Отсутствие завязки на технологии • Скорость тестирования (независимость при тестировании) • Легкость масштабирования (если она вообще есть) • Минимизация ущерба при отказе сервиса (при корректной реализации остальных)
- 16. Насколько микро- должен быть-сервис?
- 17. Насколько микро- долженбыть микросервис? • По длительности разработки
- 18. Насколько микро- долженбыть микросервис? • По длительности разработки • По количеству строк кода
- 19. Насколько микро- долженбыть микросервис? • По длительности разработки • По количеству строк кода • По количеству разработчиков за N спринтов
- 20. Сервис должен бытьнезависимым!
- 21.
- 22. Как проверить независимость? 1.Опишите бизнес-задачу сервиса одним простым предложением
- 23. Как проверить независимость? 1.Опишите бизнес-задачу сервиса одним простым предложением 2. Какое количество потребителей у сервиса?
- 24. Как проверить независимость? 1.Опишите бизнес-задачу сервиса одним простым предложением 2. Какое количество потребителей у сервиса? 3. Приводит ли деплой одного сервиса к деплою других сервисов?
- 25. Требования к микросервису •Скрывает внутренние детали реализации • Деплоится независимо • Падая, не роняет все остальное • Легко мониторится • Реализует бизнес-модель • Полностью децентрализован
- 26.
- 27.
- 28. Конфигурация Что пробовали? • файлыконфигурации при деплое разливать по всем целевым машинам
- 29. Конфигурация Что пробовали? • файлыконфигурации при деплое разливать по всем целевым машинам • файлы конфигурации класть в контейнер
- 30. Конфигурация Что пробовали? • файлыконфигурации при деплое разливать по всем целевым машинам • файлы конфигурации класть в контейнер • выставлять переменные окружения • при сборке контейнера (ENV DB=…) • при запуске контейнера
- 31. Конфигурация • Общее K/Vхранилище • Сервис должен быть заточен под смену конфигурации • Микс вариаций с приоритетами: <СЕРВИС>/ (/conf/ms/recorder/) <СЕРВИС>/<ВЕРСИЯ>/ (/conf/ms/recorder/0.12) <СЕРВИС>/<СРЕДА>/ <СЕРВИС>/<ВЕРСИЯ>/<СРЕДА>/ <СЕРВИС>/<ВЕРСИЯ>/<НОДА>/
- 32. Конфигурация 1. git2consul • неиспользуем отдельные проекты/бранчи в git для основных параметров • загружаем конфигурацию при деплое • стартовый путь: /conf/ms/<ИМЯ СЕРВИСА>/<BUILD NO>/ 2. Vault все секретное храним в отдельных проектах
- 33.
- 37.
- 38.
- 39. Как решать? • Помнить,что микросервисы — они как PHP, только микросервисы
- 40. Как решать? • Помнить,что микросервисы — они как PHP, только микросервисы • Вместо полноценного мониторинга — строим dashboard
- 41. Как решать? • Помнить,что микросервисы — они как PHP, только микросервисы • Вместо полноценного мониторинга — строим dashboard • Алерты по статистическим и пороговым значениям вместо бинарных
- 42. Как решать? • Помнить,что микросервисы — они как PHP, только микросервисы • Вместо полноценного мониторинга — строим dashboard • Алерты по статистическим и пороговым значениям вместо бинарных • На одном dashboard сводить графики хост-машин и статистики по docker-демону
- 43.
- 44. 1. Сбор метрик- это важно, но еще важнее постоянный анализ полученных данных 2. Система мониторинга должна быть более надежной и масштабируемой, чем то, что она контролирует 3. Система должна быть оптимизирована для распределенных, недолговечных, облачных, контейнеризованных микросервисов 4. Собирайте метрики часто … очень часто … Стремитесь к интервалам < 10 сек Общие рекомендации
- 45.
- 46. В чем сложность? 1.Корректность взаимодействия с другими сервисами
- 47. В чем сложность? 1.Корректность взаимодействия с другими сервисами 2. Сервис назначения доступен, но: • Отвечает очень медленно • Отвечает эпизодически • Отвечает некорректно
- 48. В чем сложность? 1.Корректность взаимодействия с другими сервисами 2. Сервис назначения доступен, но: • Отвечает очень медленно • Отвечает эпизодически • Отвечает некорректно Circuit Breaker!
- 49. В чем сложность? 1.Корректность взаимодействия с другими сервисами 2. Сервис назначения доступен, но: • Отвечает очень медленно • Отвечает эпизодически • Отвечает некорректно Circuit Breaker! [Hystrix, Netflix]
- 50.
- 51. Тестовый кластер Raspberry Pi 3 -6шт Фото: pocketcluster.wordpress.com
- 52.
- 53. Что пробовали? • Пробросфайловой системы в контейнер
- 54. Что пробовали? • Пробросфайловой системы в контейнер • «Собирающие контейнеры»
- 55. Что пробовали? • Пробросфайловой системы в контейнер • «Собирающие контейнеры» • Shared data volume
- 56. Что пробовали? • Пробросфайловой системы в контейнер • «Собирающие контейнеры» • Shared data volume • Flocker
- 57. Для файлового хранения Распределенная файловаясистема: CEPH (http://ceph.com/)
- 58. Для БД • Выделенныесервера • Особая конфигурация машин • Расширенная сеть
- 59.
- 60. Реестр сервисов • consul— key/value хранилище, DNS, Health-Check, работа с несколькими ДЦ из коробки • etcd — key/value хранилище • skydock — Health-Check, регистрация docker-контейнеров • skydns — DNS • Apache Zookeeper — вариация key/value хранилища, сервис блокировок, вариация на тему DNS • !redis — запись только в мастер, нет механизма достижения консенсуса при определении актуального состояния данных после выхода из строя отдельных узлов хранилища
- 61. Оркестрация • docker swarm[1.2.2] — доставка, регистрация, масштабирование (consul) • nomad [0.3.2] — доставка, регистрация, масштабирование (consul) • kubernetes [1.2.4] — доставка, регистрация, масштабирование, LB (etcd) • mesos [0.28.1] (marathon [1.1.1]) — доставка, регистрация, масштабирование, LB (zookeeper, HAProxy)
- 62. Consul Template {{range services}}{{if in .Tags "demo" }}{{if .Tags | join "," | regexMatch "urlprefix-"}} upstream {{.Name}} { least_conn; {{range service .Name}}server {{.Address}}:{{.Port}} max_fails=3 fail_timeout=30 weight=1;{{end}} } {{end}}{{end}}{{end}} server { listen 80 default_server; location /health { add_header Content-Type text/plain; return 200 'OK'; } {{range services}}{{ if in .Tags "demo" }}{{if .Tags | join "," | regexMatch "urlprefix-"}} {{range .Tags}}{{ if . | contains "urlprefix-" }}location {{. | replaceAll "urlprefix-" ""}} { {{end}}{{end}} proxy_pass http://{{.Name}}/; # / в конце означает обрезку проксируемого пути proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; } {{end}}{{end}}{{end}} }
- 63. Consul Template {{range services}} {{if in .Tags "demo" }} {{if .Tags | join "," | regexMatch “urlprefix-“}} #urlprefix-/playlist upstream {{.Name}} { least_conn; {{range service .Name}}server {{.Address}}:{{.Port}} max_fails=3 fail_timeout=30 weight=1;{{end}} } {{end}} {{end}} {{end}} в списке только прошедшие health-check!
- 64. Consul Template {{range services}} {{if in .Tags "demo" }} {{if .Tags | join "," | regexMatch "urlprefix-"}} {{range .Tags}}{{ if . | contains "urlprefix-" }} # Tag: urlprefix-/playlist location {{. | replaceAll "urlprefix-" ""}} { {{end}}{{end}} proxy_pass http://{{.Name}}/; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; } {{end}}{{end}}{{end}}
- 65. Consul Template upstream playlistapi{ least_conn; server 10.1.1.2:5100 max_fails=3 fail_timeout=30 weight=1; } ... location /playlist { proxy_pass http://playlistapi/; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; }
- 66.
- 67. Чек-лист Как конфигурировать? Как мониторитьи считать метрики? Как сервисы будут находить друг друга? Как сервис будет взаимодействовать с остальными частями проекта? Как тестировать сервис и систему целиком? Как обрабатывать сбои связанных сервисов? Как переезжать на новую версию? Как масштабировать под нагрузкой?
- 68.