101 способ
приготовления
RabbitMQ и
немного о pipeline
архитектуре
Павел Филонов
Positive Technologies

Пролог
Действующие лица: АРХИТЕКТОР, РУКОВОДИТЕЛЬ.
Сцена 1.
Будний день. Офис
Р: Прекрасное начало дня! Нельзя найти лучшего
времени для новой задачи!
А: Что еще за новая задача!?
Р: Было принято решение: тебе поручается
разработать архитектуру для нового продукта!
А: Что еще за новый продукт?!
Р: Подробностей пока нет, но мы уверены, что тебе
понравится!
А: (произносит с сарказмом) Не сомневаюсь.

Завязка
«Формальные требования»
• Нужно будет обрабатывать события,
много и быстро.
• Обрабатывать нужно по-разному,
потом расскажем, как.
• События будут приходить из разных
источников.
• Нужно быстро сделать прототип.
• Должно работать «хорошо» и «всюду».

Завязка
«Формальные требования»
• Нужно будет обрабатывать события,
много и быстро.
• Обрабатывать нужно по-разному,
потом расскажем, как.
• События будут приходить из разных
источников.
• Нужно быстро сделать прототип.
• Должно работать «хорошо» и «всюду».

Проблема выбора
Нет на свете такой глупости, которую не
придумали бы ещё древние греки!

Шаблоны
Многослойная Событийно
ориентированная
Сервисно
ориентированная
Конвейерная Микроядерная Пространственно
ориентированная

Шаблоны
Многослойная Событийно
ориентированная
Сервисно
ориентированная
Конвейерная Микроядерная Пространственно
ориентированная

Связующее ПО

Связующее ПО

Пользователи AMQP
• The Deutsche Börse
• JPMorgan
• NASA
• Red Hat
• VMware
• Google
• OpenStack
• Microsoft Azure Service Bus
• AT&T
https://www.amqp.org/about/examples

Основные элементы
Publisher Exchange Queue Consumer
Binding
Gate Filter A Filter B
Filter CFilter DDB
Raw input

RabbitMQ + pipeline
• Асинхронная обработка 
• Простое добавление
обработчиков 
• Гибкая маршрутизация 
• Удобная отладка 

RabbitMQ + pipeline
• Масштабируемость
читателей и писателей 
• Масштабируемость
брокеров 
• Устойчивость к
перезагрузкам и отказам 

Шеф, у нас проблема!

Типы exchange
• Fanout – 35000 mps
• Direct – 35000 mps 
• Topic – 10000 mps 
• Consistent-Hash – 40000 
Intel Xeon E5-2630L 2.4 Ghz 16 Gb RAM
Ubuntu 14.04 x64 RabbitMQ 3.5.6

Пакетная обработка
• Apache Kafka и ZeroMQ
делают «из коробки»  
• Сделать пакетную
обработку самостоятельно
 
• Увеличиваем задержки 

Пакетная обработка
0
5000
10000
15000
20000
25000
30000
35000
40000
256 1024 4096 16384 65536 262144 1048576
Message size (bytes)
bytes/sec/30000
msg/s

Переполнение очередей
 - интенсивность потока заявок
- интенсивность обслуживания
- коэффициент загрузки системы


 
Средняя длина очереди
0
5
10
15
20
25
0.5 0.6 0.7 0.8 0.9
Коэффициент загрузки системы

Переполнение очередей
• Сообщения сбрасываются
из памяти на диск  
• Блокируются писатели 
• Всё очень замедляется 
• Никто не падает 

Переполнение очередей
• Ограничиваем размер
очередей  
• Ограничиваем время
жизни сообщений  
• Используем RabbitMQ
flow control  

Горшочек, не вари!
Filter A
Queue B
10 000
Filter B
 
Filter A
Queue B
10 000 000
Filter B

Filter A
Queue B
10 000 000
Filter B

Time

Масштабирование
Queue A
Filter A
Filter A
Queue B
Stateless filters
Stateful filters
Queue A1
Filter A2
Filter A1
Queue B
Queue A2
Router

Statefull filters
• Нужно хранить состояние

• Нужно делать
сегментацию 
• Не используйте без
веской причины! 

Сегментация
• Делаем свой h(m) mod N 
• Делаем свой consistent
hash  
• Используем RabbitMQ
Sharding plugin  
• Используем consistent-
hash-exchange  

В заключение
• Выбирай. Но осторожно.
Но выбирай.
• Не бойтесь последствий
вашего выбора, но
справляйтесь с ними.

Спасибо за внимание!