На десятом митапе Software Craftsmanship мы рассмотрим такую сложную тему, как распределенные транзакции. Мы увидим, почему возникает необходимость в распределенных транзакциях и какие бывают протоколы для реализации распределенных транзакций. Микросервисная архитектура часто влечет за собой распределенные транзакции, и поэтому мы поговорим о том, как можно делать отдельные микросервисы максимально независимыми между собой. Распределенные транзакции сложны эксплуатации, поэтому мы рассмотрим также и подходы, которые позволяют минимизировать или обойти необходимость в них, в то же время сохраняя необходимые бизнесу свойства приложения.

1. Software Craftsmanship
meetup #10
Распределенные транзакции
Павел Вейник
CEO @ Hard & Soft Skills

2. Мы снова новом месте
Зарегистрировались 88 человек
Фаталисты?
Наш первый митап в Digital Unicorn
При поддержке Sam Solutions

3. План митапов
6. Как Software Craftsmanship фиксит проблемы Agile
7. БД: проектирование, масштабирование,
шардирование, реплицирование…
8. Процессы и инструменты для CI/CD
9. Логирование и мониторинг
10. Распределенные транзакции

4. Что интересует вас
 ACID в dtx
 Dtx – car
 Шаблоны для dtx
 Dtx – логгирование, сбои,
согласованность
 Dtx scaling
 Целостность tx
 Опыт с dtx
 Надо ли мне dtx?
 Выбор между хорошими
решениями
 Хаос в процессах
 Нет видения
 Нет свободного времени

5. Что интересует вас
 Dtx Saga
 Баланс техники и бизнеса
 Целостность данных
 Поиск проблем в распред
среде
 Много джуниоров
 Вызов API изнутри tx
 Нечеткие требования
 Непрозрачные решения
 Нет возможности учиться
 Legacy
 Сроки

6. Что интересует вас
 Accidental complexity
 Отладка интеграций
 Целостность данных
 Scaling
 Transactions
 Лень
 Как мотивировать
разработчиков делать well-
crafted решения
 Необходимость отвечать на
обязательные вопросы

7. План этого митапа
1. Какие бывают транзакции
2. Проблема dtx
3. Уровни изоляции dtx
4. Подходы и шаблоны

8. Какие бывают транзакции
Плоские
Вложенные
Распределенные
Плоские или вложенные

10. Парадокс двух армий
Как генералам договориться о времени атаки?
Непредсказуемое поведение сети

11. Ваши варианты
1.
2.
3.

12. Длинные бизнес транзакции
Резервирование денег на карте на
время проживания в отеле
две технические короткие tx
Не ACID

13. Абстрактные участники транзакции
Resource
Transaction client
Resource manager
Transaction manager

14. Один update, одна бд

15. Две бд

16. Two phase commit
Запуск общей распределенной
транзакции
Voting phase
Commit phase

17. Two phase commit

18. Dtx и реальный мир
A и C недостижимы на 100%
Есть промежуток между
коммитами

19. Window of Inconsistency

20. Бд1 -> очередь -> Бд2

21. Dtx и cloud
Ресурсы могут включаться и
выключаться
Включая resource manager
Включая tx manager
Ведет к блокировке ресурсов
навсегда

22. Dtx и cloud
Можно использова tx log на
другом окружении
Но чаще выбор – жить без dtx

23. Dtx и cloud. Вариант 1
Нужно обновить 2 ресурса
Обновить только 1
Ошибку писать в лог и игнорировать

24. Dtx и cloud. Вариант 2
2 phase commit вручную
Как будто собственный tx manager

25. Dtx и cloud. Вариант 3
Изменения на р1 и р2 разнесены по
времени, сначала р1
Batch processing
Очереди
Запланированная и recoverable ошибка

26. Dtx и cloud. Вариант 4
Обновляется р1
Обновляется р2
При ошибке р1 откатывается в отдельной
транзакции

27. Избегаем dtx. Вариант 1

28. Избегаем dtx. Вариант 2
Пишем в бд job и регулярно пробегаем по
нему
Как будто свой tx log и свой tx manager

29. Избегаем dtx. Вариант 3
Pessimistic time-base locking
Добавляем в качестве lock поля id транзакции
в состояние объекта, который хотим изменить
Обнуляем поле при commit/rollback
Обнуляем поле по timeout

30. Избегаем dtx. Вариант 4
Optimistic locking
Служит для обнаружения, а не для избежания
ошибок
Сначала обновляем локальную запись
Потом пытаемся обновить remote
Откатываем локальную при ошибке

31. Избегаем dtx. Вариант 4
Optimistic locking
Можно откатывать локальное изменения в
batch job, или с помощью лога транзакций

32. Idempotence - повторяемость
Когда удаленное обновление успешно, но мы
не получили уведомления об этом
Проблема double submit

33. Idempotence - повторяемость

34. Idempotence - повторяемость
Нужно уметь распознавать повторные запросы
и делать сервисы repeatable
Возвращать уже существующий ответ на
повторный запрос
Очень сильно снижает сложность системы
микросервисов

35. Idempotence - повторяемость
Можно использовать tx id для определения
повторного запроса
Но как шарить tx id в кластере одинаковых
микросервисов?
Получается shared state, и требуются доп
усилия

36. Избегаем dtx. Вариант 5
Вручную своим кодом
Нет tx manager
Каждая tx рассматривается отдельно
Проблема с нетранзакционными сервисами,
которые нельзя откатить

37. Избегаем dtx
Сформулируйте алгоритмы и потоки данных
так, чтобы они работали с eventual
constistency
Боритесь с бизнесом за eventual constistency

38. Избегаем dtx
Делайте repeatable сервисы
Или делайте грамотные откаты для optimistic
сценариев
В существующей системе
Упрощайте алгоритмы

39. Облака
Удобны для деплоя
Удобны для scaling
Кошмар для consistency и atomicity

40. Стратегии, шаблоны
2 phase commit
Saga
3 phase commit
1 phase commit

41. Плюсы 2pc
Гарантирует atomicity
Дает read-write изоляцию
Изменения не видны пока не закомитили
Синхронный
Клиент уведомляется об окончании

42. Минусы 2pc
Синхронный
Медленный для микросервисов
Зависит от tx manager
Блокирует ресурсы
Ведет к замедлению
Ведет к deadlocks

43. Saga
Вспоминаем митап 4 «Интеграция систем и
очереди сообщений»
Дает eventual consistency
Микросервисы общаются через event bus
Хореография или оркестрация

44. Оркестрированная Saga

45. Оркестрированная Saga

46. Оркестрированная Saga
Избегать циклических зависимостей
Использовать tx id
Избегать синхронных операций
Логировать запросы для повторного запуска в
случае ошибок

47. Плюсы Saga
Один микросервис – одна транзакция
Нет блокировок
Не нужно блокирование ресурсов
Хорошо для scaling и нагрузки

48. Минусы Saga
Нет read изоляции
Support hell при большом количестве
микросервисов

49. Saga vs 2pc
Saga
большой throughput, большой latency
2pc
Меньше throughput, меньше latency
Возможны deadlocks

50. Ссылки
Введение
 https://www.ibm.com/developerworks/cloud/library/cl-manage-cloud-transactions_1/index.html
 https://www.ibm.com/developerworks/cloud/library/cl-manage-cloud-transactions_2/index.html
 https://rise.cs.berkeley.edu/blog/an-overview-of-the-calm-theorem/
 https://towardsdatascience.com/distributed-transactions-and-why-you-should-care-116b6da8d72
 https://queue.acm.org/detail.cfm?id=3025012
 https://thoughts-on-java.org/distributed-transactions-microservices/
 http://wiki.c2.com/?DistributedTransactionsAreEvil
 https://softwareengineering.stackexchange.com/questions/290917/what-is-the-most-accepted-
transaction-strategy-for-microservices

51. Ссылки
Глубоко
 https://softwareengineering.stackexchange.com/questions/290917/what-is-the-most-accepted-transaction-
strategy-for-microservices
 https://dzone.com/articles/microservices-using-saga-pattern
 http://www.vldb.org/pvldb/vol10/p685-zamanian.pdf
 http://lig-membres.imag.fr/leroyv/wp-content/uploads/sites/125/2016/10/4-DistTXCourt.pdf
 http://www.cnds.jhu.edu/courses/cs437/Week6.pdf
Шаблоны
 https://dzone.com/articles/microservices-using-saga-pattern
 https://developers.redhat.com/blog/2018/10/01/patterns-for-distributed-transactions-within-a-microservices-
architecture/
 https://medium.com/swlh/handling-transactions-in-the-microservice-world-c77b275813e0
 https://blog.bernd-ruecker.com/saga-how-to-implement-complex-business-transactions-without-two-phase-
commit-e00aa41a1b1b
 https://medium.com/@ijayakantha/microservices-the-saga-pattern-for-distributed-transactions-c489d0ac0247

52. Ссылки
Книги
 https://www.oreilly.com/library/view/distributed-systems-2nd/9781466552975/
 https://www.oreilly.com/library/view/practical-microservices-architectural/9781484245019/
 https://www.oreilly.com/library/view/practical-microservices-architectural/9781484245019/
 https://www.oreilly.com/library/view/hands-on-reactive-programming/9781787284951/