«Бутылочное горлышко многопоточных программ – кто виноват, и что делать. Мастер-класс.» BitByte: 20 апреля 2013, Санкт-Петербург http://bitbyte.itmozg.ru/

1. Бутылочное горлышко
многопоточных программ
Кто виноват? Что делать?
Алексей Николаенков
18.04.2013 1

2. 18.04.2013 2
«Ситуация с таможенным досмотром отправлений
остается сложной. В целом 41 таможенник (против
384 сотрудников Почты) в четырех основных
международных местах почтового обмена России (...)
в сутки может досмотреть менее 33 тонн, в то время
как, только на аэропорты московского узла за
минувшие сутки прибыло почти 39 тонн почты.
Распределяй не распределяй, ежедневно
недосмотренные таможней 6 тонн оседает
в терминалах».
«ПОЧТОВЫЕ ЗАВАЛЫ ТАЮТ под стахановским напором почтовиков»
15.04.2013 ФГУП «Почта России». Орфография и пунктуация авторские.

3. Обработка запросов
18.04.2013 3
Обработка
Выполнение
Обработка
Обработка
Выполнение
Запрос
Запрос
Запрос
Результат
Результат

4. Действующие лица
18.04.2013 4
Источник: telegraph.co.uk
Producer
Источник: telegraph.co.uk
Consumer

5. Взаимодействие потоков
18.04.2013 5

6. Взаимодействие потоков
18.04.2013 6

7. Взаимодействие потоков
18.04.2013 7

8. Взаимодействие потоков
• Образуется задержка
• Последовательный доступ нужен?
18.04.2013 8

9. Пример
18.04.2013 9
Producer Consumer
Lock
Заблокировать
Lock

10. Пример
18.04.2013 10
Producer Consumer
Lock
Заблокировать
Lock

11. Результаты
18.04.2013 11
Общее количество операций 120 миллионов

12. Результаты
18.04.2013 12
Общее количество операций 250 миллионов

13. Результаты
18.04.2013 13
Общее количество операций 250 миллионов

14. Результаты
18.04.2013 14
0
50
100
150
200
250
300
0,00%
10,00%
20,00%
30,00%
40,00%
50,00%
60,00%
70,00%
80,00%
90,00%
100,00%
2 4 6 8 16 20 1000
Ожидание( %)
Операции (млн)

15. Закон Амдала
• 𝑃 – часть работы, который может выполняться
параллельно
• 𝑁 – количество «исполнителей»
18.04.2013 15
S(𝑁) =
1
1 − 𝑃 +
𝑃
𝑁

16. Закон Амдала
18.04.2013 16

17. Закон Амдала: выводы
C ростом числа «исполнителей»:
• постоянный рост ускорения не
обеспечивается;
• увеличиваются накладные расходы;
18.04.2013 17
S(𝑁) =
1
1 − 𝑃 +
𝑃
𝑁

18. Поэкспериментируем?
• ArrayBlockingQueue
• LinkedBlockingQueue
• ConcurrentLinkedQueue
18.04.2013 18

19. Платформа предоставляет стандартную
реализацию – ArrayBlockingQueue
• «Обычный» ограниченный буфер на основе
массива
• При конструировании указывается размер
буфера, который не меняется
• Предусмотрено два индекса на выбор и
вставку элементов
• Для управления многопоточностью
используется одна общая блокировка
Ограниченный буфер

20. Платформа предоставляет стандартную
реализацию – LinkedBlockingQueue
• Обычный односвязный список
• Две «блокировки»: на вставку и на выбор
• В большинстве случаев необходимо брать
только одну из блокировок (обе требуют такие
операции как remove и contains. Take/offer-
работают независимо)
Неограниченный буфер

21. Платформа предоставляет стандартную
реализацию – ConcurrentLinkedQueue
• Неблокирующая
• Основана на CAS
Неограниченный буфер #2

22. 18.04.2013 22
Мы создаем сложные,
высоконагруженные системы
для финансовой сферы.

23. Devexperts
18.04.2013 23

24. Наша команда – это 300 профессионалов в области программирования,
тестирования и поддержки ПО

25. Офисы разработки расположены в Санкт-Петербурге и Ростове-на-Дону!
Офисы

26. - свободный график работы
- своя столовая
- комфортные рабочие места
- корпоративные мероприятия
- командировки по всему миру
- курсы английского языка
- неполная занятость и поддержка
в написании научных работ
Отличные условия работы!

27. Если Вам захотелось присоединиться к команде Devexperts,
пишите и звоните нам:
Тел.: (812) 438-16-26
E-mail: job@devexperts.com
Вакансии: hh.ru и itmozg.ru.
Наши новости: devexperts.com и ВКонтакте.
Контакты

28. Спасибо за внимание!
18.04.2013 28

29. бНОПНЯШ?
18.04.2013 29