1. Пугачев Максим
IPONWEB
Правильная работа с
динамической памятью в
высоконагруженных проектах

2. О себе
Senior Software Engineer @ IPONWEB
u-Server team

3. О докладе
• Обзор существующих алгоритмов
• Как выбрать?
• Многопоточность
• Подводные камни и best-practices

4. С чего все началось
250
200
150
glibc
100 tcmalloc
50
0
1 thread 5 threads

5. Что такое memory allocator?

6. Цели аллокатора

7. Цели аллокатора
• Совместимость
• Кроссплатформенность
• Минимизация памяти
• Максимизация производительности
• Кастомизация
• Обработка ошибок

8. Идеальный аллокатор?

9. Средний вариант

10. Системный вызов brk()

11. Управляющая информация

12. Управляющая информация

13. Наивная версия аллокатора

14. Memory chunk

15. Алгоритм
• Выделить 1GB при помощи brk()
• Разбить на массивы чанков (8, 16, 32, …)
• Округлять до ближайшего чанка и отдавать
указатель на него

16. Memory chunk lists

17. Алгоритм
• Выделить 1GB при помощи brk()
• Разбить на списки чанков
• Округлять до ближайшего чанка и отдавать
указатель на него
• Если список пуст, то брать из соседнего

18. Megachunk

19. Алгоритм
• Выделить 1GB при помощи brk()
• Округлить до ближайшего чанка и отдавать
указатель на него
• Если список пуст, отрезать от
мегачанка, сделать список и отдать 1
элемент

20. Склеивание

21. Алгоритм
• Если предыдущий элемент в списке не
используется, склеиваем
• Вставляем в новый список или в мегачанк

22. dlmalloc
• Doug Lea`s malloc (dlmalloc)
• ptmalloc (per-thread arenas malloc by
Wolfram Gloger) - основан на dlmalloc

23. Многопоточность?

24. Суммируем проблемы

25. Суммируем проблемы
• “Средний” вариант
• Overhead служебной информации
• Внутренняя фрагментация
• Многопоточность

26. Как обойти проблемы?

27. tcmalloc
• tcmalloc – thread-caching malloc by Google
• В 4 раза быстрее ptmalloc (теоретически)

28. Small objects

29. Large objects

30. Page heap

31. Чудес не бывает

32. Выделенная память

33. Приятные вещи

34. jemalloc
• jemalloc – Jason Eavan`s malloc
• Стандартный аллокатор в FreeBSD и NetBSD

35. Отличия
• Арены
• Объекты
– Small (8..3840 байт)
– Large (4..4072 KB)
– Huge (> 4 MB)
• Red-black tree

36. jemalloc by Facebook
• Local caches
• Mutexes
• Red-black tree
• Heap profiling

37. Итоги

38. Спасибо!
Пугачев Максим
IPONWEB
E-mail: sieqer@gmail.com
Skype: pugachev.maxim