Борьба с GС паузами в JVM

Russia Development Centre
Deutsche Bank
Deutsche Bank
Group Technology & Operations
Борьба с GC паузами в JVM
Теория и Практика
Алексей Рагозин, Deutsche Bank

Deutsche Bank
Содержание доклада
Теория
• Алгоритмы • Экономическая модель
• Гипотеза о поколениях • Барьеры записи
• Модель длительности пауз
Практика
• Алгоритмы HotSpot JVM • Concurrent Mark Sweep
• Сайзинг JVM • Фрагментация памяти • Другие проблемы

Deutsche Bank
Deutsche Bank
ТЕОРИЯ

Deutsche Bank
Терминология
Stop-the-world (STW) pause
– полная заморозка прикладных потоков JVM
Compacting algorithms
– алгоритмыперемещающиеобъектывпамятивоизбежаниефрагментации
Parallel collection
– использование многопоточности для сокращения STW паузы
Concurrent collection
– “фоновая” сбора мусора не требующая STW

Deutsche Bank
Как собрать “мусор”?
 Подсчёт ссылок
 Трассировка ссылок (обход графа)
 А зачем собирать?

Deutsche Bank
Трассирующие алгоритмы
Mark Sweep
• Обойти граф, начиная с “корневых” ссылок
• Отметить живые объекты • Просканировать память и собрать “мусор”
Сборка копированием (copy collector)
• Каждый достижимый объект туже копируется в новую область памяти
• Ссылки на другие объекты корректируются при копировании
Mark Sweep Compact
• Mark Sweep + перемещение объектов в ходе sweep фазы

Deutsche Bank
Сборка копированием
FROM
TO
roots

Deutsche Bank
FROM
TO
roots
FROM
TO
roots

Deutsche Bank
FROM
TO
roots
FROM
TO
roots
1

Deutsche Bank
FROM
TO
roots
FROM
TO
roots
1 2

Deutsche Bank
FROM
TO
roots
FROM
TO
roots
1 23

Deutsche Bank
Экономика сборки мусора
S – объём кучи
L – объём живых объектов
Copy collection
 Эффективность
Mark-Sweep
 Эффективность
L
LS
c
S
LS
c
L
LS
c 21
Объѐм
мусора в
куче

Deutsche Bank
Слабая гипотеза о поколениях
Постулаты
 Большинство объектов умирают молодыми
 Число ссылок на молодые объекты мало
Следствие
Еслихранитьмолодыеобъектыотдельноотстарых,можнообеспечить
высокую пропускную способность (молодое поколение)
и эффективное использование памяти (старое поколение).

Deutsche Bank
Демография объектов в куче
Смертность(байт/с)
Возраст объектов
Период молодой сборки
Период старой сборки
∞

Deutsche Bank
Generational collection
Молодое поколение
 Сборщик настроен на пропускную способность
Старое поколение
 Сборщик настроен на эффективное использование памяти
Продвижение (promotion) объектов в старое поколение
 Сборщик молодого поколения копирует живые объекты в
старое поколение после достижения “зрелого” возраста

Deutsche Bank
Generational collection
Как получить все указатели из старого поколения на молодое?
Ответ – барьер на запись
Каждый раз при записи указателя в память в “старом”
пространстве, срабатывает барьер

Deutsche Bank
Молодая сборка HotSpot JVM
Eden S1 S2 Tenured
Dirty cards
Collect roots for young GC
Scan stack traces
Scan dirty pages in old space
Сбор “корневых” ссылок

Deutsche Bank
Eden S1 S2 Tenured
Dirty cards
Collect roots for young GC
Clean cards
Recursive copy of live objects (only live objects are traversed)
Копирование живых объектов

Deutsche Bank
Eden S1 S2 Tenured
Dirty cards
Сборка закончена
Области памяти, не помеченные в таблице карт,
не могут содержать ссылки на молодое поколение

Deutsche Bank
Фоновая маркировка
Проблема
 Граф объектов меняется по мере обхода *
* Даже в функциональных языках могут выполняться
отложенные вычисления, меняющие граф
Решение
 Барьер на запись – отслеживание ссылок изменившихся
за время обхода

Deutsche Bank
Фоновая маркировка
 Card marking write barrier
HotSpot CMS, JRockit, IBM J9
 Snapshot-at-the-beginning (SATB) write barrier
HotSpot G1
 Альтернатива барьерузаписи– барьер на чтении
 Azul Zing JVM

Deutsche Bank
SATB барьер записи (G1)
A B C D
GC A
C

Deutsche Bank
A B C D
GC C
D

Deutsche Bank
A B C D
GC C
D
Reference queue: B DОчередь ссылок:

Deutsche Bank
A B C D
GC D
D

Deutsche Bank
A B C D
GC
Reference queue: B DОчередь ссылок:

Deutsche Bank
A B C D
GC
Reference queue:
B
D
emptyОчередь ссылок: пусто

Deutsche Bank
Concurrent Mark Sweep
[пауза] Сбор корневых ссылок
[фон] Обход графа объектов
[фон] Перемаркирова “грязных” страниц
[паузa] Финальная перемаркирова
[фон] Сканирование памяти (sweep)

Deutsche Bank
Длительность паузы (CMS)
Young collection
Scan
thread
stacks
Scan dirty cards
Read
card
table
Scan
dirty
pages
Copy
live
objects
Initial
mark
Scan
thread
stacks
Scan
young
space
Remark
Scan
thread
stacks
Scan
young
space
Scan dirty cards
Read
card
table
Scan
dirty
pages
Пропорционально размеру
старого поколения
Стремится к константе с ростом
размера старого поколения
Пропорционально размеру
старого поколения
Стремится к константе с ростом
размера старого поколения

Deutsche Bank
Эксперимент
http://blog.ragozin.info/2011/07/openjdk-patch-cutting-down-gc-pause.html

Deutsche Bank
Другие компоненты паузы
Время синхронизации в safe point
Ожидание JNI блокировок
Сканирование стека
Обработка ссылок
• Weak • Soft • JNI • Finalizers

Deutsche Bank
Deutsche Bank
Практика

Deutsche Bank
“Боевые” настройки JVM
HotSpot JVM
Concurrent Mark Sweep алгоритм
Сайзинг памяти под приложение

Deutsche Bank
Сайзинг
 -Xmx = -Xms
 -Xmx = размер старого + размер молодого
 -Xmn = размер молодого
 Старое поколение:
 Данные приложения (jmap –histo)
 Запас 30-50% на фоновую сборку и фрагментацию

Deutsche Bank
Тонкая подстройка CMS
 Поиск оптимальных параметров молодой сборки
 -XX:CMSWaitDuration=N
 -XX:+CMSScavengeBeforeRemark
 Инкрементальный или нет?
 Выгружать классы или нет?
http://blog.ragozin.info/2011/07/gc-check-list-for-data-grid-nodes.html

Deutsche Bank
Фрагментация

Deutsche Bank
Фрагментация
Последствия фрагментации
 Однопоточный STM Mark Sweep Compact
 Очень долгое promotion failure recovery
Больше памяти – самый эффективный способ борьбы с
фрагментацией

Deutsche Bank
Другие проблемы
 Свопинг – (Javaисвопинг–вещинесовместные)
 Reference abuse
 Медленные сейвпоинты
 Прямой доступ к памяти через JNI

Deutsche Bank
Deutsche Bank
Спасибо
Алексей Рагозин, Deutsche Bank
http://blog.ragozin.info - мои статьи о JVM и не только

Борьба с GС паузами в JVM

More Related Content

What's hot

Viewers also liked

Similar to Борьба с GС паузами в JVM

More from aragozin

Борьба с GС паузами в JVM