Максим расскажет, что такое Java Memory Model, какие нюансы ожидают разработчика при написании мультипоточного кода, и как это учитывать в Android-приложениях.

1. JMM in Android
Максим Ефимов
Android team leader, Google developer expert
0

2. О чем будем говорить?
• Зачем понадобилась JMM
• Happens-before
• Causality
• Dalvik MM vs JMM
• Dalvik bytecode vs JVM bytecode
1

3. Естественный порядок
2
int a, b;
void foo() {
int l1 = a;
int l2 = l1 + 10;
int l3 = b;
int l4 = l2 % 3;
}

4. 3
Reordering
int a, b;
void foo() {
int l1 = a;
int l3 = b;
int l2 = l1 + 10;
int l4 = l2 % 3;
}
int a, b;
void foo() {
int l1 = a;
int l2 = l1 + 10;
int l3 = b;
int l4 = l2 % 3;
}

5. 4
Reordering – ограничения
int a, b;
void foo() {
int l2 = l1 + 10;
int l1 = a;
int l3 = b;
int l4 = l2 % 3;
}
int a, b;
void foo() {
int l1 = a;
int l2 = l1 + 10;
int l3 = b;
int l4 = l2 % 3;
}
Reordering не меняет семантику кода в
одном потоке

6. Нотация записи
5
A==B==0
r1=A
B=1
r2=B
A=1
общее для обоих потоков
происходит в первом потоке происходит во втором потоке
r1=? r2=?

7. Reordering в многопоточности
6
A==B==0
r1=A
r2=B
B=1
A=1
Ожидаем (r1, r2)
(0, 0),(1, 1),(0, 1)
A==B==0
r1=A
r2=B
A=1
B=1
Получаем (r1, r2)
(0, 0),(1, 1),(0, 1),
(1, 0)
Семантика нарушается

8. Нужно больше порядка
7
Action 1.1
Action 1.2
Sync action 1
Sync action 2
Action 2.1
Action 2.2
Action 2.3Action 1.3
Action 1.4 Action 2.4
Поток 1 Поток 2
Порядок
между
потоками

9. Синхронизация
8
Monitor.Lock()
Action 1.2
Monitor.Unlock()
Monitor.Lock()
Action 2.1
Action 2.2
Action 2.3Action 1.3
Action 1.4 Monitor.Unlock()
Поток 1 Поток 2

10. Data race
9
• Один поток читает данные
• Второй поток пишет данные
• Эти два действия не синхронизированы

11. Итоги & QA - I
10
• Reordering оптимизирует код в одном потоке
• Reordering ломает семантику многопоточного кода
• Нужен порядок между действиями в разных потоках
• Без синхронизации ломается семантика
Вопросы?
Базовые принципы

12. Java memory model
11
«A memory model describes, given a program and an
execution trace of that program, whether the execution
trace is a legal execution of the program.»
JSR 133

13. JMM философия
12
Порядок выполнения может быть любой, кроме
запрещенных порядков

14. Что есть в JMM?
13
• Sequential consistency
• Happens before
• Causality
finals, word tearing…

15. Sequential consistency
14
Action 1.1
Action 1.2
Action 2.1
Action 2.2
Action 2.3Action 1.2
Action 1.1
Action 1.2
Action 2.1
Action 2.2
Action 2.3Action 1.2
Вариант №1
Вариант №2

16. Happens before I
15
Monitor.unlock() Monitor.lock()
HB
volatile write volatile read
HB
Thread.start() 1st thread action
HB
last thread action Thread.terminate()
HB
Thread.interrupt() interrupt detected
HB
default write 1st access
HB
constructor finalizer
HB

17. Happens before II
16
read write
HB
one more write read
HB
write
HB
read writeМожет видеть
+
=

18. Happens before III
17
N action in thread N+1 action in thread
HB

19. HB пример
18
Monitor.Lock()
x = 1
Monitor.Unlock() Monitor.Lock()
b = xx = 3
Monitor.Unlock()
Поток 1 Поток 2
HB
x = 2
b = ?
a = x a = ?

20. HB достаточно?
19
A==B==0
r1=A
if(r1 != 0)
B=1
r2=B
if(r2 != 0)
A=1
Ожидаем (r1, r2) = ?

21. HB недостаточно
20
A==B==0
r1=A
if(r1 != 0)
B=1
r2=B
if(r2 != 0)
A=1
(r1, r2) = (0, 1)
r1=A
B=1
if(r1 == 0)
B=0

22. Causality
21
• Все действия группируются на коммиты
• Коммиты выстраиваются в строгий порядок
• Действие не может попасть в коммит, если это станет
причиной состояния гонки

23. Causality - пример
22
A==B==0
r1=A
B=1
r2=B
A=r2
A==B==0
B = 1
r2 = B
A = r2
r1 = A
A==B==0
r2 = B
A = r2
r1 = A
B = 1

24. Итоги & QA - II
23
JMM
• Разрешено все, что не запрещено
• Happens before
• Causality
Вопросы?

25. JMM for DVM?
24
JMM ≠ DMM

26. JVM vs DVM
25
Stack Register
Картинки из статьи https://markfaction.wordpress.com/2012/07/15/stack-based-vs-register-based-virtual-machine-architecture-and-the-dalvik-vm/

27. Memory model @ Dalvik
26
DMM
x86 ARM

28. Memory barriers
27
• readread
• storestore
• readstore
• storeread
Гарантия порядка

29. x86 vs ARM
28
• readread
• storestore
• readstore
• storeread
• readread
• storestore
• readstore
• storeread
ARM x86

30. No barriers I
29
A==B==false
A=true
r1=B
if(!r1)
crit()
B=true
r2=A
if(!r2)
crit()

31. No barriers II
30
A==B==false
A=true
r1=B
if(!r1)
crit()
B=true
r2=A
if(!r2)
crit()
r1=B
A=true
if(!r1)
crit()

32. x86 vs ARM I
31
A==B==0
A=41
B=1
loop_until(B==1)
r1=A

33. x86 vs ARM II
32
A==B==0
B=1
A=41
loop_until(B==1)
r1=A
A=41
B=1
ARM

34. ARM address dependency
33
[A+8]==B==0
[A+8]=1
store/store
B=16
loop:
r0=B
if(r0==0) goto loop
r1 = 8
r2 = [A + r1]

35. ARM address dependency
34
[A+8]==B==0
[A+8]=1
store/store
B=16
loop:
r0=B
if(r0==0) goto loop
r1 = 8 + r0
r2 = [A + r1]

36. ARM AD limitation
35
A==B==0
A = 1 loop_until(A==1)
B = 16
loop:
r0=B
if(r0==0) goto loop
r1 = 8 + r0
r2 = [A + r1]

37. Итоги & QA - III
36
DVM Memory model
• Есть большая зависимость от платформы
• Есть адресная зависимость
Вопросы?

38. Synchronized example
37
public int fooNoSync(int a) {
int b;
b = a + 10;
return b;
}

39. Bytecode
38
public foo(I)I
L0
LINENUMBER 34 L0
ILOAD 1
BIPUSH 10
IADD
ISTORE 2
L1
LINENUMBER 35 L1
ILOAD 2
IRETURN
L2
LOCALVARIABLE this
Lgenerator/android/TestJava;
L0 L2 0
LOCALVARIABLE a I L0 L2 1
LOCALVARIABLE b I L1 L2 2
MAXSTACK = 2
MAXLOCALS = 3
.method public foo(I)I
.registers 3
.param p1, "a" # I
.prologue
.line 27
add-int/lit8 v0, p1, 0xa
.line 29
.local v0, "b":I
return v0
.end method
JVM DVM
int a
int b
return b
b = a + 10
int a
int b
return b
b = a + 10

40. Synchronized
39
public synchronized int foo(int a) {
int b;
b = a + 10;
return b;
}
public int foo(int a) {
synchronized (this) {
int b;
b = a + 10;
return b;
}
}

41. Bytecode synchronized method
40
public synchronized foo(I)I
L0
LINENUMBER 34 L0
ILOAD 1
BIPUSH 10
IADD
ISTORE 2
L1
LINENUMBER 35 L1
ILOAD 2
IRETURN
L2
LOCALVARIABLE this Lgenerator/
android/TestJava; L0 L2 0
LOCALVARIABLE a I L0 L2 1
LOCALVARIABLE b I L1 L2 2
MAXSTACK = 2
MAXLOCALS = 3
.method public declared-synchronized
foo(I)I
.registers 3
.param p1, "a" # I
.prologue
.line 21
monitor-enter p0
add-int/lit8 v0, p1, 0xa
.line 22
.local v0, "b":I
monitor-exit p0
return v0
.end method
JVM DVM
b = a + 10

42. Synchronized block
41
public foo(I)I
TRYCATCHBLOCK L0 L1 L2 null
TRYCATCHBLOCK L2 L3 L2 null
L4
LINENUMBER 10 L4
ALOAD 0
DUP
ASTORE 2
MONITORENTER
L0
//business logic
L5
LINENUMBER 13 L5
ILOAD 3
ALOAD 2
MONITOREXIT
L1
IRETURN
L2
LINENUMBER 14 L2
FRAME FULL [generator/android/TestJava I java/lang/
Object] [java/lang/Throwable]
ASTORE 4
ALOAD 2
MONITOREXIT
L3
ALOAD 4
ATHROW
L6
LOCALVARIABLE b I L5 L2 3
LOCALVARIABLE this Lgenerator/android/TestJava; L4 L6
0
LOCALVARIABLE a I L4 L6 1
MAXSTACK = 2
MAXLOCALS = 5
.method public foo(I)I
//initialization
monitor-enter p0
//business logic
:try_start_3
monitor-exit p0
return v0
.line 16
:catchall_5
move-exception v1
monitor-exit p0
:try_end_7
.catchall
{:try_start_3 .. :try_end_7} :catchall_5
throw v1
.end method
JVM DVM

43. Synchronized block – проще говоря
42
Monitor.enter()
Throwable stored = null
try{
businessLogic()
} catch(Throwable e){
stored = e
}
Monitor.exit()
if(stored != null)
throw stored
return
JVM DVM

44. DVM synchronized method div
43
.method public final declared-synchronized fooDangerous(I)I
.registers 4
.param p1, "a" # I
.prologue
.line 27
monitor-enter p0
:try_start_1
div-int/lit8 v0, p1, 0xa
:try_end_3
.catchall {:try_start_1 .. :try_end_3} :catchall_5
.line 28
.local v0, "b":I
monitor-exit p0
return v0
.line 27
.end local v0 # "b":I
:catchall_5
move-exception v1
monitor-exit p0
throw v1
.end method
.method public declared-synchronized
foo(I)I
.registers 3
.param p1, "a" # I
.prologue
.line 21
monitor-enter p0
add-int/lit8 v0, p1, 0xa
.line 22
.local v0, "b":I
monitor-exit p0
return v0
.end method
b = a / 10b = a + 10

45. DMV synchronized method try-catch
44
• Вызов метода
• Создание объекта
• Деление целых чисел
• Бросок исключения
• Каст
• Изменение поля класса
• Загрузка класса

46. Итоги & QA - IV
45
• Байткод dalvik отличается от JVM
• Не все флаги методов работают так же
• Есть оптимизация в зависимости от опкодов
DVM bytecode

47. Links
46
• https://www.cs.umd.edu/~pugh/java/memoryModel/jsr133.pdf
JSR 133
• http://shipilev.net/blog/2014/jmm-pragmatics/
Очень крутое объяснение JMM
• http://developer.android.com/intl/ru/training/articles/smp.html
Гайд по MM в Android
• http://gee.cs.oswego.edu/dl/jmm/cookbook.html
JMM для авторов компиляторов
• http://jcip.net/
Отличная книга про JMM

48. Спасибо за внимание!
me@redmadrobot.com