動的計画法(DP)は，バイオインフォマティクスのペアワイズアライメントの基本技術として，生物学においても広く知られていることと思います．古典的ながら，大局的最適解が保証される点をはじめ，実装が簡単、数値的に安定、学習も不要、多様な応用・拡張が可能といった利点を持っています．この性質から，画像情報学分野においても，アライメント（マッチング）だけでなく，トラッキングやセグメンテーションなど様々に利用されています．本講演ではDPの原理や用途，使いこなすためのノウハウ，そしていくつかの発展形についてご紹介いたします．

3. 





4. 


決して特別なものではなく
身の回りにあふれている

5. 



6. y=f(x)
∫P(x, f(x))dx → min
f(0)=0, f(T)=0, |f’(x)|≦ε
y
x T(=おばあちゃん家)

7. P(x,y)
y=f(x)
∫P(x, f(x))dx → min
f(0)=0, f(T)=0, |f’(x)|≦ε
y
x T(=おばあちゃん家)
y=f(x)

8. 







9. 












11. http://www.ieeeghn.org/wiki
/index.php/Richard_Bellman
http://www.amazon.com/

12. 





13. 

14. 






15. 





20. 1x ix Ix
X
1y
jy
Jy
Y

21. X Y
X
Y
i
ui
ui
i

22. i
X
Y
ui

23.   iuiii yxud 
i
ui

26. 変形可能範囲
基準
パターン

27. この距離を最小化するのが
最適弾性マッチング
基準
パターン
入力

29. X
Y

30. 0
 ii ud
i
j

31. i
j

32. i
j

33. i
j

34. i
j

35. i
j

36. i
j

37. i
j

38. i
j

39. i
j

40. i
j

41. i
j

42. i
j

43.      11
210
min 

 ii
iuiu
iiii ugudug

44. １
2
３ １
１０ 5 5 １
３ 2 ４ 5
４ 0 2
2 ７ 0 ４ ６
i
j

45. 

 O( JI )
 O( 1 )


 O(IJ)

O(J ) or O(IJ)

46. i
iuj 

48. i

49. 


50. 



変形可能範囲
標準
パターン
入力

51. 1x 2x 1ix ix 1ix Ix1Ix
X
1y 2y 1jy jy 1jy Jy1Jy
Y
      IIuiiuu xyxyxy  ,,,,11 
 Ii uuu ,,,, 1
1u 2u 1iu iu 1iu Iu

55. 
  iuiii yxud 
  iuiii yxud 
i
 ii ud
   iuiii yxud ,max
 


 

otherwise1
if0 iui
ii
yx
ud
iuj 

56. Uchida, et al., “Logical DP
matching for detecting
similar subsequence”,
ACCV2007
 


 

otherwise1
if0 iui
ii
yx
ud

60. A
B
C

64. 5 5 5 0 5
2 2 0 5 0
0 0 2 5 2
2 2 0 5 0
i
j

65. 5 5 5 0 5
2 2 0 5 0
0 0 2 5 2
2 2 0 5 0
i
0.7, 0.2, 0.1
0.4, 0.5, 0.1
0.1, 0.2, 0.7
0.5, 0.4, 0.1

66. i
0.7, 0.2, 0.1
0.4, 0.5, 0.1
0.1, 0.2, 0.7
0.5, 0.4, 0.1
0.1 0.1 0.2 0.2
0.4 0.4 0.5 0.5
0.7 0.7 0.2 0.2
0.5 0.5 0.4 0.4
0.7
0.1
0.1
0.1

68. 0.7, 0.2, 0.1
0.4, 0.5, 0.1
0.1, 0.2, 0.7
0.5, 0.4, 0.1

70. 





71. 





72. 
0 Ti-1 i

73. 
0 Ti-1 i

74. 
0 Ti-1 i

75. 0 i-1 i
i-1

76. i
0 i-1 i

77. i
0 i-1 i

78. 0 Ti-1 i

79. 0 Ti-1 i

80. O(N4T)



x
y s

94. 

96. 






99.   

I
i
ii
uu
uuu
udF
ii
Ii
120
,,,,
1
1
minmin


100.  
     
















 

 



I
i uu
u
ii
uu
uuu
I
i
ii
uu
uuu
ududud
ud
ii
Ii
ii
Ii
3
11
20
22
20
,,,,
120
,,,,
12
1
1
2
1
1
minmin
min


1u
1u 2u
1u

101.  
     
   



























 




I
i
ii
uu
uuu
I
i uu
u
ii
uu
uuu
I
i
ii
uu
uuu
ugud
ududud
ud
ii
Ii
ii
Ii
ii
Ii
3
22
20
,,,,
3
11
20
22
20
,,,,
120
,,,,
1
2
12
1
1
2
1
1
min
minmin
min



1u 2u
1u

102.    
     
   


































 




I
i
ii
uu
uuu
I
i uu
u
ii
uu
uuu
I
i
ii
uu
uuu
ugud
ugudud
ugud
ii
Ii
ii
Ii
ii
Ii
4
33
20
,,,,
4
22
20
33
20
,,,,
3
22
20
,,,,
1
3
23
2
1
3
1
2
min
minmin
min



2u

103.    
     
   


































 




I
i
ii
uu
uuu
I
i uu
u
ii
uu
uuu
I
i
ii
uu
uuu
ugud
ugudud
ugud
ii
Ii
ii
Ii
ii
Ii
4
33
20
,,,,
4
22
20
33
20
,,,,
3
22
20
,,,,
1
3
23
2
1
3
1
2
min
minmin
min



     11
20 1
1
min 
 

 ii
uu
u
iiii ugudug
ii
i
 11  ii ug
 ii ud

105. i
j

106. i
j

107. Raphael, “Coarse-to-Fine
Dynamic Programming”,
TPAMI, 2001

108. i
j

109. i
j

110. i
j
•
• J

112. iu
i
     11
20 1
1
min 
 

 ii
uu
u
iiii ugudug
ii
i
iu1iu1u 2u Iu1iu

113. i+1
i
i-1

114. i+1
i
i-1

120. K
N
𝐾 𝑁

124. 








128. 無理やりだが，
DPで解ける形にはなった
DPは不得意な構造...

129. A B
+
+
+
A B

130. A B

131. A B 10 5 2 20
3 9 8 10
20 5
7 3 2 3

132. A B 10 5 2 20
3 9 8 10
20 5
7 3 2 3

133. A B 10 5 2 20
3+5=8 9+5=14 8+2=10 10+2=12
20 5
7 3 2 3
DP

134. A B 10 5 2 20
3+5=8 9+5=14 8+2=10 10+2=12
20+8=28 +8=9 +10=145+10=15
7 3 2 3
DP

135. A B 10 5 2 20
3+5=8 9+5=14 8+2=10 10+2=12
20+8=28 +8=9 +10=145+10=15
7+28=35 3+9=12 2+9=11 3+14=17DP

136. A B 10 5 2 20
3+5=8 9+5=14 8+2=10 10+2=12
20+8=28 +8=9 +10=145+10=15
7+28=35 3+9=12 2+9=11 3+14=17

137. A B 10 5 2 20
3+5=8 9+5=14 8+2=10 10+2=12
20+8=28 +8=9 +10=145+10=15
2+9=11

138. A B 10 5 2 20
3+5=8 9+5=14 8+2=10 10+2=12
+8=9

139. A B 10 5 2 20
3+5=8

140. A B

141. )O( 22 N
CN )O( N
NC
NxN
# = は定数C
N
NCO )(

142. pseudo-2D
(
)

143. )O( 4
N
)O( 3
N

144. 


146. i
iu
i+t
tiu 
i

147. これもDPは不得意．
でも何とかして解きたい
DPはあきらめて
別の最適化で解こう！

148. t


149. t


150. t


151. t


152. t


154. t


155. t


156. t


157. t


158. t


159. t


160. t


161. t


163. http://en.wikipedia.org/wiki/Seam_carving

167. DP + beam search



Particle filter



× 1 × 2

168. 



169. Uchida, et al., “Analytical Dynamic
Programming Tracker”, ACCV2010

170. 
0 Ti-1 i

171. 



0 Ti-1 i

172. 
i-1 i

173. 
i-1 i

174. 
i-1 i