Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

動的計画法の基礎と応用 ~色々使える大局的最適化法

4,598 views

Published on

動的計画法(DP)は,バイオインフォマティクスのペアワイズアライメントの基本技術として,生物学においても広く知られていることと思います.古典的ながら,大局的最適解が保証される点をはじめ,実装が簡単、数値的に安定、学習も不要、多様な応用・拡張が可能といった利点を持っています.この性質から,画像情報学分野においても,アライメント(マッチング)だけでなく,トラッキングやセグメンテーションなど様々に利用されています.本講演ではDPの原理や用途,使いこなすためのノウハウ,そしていくつかの発展形についてご紹介いたします.

Published in: Data & Analytics
  • Be the first to comment

動的計画法の基礎と応用 ~色々使える大局的最適化法

  1. 1.     
  2. 2.    決して特別なものではなく 身の回りにあふれている
  3. 3.   
  4. 4. y=f(x) ∫P(x, f(x))dx → min f(0)=0, f(T)=0, |f’(x)|≦ε y x T(=おばあちゃん家)
  5. 5. P(x,y) y=f(x) ∫P(x, f(x))dx → min f(0)=0, f(T)=0, |f’(x)|≦ε y x T(=おばあちゃん家) y=f(x)
  6. 6.       
  7. 7.            
  8. 8. http://www.ieeeghn.org/wiki /index.php/Richard_Bellman http://www.amazon.com/
  9. 9.     
  10. 10.
  11. 11.      
  12. 12.     
  13. 13. 1x ix Ix X 1y jy Jy Y
  14. 14. X Y X Y i ui ui i
  15. 15. i X Y ui
  16. 16.   iuiii yxud  i ui
  17. 17. 変形可能範囲 基準 パターン
  18. 18. この距離を最小化するのが 最適弾性マッチング 基準 パターン 入力
  19. 19. X Y
  20. 20. 0  ii ud i j
  21. 21. i j
  22. 22. i j
  23. 23. i j
  24. 24. i j
  25. 25. i j
  26. 26. i j
  27. 27. i j
  28. 28. i j
  29. 29. i j
  30. 30. i j
  31. 31. i j
  32. 32. i j
  33. 33.      11 210 min    ii iuiu iiii ugudug
  34. 34. 1 2 3 1 10 5 5 1 3 2 4 5 4 0 2 2 7 0 4 6 i j
  35. 35.    O( JI )  O( 1 )    O(IJ)  O(J ) or O(IJ)
  36. 36. i iuj 
  37. 37. i
  38. 38.  
  39. 39.     変形可能範囲 標準 パターン 入力
  40. 40. 1x 2x 1ix ix 1ix Ix1Ix X 1y 2y 1jy jy 1jy Jy1Jy Y       IIuiiuu xyxyxy  ,,,,11   Ii uuu ,,,, 1 1u 2u 1iu iu 1iu Iu
  41. 41.    iuiii yxud    iuiii yxud  i  ii ud    iuiii yxud ,max        otherwise1 if0 iui ii yx ud iuj 
  42. 42. Uchida, et al., “Logical DP matching for detecting similar subsequence”, ACCV2007        otherwise1 if0 iui ii yx ud
  43. 43. A B C
  44. 44. 5 5 5 0 5 2 2 0 5 0 0 0 2 5 2 2 2 0 5 0 i j
  45. 45. 5 5 5 0 5 2 2 0 5 0 0 0 2 5 2 2 2 0 5 0 i 0.7, 0.2, 0.1 0.4, 0.5, 0.1 0.1, 0.2, 0.7 0.5, 0.4, 0.1
  46. 46. i 0.7, 0.2, 0.1 0.4, 0.5, 0.1 0.1, 0.2, 0.7 0.5, 0.4, 0.1 0.1 0.1 0.2 0.2 0.4 0.4 0.5 0.5 0.7 0.7 0.2 0.2 0.5 0.5 0.4 0.4 0.7 0.1 0.1 0.1
  47. 47. 0.7, 0.2, 0.1 0.4, 0.5, 0.1 0.1, 0.2, 0.7 0.5, 0.4, 0.1
  48. 48.     
  49. 49.     
  50. 50.  0 Ti-1 i
  51. 51.  0 Ti-1 i
  52. 52.  0 Ti-1 i
  53. 53. 0 i-1 i i-1
  54. 54. i 0 i-1 i
  55. 55. i 0 i-1 i
  56. 56. 0 Ti-1 i
  57. 57. 0 Ti-1 i
  58. 58. O(N4T)    x y s
  59. 59.
  60. 60.      
  61. 61.     I i ii uu uuu udF ii Ii 120 ,,,, 1 1 minmin 
  62. 62.                                 I i uu u ii uu uuu I i ii uu uuu ududud ud ii Ii ii Ii 3 11 20 22 20 ,,,, 120 ,,,, 12 1 1 2 1 1 minmin min   1u 1u 2u 1u
  63. 63.                                              I i ii uu uuu I i uu u ii uu uuu I i ii uu uuu ugud ududud ud ii Ii ii Ii ii Ii 3 22 20 ,,,, 3 11 20 22 20 ,,,, 120 ,,,, 1 2 12 1 1 2 1 1 min minmin min    1u 2u 1u
  64. 64.                                                       I i ii uu uuu I i uu u ii uu uuu I i ii uu uuu ugud ugudud ugud ii Ii ii Ii ii Ii 4 33 20 ,,,, 4 22 20 33 20 ,,,, 3 22 20 ,,,, 1 3 23 2 1 3 1 2 min minmin min    2u
  65. 65.                                                       I i ii uu uuu I i uu u ii uu uuu I i ii uu uuu ugud ugudud ugud ii Ii ii Ii ii Ii 4 33 20 ,,,, 4 22 20 33 20 ,,,, 3 22 20 ,,,, 1 3 23 2 1 3 1 2 min minmin min         11 20 1 1 min      ii uu u iiii ugudug ii i  11  ii ug  ii ud
  66. 66. i j
  67. 67. i j
  68. 68. Raphael, “Coarse-to-Fine Dynamic Programming”, TPAMI, 2001
  69. 69. i j
  70. 70. i j
  71. 71. i j • • J
  72. 72. iu i      11 20 1 1 min      ii uu u iiii ugudug ii i iu1iu1u 2u Iu1iu
  73. 73. i+1 i i-1
  74. 74. i+1 i i-1
  75. 75. K N 𝐾 𝑁
  76. 76.        
  77. 77. 無理やりだが, DPで解ける形にはなった DPは不得意な構造...
  78. 78. A B + + + A B
  79. 79. A B
  80. 80. A B 10 5 2 20 3 9 8 10 20 5 7 3 2 3
  81. 81. A B 10 5 2 20 3 9 8 10 20 5 7 3 2 3
  82. 82. A B 10 5 2 20 3+5=8 9+5=14 8+2=10 10+2=12 20 5 7 3 2 3 DP
  83. 83. A B 10 5 2 20 3+5=8 9+5=14 8+2=10 10+2=12 20+8=28 +8=9 +10=145+10=15 7 3 2 3 DP
  84. 84. A B 10 5 2 20 3+5=8 9+5=14 8+2=10 10+2=12 20+8=28 +8=9 +10=145+10=15 7+28=35 3+9=12 2+9=11 3+14=17DP
  85. 85. A B 10 5 2 20 3+5=8 9+5=14 8+2=10 10+2=12 20+8=28 +8=9 +10=145+10=15 7+28=35 3+9=12 2+9=11 3+14=17
  86. 86. A B 10 5 2 20 3+5=8 9+5=14 8+2=10 10+2=12 20+8=28 +8=9 +10=145+10=15 2+9=11
  87. 87. A B 10 5 2 20 3+5=8 9+5=14 8+2=10 10+2=12 +8=9
  88. 88. A B 10 5 2 20 3+5=8
  89. 89. A B
  90. 90. )O( 22 N CN )O( N NC NxN # = は定数C N NCO )(
  91. 91. pseudo-2D ( )
  92. 92. )O( 4 N )O( 3 N
  93. 93.  
  94. 94. i iu i+t tiu  i
  95. 95. これもDPは不得意. でも何とかして解きたい DPはあきらめて 別の最適化で解こう!
  96. 96. t 
  97. 97. t 
  98. 98. t 
  99. 99. t 
  100. 100. t 
  101. 101. t 
  102. 102. t 
  103. 103. t 
  104. 104. t 
  105. 105. t 
  106. 106. t 
  107. 107. t 
  108. 108. t 
  109. 109. http://en.wikipedia.org/wiki/Seam_carving
  110. 110. DP + beam search    Particle filter    × 1 × 2
  111. 111.   
  112. 112. Uchida, et al., “Analytical Dynamic Programming Tracker”, ACCV2010
  113. 113.  0 Ti-1 i
  114. 114.     0 Ti-1 i
  115. 115.  i-1 i
  116. 116.  i-1 i
  117. 117.  i-1 i

×