Bag-of-Featuresに基づく物体認識 (1)
                - 特定物体認識 -

          Akisato Kimura @ NTT CS Labs.
                    Twitter ID: @_akisato
特定物体認識とは?
       教科書によると
           画像内にある個別物体(=インスタンス)を認識する処理
           物体の「見え」から物体IDへの変換を意味する

                …いや,これでは全然わかりません…


       要するに ↓↓↓ と見なすタスクが特定物体認識


                        =


    2                       関西CVPRML勉強会 2012.1.14
一般物体認識と何が違うの?
       一般物体認識: 物体のクラスを認識する処理


             =                           =

       特定物体認識: インスタンスを認識する処理


             =                           ≠

    3            関西CVPRML勉強会 2012.1.14
でも,区別は簡単ではない
       一般的には,どんな変動を吸収するか?で区別
           特定物体認識:
            アフィン変換(回転・拡大縮小)・オクルージョン・
            照明変動(に伴う見た目の色の変化) などを吸収
           一般物体認識:
            物体インスタンスの多様性を吸収
       とすると,これらはどっち?




    4                 関西CVPRML勉強会 2012.1.14
何の役に立つのか?
       特殊なマーカを使わずに実世界とwebとをつなぐ




    5             関西CVPRML勉強会 2012.1.14
ある程度は既にできています
       Google goggle
           http://www.google.com/mobile/goggles/
                   Landmark                             Book




                    Artwork                              Logo




    6                           関西CVPRML勉強会 2012.1.14
一般的な実現方法

クエリ画像                                 照合・検証       出力



                              特
         特                    徴
         徴                    量
         量   Visual words     表            画像DB
         抽   (量子化テーブル)        現     (構造化索引集合)
         出                    記
                              述



  DB画像       Visual word
 DB画像
DB画像                                   索引付け
                設計
             (特徴量量子化)

7                  関西CVPRML勉強会 2012.1.14
実現における課題
1. 大規模データに対する高速処理                  2. 各種変動に対する頑健処理
クエリ画像
   → 索引付け・照合で工夫                       → 特徴抽出・特徴量表現で工夫 出力
                                            照合・検証



                 10K~ words              特
             特                           徴
回転・拡大縮小・     徴                           量                        ~1sec
 隠れ・色変化      量       Visual words        表            画像DB
             抽       (量子化テーブル)           現     (構造化索引集合)
             出                           記
                                         述               ~100G Bytes



   DB画像              Visual word
  DB画像
 DB画像                                             索引付け
                        設計
                     (特徴量量子化)
1M~ images
 8                            関西CVPRML勉強会 2012.1.14
特徴量抽出
       どんな変動が起きても値が不変な特徴量が理想
       大域特徴量 or 局所特徴量
           大域特徴量: 計算簡単,でも各種変動に弱い
           局所特徴量: 計算大変,でも各種変動に強い
             特定物体認識における主流は,局所特徴量.


                         大域特徴量
                        (ex. 紫が多い)


                         局所特徴量
                         (ex. 特徴的な
                           黄色数字)


    9                 関西CVPRML勉強会 2012.1.14
局所特徴量
    多くは (特徴点)検出+(特徴量)記述 で構成される
        局所特徴量の提案の多くは,検出と記述がセット
        実際に使われる際には,別々に検討することも多い
    再現性も識別性も高い方が望ましい
        再現性: 各種変動が加わっても同じものを同じと見なせる
        識別性: 異なるものを異なると見なせる

               特徴点検出                        特徴量記述
               各種変動に対して                     抽出した特徴点で
               安定した特徴量が                     各種変動に対して
               取れそうな箇所を                     安定した特徴量を
               特定                           算出


    10              関西CVPRML勉強会 2012.1.14
局所特徴量の具体例
    原点
        [Schmid+ 1997], [Lowe 1999]
    検出の高精度化
        Harris-Laplace [Mikolajczyk+ 2001], MSER [Matas+ 2002],
         Harris-Affine [Mikolajczyk+ 2004]
    大ブレイク
        SIFT [Lowe 2004], PCA-SIFT [Ke+ 2004]
    処理高速化
        SURF [Bay+ 2006], CARD [Ambai+ 2011] etc.
    色情報の考慮
        C-SIFT [Abdel-Hakim+ 2006] etc.

    11                        関西CVPRML勉強会 2012.1.14
参考資料
    黄瀬,岩村 “3日で作る特定物体認識”,情報処理
     学会誌,Vol.49,No.9,pp.1082-1089,2008
     http://imlab.jp/IPSJ_3days/
    人工知能に関する断想録
     http://d.hatena.ne.jp/aidiary/20091018/1255862734
    藤吉,安倍 “局所勾配特徴抽出技術”,精密工学会
     誌,Vol.77, No.12, pp.1109-1116, 2011




    12                   関西CVPRML勉強会 2012.1.14

関西CVPRML勉強会(特定物体認識) 2012.1.14

  • 1.
    Bag-of-Featuresに基づく物体認識 (1) - 特定物体認識 - Akisato Kimura @ NTT CS Labs. Twitter ID: @_akisato
  • 2.
    特定物体認識とは?  教科書によると  画像内にある個別物体(=インスタンス)を認識する処理  物体の「見え」から物体IDへの変換を意味する  …いや,これでは全然わかりません…  要するに ↓↓↓ と見なすタスクが特定物体認識 = 2 関西CVPRML勉強会 2012.1.14
  • 3.
    一般物体認識と何が違うの?  一般物体認識: 物体のクラスを認識する処理 = =  特定物体認識: インスタンスを認識する処理 = ≠ 3 関西CVPRML勉強会 2012.1.14
  • 4.
    でも,区別は簡単ではない  一般的には,どんな変動を吸収するか?で区別  特定物体認識: アフィン変換(回転・拡大縮小)・オクルージョン・ 照明変動(に伴う見た目の色の変化) などを吸収  一般物体認識: 物体インスタンスの多様性を吸収  とすると,これらはどっち? 4 関西CVPRML勉強会 2012.1.14
  • 5.
    何の役に立つのか?  特殊なマーカを使わずに実世界とwebとをつなぐ 5 関西CVPRML勉強会 2012.1.14
  • 6.
    ある程度は既にできています  Google goggle  http://www.google.com/mobile/goggles/ Landmark Book Artwork Logo 6 関西CVPRML勉強会 2012.1.14
  • 7.
    一般的な実現方法 クエリ画像 照合・検証 出力 特 特 徴 徴 量 量 Visual words 表 画像DB 抽 (量子化テーブル) 現 (構造化索引集合) 出 記 述 DB画像 Visual word DB画像 DB画像 索引付け 設計 (特徴量量子化) 7 関西CVPRML勉強会 2012.1.14
  • 8.
    実現における課題 1. 大規模データに対する高速処理 2. 各種変動に対する頑健処理 クエリ画像 → 索引付け・照合で工夫 → 特徴抽出・特徴量表現で工夫 出力 照合・検証 10K~ words 特 特 徴 回転・拡大縮小・ 徴 量 ~1sec 隠れ・色変化 量 Visual words 表 画像DB 抽 (量子化テーブル) 現 (構造化索引集合) 出 記 述 ~100G Bytes DB画像 Visual word DB画像 DB画像 索引付け 設計 (特徴量量子化) 1M~ images 8 関西CVPRML勉強会 2012.1.14
  • 9.
    特徴量抽出  どんな変動が起きても値が不変な特徴量が理想  大域特徴量 or 局所特徴量  大域特徴量: 計算簡単,でも各種変動に弱い  局所特徴量: 計算大変,でも各種変動に強い  特定物体認識における主流は,局所特徴量. 大域特徴量 (ex. 紫が多い) 局所特徴量 (ex. 特徴的な 黄色数字) 9 関西CVPRML勉強会 2012.1.14
  • 10.
    局所特徴量  多くは (特徴点)検出+(特徴量)記述 で構成される  局所特徴量の提案の多くは,検出と記述がセット  実際に使われる際には,別々に検討することも多い  再現性も識別性も高い方が望ましい  再現性: 各種変動が加わっても同じものを同じと見なせる  識別性: 異なるものを異なると見なせる 特徴点検出 特徴量記述 各種変動に対して 抽出した特徴点で 安定した特徴量が 各種変動に対して 取れそうな箇所を 安定した特徴量を 特定 算出 10 関西CVPRML勉強会 2012.1.14
  • 11.
    局所特徴量の具体例  原点  [Schmid+ 1997], [Lowe 1999]  検出の高精度化  Harris-Laplace [Mikolajczyk+ 2001], MSER [Matas+ 2002], Harris-Affine [Mikolajczyk+ 2004]  大ブレイク  SIFT [Lowe 2004], PCA-SIFT [Ke+ 2004]  処理高速化  SURF [Bay+ 2006], CARD [Ambai+ 2011] etc.  色情報の考慮  C-SIFT [Abdel-Hakim+ 2006] etc. 11 関西CVPRML勉強会 2012.1.14
  • 12.
    参考資料  黄瀬,岩村 “3日で作る特定物体認識”,情報処理 学会誌,Vol.49,No.9,pp.1082-1089,2008 http://imlab.jp/IPSJ_3days/  人工知能に関する断想録 http://d.hatena.ne.jp/aidiary/20091018/1255862734  藤吉,安倍 “局所勾配特徴抽出技術”,精密工学会 誌,Vol.77, No.12, pp.1109-1116, 2011 12 関西CVPRML勉強会 2012.1.14