Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

メテオサーチチャレンジ報告 (2位解法)

746 views

Published on

発表者: 株式会社アイヴィス 応用技術開発部/人工知能開発チーム
メテオサーチチャレンジ: https://stair.center/archives/events/awards-ceremony-for-meteor-search-challenge

Published in: Technology
  • Be the first to comment

  • Be the first to like this

メテオサーチチャレンジ報告 (2位解法)

  1. 1. 株式会社アイヴィス 応用技術開発部 人工知能開発チーム メテオサーチチャレンジ 報告 (C) 2018 株式会社アイヴィス
  2. 2. (株)アイヴィス 応用技術開発部について 2 ■顧客業種・適用分野 - 自動車メーカー(設計・製造工程) - 官公庁・公的研究機関(防衛省、JAXA) Copyright ©2017 IVIS,INC.All Rights Reserved. 株式会社アイヴィス http://www.ivis.co.jp/rd.html 社名 株式会社アイヴィス 事業内容 ソフトウェアの受託開発 ・研究サービス 所在地 [本社] 東京都文京区本郷 従業員数 480名 ■ミッション - 先端IT技術を積極的に導入 - 即効性のある応用技術開発に特化 - 社内外と連携して付加価値の高い サービス・製品を提供 ■主要開発分野 ①画像処理 (機械学習、AI導入済み) ②3D画像計測及びモデリング ③信号解析、データ分析 (機械学習、AI導入済み) ④IoT、ロボット
  3. 3. アプローチ 3D-CNNとResNetを組み合わせた構成を採用  3D-CNN 時間方向にも畳み込うネットワーク 動作認識やボリュームデータ(立体等)の認識で利用されている  ResNet ショートカット接続を導入し,深い構成でも学習可能なネットワーク 様々なタスクで高精度を出している (C) 2018 株式会社アイヴィス 3 中間層に3D-Convを採用したResNetベースの構成を採用 ResBlock1-1 ResBlock1-2 ResBlock2-1 ResBlock2-2 ResBlock3-1 ResBlock3-2 Linear クラス 尤度 3DConv AvgPooling MaxPooling 入力 データ 3DConv 3DConv 中間 データ 次の層へ ResBlock ショートカット接続 ネットワーク構成
  4. 4. 学習の流れ 学習の処理フローは下図の通り 4 データ読み込み 前処理 データ増強 forward backward 終了 検定データ評価 学習データ全体に共通の前処理 バッチ毎にランダムなデータ増強を実施 学習データを パラメタ更新用:検定用 = 9:1 に分割し学習状況を監視
  5. 5. 前処理 マシンリソースの制約のため,データを減らす前処理を実施 ① ダウンサンプリング 動画の縦/横/frame を1/2に縮小 ⇒ 縮小後に流星の状態は目視で確認.判定可能と判断 ② グレースケール化 RGB→Grayに色変換 ⇒ 黒い背景に高輝度(白色)の星が映る. カラー情報は不要と判断 (C) 2018 株式会社アイヴィス 5 ダウンサン プリング グレースケール化 前処理
  6. 6. データ増強 動画全体に共通の2D回転/平行移動を実施 ① 上下/左右 反転 ② 90度単位の回転 ③ X-Y平行移動 畳み込みしているため効果は薄いが, 動画端の流星を誤分類したため実施 (C) 2018 株式会社アイヴィス 6 元データ 加工後データ 加工後データ 元データ 加工後データ 元データ
  7. 7. コンペトライ状況 (1/5) - 初回トライ 6層の3D-CNNを適用したが,未知データすべて流星なしと識別 (C) 2018 株式会社アイヴィス 7 3DConv1 3DConv2 3DConv3 3DConv4 Linear1 Linear2 MaxPooling クラス 尤度 入力 データ  ネットワーク構成  前処理 : リサイズのみ  データ増強 : なし  結果 学習データは正しく識別できるが,未知データをすべて流星なしと判定 検定データ 流星なし精度 検定データ 流星あり精度 暫定スコア 1.00000 0.00000 0.50000 考察 ① CNNのstrideによって流星の情報がなくなっている? ⇒ Strideをpoolingに変更 ② 流星外の情報で識別している ⇒ DropOut導入
  8. 8. コンペトライ状況 (2/5) - StrideをPoolingに変更 StrideをPoolingに変更し,未知の流星ありデータを一部識別可能になった (C) 2018 株式会社アイヴィス 8 3DConv1 MaxPooling 3DConv2 MaxPooling 3DConv3 MaxPooling 3DConv4 Linear1 Linear2 MaxPooling クラス 尤度 入力 データ  ネットワーク構成  前処理 : リサイズのみ  データ増強 : なし  結果 検定データ-流星ありの精度が0.00→0.25に改善 検定データ 流星なし精度 検定データ 流星あり精度 暫定スコア 0.98877 0.25000 0.66458 考察 学習データは識別できるが, 未知の流星データ精度が悪い問題は解消していない ⇒ DropOut導入を実施
  9. 9. コンペトライ状況 (3/5) -DropOutを導入 DropOut導入により,未知の流星データ精度が学習データと同等に改善 (C) 2018 株式会社アイヴィス 9 3DConv1 MaxPooling 3DConv2 MaxPooling 3DConv3 MaxPooling 3DConv4 Linear1 Linear2 MaxPooling クラス 尤度 入力 データ  ネットワーク構成  前処理 : リサイズのみ  データ増強 : なし  結果 学習データの流星あり精度が低下 (1.0→0.7) 検定データの流星あり精度が大幅に改善 (0.25→0.7) 検定データ 流星なし精度 検定データ 流星あり精度 暫定スコア 0.95306 0.70000 0.90143 考察 6層構成では性能が頭打ち → ResNetベースの構成に変更し層を増やす ※全中間層にDropOutを導入
  10. 10. コンペトライ状況 (4/5) - ResNet構成に変更 ResNet構成に変更し,検定データの流星あり精度が9割に改善 (C) 2018 株式会社アイヴィス 10  ネットワーク構成  前処理 : リサイズ+グレースケール化  データ増強 : なし  結果 検定データの流星あり精度が大幅に改善 (0.7→0.9) 検定データ 流星なし精度 検定データ 流星あり精度 暫定スコア 0.96122 0.90000 0.95740 考察 コンペ終了が近いため,簡単なデータ増強とパラメタ調整で追い込み ※全中間層でDropOut
  11. 11. コンペトライ状況 (5/5) - データ増強導入 データ増強導入により,検定データの流星あり精度が改善 (C) 2018 株式会社アイヴィス 11  ネットワーク構成  前処理 : リサイズ+グレースケール化  データ増強 : あり  結果 検定データの流星あり精度が改善 (0.90→0.95) 検定データ 流星なし精度 検定データ 流星あり精度 暫定スコア 0.96122 0.95000 0.97515 ※全中間層でDropOut
  12. 12. 0.5 0.68458 0.9 0.957 0.975 0 0.2 0.4 0.6 0.8 1 初回トライ (3DCNN) Stride → Poolingに変更 DropOut 導入 ResNet化 データ拡張 +パラメタ調整 1 2 3 4 5 流星なしAcc(検定用) 流星ありAcc(検定用) 暫定評価 スコア推移 (C) 2018 株式会社アイヴィス 12 最終評価:0.99469
  13. 13. 難しいデータ 「流星なし」の識別精度は高い. 「流星あり」を「流星なし」に誤識別するケースはどんなものか? ① 高輝度の背景が流れているケース 流星でも星でもない明るいものが移動している中に流星がある ② 流星の軌跡が極端に短いケース 手前から奥に流れている(?)ため,線状の軌跡にならず点滅して見える (C) 2018 株式会社アイヴィス 13 T=32 T=180T=100 T=78 T=79 T=81T=80 T=82 T=83 上記ケースを重点的にデータ拡張する必要がある (未実施)
  14. 14. まとめ  株式会社アイヴィス 応用技術開発部よりチーム参加  3DCNNとResNetを組み合わせて適用  前処理は1/2リサンプリング+グレースケール化のみ  平行移動/回転の単純なデータ拡張を実施  識別の難しいデータのさらなる分析が必要  高輝度の背景  軌跡の短い流星 (C) 2018 株式会社アイヴィス 14

×