Machine Learning Nagoya 20170619

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

賢い A I への道
来栖川電算取締役山口陽平機械学習名古屋第11回勉強会 2017.6.19
データ収集 &
アノテーション

今日話すこと
1. はじめに
2. 機械学習
3. アノテーション
4. データ収集
5. まとめ
6. 最近の取り組み
2

はじめに
自己紹介 & 会社紹介
3

山口陽平
@melleo1978
• 所属＆経歴
– 有限会社来栖川電算取締役
– 名古屋工業大学大学院博士前期課程修了
– IPA未踏ソフトウェア創造事業採択
– Mashup Awards 9 優秀賞受賞
• 自己紹介企...

山口陽平
@melleo1978
• ［実践］画像認識を執筆 WEB+DB PRESS Vol.83
– これから画像認識をはじめる人におススメ
5
– OpenCV の使い
方や実装例
– SIFTなどの各種
アルゴリズムや
特定物体...

来栖川電算
設立 2003年（名古屋工業大学発ベンチャー）従業員 40人
• SF世界の技術を実現し、社会に役立てる
– 人工知能技術のライセンス販売・研究・SI
• 文字認識，物体認識，動作認識，行動認識
– スマホアプリの企画・制作・運営...

来栖川電算
様々なアルゴリズムを駆使する技術者集団
• 様々な認識技術
– 文字認識，物体認識，モーション認識
• 限界性能を引き出す優れた実装技術
– 機械学習・コンパイラ・データベース・仮想
機械などのアルゴリズムとバイナリハック
• 高速...

コミュニティ活動
おせわになってたり、スタッフしてたりする
8

機械学習名古屋
http://machine-learning.connpass.com/
9

TensorFlow User Group
http://tfug-tokyo.connpass.com/
10

『FP in Scala』読書会 @名古屋
http://fp-in-scala-nagoya.connpass.com/
11

JAWS-UG
https://jaws-ug.jp/
12

機械学習
ざっくり紹介
13

機械学習
人間の学習能力や推論能力を機械に模倣させる手法
• 学習
– 与えられた現象を説明できる法則を得ること
• 推論
– 法則に従って与えられた現象を説明すること
14
現象
既知のデータ
法則
モデル
現象
未知のデータ
学習推論
モ...

プログラマ視点
機械学習＝自動プログラミングの一種
• 仕様（法則）が不明でも適用可能
– 具体的なデータ（現象）で仕様を雑に規定
• 不正確な推論
– データの網羅性・正確性に依存
15
現象
既知のデータ
法則
モデル
現象
未知のデー...

応用
画像やセンサデータの解析には特に有効
16
なりきり2.0
ヒーローの動きでゲームを制御
毎朝体操
腕の動きで体操採点するアプリ
動作推定API
加速度センサで人の行動を推定
AR付箋
書籍の中身を検索するアプリ
Cellars
ワインラ...

取り組み方
精度が足りなくても使えるシステムにするのが重要
1. タスク設計重要度：40%
• システム全体のデータフローの設計
• 機械学習を適用する機能と入出力の明確化
2. データ収集・アノテーション重要度：40%
• データの質・量...

体制
データ入力からアプリ開発までワンストップ
18

少し前の手法
膨大な軽量特徴 × 集団学習 ⇒ そこそこイケル
• 膨大な軽量特徴
– 高速に計算できる特徴を機械的に大量生成
• 平均，Haar-like特徴，勾配ヒストグラム，…
• 集団学習
– 膨大な特徴の組み合わせを効率的に探索
• ...

最近の手法
深層学習 ⇒ かなりイケル
• 深層学習
– 多段モデル（複雑な法則）の一気通貫学習
• 中段モデル（間接法則）の獲得 ⇒ 特徴抽出の獲得
– 新パラダイム：マルチタスク学習，転移学習
• 中段モデルの共有・転用
• 中段モデルへの...

進化の結果
以前よりもモデルがデータによく適合する
• データ整備による精度改善が容易に！
21
推論の誤り
データの不足・誤り
データ収集・アノテーションの改善
モデルの改善

アノテーション
簡単そうに見えて難しい
22

アノテーション
データに対する説明学習や選別に利用
• タスクの内容や学習のさせ方により様々
– トレードオフ：量，正確さ，精密さ，…
23
出典: google street view出典: google street view出典: go...

Q. 自動車, 歩行者
隠れ，はみだし，小さい，多い，…
24
出典: google street view

Q. 歩行者, 自転車
マネキン，ポスター，信号，転倒，映り込み，…
25
出典: google street view

Q. 看板
標識，旗，裏返り，細長い，…
26
出典: google street view

Q. 看板
壁や窓の文字・ロゴ・ポスター，カニ，…
27
出典: google street view

悩ましさへの対処
すぐに相談できる体制 × ルールの継続的改善
• 状況の共有＆ AIエンジニアによる判断
– 勝手な判断は、ばらつきを増やす。
– 似た別のタスクへの変更もありうる。
• 全員が同じ判断を下せる基準
– 迷うと時間がかかり、...

他の悩ましさ
悩ましいのはデータだけではない
• アノテーションタスクを独り占めする人
– 一度に確保できるタスク量を制限する。
• 易しいタスクばかり選り好みする人
– タスクを選べないように制限する。
• 真面目に仕事せず報酬を得ようとする...

AnnotationFactory
近いうちに公開予定
来栖川電算のノウハウが詰まったクラウドサービス
30

データ収集
地味だけど、ここで勝負が決まる
31

データ収集
本番環境に近いデータを収集できればOK
• 本番環境からのデータ収集
– 十分に監視できないため、不適切なデータが多い
が、網羅性は高く、真の分布に近い。
• 統制環境からのデータ収集
– 十分に監督できるため、不適切なデータが少な...

量と網羅性
各法則が支配する領域から適度に収集できればOK
• 桃枠：白枠（収集データ）で説明できる領域
33
単一の法則に支配される世界領域ごとに異なる法則に支配される世界

データ収集の例
音楽に合わせて体操 ⇒ ユーザによる教師作成
• 教師データ＝音楽の再生開始からの秒数
– 継続している人のデータを信用
– 一見してダメなデータを除外
34
これだけやっても
かなりノイジー

データ加工
できるだけ網羅性が高く正確なデータセットを構築
• クレンジング
– データ収集・アノテーションの過程・都合で
混入する誤りの除去
• オーギュメント
– データ収集・アノテーションの過程・都合で
収集できないバリエーションの水増し...

データ加工の例
AIエンジニアがモデルを評価しながら何度も調整
• 例：アノテーションされていない正事例
– 正事例の付近を観察すると、問題となる現象
があまり起きていない。正事例から少し離れ
た領域から負事例をサンプリングする。
• 例：正事...

実験スケジューラ
深層学習の実験環境
37

DNNコンパイラ
かなり前からモバイルでの活用実績がある
38

まとめ
要するにAIエンジニアが何をやっているか
39

まとめ
アルゴリズム研究も重要だけど、主な仕事はコレ
• 機械学習
– 深層学習によりモデルがデータによく適合するの
でデータ整備による精度改善がやりやすくなった。
• アノテーション
– ルールが成熟するまでは丸投げできる単純作業で
はない。...

最近の取り組み
あれれ？時間があまった？
41

KCI ObjDetect
超軽量な深層学習ベースの物体検出器
• SSDを超える精度を1/100の計算量で実現
※SSD：2016年に速くて賢いと話題になった深
層学習ベースの手法（Faster R-CNN や YOLO の改良）
• 事例：...

毎朝体操
いつでも、どこでも、すぐできる
• Android & iPhone ⇒ http://maiasa.jp/
43

210,000 DL 突破
115 ヶ国の 20 ～ 50 代女性が自宅・職場・旅先で活用
44
0.0%
10.0%
20.0%
30.0%
40.0%
18～24歳 25～34歳 35～44歳 45～54歳 55～64歳 65歳以上
男
3...

マグニチュード 4
みんなの「消費熱量」の合計がヤバい！
• ラジオ体操：軽く汗ばむほどの強度
熱量状況
1.770 GJ
質量1kgの物体が木星の引力圏から脱出
するために必要な運動エネルギー
2.000 GJ マグニチュード3の地震のエ...

Mashup Awards 9
日本最大級のアプリコンテストで「優秀賞」獲得
46
※引用元：http://jp.techcrunch.com/2013/11/14/mashup-award-9/

コンテスト以降
「風変わり」なアプリなので様々なメディアが注目
• アプリソムリエ
– 【石井寛子アプリ事始】「毎
朝体操」超最先端ラジオ体操
第１！？
• 週刊朝日
– 【おすすめアプリ生活】あな
たの“ラジオ体操度”が測れる
「毎朝体操」
...

TFUG Tokyo #1
2016.10.13 NHK「おはよう日本」で紹介
48

TFUG Tokyo #1
噂の「ラジオ体操する IT 勉強会」の全貌が明らかに
49

Google I/O 2017
TensorFlow のモバイル応用例として紹介
50
※引用元：https://events.google.com/io/schedule/?section=may-19&sid=33fb7070-294d-4...

事例：アプリ化
JFE スチール株式会社『アクティブ体操®partⅡ』
• 転倒災害
– 職場の高齢化、現代人の運
動不足により深刻化
• 転倒予防体操
– コケそうな状況で踏ん張れ
る足腰を作るため、股関節
を中心に下肢の筋力、柔軟
性、バラ...

アクティブ体操®partⅡ
立ち仕事が多い業界の約 30 社が採用：工場，電力，化粧品，…
52
※引用元：2017.6.6 NHK「おはよう日本」

求人
深層学習の仕事がしたい人！まじめな研究開発がしたい人！
53

スタッフ募集中
学生さん、転職者さん、力を貸して！
• 研究（認識技術）
– 機械学習・アルゴリズム・高速化・省メモリ・画
像・センサーに関する知識，Java，C++
• 開発（サーバサイド）
– プロセス・アーキテクチャ・ミドルウェア・ネッ
...

新オフィス
勉強会もやってるよ！メイドさんお手製の夕食も出るよ！
• 新オフィス
– 移転：2016 年 6 月
– 面積：以前の 2 倍！
• 最寄駅
– JR中央線鶴舞駅
– 名古屋市営地下鉄
• 鶴舞線鶴舞駅
• 名城線矢場町...

情景画像文字認識
技術紹介①
56

情景画像文字認識とは
スマホなどで撮影した画像から文字を読み取る
57

情景画像文字認識とは
様々なパース、様々なレイアウト、様々な書体
58

情景画像文字認識とは
いわゆる “OCR” とは ”扱う画像” が違う
• 悪環境下での文字認識
– 手書き・様々な書体・かすれ・点描・きつい
パース・統一性のない並び・逆光・陰・影・
グラデーション・モアレなど
• 使える場面
– 屋外でのス...

事例：タンゴチュウ
Twitter で情景画像文字認識を体験できるサービス
60

物体認識
技術紹介②
61

物体認識とは
画像中の物体の種類・位置・姿勢を推定
62

物体認識とは
様々な向き・ポーズを学習させ見えの多様性を獲得
• 特定物体認識は素人でも簡単に使える
– どんな画像を学習に使うかを学べばOK
63

物体認識とは
モノをカウント、見た目で分からない情報を表示
• 使える場面
工場内で箱の仕分け
体験や評判の調査
ワインラベルで情報検索
AR付箋
集めて応募キャンペーン
ARフィギュア
64

事例：1000sors
誰でも簡単に使えるクラウド型物体認識エンジン
• 広い適用範囲
– 照明姿勢の変化に強く、様々な撮影環境に対応
• 驚異的な精度
– 数十万種類をほぼ完ぺきに識別
• 圧倒的な性能
– たった１台のＰＣで１００万種類を瞬...

事例：1000sors
手元の画像で精度や速度をすぐに確認可能
• ShotPreview for Android / iOS
①設定 ②撮影 ③確認
66

事例：ShotSearch
表紙を撮影すると発売日や口コミが分かるアプリ
• きついパースも、帯による隠れも、OK
67

事例：ShotSearch
表紙を撮影すると発売日や口コミが分かるアプリ
• よく似ていても、複数冊同時も、OK
68

事例：Cellars
18万件のワインラベルを認識するアプリ
• 世界で賞を獲得したアプリをダウンロード！
– Asia Smartphone Apps Contest
• 広告マーケティング部門 Silver Award 2位
– 立命館大学...

事例：画像認識API
画像を送るだけで写っている商品の情報を取得
• 登録商品：500 万件以上（昨年10月）の市販商品
– 書籍，DVD，CD，PCソフト，ゲームソフト，
食品パッケージ，… どんどん増加中
• 定期更新：網羅性と認識精度...

開発者は今すぐ登録！ ⇒ https://dev.smt.docomo.ne.jp
事例：画像認識API
だれでも、かんたんに、マッシュアップ！
• docomo Developer support より提供中
画像認識
画像に写っている物体の...

事例：運転補助
車載カメラに映る車や人などを検出・識別・追跡
• 単眼でも高精度、大きさ・距離も推定
世界中の走行データを活用
72

事例：注目領域抽出
『人の視線を集めそう』な領域をヒートマップ化
• 認識の事前処理に
– 交通標識・道路標示・
信号・看板・商品パッ
ケージなど
• 教師作成の省力化に
– 抽出領域をクラスタリ
ングすることで、教師
がなくても類似物体を
検...

事例：地図生成
株式会社トヨタマップマスター様との研究
• 自動運転に使用可能な高品質な地図（地
物・交通規則）をオルソ画像から抽出
74

モーション認識
技術紹介③
75

モーション認識とは
センサー値から動作や行動の種類や発生時刻を推定
76

事例：動作推定API
ドコモと来栖川電算の共同研究
• 加速度データから人の動作や行動を検出
– 静止，歩き，走り，自転車，睡眠，食事
• 動作と直接対応しない行動も検出可能
• スマホ・スマートウォッチに対応
– Android，And...

開発者は今すぐ登録！ ⇒ https://dev.smt.docomo.ne.jp
事例：動作推定API
だれでも、かんたんに、マッシュアップ！
• docomo Developer support より提供中
画像認識
画像に写っている物体の...

事例：ライフログ
ドコモの動作推定APIの応用例
79
開発者は今すぐ確認！ ⇒ https://dev.smt.docomo.ne.jp/?p=docs.api.page&api_docs_id=127

事例：毎朝体操
だれでも、いつでも、どこでも、すぐできる
• Android & iPhone ⇒ http://maiasa.jp/
80

事例：なりきり 2.0
ウェアラブルで現実のモノを操作する作品
• ゲームコントローラへの応用
– 格闘ゲームが遊べる程、応答が速く、精度もよ
81

Share Slideshare

LinkedIn
Facebook
Twitter

Embed

Size (px)

Show related Slideshows at end

WordPress Shortcode

Link

Share
Email

2024 Trend Updates: What Really Wor... by Search Engine Jou... 1056584 views
Storytelling For The Web: Integrate... by Chiara Aliotta 973080 views
Artificial Intelligence, Data and C... by OECD Directorate ... 908885 views
How to Leverage AI to Boost Employe... by SocialHRCamp 384853 views
2024 State of Marketing Report – by... by Marius Sescu 217959 views
Everything You Need To Know About C... by Expeed Software 235285 views

View on Slideshare

1 of 81 Ad

View on Slideshare

1 of 81 Ad