Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

SIX ABEJA 講演資料 もうブラックボックスとは呼ばせない~機械学習を支援する情報

2,668 views

Published on

SIX ABEJA 講演資料 もうブラックボックスとは呼ばせない~機械学習を支援する情報

※タイトルはだいぶ大げさです(釣りといってもいいレベル)

Published in: Technology
  • Be the first to comment

SIX ABEJA 講演資料 もうブラックボックスとは呼ばせない~機械学習を支援する情報

  1. 1. もうブラックボックスとは呼ばせない ~機械学習を支援する情報可視化技術 伊藤貴之 お茶の水女子大学 理学部情報科学科 教授 SIX ABEJA 2019年3月4日 Itoh Laboratory, Ochanomizu University
  2. 2. 講演者へのアクセス情報 Web: http://itolab.is.ocha.ac.jp/ E-mail: itot@is.ocha.ac.jp Twitter: @1T0T Facebook: iTooooooooooooT Slideshare: iTooooooooooooT 1 Itoh Laboratory, Ochanomizu University
  3. 3. 講演者の経歴 2 Itoh Laboratory, Ochanomizu University • 2005年 日本アイ・ビー・エム(株)退職 お茶の水女子大学 助教授(准教授) – 2011年 同大学教授 シミュレーション科学教育研究センター長 – カリフォルニア大デービス・シドニー大・ブリティッシュコロンビア大訪問 • 1992年 早稲田大学大学院理工学研究科修士課程修了 日本アイ・ビー・エム(株)入社・東京基礎研究所配属 – 1997年 博士(工学) – 2000年 米国カーネギーメロン大学客員研究員 (半年間) – 2003年 京都大学情報学研究科COE研究員(2年間)
  4. 4. 伊藤の人生を可視化する Itoh Laboratory, Ochanomizu University
  5. 5. 本日の講演内容 • 人はなぜデータを可視化するのか • 機械学習への可視化のアプローチ ~最近の学術研究の紹介 • 機械学習への可視化のアプローチ ~お茶の水女子大学伊藤研の試み 5 Itoh Laboratory, Ochanomizu University
  6. 6. 本日の講演内容 • 人はなぜデータを可視化するのか • 機械学習への可視化のアプローチ ~最近の学術研究の紹介 • 機械学習への可視化のアプローチ ~お茶の水女子大学伊藤研の試み 6 Itoh Laboratory, Ochanomizu University
  7. 7. 可視化とは:こんなのを連想してください 7 Itoh Laboratory, Ochanomizu University
  8. 8. 可視化の適用事例:お茶大伊藤研の場合 8 Itoh Laboratory, Ochanomizu University 流体 生命情報 音楽 ライフログ(写真) 人間関係 購買情報 人流
  9. 9. 情報可視化の定義 • 身の回りの一般的な情報を描く技術 – 学問としては1990年代から注目される • なぜ、コンピュータで描くのがよいか? – 「よい描き方」を自動で選んでくれる (配置・配色など) – 一瞬で描いてくれる (人が描くより速い) – ウェブで世界に公開できる • どんな情報を描く価値があるか? – 膨大な情報 (例:ウェブのアクセス) – 意外な事実が潜んでいる情報 – 鑑賞するのに時間を要する情報 (例:音楽) 9 Itoh Laboratory, Ochanomizu University
  10. 10. 情報可視化の用途 10 Itoh Laboratory, Ochanomizu University データ全体を 広く眺めたい Overview (概観) 問題点や新しい現象を 見つけ出したい Clarification (解明) データの追加・ 削除・注釈を進めたい Handling (操作) データの意味を 明快に説明したい Announcement (報告)
  11. 11. このグラフ、どこに注目しますか? 11 Itoh Laboratory, Ochanomizu University (1) (2) (3) (4) (5) (6)
  12. 12. このグラフ、どこに注目しますか? 12 Itoh Laboratory, Ochanomizu University (1) (2) (3) (4) (5) (6)
  13. 13. 某所でのユーザテスト結果 13 Itoh Laboratory, Ochanomizu University Q1: 折れ線の形を一目見て「目立つ」と思ったのはどこ? Q2: 月や注釈と照らし合わせて「面白い」と思ったのはどこ? (1) (2) (3) (4) (5) (6)
  14. 14. 某所でのユーザテスト結果 14 Itoh Laboratory, Ochanomizu University 1 1115目立つ 2 574 92 11面白い Q1: 折れ線の形を一目見て「目立つ」と思ったのはどこ? Q2: 月や注釈と照らし合わせて「面白い」と思ったのはどこ? 月や注釈を照合することで 閲覧者が注目する箇所が大きく変わる
  15. 15. 可視化はどんな効果をもたらすのか 気になる視覚表現(形・位置・色…) + 照合する前提知識・問題意識 ↓ 知識の発見・情報の理解 ↓ 場合によっては行動を起こす 16 Itoh Laboratory, Ochanomizu University
  16. 16. 可視化が有用な場面の例 17 Itoh Laboratory, Ochanomizu University 意思決定や仮説検証が必要な業務 定式化・モデル化しにくい問題の理解 複合的なデータの扱い 顧客・パートナーへの説明責任 データ化しにくい感性や経験との照合 ノイズや例外の解釈 例えば…
  17. 17. 可視化が有用な場面の例 18 Itoh Laboratory, Ochanomizu University 意思決定や仮説検証が必要な業務 定式化・モデル化しにくい問題の理解 複合的なデータの扱い 顧客・パートナーへの説明責任 データ化しにくい感性や経験との照合 ノイズや例外の解釈 本講演では 機械学習の運用を完成に近づけるための ツールとしての可視化について議論する
  18. 18. 本日の講演内容 • 人はなぜデータを可視化するのか • 機械学習への可視化のアプローチ ~最近の学術研究の紹介 • 機械学習への可視化のアプローチ ~お茶の水女子大学伊藤研の試み 19 Itoh Laboratory, Ochanomizu University
  19. 19. 機械学習のための可視化:3つの立場 Spread (普及型) – 汎用機械学習を意識したアドオンやオープンソース – 一般的な可視化手法を応用 Science (科学的探究型) – 機械学習の動作解明のための基礎研究 – 可視化の世界的研究者がしのぎを削る課題 Solution (問題解決型) – 現場の問題解決のために固有に開発 – 機械学習を支援するための本質的な課題 20 Itoh Laboratory, Ochanomizu University
  20. 20. 機械学習用の普及型ソフトウェアの例 • Google Facets (https://pair-code.github.io/facets/) 21 Itoh Laboratory, Ochanomizu University
  21. 21. 機械学習可視化の基礎研究の例 (1) • CNNによる物体認識過程の可視化 22 特徴マップ上の強度 特徴マップ投影の強度 物体認識の確信度 確信度に基づく領域分割 M. D. Zeiler, et al., Visualizing and Understanding Convolutional Networks, 2014 Itoh Laboratory, Ochanomizu University
  22. 22. 機械学習可視化の基礎研究の例 (2) • 訓練データのわずかな揺れによりDNNが不正確な予測を 生み出す際の内部構造を詳細に可視化 23 Itoh Laboratory, Ochanomizu University M. Liu, et al. Analyzing the Noise Robustness of Deep Neural Networks, 2018
  23. 23. 機械学習可視化の基礎研究の例 (3) • GANが実物そっくりの精巧なフェイクを作り出す過程を Generator/Discriminatorの両面から可視化 24 Itoh Laboratory, Ochanomizu University M. Kahng, et al. GAN Lab: Understanding Complex Deep Generative Models using Interactive Visual Experimentation, 2018
  24. 24. 問題解決のための機械学習可視化 • 機械学習の各フェーズにて可視化が貢献できる可能性が 学術的に議論されている 25 Itoh Laboratory, Ochanomizu University データ編集 • ラベル付け • 異常個体の排除 • … 前処理 • 正規化・重みづけ • 特徴量・非類似度 • … モデル構築 • 回帰・判別 • 最適化・制約問題 • … 学習結果の探索 可視化 可視化 可視化 可視化 ユーザの介入による機械学習処理の改善 D. Sacha, et al., Human-Centered Machine Learning through Interactive Visualization: Review and Open Challenges, 2016
  25. 25. 問題解決のための機械学習可視化 • データ編集 – 訓練データの構築・アノテーション付与 – 訓練データからのノイズ・例外の除去 • 前処理 – 特徴量の選択と重みづけ – フィルタ等の設定 • モデル構築 – モデルの選択と検証 • 可視化結果の探索 – 誤差や正解率の検証 26 Itoh Laboratory, Ochanomizu University 他にもいろいろ…
  26. 26. 機械学習のための可視化:3つの立場 Spread (普及型) – 汎用機械学習を意識したアドオンやオープンソース – 一般的な可視化手法を応用 Science (科学的探究型) – 機械学習の動作解明のための基礎研究 – 可視化の世界的研究者がしのぎを削る課題 Solution (問題解決型) – 現場の問題解決のために固有に開発 – 機械学習を支援するための本質的な課題 27 Itoh Laboratory, Ochanomizu University お茶大伊藤研はこの点に取り組んでいます
  27. 27. 本日の講演内容 • 人はなぜデータを可視化するのか • 機械学習への可視化のアプローチ ~最近の学術研究の紹介 • 機械学習への可視化のアプローチ ~お茶の水女子大学伊藤研の試み 28 Itoh Laboratory, Ochanomizu University
  28. 28. 事例(1) 電力管理システムへの異常入力 • 2013年度の企業共同研究 • 1か月単位・1日単位の電力消費を提示 →「その場所に特有の異常な消費パターン」をマークさせる • 異常パターンを機械学習して判別分析 • 想定する用途の例 – 電源の切り忘れ等の警告 – 異常発生の早期予測 29 Itoh Laboratory, Ochanomizu University
  29. 29. 事例(1) 電力管理システムへの異常入力 30 Itoh Laboratory, Ochanomizu University 電力消費パターンの 表示と選択ボタン 特定ブロックの1日の 電力消費の推移 各ブロックの1か月の電力消費と 特定の電力消費パターンの出現 機械学習のための 異常パターン入力
  30. 30. 事例(2) 回帰分析結果の誤差 • 2015年度の企業共同研究 • 状況(説明変数)から売上(目的関数)を予測する回帰分析 • 3次元散布図の適用 – 説明変数2個をX,Y軸に ※可視化すべき2軸を推薦する機能付き – 目的関数の予測値または実測値をZ軸に – 予測値と実測値の誤差を色に • 想定する用途の例 – 回帰分析の再設計 – 顧客への説明材料 31 Itoh Laboratory, Ochanomizu University
  31. 31. 事例(2) 回帰分析結果の誤差 32 Itoh Laboratory, Ochanomizu University 2軸を説明変数に、1軸を予測値または実測値に 予測値と実測値の誤差を色で表現 変数の選択、データの絞り込み などのUIを併用することで対話的に分析
  32. 32. 事例(3) 気象と販売の相関 • 2017~18年度のABEJA様との共同研究 • 気象値(最低気温・最高気温・降水量…)と 販売値(来客数・売上…)の関係を可視化 • 気象値を横軸・販売値を縦軸とした散布図のうち 閲覧価値がありそうなものを自動選択表示 • 想定する用途の例 – 販売値予測のためのモデル化の検討 – ノイズ・例外値の解釈の検討 33 Itoh Laboratory, Ochanomizu University
  33. 33. 事例(3) 気象と販売の相関 34 Itoh Laboratory, Ochanomizu University
  34. 34. 事例(3) 気象と販売の相関 35 Itoh Laboratory, Ochanomizu University 買 上 率 最高気温最低気温 最大風速 最低気温 最高気温 最大風速 買 上 率 2月 7月 11月 他の月 …2月上旬と7月下旬に突出して買上率の高い期間がある
  35. 35. 事例(4) 訓練データのアノテーション状況 • 2018年度のABEJA様との共同研究 • 深層学習の訓練データに複数の作業者によって付与する アノテーションの可視化 • 題材: 画像群への3種類のアノテーション – 物体名・風景名・イベント名 – 顔画像の年齢推測値 – 衣服の印象(5段階評価・8キーワード) • 想定する用途の例 – アノテーションのブレが生じやすい {画像 | 作業者} の傾向分析 – 訓練データのクレンジング 36 Itoh Laboratory, Ochanomizu University
  36. 36. 事例(4) 訓練データのアノテーション状況 • 顔画像の年齢推定値 37 Itoh Laboratory, Ochanomizu University 年下に推測 年上に推測 年下 年上 40~60代の顔画像をことごとく 年上気味/年下気味に判定する2名 作 業 者 8名
  37. 37. 事例(4) 訓練データのアノテーション状況 • 顔画像の年齢推定値 38 Itoh Laboratory, Ochanomizu University 意見一致 意見割れる 年下に推測 年上に推測 作 業 者 8名 明らかな入力ミスなど 意見が割れた原因を調査できる
  38. 38. 事例(4) 訓練データのアノテーション状況 • 衣服の印象 39 Itoh Laboratory, Ochanomizu University 作 業 者 14名 意見一致 意見割れる 印象が一致する衣服の 傾向を調査できる 保守的な評価 活発的な評価
  39. 39. まとめ • 人はなぜデータを可視化するのか • 機械学習の運用を支援するツールとしての可視化 – 汎用ツールで全てのことができるわけではない – 研究としての機械学習可視化もまだ日が浅い (これからに期待) • お茶大伊藤研は機械学習のための可視化を 引き続き模索いたします 40 Itoh Laboratory, Ochanomizu University
  40. 40. 本講演内容は以下の書籍にも詳細があります 41 Itoh Laboratory, Ochanomizu University 意思決定を助ける 情報可視化技術 - ビッグデータ・機械学習・VR/ARへの応用 - 1. 情報可視化の定義・歴史・展開 2. データ構造と情報可視化手法 3. 情報可視化の操作と評価 4. 視覚特性から考える情報可視化デザイン 5. 情報可視化の適用事例 6. ビッグデータと情報可視化 7. 機械学習と情報可視化 8. VR/ARと情報可視化 9. 情報可視化の研究開発の展望

×