Download as PDF, PPTX
Uploaded byTakayuki Itoh
SIX ABEJA 講演資料 もうブラックボックスとは呼ばせない～機械学習を支援する情報
SIX ABEJA 講演資料 もうブラックボックスとは呼ばせない～機械学習を支援する情報 ※タイトルはだいぶ大げさです（釣りといってもいいレベル）
More Related Content
![SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向](https://cdn.slidesharecdn.com/ss_thumbnails/os2-03latest-210610045610-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]DropBlock: A regularization method for convolutional networks](https://cdn.slidesharecdn.com/ss_thumbnails/dlyokota20190222-190222002832-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]GLIDE: Guided Language to Image Diffusion for Generation and Editing](https://cdn.slidesharecdn.com/ss_thumbnails/glide2-220107030326-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets](https://cdn.slidesharecdn.com/ss_thumbnails/20220325okimura-220405024717-thumbnail.jpg?width=640&height=640&fit=bounds)
Similar to SIX ABEJA 講演資料 もうブラックボックスとは呼ばせない～機械学習を支援する情報
![[Japan Tech summit 2017] MAI 001](https://cdn.slidesharecdn.com/ss_thumbnails/techsummit2017pdfmai001-171115034129-thumbnail.jpg?width=640&height=640&fit=bounds)
SIX ABEJA 講演資料 もうブラックボックスとは呼ばせない～機械学習を支援する情報
- 1. もうブラックボックスとは呼ばせない ～機械学習を支援する情報可視化技術 伊藤貴之 お茶の水女子大学 理学部情報科学科 教授 SIX ABEJA 2019年3月4日 ItohLaboratory, Ochanomizu University
- 2. 講演者へのアクセス情報 Web: http://itolab.is.ocha.ac.jp/ E-mail: itot@is.ocha.ac.jp Twitter:@1T0T Facebook: iTooooooooooooT Slideshare: iTooooooooooooT 1 Itoh Laboratory, Ochanomizu University
- 3. 講演者の経歴 2 Itoh Laboratory, Ochanomizu University •2005年 日本アイ・ビー・エム（株）退職 お茶の水女子大学 助教授（准教授） – 2011年 同大学教授 シミュレーション科学教育研究センター長 – カリフォルニア大デービス・シドニー大・ブリティッシュコロンビア大訪問 • 1992年 早稲田大学大学院理工学研究科修士課程修了 日本アイ・ビー・エム（株）入社・東京基礎研究所配属 – 1997年 博士（工学） – 2000年 米国カーネギーメロン大学客員研究員 (半年間) – 2003年 京都大学情報学研究科COE研究員(2年間)
- 4. 伊藤の人生を可視化する Itoh Laboratory, OchanomizuUniversity
- 5. 本日の講演内容 • 人はなぜデータを可視化するのか • 機械学習への可視化のアプローチ ～最近の学術研究の紹介 •機械学習への可視化のアプローチ ～お茶の水女子大学伊藤研の試み 5 Itoh Laboratory, Ochanomizu University
- 6. 本日の講演内容 • 人はなぜデータを可視化するのか • 機械学習への可視化のアプローチ ～最近の学術研究の紹介 •機械学習への可視化のアプローチ ～お茶の水女子大学伊藤研の試み 6 Itoh Laboratory, Ochanomizu University
- 7.
- 8. 可視化の適用事例：お茶大伊藤研の場合 8 Itoh Laboratory, Ochanomizu University 流体 生命情報音楽 ライフログ（写真） 人間関係 購買情報 人流
- 9. 情報可視化の定義 • 身の回りの一般的な情報を描く技術 – 学問としては1990年代から注目される •なぜ、コンピュータで描くのがよいか？ – 「よい描き方」を自動で選んでくれる （配置・配色など） – 一瞬で描いてくれる （人が描くより速い） – ウェブで世界に公開できる • どんな情報を描く価値があるか？ – 膨大な情報 （例：ウェブのアクセス） – 意外な事実が潜んでいる情報 – 鑑賞するのに時間を要する情報 （例：音楽） 9 Itoh Laboratory, Ochanomizu University
- 10. 情報可視化の用途 10 Itoh Laboratory, Ochanomizu University データ全体を 広く眺めたい Overview(概観) 問題点や新しい現象を 見つけ出したい Clarification (解明) データの追加・ 削除・注釈を進めたい Handling (操作) データの意味を 明快に説明したい Announcement (報告)
- 11.
- 12.
- 13. 某所でのユーザテスト結果 13 Itoh Laboratory, Ochanomizu University Q1:折れ線の形を一目見て「目立つ」と思ったのはどこ？ Q2: 月や注釈と照らし合わせて「面白い」と思ったのはどこ？ (1) (2) (3) (4) (5) (6)
- 14. 某所でのユーザテスト結果 14 Itoh Laboratory, Ochanomizu University 11115目立つ 2 574 92 11面白い Q1: 折れ線の形を一目見て「目立つ」と思ったのはどこ？ Q2: 月や注釈と照らし合わせて「面白い」と思ったのはどこ？ 月や注釈を照合することで 閲覧者が注目する箇所が大きく変わる
- 15.
- 16.
- 17.
- 18. 本日の講演内容 • 人はなぜデータを可視化するのか • 機械学習への可視化のアプローチ ～最近の学術研究の紹介 •機械学習への可視化のアプローチ ～お茶の水女子大学伊藤研の試み 19 Itoh Laboratory, Ochanomizu University
- 19. 機械学習のための可視化：3つの立場 Spread (普及型) – 汎用機械学習を意識したアドオンやオープンソース –一般的な可視化手法を応用 Science (科学的探究型) – 機械学習の動作解明のための基礎研究 – 可視化の世界的研究者がしのぎを削る課題 Solution (問題解決型) – 現場の問題解決のために固有に開発 – 機械学習を支援するための本質的な課題 20 Itoh Laboratory, Ochanomizu University
- 20. 機械学習用の普及型ソフトウェアの例 • Google Facets(https://pair-code.github.io/facets/) 21 Itoh Laboratory, Ochanomizu University
- 21. 機械学習可視化の基礎研究の例 (1) • CNNによる物体認識過程の可視化 22 特徴マップ上の強度特徴マップ投影の強度 物体認識の確信度 確信度に基づく領域分割 M. D. Zeiler, et al., Visualizing and Understanding Convolutional Networks, 2014 Itoh Laboratory, Ochanomizu University
- 22. 機械学習可視化の基礎研究の例 (2) • 訓練データのわずかな揺れによりDNNが不正確な予測を 生み出す際の内部構造を詳細に可視化 23 ItohLaboratory, Ochanomizu University M. Liu, et al. Analyzing the Noise Robustness of Deep Neural Networks, 2018
- 23. 機械学習可視化の基礎研究の例 (3) • GANが実物そっくりの精巧なフェイクを作り出す過程を Generator/Discriminatorの両面から可視化 24 ItohLaboratory, Ochanomizu University M. Kahng, et al. GAN Lab: Understanding Complex Deep Generative Models using Interactive Visual Experimentation, 2018
- 24. 問題解決のための機械学習可視化 • 機械学習の各フェーズにて可視化が貢献できる可能性が 学術的に議論されている 25 Itoh Laboratory, OchanomizuUniversity データ編集 • ラベル付け • 異常個体の排除 • … 前処理 • 正規化・重みづけ • 特徴量・非類似度 • … モデル構築 • 回帰・判別 • 最適化・制約問題 • … 学習結果の探索 可視化 可視化 可視化 可視化 ユーザの介入による機械学習処理の改善 D. Sacha, et al., Human-Centered Machine Learning through Interactive Visualization: Review and Open Challenges, 2016
- 25. 問題解決のための機械学習可視化 • データ編集 – 訓練データの構築・アノテーション付与 –訓練データからのノイズ・例外の除去 • 前処理 – 特徴量の選択と重みづけ – フィルタ等の設定 • モデル構築 – モデルの選択と検証 • 可視化結果の探索 – 誤差や正解率の検証 26 Itoh Laboratory, Ochanomizu University 他にもいろいろ…
- 26. 機械学習のための可視化：3つの立場 Spread (普及型) – 汎用機械学習を意識したアドオンやオープンソース –一般的な可視化手法を応用 Science (科学的探究型) – 機械学習の動作解明のための基礎研究 – 可視化の世界的研究者がしのぎを削る課題 Solution (問題解決型) – 現場の問題解決のために固有に開発 – 機械学習を支援するための本質的な課題 27 Itoh Laboratory, Ochanomizu University お茶大伊藤研はこの点に取り組んでいます
- 27. 本日の講演内容 • 人はなぜデータを可視化するのか • 機械学習への可視化のアプローチ ～最近の学術研究の紹介 •機械学習への可視化のアプローチ ～お茶の水女子大学伊藤研の試み 28 Itoh Laboratory, Ochanomizu University
- 28. 事例(1) 電力管理システムへの異常入力 • 2013年度の企業共同研究 •1か月単位・1日単位の電力消費を提示 →「その場所に特有の異常な消費パターン」をマークさせる • 異常パターンを機械学習して判別分析 • 想定する用途の例 – 電源の切り忘れ等の警告 – 異常発生の早期予測 29 Itoh Laboratory, Ochanomizu University
- 29. 事例(1) 電力管理システムへの異常入力 30 Itoh Laboratory, OchanomizuUniversity 電力消費パターンの 表示と選択ボタン 特定ブロックの1日の 電力消費の推移 各ブロックの1か月の電力消費と 特定の電力消費パターンの出現 機械学習のための 異常パターン入力
- 30. 事例(2) 回帰分析結果の誤差 • 2015年度の企業共同研究 •状況（説明変数）から売上（目的関数）を予測する回帰分析 • 3次元散布図の適用 – 説明変数2個をX,Y軸に ※可視化すべき2軸を推薦する機能付き – 目的関数の予測値または実測値をZ軸に – 予測値と実測値の誤差を色に • 想定する用途の例 – 回帰分析の再設計 – 顧客への説明材料 31 Itoh Laboratory, Ochanomizu University
- 31. 事例(2) 回帰分析結果の誤差 32 Itoh Laboratory, OchanomizuUniversity 2軸を説明変数に、1軸を予測値または実測値に 予測値と実測値の誤差を色で表現 変数の選択、データの絞り込み などのUIを併用することで対話的に分析
- 32. 事例(3) 気象と販売の相関 • 2017～18年度のABEJA様との共同研究 •気象値（最低気温・最高気温・降水量…）と 販売値（来客数・売上…）の関係を可視化 • 気象値を横軸・販売値を縦軸とした散布図のうち 閲覧価値がありそうなものを自動選択表示 • 想定する用途の例 – 販売値予測のためのモデル化の検討 – ノイズ・例外値の解釈の検討 33 Itoh Laboratory, Ochanomizu University
- 33.
- 34. 事例(3) 気象と販売の相関 35 Itoh Laboratory, OchanomizuUniversity 買 上 率 最高気温最低気温 最大風速 最低気温 最高気温 最大風速 買 上 率 2月 7月 11月 他の月 …2月上旬と7月下旬に突出して買上率の高い期間がある
- 35. 事例(4) 訓練データのアノテーション状況 • 2018年度のABEJA様との共同研究 •深層学習の訓練データに複数の作業者によって付与する アノテーションの可視化 • 題材： 画像群への3種類のアノテーション – 物体名・風景名・イベント名 – 顔画像の年齢推測値 – 衣服の印象（5段階評価・8キーワード） • 想定する用途の例 – アノテーションのブレが生じやすい {画像 | 作業者} の傾向分析 – 訓練データのクレンジング 36 Itoh Laboratory, Ochanomizu University
- 36. 事例(4) 訓練データのアノテーション状況 • 顔画像の年齢推定値 37 ItohLaboratory, Ochanomizu University 年下に推測 年上に推測 年下 年上 40～60代の顔画像をことごとく 年上気味／年下気味に判定する2名 作 業 者 8名
- 37. 事例(4) 訓練データのアノテーション状況 • 顔画像の年齢推定値 38 ItohLaboratory, Ochanomizu University 意見一致 意見割れる 年下に推測 年上に推測 作 業 者 8名 明らかな入力ミスなど 意見が割れた原因を調査できる
- 38. 事例(4) 訓練データのアノテーション状況 • 衣服の印象 39 ItohLaboratory, Ochanomizu University 作 業 者 14名 意見一致 意見割れる 印象が一致する衣服の 傾向を調査できる 保守的な評価 活発的な評価
- 39. まとめ • 人はなぜデータを可視化するのか • 機械学習の運用を支援するツールとしての可視化 –汎用ツールで全てのことができるわけではない – 研究としての機械学習可視化もまだ日が浅い （これからに期待） • お茶大伊藤研は機械学習のための可視化を 引き続き模索いたします 40 Itoh Laboratory, Ochanomizu University
- 40. 本講演内容は以下の書籍にも詳細があります 41 Itoh Laboratory, Ochanomizu University 意思決定を助ける情報可視化技術 - ビッグデータ・機械学習・VR/ARへの応用 - 1. 情報可視化の定義・歴史・展開 2. データ構造と情報可視化手法 3. 情報可視化の操作と評価 4. 視覚特性から考える情報可視化デザイン 5. 情報可視化の適用事例 6. ビッグデータと情報可視化 7. 機械学習と情報可視化 8. VR/ARと情報可視化 9. 情報可視化の研究開発の展望