Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Deep learningの入り口

783 views

Published on

Deep Learningの出来る限り簡単な説明です。
機械学習、Deep Learningに触れたことがない方にも極力伝わるように、コアなアイデアと、それに伴うイメージを出来るだけ少ない枚数でお伝えしようと思い作成しました。

Published in: Technology
  • Be the first to comment

Deep learningの入り口

  1. 1. Deep Learning の入り口 菅原 健太 慶應義塾大学管理工学科4年 鈴木研究室 kenta.sugawara.p [at] gmail.com 1
  2. 2. この資料の目的 Deep Learningのイメージを 出来る限りシンプルに抑えること シンプルさを追いかけたため、 多少正確さがかけるところがありますがご容赦ください。 Deep Learningを理解する一助となれば幸いです。 2
  3. 3. Deep Learning とは 最近注目されているすごい機械学習の手法 ※機械学習:機械がデータを元に賢くなっていくアルゴリズムのこと 何がすごいか? ➡圧倒的性能/自動で特徴を学習 何が出来る? ➡回帰/分類/クラスタリング 画像認識/音声認識/教科学習...etc 例: 回帰:為替相場の変動データから、10秒後の為替相場の予測 分類:手書き文字が、なんと書いてあるかの読解 等 3
  4. 4. Deep Learningのすごさ [Lee+’09]Convolutional Deep Belief Networks for Scalable Unsupervised Learning of Hierarchical Representations 引用元734 生の画像から特徴を自動抽出して画像認識できる 人・車・像などの写真をDeep Learning に与えたときに、 自動的に下図の様な特徴(識別器)を獲得した。 4
  5. 5. なぜ、いま注目されているか? 出典 左:http://danielnouri.org/notes/category/bioacoustics/ 右:http://www.slideshare.net/pfi/deep-learning-22350063 2012年頃に各コンペで Deep Learningが圧倒的性能を叩き出して優勝 IMAGE NET 写真から1000種類の名称のどれかを当てるタスク 年度ごとの優勝チームの間違い率の変化 Deep Learningの登場 5
  6. 6. 化合物の活性予測コンペ(2012)の 例 参考:https://www.kaggle.com/c/MerckActivity Deep Learningを使ったチームが 化学領域の知識(ドメイン知識)を持たずに データ分析のエキスパートチームを抑えての優勝 Deep Learning 登場以前は「特徴量」※データの違いを上手く表す 量 を作る職人技によって基本性能が左右されていた。 Deep Learningは今まで苦労して作っていた 「特徴量」をデータから自動で生成する 6
  7. 7. Googleも注目 GoogleがイギリスのAI会社 「Deep Mind」を4億ドルで買収(2014年) Deep Mindの機械学習の技術者確保のためといわれている Deep Mindは創業2011年の若い会社 Deep Mind社:2015年3月ゲームの学習を公開(強化学習) イメージ:ゲームを上手くやると機械は褒められて伸びる 7 Google DeepMind's Deep Q-learning playing Breakout
  8. 8. Deep Learningの仕組みイメージ 例:画像認識 目的:手書き文字を判別する 手順1.特徴を学ぶ 脳を参考にした手法、ニューラルネットワークにより特徴を抽出。 (詳しくは、AutoEncoder か RBM (Restricted Boltzmann Machines)等で検索) 8特徴画像出典:http://www.cs.toronto.edu/~ranzato/research/projects.html ➡ 7 5 3 5 3 ① 手書き文字データを入力 … … ←② 特徴をうまく取り出せるように計算 ←③ 計算終了後入っている特徴を取り出す➡ 5っぽいニューラルネットワーク
  9. 9. Deep Learningの仕組みイメージ 例:画像認識 手順2.学んだ特徴を使ってどの数字かを判別する 9特徴画像出典:http://www.cs.toronto.edu/~ranzato/research/projects.html ① 判別したい手書き文字データを入力 … … ←特徴が入ってる どの特徴に当てはまっているかが分かる …出力層 入力層 値0 値1 値2 値9 中間層 手書きの文字の0っぽさ 手書きの文字の9っぽさ ②特徴を利用して入力した値が 0である確率のようなもの 〜 9である確率のようなもの が出てくる ③この値を元に、入力されたデータが どの数字だったかを判別する 中間層はたくさん積み重ねる事ができる 上手く特徴を抽象化できると精度が上がりそう というのがDeep Leaningの発想 = 0

×