20170422 数学カフェ Part1

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

数学カフェ
「確率・統計・機械学習」
（Part1）
2017年4⽉22⽇数学カフェ
Yahoo! Japan コワーキングスペース LODGE
株式会社Preferred Networks ⼤野健太
oono@preferred.jp

⼤野健太
• twitter: @delta2323_
• 経歴
• 数学専攻（修⼠） → 2012.4 PFI → 2014.10 PFN
• 担当
• バイオプロジェクト
• Chainerコアチーム
• インターン・採⽤チーム
2

• 2014年3⽉設⽴
• 本社：東京アメリカ⼦会社：カリフォルニア州サンマテオ
• 社員数：約70名（8割以上はエンジニア・リサーチャー）
• 事業内容：深層学習の産業、特に産業⽤ロボット・交通・バイオ
ヘルスケアへの応⽤
3
夏季インター...

ニューラルネット愛護協会
5
http://bit.ly/dl-spcn
※エイプリルフールネタです

アジェンダ
• 導⼊
• 機械学習の理論
• 深層学習
6

⼈⼯知能？
• ロボット？アンドロイド？
• 鉄腕アトム・初⾳ミク・Pepper etc. …
• ⽂章を理解する・話し⾔葉を理解する・写真から顔を⾒つける・
ゲームの次の⼿を決める・経営をする・⼈間とチャットする・⾞
を⾃動運転する・複雑な問...

なぜ機械学習が必要か？
例：⼈物写真から年齢を判定する
• 何を基準に分類する？
• ⾝⻑が⾼かったら⼤⼈？ー＞そうとも限らない
• ⽩髪だったら⾼齢？ー＞そうとも限らない
• 顔？服装？体格？
• 判断に必要な情報をどうやって抽出する...

機械学習によるアプローチ
• 年齢情報のついた画像を機械に⼤量に与えて、それぞれの年代に
特徴的な傾向・パターンを機械⾃⾝に発⾒させる
• ⼈間は機械にどの部分を注⽬すべきかを明⽰的には与えない
9
photo: flicker

機械学習を⽤いた画像分類
10
ILSVRC2012 Supervison
Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). Imagenet classification with
...

画像認識精度
11
http://www.image-net.org/challenges/LSVRC/

機械学習・深層学習の応⽤先
画像⾳声動画⾃然⾔語センサーゲノム化合物パケット
分類回帰異常検知
⽣成
モデル
クラスタ
リング
パターン
認識
推薦強化学習
⼈物検出
シーン
認識
ゲームAI ⾳声認識動作認識⾔語認識 ...

ドローンの運転制御
13
https://www.youtube.com/watch?v=yFCCanSxOE4

アジェンダ
• 導⼊
• 機械学習の理論
• 定式化
• 最適化
• 汎化性能
• 深層学習
14

参考スライド
15http://www.slideshare.net/irrrrr/2015-46395273
同僚の楠本さんが情報オリンピック春合宿で⾏った講義

Toy example
• ⾚丸と⿊丸うまく分類したい
• 1点 = 1データ
• データの情報：x, y座標、⾊
16
●●
●
● ●
●
●
●
●
●
●
●
●
●
●
●
●
●●
●
● ●
●
●
●
●
●
●
●
●
●
●...

Toy example
どう直線を引いても分類できない
↓
分類間違いが少なくなるように
最適な直線を選ぶ
17
●●
●
● ●
●
●
●
●
●
●
●
●
●
●
●
●
考えないといけない問題
• どういう分類曲線を引いても良いことに...

機械学習のレシピ
• ⼊⼒：訓練データ
D = {(x1, y1), (x2, y2), …, (xN, yN)}, xi ∈ X = Rd, yi ∈ Y = R
• 出⼒：予測モデル
未知のデータ x から y を予測するアルゴリズム
• ...

機械学習のレシピ1：仮説集合 Θ
各 θ∈Θ に、x から y を予測する「予測モデル」を対応させる
設計者が決めること
• Θ をどういう集合にするか？
• 各 θ にどういう予測モデルを対応させるか？
• 予測モデルが決定的か確率的か？
•...

記号について
今⽇の講演では
f (x, y; θ) と f θ (x, y)
p (x, y; θ) と pθ (x, y)
は同じ関数を表しています
20

仮説集合の例
例1：直線全体（決定的）
{ l (x1, x2, y) = 1 [y > ax1 + bx2 + c] | (a, b, c) ∈ Θ = R3}
例2：指数型分布族（確率的）
{ p (y = 1 | x; θ) = exp ...

ニューラルネットで確率を表現する
yが連続値の場合
y = NN (x; θ) + ε
ε ~ N(ε | 0, I)
22
NNx
ε
_ + _ y
p(y | x; θ) = N (y - NN(x; θ) | 0, I)

ニューラルネットで確率を表現する
yが連続値の場合
µ, σ = NN (x; θ)
ε ~ N (ε | 0, 1)
y = µ + σ ε
23
NNx
µ
σ
Gauss y
ε
p (y | x; θ) = N (y | µ, σ)

ニューラルネットで確率を表現する
yが2値の場合
z = NN(x; θ)
p(y=1 | x; θ) = sigmoid(z)
24
NNx z
sig
moid
p
sigmoid(s) = 1/(1 + exp(-s)) ：シグモイド関数

ニューラルネットで確率を表現する
yがK個のカテゴリ値の場合
z = NN(x; θ) ∈ RK
P = softmax(z)
p (y=k | x; θ) = Pk for k = 1, …, K
25
NNx z
soft
max
y
so...

機械学習のレシピ2：損失関数 L(x, y; θ)
予測モデルの「精度」を測る関数
• L の関数形は設計者次第だが、通常 x に対する予測結果が望ましい
結果 y に近いほどL (x, y, θ) が⼩さくなるように定義する
26

損失関数の例
例1：Toy example
L(x, y; (a, b, c)) = 1[y^(x) ≠ y], y^(x) = 1[ax1 + bx2 + c > 0]
例2：2乗誤差
L(x, y; θ) = (f (x; θ) – y)2...

2乗誤差 =ガウスノイズ + 最尤推定
次のようなモデルを考える
• 仮説集合：{ fθ : X → Y | θ ∈ Θ}（決定的な関数）
• 損失関数：L(x, y; θ) = (fθ (x) - y)2（⼆乗誤差）
これは、次のモデルと同等...

訓練誤差最⼩化
• 最適化に利⽤できるLの情報は問題設定によって異なる
argminθ ∑i L(xi, yi; θ)
θ：パラメータ
x：⼊⼒ベクトル
y：正解ラベル
L：損失関数
29
クエリ使える情報
ブラックボックス最適化 (x, y...

この定式化に乗らない例
Generative Adversarial Network (GAN)
[Goodfellow+14]
⽣成器 Gと識別器 Dからなる
⽣成器は本物のデータと⾒分けがつかない偽データを⽣成するのが⽬標
識別器は本物のデ...

GANの⽣成結果
• 正確にはGANの改良版であるWasserstein GAN (WGAN)
[Arjovsky+17]の結果
• Wasserstein GANの論⽂では関数空間の位相について議論し
ていて、数学の⼈にも⾯⽩いと思う
31A...

アジェンダ
• 導⼊
• 機械学習の理論
• 定式化
• 最適化
• 汎化性能
• 深層学習
32

⼀番楽な⽅法：解析解が求まる
∇θ E^(θ) = 0 が（θ に関する⽅程式として）解析的に計算できる
ならば、最⼩解を直接計算すれば良い
例：線形モデル + 2乗誤差 + L2 正則化
33
E^(θ) = 1/N ∑i L(xi, yi;...

数値最適化
34
argminθ ∑i L(xi, yi; θ)
• ⼀般には解析的には解けないので数値最適化アルゴリズムを利
⽤して、最適解に近い解を探索する
• L や Θ の形によって、様々な最適化の⼿法が提案されており、
理論的な保証や...

勾配降下法 (Gradient Descent, GD)
35
initialize θ
until some criterion is satisfied:
θ ← θ - η ∇θ E^(θ)
output θ η：学習率
E^(θ) = ...

凸関数
f : Rd →Rが凸関数であるとは任意のa, b∈Rd, t∈[0, 1]に対して、
f (ta + (1-t) b) ≦ t f (a) + (1-t) f (b)
が成り⽴つこと
36

GDの収束の理論保証（凸関数の場合）
勾配法による最適化で最適解への収束や、そのスピードを評価できる
• 仮説空間がユークリッド空間のコンパクト集合
• 損失関数が凸関数でリプシッツ性を持つ
37
厳密に⾔うとparameter averagi...

Gradient Descentの問題点
• 計算量が重い
• 各訓練データに対して勾配を計算するので、計算量はO(訓練データ)
• Saddle pointやlocal minimumにはまる（後半で詳しく）
38

Stochastic Gradient Descent (SGD)
39
until some criterion is satisfied:
get data (x, y) randomly
θ ← θ – η N ∇θ L(x, y; θ)...

SGDの収束保証（凸関数）
40
ここが期待値に
変わっただけ

凸関数の場合
strongly convexを仮定すると、GDによる最適化で、より早い
global minimumへの収束を証明できる
41
※この定理で証明されているSGDのアルゴリズムでは、学
習率ηは⼀定ではなく、イテレーションごとにη...

アジェンダ
• 導⼊
• 機械学習の理論
• 定式化
• 最適化
• 汎化性能
• 深層学習
42

素朴な疑問
こういう分類器を作れば分類精度
100% !!
→ あまり良くない
複雑な分類曲線を引ける
＝仮説集合 Θ が「⼤きい」
＝候補となる予測モデルが多い
43
●●
●
● ●
●
●
●
●
●
●
●
●
●
●
●
●
●●...

過学習 (Overfitting)
• 機械学習を適⽤したいタスクでは、今⼿元にあるデータだけではな
く、未知のデータに対する予測能⼒（汎化能⼒, generalization）
を持つようにしたい
• 複雑な仮説集合では、真のデータ分布だけで...

$過学習 45 q データ分布サンプリング (xi, yi) ~ q i.i.d D ={(xi, yi)i=1,…,n} 推定（訓練誤差最⼩解） pθ^ 訓練データ学習モデルデータが真のデータ分布 q からi.i.d.でサンプリングさ...$

適切な仮説集合の⼤きさ
46
Under fitting
仮説集合が⼩さすぎると
すでにある訓練データを正しく予測できない
Over fitting
仮説集合が⼤きすぎると、訓練データを予測できるが、
未知のデータの予測が悪くなる（かもしれない）

正則化
予測モデルが持つモデルに適当な制約をかけることにより、過
学習を防ぐテクニック
47
E^ (θ) = 1/N ∑i L(xi, yi; θ) + λ ||θ||2
2
例：L2正則化
訓練誤差にパラメータのノルムに関するペナルティを加...

アジェンダ
• 導⼊
• 機械学習の理論
• 深層学習
48

深層学習（ディープラーニング）
• 機械学習の⼀種
• 予測器（先ほどの L）として、⼊⼒データに対して、単純かつ
微分可能な変換を何回も適⽤するモデルを利⽤する
49
http://www.wsdm-conference.org/2016/s...

深層学習の基本計算
• 下層の⼊⼒ x を重み付きで⾜しあわせ、活性化関数 h をかけて出
⼒
50
x1
x2
x3
+1
a
w1
w2
w3
w4
h
a = h(x1w1+x2w2+x3w3+w4) = h(wtx)
hの例 ReLU:...

Multi Layer Perceptron (MLP)
この計算を何層にも重ねる
51
x1
x2
x3
x4
y
0.3
-0.2
0.4
重み
結合ユニット
アーキテクチャ
（ユニット数や層数を指定して、重みは指定しない）

深いネットワーク
52http://image-net.org/challenges/talks/ilsvrc2015_deep_residual_learning_kaiminghe.pdf

深層学習モデルのパラメータ数
53
Dean, Jeffrey, et al. "Large scale distributed deep networks." Advances in neural information processing...

学習アルゴリズム（SGD）
ニューラルネットは誤差逆伝播により勾配を効率的に計算できる
54
initialize θ
until convergence:
get data (x, y)
θ ← θ - η ∇θ L(x, y; θ)
η：学...

Neural Network as a Computational Graph
• 多くのフレームワークでは、NNは計算グラフとして実現される
• データノードと計算ノードからなる2部グラフのDAGとして表現す
るのが計算グラフの最も簡単な表現...

順伝播（forward propagation）
56
y = x1 * x2
x1 mul suby
x3
z
x2
z = y - x3

連鎖律（Chain Rule）
57
活性の伝播⽅向
エラーの伝播⽅向
x f y
x f y
→ 勾配は活性と逆向きに伝播する
Forward Propagation
損失をLとすると、連鎖律より

誤差逆伝播（Backpropagation）
58
y = x1 * x2
* ga is a derivative of z w.r.t. a i.e. ga =∇a z
x1 mul suby
x3
z
x2
z = y - x3
gx1 ...

まとめ
• 機械学習では、ルールでは記述できないようなデータの傾向・
法則を捉えることで、未知データに対する予測を⾏える事を⽬
指します
• 頻度論でのアプローチでの教師あり分類問題は、そのためには
仮説集合と損失関数から訓練誤差を定義し、それ...

後半の内容の予告
60

残念なお知らせ：
深層学習のモデルが作る損失関数は⾮凸
⼼配事1
「勾配法はsaddle pointにはまってしまうのでは！？」
⼼配事2
「勾配法ではlocal minimumにしかたどりつけないのでは！？」
• Q. 深層学習のモデルが作る...

深層学習の汎化性能
深層学習のモデルはとてつもない数のパラメータ数を持つにも
関わらず、過学習せずに学習できる（こともある）
深層学習モデルの汎化性能を理論的に説明できないか？
62