5. Nextremer Inc.
Generative Adversarial Networks
( Generative Adversarial Nets , 2014, Ian J. Goodfellow et al より引用)
+
生成画像
G生成ネットは関数を小さくするように学習
識別関数=D識別ネットが正しい識別を行う度合い
生成画像が本物である確率
本物の画像が本物である確率
8. Nextremer Inc.
Laplacian Generative Adversarial Networks
画像を周波数ごとに分けて識別・生成させるGAN
Laplacian Pyramidの詳細については
The Laplacian Pyramid as a Compact Image Code
1983 P.J.Burt et al. を参照のこと
9. Nextremer Inc.
Deep Convolutional GAN
特別な構造を持ったGenerative Adversarial Nets
・プーリング層を畳み込み層に置き換え
生成ネットではfractionally-strided畳み込み層
・batch normalizationを行う
(バッチ単位で各層への入力を正規化)
・全結合層を排除
・活性化関数をReluとする(最終層のみTanh)
・識別ネットでは全層にてLeakyReLUを使用
10. Nextremer Inc.
Deep Convolutional GAN
<fractionally-stridedとは>
他の論文のdeconvolutionと同義だと思われる
1.逆プーリング
2.畳み込み
p q
r s
p q
r s
0
00
0
00
0
00
0
00
p q
r s
0
00
0
00
0
00
0
00
0で埋める
h12h11 h13
h22h21 h23
h32h31 h33
✖ ✖ チャネル数
フィルタ
11. Nextremer Inc.
Deep Convolutional GAN
( Empirical Evaluation of Rectified Activations in Convolution
Network , 2015, Bing Xu et al より引用)
<Leaky Reluとは>
通常のReluと異なり
0以下の場合に
勾配をつけて処理
本論文の勾配は0.2
12. Nextremer Inc.
Deep Convolutional GAN
・入力は100要素のランダムベクトル
・4つのfractionally-strided convolution層
・64 x 64ピクセルの画像を生成
LSUNデータセットに使われた生成ネットワーク
16. Nextremer Inc.
識別ネットワークのback propagation
Reluの順伝播
<guided backpropagation>
back
propagation
deconvnet
guided
backpropagation
順伝播で
マイナスの要素を
ゼロにする
マイナスの要素を
ゼロにする
上記を両方行う
( STRIVING FOR SIMPLICITY: THE ALL CONVOLUTIONAL NET , 2014,
Springenberg et al より引用)