話題の論文を眺めた

1. 今話題の異常検知論⽂を眺めてみた話
ぱんいち＠ぱんはうす 2020/02/26

2. 書誌情報: Anomaly Detection by Latent Regularized Dual
Adversarial Networks
n とにかく検知精度がハンパない
n CIFAR10でAUC0.9以上はやばい
n 問題設定:
n あるクラスを分布内として，それ以外のク
ラスを分布外としたとき，テストデータで
どれだけ分布外データを検知できるか
n 分布外検知のスタンダードな設定
n ツイートリンク先
n https://twitter.com/shinmura0/status/122562
7508931878912

3. 提案⼿法: 5つのロスで学習される
n ⼀つ⽬のAEをAE1(図左下)，⼆つ⽬のAEをAE2(図右上)とする

4. 提案⼿法: Adversarial loss
n 元画像X(本物)と再構成画像X’(偽物)として，AE1とDで敵対的学習

5. 提案⼿法: Image reconstruction loss
n AE1を利⽤し，元画像Xと再構成画像X’の再構成誤差を⼩さくするように学習

6. 提案⼿法: Center distance loss
n 元画像XをAE1のエンコーダで写像し，その潜在変数がある中⼼cの周りに集まるように学習

7. 提案⼿法: Latent representation loss
n それぞれのAEのエンコーダを⽤いて，XとX’の潜在変数が近づくように学習

8. 提案⼿法: Dual autoencoder loss
n XはAE2の再構成X’’と近づくように学習する⼀⽅で，X’はAE2の再構成画像X’’’から離れるよ
うに学習する (今回の⼿法の新規性)

9. 実験: MNIST(上図) + CIFAR10(下図)
n 異常スコアは元画像と
AE2(AE1(元画像))との差を⽤いる
n 他の⼿法と⽐べても特に
CIFAR10(下図)で圧倒的
n ⾃分の知る限りDADGT[NIPS,
2018]が最強だったイメージだっ
たが，これを超えている
n DADGTは以前紹介している
n https://www.slideshare.net/ssuser9
eb780/nips-2018-139360134

10. 実験: それぞれのロスのablation study
n 特にDual autoencoder lossを利⽤することで，精度がバク上がりしている
!?

11. 感想
n イントロでGANが安定していないことを⽋点としていたが，提案⼿法も敵対的学習使って
るし安定するとはいえないのでは
n なぜこれまでのやりかたと今回のdual lossを組み合わせることが，精度の劇的な向上につな
がるのか，理由が書いていない気がする
n 実装してみたがうまく⾏かなかった