2019年6月2日 ICLR 2019 読み会 in 京都　発表資料 https://connpass.com/event/127970/ 紹介論文: https://arxiv.org/abs/1807.07543

1. オムロンソーシアルソリューションズ株式会社
ICLR2019 読み会 in 京都
LT
“Understanding and Improving Interpolation in
Autoencoders via an Adversarial Regularizer“
2019.06.02
山本 (wkwkw)

2. 自己紹介
 オムロン ナントカカントカ（去年中途入社）
• ちょっと前まで：データ分析とか時系列予測とかする人
⁃ 論文もどき
• 最近：ロボット作る人
⁃ 業務用お掃除ロボット開発中
 先週ICRA（カナダ）見てきました。興味ある人は懇親会で！
2

3. 今日の論文
 Autoencoderによる“補間”をもっとそれっぽくしようぜ、という話
手書き文字ではなくない……？ 3

4. 提案手法
 GANのノリで、出力結果の “それっぽさ”を判断する
Criticモジュールを追加
• Critic：AEの出力がどのような比率で補間されたものかを学習する
• AE：Criticが”補間されたものではない”と判断するような出力を学習する
 Adversarially Constrained Autoencoder Interpolation
VS
お、お前は！数年前に流行った
健康食品のアサイー！ 4

5. 補間性能の評価
 出力結果例
• MNIST
• SVHN
う～ん、それっぽい！（完）
……で終わっちゃいたいけど、定量評価はしないといけない
→ でも、補間のそれっぽさってどう評価すれば？ 5

6. 人工データによる補間性能の評価
 人工的に生成したライン画像を用いた定量評価手法を提案
• 以下2指標で評価
⁃ Mean Distance: 角度を合わせた正解画像との差分の大きさ
⁃ Smoothness: 理想的な角度の推移と比べたときの、角度変化ズレの最大値
• Examples
この間をいい感じに補間できる画像を生成するタスク
6

7. 各種AE手法の補間性能の定量評価
 ACAIの補間性能が各種AE手法よりよいことを定量的に示した
Mean Distance: 角度を合わせた正解画像との差分の大きさ
Smoothness: 理想的な角度の推移に比べたときの、角度変化ズレの最大値
7

8. So what?
 いい感じに補間できるのはうれしいけど、それだけ？
 実は、補間がうまくいく潜在表現は、他のタスクでも強い可能性が
• 分類タスク、クラスタリングタスクで性能の向上を確認
• 各種AEで得られた潜在表現を入力に、各タスクを実行
← 分類タスクの成績
天下のGoogle Brain様がポスターに詐欺グラフを載せるなんて……（笑） 8

9. まとめ
 4 Contributions
• “補間性能の高い”潜在表現を生成するAE手法を提案
• 補間性能の高さを定量評価する手法を提案
• 既存の各種AE手法を含めた補間性能の比較を実施
• 補間性能が高い潜在表現は、別タスクでも高性能な可能性を実験で示唆
 小並感
• Data Augumentationにも有効？
• 将来的には補間のうまくいくベクトル空間と、各種タスクのうまくいくベクトル空間
の関係性を理論的に示すような研究とかが出てくる？
Paper: https://arxiv.org/abs/1807.07543
Code: http://github.com/brain-research/acai
Poster: http://bit.ly/acai-posterThanks! 9

10. [参考]
10

11. [参考]
11

12. [参考]
12