[DL輪読会]A Surprisingly Effective Fix for Deep Latent Variable Modeling of Text
1. DEEP LEARNING JP
[DL Papers]
A Surprisingly Effective Fix for Deep Latent Variable
Modeling of Text
Toru Fujino, UTokyo, SCSLab
http://deeplearning.jp/
1
2. 概要
• A Surprisingly Effective Fix for Deep Latent Variable Modeling of Text
• EMNLP 2019 (short paper)
• 要約
• テキストを扱うVAEで学習上の問題となっていたPosterior collapseに対し, 先行研究
で提案されていた手法を組み合わせて使うことにより問題を軽減し, 従来よりも性能
を大幅に更新. また, テキストにおけるVAEではELBOが不適切であることを指摘.