49. 最近のトピックス
以降最近界隈でバズっている話と、私の個人的に注目する話を紹介します
• 変分ドロップアウト
A Theoretically Grounded Application of Dropout in Recurrent Neural Networks
https://arxiv.org/abs/1512.05287
• ネットワークの深層化
Recurrent Highway Networks
https://arxiv.org/abs/1607.03474
• SRU
Training RNNs as Fast as CNNs
https://arxiv.org/abs/1709.02755
• 混合ソフトマックス
Breaking the Softmax Bottleneck: A High-Rank RNN Language Model
https://arxiv.org/abs/1711.03953
50. 最近のトピックス
以降最近界隈でバズっている話と、私の個人的に注目する話を紹介します
• 変分ドロップアウト
A Theoretically Grounded Application of Dropout in Recurrent Neural Networks
https://arxiv.org/abs/1512.05287
• ネットワークの深層化
Recurrent Highway Networks
https://arxiv.org/abs/1607.03474
• SRU
Training RNNs as Fast as CNNs
https://arxiv.org/abs/1709.02755
• 混合ソフトマックス
Breaking the Softmax Bottleneck: A High-Rank RNN Language Model
https://arxiv.org/abs/1711.03953
技術詳細は時間の観点で割愛
させていただき、概要と先進性
のみを紹介致します