論文紹介 遠藤 20170822

1. 論文紹介 第3回
2017.8.22
Wataru Endo
1

2. 論文紹介 第3回
8/22(火)18:00～20:00(最大) 東京:3F北大会議室,大阪:18F窓側会議室
1. 18:00～18:15 遠藤
Dynamic Pooling and Unfolding Recursive Autoencoders for Paraphrase
Detection
2. 18:15～18:30 -
-
3. 18:30～18:45 -
4. 18:45～19:00 –
5. -
6. -
7. -
8. -
2

3. Dynamic pooling and unfolding recursive autoencoders for
paraphrase detection
RichardSocher,EricH. Huang,Jeffrey Pennin,AndrewY. Ng, and ChristopherD. Manning.2011
概要:
MSRP paraphrase corpus1 を用いたParaphrase Detection
で当時のstate-of-the-artを超える結果を残した
貢献:
RAE(recursive autoencoders)をベースにしたParaphrase
Detection手法を提案
3
1.https://www.microsoft.com/en-us/download/details.aspx?id=52398

4. • 比較するパラフレーズのフレーズツリー毎にベクターへ圧縮し、
パラフレーズかどうか判断できる
4

5. 圧縮されたベクターには
中間的な構造も含まれている
5

6. Result
6

7. 関連研究
[5]Y. Bengio, R. Ducharme, P. Vincent, and C. Janvin.Aneural probabilistic language
model. J. Mach. Learn. Res., 3, March 2003.
[6] R. Collobert and J. Weston.Aunified architecture for natural language processing: deep
neural networks with multitask learning. In ICML, 2008.
[7]Y. Bengio, J. Louradour, Collobert R, and J. Weston. Curriculum learning. In ICML, 2009.
[8] J.Turian, L. Ratinov, and Y. Bengio. Word representations:a simple and general
method for semisupervised learning. In Proceedings ofACL, pages 384–394, 2010.
[9] J. B. Pollack. Recursive distributed representations.Artificial Intelligence, 46, November
1990.
[10]T. Voegtlin and P. Dominey. Linear Recursive Distributed Representations. Neural
Networks, 18(7), 2005.
[11] J. L. Elman. Distributed representations,simple recurrent networks, and grammatical
structure.Machine Learning, 7(2-3), 1991.
7