Representation Learning Using Multi-Task Deep Neural Networks for Semantic Classification and Information Retrieval
Xiaodong Liu, Jianfeng Gao, Xiaodong He, Li Deng, Kevin Duh, Ye-Yi Wang
Representation Learning Using Multi-Task Deep Neural Networks for Semantic Classification and Information Retrieval
1. Komachi Lab
M1 宮崎亮輔
2015/06/24
Representation Learning Using Multi-Task Deep Neural Networks
for Semantic Classification and Information Retrieval
!
Xiaodong Liu, Jianfeng Gao, Xiaodong He, Li Deng, Kevin Duh, Ye-Yi Wang
NAACL読み会2015
※このスライド中の図はこの論文中のものです
2. Komachi Lab
Abstract
✤ 最近のDNNって目的のタスクに対して直接最適化してなかったり!
✤ 任意のタスクへの教師ありもトレーニングデータの不足とかあるし!
✤ ということでMulti-Task DNN for Representation を提案!
- C&Wとの違い?→今回は処理の違うタスク同士!
- query classification(今回は4ドメイン)とranking for web search!
✤ データ量が増えるだけでなく、
正則化の効果も(ドメインアダプテーション)
2