動画 http://youtu.be/TgoJsgT2CsA?list=UUhwtfJp9l_thFbFDWXoGWEQ

1. 文献紹介 2014/05/01
長岡技術科学大学
自然言語処理研究室
岡田正平

2. 紹介する文献
2

3. 文献情報
Roman Klinger and Philipp Cimiano.
Bidirectional Inter-dependencies of Subjective Expressions and Targets and their Value for Joint Model.
Proceedings of the 51st Annual Meeting of the ACL, pp. 848-854. 2013
3

4. 概要
•
Opinion mining におけるsubjective expression とtarget の相互依存性を扱う
–
既存研究は1方向しか扱っていない
•
双方向の関係を扱うsubjective expression お よびtarget を抽出するモデルの提案
4

5. 背景
5

6. 背景
sentiment analysis やopinion mining

subjective term, polarity, targetの同定
e.g.) I like the low weight of the camera.
subjective:“like”target:“low weight”
polarity:positive
•
これらは相互依存関係にあるのでは？
6

7. 扱う問題
•
subject termについての知識が完全な場合と 不完全な場合の比較
•
targetについての知識が完全な場合のsubject termの予測への影響
•
targetについての知識が不完全な場合はどう か（学習したモデルからの予測）
7

8. IMPERATIVELY DEFINEDFACTOR GRAPH
8

9. Factor Graph
•
factor とvariable からなる2部グラフ
•
多変数関数のfactorize に対応
9
wikipedia“factor graph” より転載
푔푋1,푋2,푋3=푓1푋1푓2푋1,푋2푓3푋1,푋2푓4(푋2,푋3)

10. Factor Graph
•
ベイズ推定の応用（誤り訂正など）に用い られるらしい
•
NLPではn-gram言語モデルとか？
10

11. Imperatively Defined Factor Graph
•
variable に入力変数集合xと出力変数集合y がある
•
入出力変数の部分集合x푖,y푖を引数とする関 数푓푖x푖,y푖がfactor Ψ푖
•
言い換えれば，(x푖,y푖)から得られる特徴量が factor?
11

12. Imperatively Defined Factor Graph
A factor template푇푗consists of parameters{휃푗푗}, sufficient statistic functions{푓푗푗}, and a descriptionof an arbitrary relationship between variables, yielding a set of tuples x푖,y푖（元の文献より引用）
•
ここ（特にdescription が何か）の理解が不十分
12

13. Imperatively Defined Factor Graph
•
確率分布が次式で表現される
•
푝yx= 1 푍(x) ΠΠexp(Σ휃푗푗푓푗푗(x푖,y푗)) 퐾푗 푘=1x푖,y푖∈푇푗푇푗∈T
•
全factor とパラメータの線形結合
13

14. 抽出モデル
14

15. Model | variable
•
variable はsubjective term とtarget
•
複数トークンからなる表現に対応すべく span として表現
•
푠=푙,푟,푐
푙,푟はトークン列中のspan の左端・右端の位置
푐∈{target,subjective}
15

16. Model | factor template
•
factor template は大きく分けて2種類
–
single span template
–
inter-span template
16

17. Model | single span template
•
トークンのPOSタグ(POS)
•
トークンの文字列（小文字）(W)
•
トークンのPOSタグ&文字列の組み合わせ (POS-W)
•
span内のPOSタグ列(POS-SEQ)
17

18. Model | inter-span template
•
以下の3つと，single span template の組合わせ
–
target のspan がsubjective term に隣接する名詞を 含むか([NO-]CLOSE-NOUN-x）
–
他クラスのspan が同じ文中に存在するか([NO- ]BOTH-x)
–
target とsubject 間に単一の係り受け関係があるか ([NO-]ONE-EDGE-x)
18

19. 例（元の文献より転載）
19

20. Model | サンプリング
•
MCMC法により推定を行う
•
1回のサンプルごとに各span はclass を変え られるか，1トークン分伸ばすか縮められる
20

21. 実験
21

22. 対象データ
•
J.D. Power and Associates Sentiment Corpora
–
車とカメラについてのblog
–
subjective term とtarget についてアノテート済
•
Twitter data set
–
Stanford parser を用いないため，ONE-EDGEの 特徴量は使えない
22

23. 実験項目
1.
subjective term の推定→ target の推定
2.
target の推定→ subjective term の推定
3.
完全なsubjective term の知識を利用した target の推定
4.
完全なtarget の知識を利用したsubjective term の推定
23

24. 実験結果| camera data set
24

25. 実験結果| car data set
25

26. 実験結果| Twitter data set
26

27. まとめ
•
subjective term とtargetは相互に依存して いることが認められた
•
その影響の仕方は非対称的だった
•
パイプライン的に処理する場合には，先に subjective term を推定した方がいい
27