Paper Introduction "A Topic-Sensitive Model for Salient Entity Linking"
•Download as PPTX, PDF•
0 likes•461 views
This is a paper introduction of "A Topic-Sensitive Model for Salient Entity Linking". Entity Linking is kind of NLP task. The purpose of the task is identifying a set of entities which target input document contains. The salient entities are defined as entities that have a really important role to catch a document's aboutness. In other words, salient entities are central to the input document. The paper introduced on this slide proposed a new Graph-based linking method that identifies a set of salient entities. The method introduced a Wikipedia category information into Graph structure.
![ざっくり論文紹介
[ISWC 2015, LD4IE(workshop)]
A Topic-Sensitive Model for
Salient Entity Linking
Lei Zhang, Cong Liu, and Achim Rettinger
Institute AIFB, Karlsruhe Institute of Technology(KIT), Germany
Introduced by Tatsuro Miyamoto, University of Tsukuba, 27 𝑡ℎ
June. 2019](https://image.slidesharecdn.com/paperintroduction-190627074829/85/Paper-Introduction-A-Topic-Sensitive-Model-for-Salient-Entity-Linking-1-320.jpg)
Recommended
More Related Content
Recently uploaded
Recently uploaded (16)
Featured
Featured (20)
Paper Introduction "A Topic-Sensitive Model for Salient Entity Linking"
- 1. ざっくり論文紹介 [ISWC 2015, LD4IE(workshop)] A Topic-Sensitive Model for Salient Entity Linking Lei Zhang, Cong Liu, and Achim Rettinger Institute AIFB, Karlsruhe Institute of Technology(KIT), Germany Introduced by Tatsuro Miyamoto, University of Tsukuba, 27 𝑡ℎ June. 2019
- 2. 論文概要と手法の特徴 • A Topic-Sensitive Model for Salient Entity Linking (ISWC2015, ワークショップ) • メンション，エンティティ，(wikipediaの)カテゴリの計3種のノードと，そ れらの関連度を表す重み付き有向エッジから成るグラフを作成 • カテゴリノードの導入 • カテゴリ，エンティティノード間の重み(関連度)を定義 • Personalized PageRankによりエンティティノードのPageRank値を求め，各 メンションの候補エンティティのうち最大PageRank値を持つエンティティ をリンキングさせる • PageRank値が，以下の2点を表現するようにグラフ，バイアスベクトルを設計 1. メンションの正解エンティティらしさ 2. 文書dにおけるsaliencyの高さ • リンキング結果のうち，閾値𝜏より大きいPageRank値のエンティティを salient entityとする
- 4. 𝑚1 𝑚2 𝑚3 𝑒1 𝑒2 𝑒3 𝑒4 𝑒5 𝑒6 𝑒7 𝑒8 𝑒9 𝑐1 𝑐2 簡単化のためカテゴリノードは2つ (実際には，Wikipedia主要カテゴリが 16種類なので16個のカテゴリノード が作成されます) 提案手法のグラフの作り方を 解説します
- 5. 𝑚1 𝑚2 𝑚3 𝑒1 𝑒2 𝑒3 𝑒4 𝑒5 𝑒6 𝑒7 𝑒8 𝑒9 𝑐1 𝑐2 𝑚𝑖 𝑒𝑗 へのエッジ Wikipedia上でアンカーテキスト𝑚𝑖が エンティティ𝑒𝑗にリンクした割合 入力文書における𝑚𝑖の周辺分脈と， 𝑒𝑗のwikipediaページのdescriptionの類似度 メンションから，その候補エンティティへと エッジが張られる 上記2つの重み付け和をとる
- 6. 𝑚1 𝑚2 𝑚3 𝑒1 𝑒2 𝑒3 𝑒4 𝑒5 𝑒6 𝑒7 𝑒8 𝑒9 𝑐1 𝑐2 𝑒𝑖 𝑒𝑗 へのエッジ WLM(𝒆𝒊, 𝒆𝒋) (Witten et al. 2008) • Wikipediaのリンク構造を利用 • 𝑒𝑖と𝑒𝑗の，それぞれのリンク先Wikipedia ページ集合を抽出し，重複が多いほど𝑒𝑖 と𝑒𝑗の類似度が高いとする尺度 𝑒𝑖 のWikipediaページに，𝑒𝑗のwikipediaページ へのリンクを示すアンカーがあれば𝑒𝑖→ 𝑒𝑗エッ ジを張る 𝑒イチロー → 𝑒野球 のエッジは張られそうだけど， 𝑒野球→ 𝑒イチローのエッジは張られなさそう． 𝑒野球みたいな抽象度の高いエンティティにエッ ジが集まる設計にしたいのかな
- 7. 𝑚1 𝑚2 𝑚3 𝑒1 𝑒2 𝑒3 𝑒4 𝑒5 𝑒6 𝑒7 𝑒8 𝑒9 𝑐1 𝑐2 𝑐𝑖 𝑒𝑗 へのエッジ カテゴリ𝑐𝑖 に， 𝑒𝑗 が属していれば𝑐𝑖→ 𝑒𝑗エッ ジを張る Wikipediaのカテゴリツリー構造を利用 カテゴリ𝑐𝑖に属する𝑒𝑗の，カテゴリツリーで の深さ 𝒅(𝒄𝒊, 𝒆𝒋) 𝑺𝑨(𝒄𝒊, 𝒆𝒋) = 𝟏 𝒅(𝒄𝒊, 𝒆𝒋) Root Health Medicine Food Sports… … Semantic Association 𝑺𝑨(𝒄𝒊, 𝒆𝒋) 深さって何を意味 するんだ…？ 16カテゴリある
- 8. (Personalized PageRankでリンキングを行 うための)バイアスベクトル設計 𝑚1 𝑚2 𝑚3 𝑐2 𝑐1 𝑒1 𝑒2 𝑒9 ⋮ 0 0 0 ⋮ Mention Importance 𝑃 𝑚. 𝑠 𝑃 𝑚. 𝑠 = 𝐶𝑜𝑢𝑡𝑛𝑙𝑖𝑛𝑘 𝑚. 𝑠 𝐶𝑜𝑢𝑛𝑡𝑙𝑖𝑛𝑘 𝑚. 𝑠 + 𝐶𝑜𝑢𝑛𝑡𝑡𝑒𝑥𝑡(𝑚. 𝑠) : : アンカーテキストとして𝑚. 𝑠が出現したWikipediaページ数 raw textとして𝑚. 𝑠が出現したWikipediaページ数 固有名詞メンションなどは一般名詞メンションと比べ 高い値になるのではないか ”We define the probability P(m.s) that captures how likely m refers to an entity” →ある文字列のメンションらしさ？ (𝑚. 𝑠: メンションmのsurface form)
- 9. (Personalized PageRankでリンキングを行 うための)バイアスベクトル設計 𝑚1 𝑚2 𝑚3 𝑐2 𝑐1 𝑒1 𝑒2 𝑒9 ⋮ 0 0 0 ⋮ エンティティノードへのバイアスは0
- 10. 𝑚1 𝑚2 𝑚3 𝑐2 𝑐1 𝑒1 𝑒2 𝑒9 ⋮ 0 0 0 ⋮ Document-specific Category Importance 𝑃(𝑐) 入力文書d SVMで他クラス分類(1 vs 1) 入力文書dに対し，各wikipedia主要カテゴリへの所属確率を求める ペアワイズカップリング(Hastie et al. 1997)＋ 0.75 0.25𝑃 𝑐1 𝑐2 0.35 0.2𝑃 0.24… 𝑐1 𝑐2 𝑐16 ただし，主要カテゴリは16種類 なので実際には．．． (Personalized PageRankでリンキングを行 うための)バイアスベクトル設計
- 11. 𝑚1 𝑚2 𝑚3 𝑒1 𝑒2 𝑒3 𝑒4 𝑒5 𝑒6 𝑒7 𝑒8 𝑒9 𝑐1 𝑐2 𝑚1 𝑚2 𝑚3 𝑐2 𝑐1 𝑒1 𝑒2 𝑒9 ⋮ 0 0 0 ⋮ 固有名詞メンションの 候補エンティティほど より多く遷移するよう に 入力文書dと類似した カテゴリの候補エン ティティほど多く遷移 するように ランダムウォーカーの遷移 メンションとの関連性が より高い候補エンティ ティへ Coherenceがより 高い候補エン ティティへ (よりカテゴリを代表 する候補エンティ ティへ？) バイアスベクトルの意図
- 12. 𝑚1 𝑚2 𝑚3 𝑒1 𝑒2 𝑒3 𝑒4 𝑒5 𝑒6 𝑒7 𝑒8 𝑒9 𝑐1 𝑐2 𝑒1 𝑒4 𝑒8 リンキング結果から・・・ PageRank値が閾値𝜏より高いものを Salient entityとする 𝑒1 𝑒4 Personalized PageRankによりリンキング Salient entity検出完了