Your SlideShare is downloading. ×
5、系列ラベリング
Upcoming SlideShare
Loading in...5
×

Thanks for flagging this SlideShare!

Oops! An error has occurred.

×

Introducing the official SlideShare app

Stunning, full-screen experience for iPhone and Android

Text the download link to your phone

Standard text messaging rates apply

5、系列ラベリング

1,566
views

Published on


0 Comments
2 Likes
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total Views
1,566
On Slideshare
0
From Embeds
0
Number of Embeds
2
Actions
Shares
0
Downloads
9
Comments
0
Likes
2
Embeds 0
No embeds

Report content
Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
No notes for slide

Transcript

  • 1. 5、系列ラベリング 落合英将
  • 2. 系列ラベリングとは(1)• 入力トークンの系列 x={x1,x2‥xN} が与えられた時 それに最適なラベル列 y={y1,y2,‥yN} を予測する問題。 (外部ページより)
  • 3. 系列ラベリングとは(2)• 例えば品詞タグ付 系列(単語トークン) “Nurture passes nature.” {[名詞],[動詞],[名詞]} ラベル列(品詞)
  • 4. 系列ラベリングとは(3)• 系列ラベリングの問題点 – 単語一つずつにすべての品詞を試そうとすると 大変な回数になる。 系列ラベリングのための特別な手法が必要
  • 5. そのための手法• 隠れマルコフモデル• 通常の分類機の逐次適用• 条件付き確率場(CRF)品詞情報から次の品詞を推定する
  • 6. チャンキングへの適用• チャンキング – 意味的、文法的にまとまった部分を見つけること 例えば人を表している部分を見つけること 人を表す部分の開始地点 人を表す部分 トークン:Suddenly, the tall German guy talked to me. ラベル列: O B I I I O O O O:outside B:beginning I:inside
  • 7. チャンキングへの適用(2)• Oの次はOが来やすい• Oの次はIにならない• どんなラベルが来るかは相互に依存している。 →系列ラベリングの問題とみなせる。
  • 8. • おしまい
  • 9. 隠れマルコフモデル(1) 準備• 系列をx、ラベル列をyと表す。• HMMでは各状態はその直前の状態にのみ依存 すると仮定。( , は −1 , −1 に依存)• xとyの同時確率分布は , = ( , |−1 , −1 ) = | −1 ) となる
  • 10. 隠れマルコフモデル(2) 尤度:ある前提条件に パラメータ推定(1) 従って結果が出現する場 合に、逆に観察結果から 見て前提条件が何々で• 訓練データD = x 1 , y 1 , … , , あったと推測するもっとも に対する最尤推定よりパラメータを求める。 らしさを表す数値• 対数尤度は次のようになる。 最尤法:統計学において、与えられたlog () = データからそれが従う確率分布の母数= log , について推測するためによく用いられ る方法 , ∈ = log + log −1 , ∈ ≡ (|) ≡ (|′)= , , log | + ( ′ , , ) log |′ , ,′データDにおいてxにラベルyが データDにおいてy’の次にyが ついてた回数 出現した回数
  • 11. 隠れマルコフモデル(3) パラメータ推定(2)• 前ページ最後の= , , log | + ( ′ , , ) log |′ , ,′をラグランジュ法を用いて最大化するパラメータを求めると。 , , ′ , , | = , q |′ = ′ , , ( , , )となる。
  • 12. 隠れマルコフモデル(4) HMMの推論