Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

テキストマイニング (2)

2,268 views

Published on

  • Be the first to comment

  • Be the first to like this

テキストマイニング (2)

  1. 1. 推理小説のテキストマイニン グ
  2. 2. 分析に用いた小説• 明治開化 安吾捕物 その一 舞踏会殺人事件 (1950) 筆者:坂口安吾1章、泉山虎之介が勝海舟に事件解決の助けを求めにいく2章、虎之介が勝海舟に事件の内容を聞かせる。3章.勝海舟が話を聞いてその場で犯人を推理4章、探偵の結城新十郎が真犯人をあてる
  3. 3. 左が青空文庫にあったテキスト、右が変形したも
  4. 4. 登場人物紹介
  5. 5. 抽出語をピックアップしなかった場合の出現数が多かった単語
  6. 6. 登場人物の名前をピックアップ
  7. 7. 分析した語をピックアップした後の表
  8. 8. 文中における単語を集計した表
  9. 9. 対応分析(コレスポンス分析)対応分析とは ・クロス集計表において行の要素と列の要素の相関が大きくなるように二次元空間に配置すること ・行と列の関係性を見ることができる ・クロス表をもとにするので二つの変数の間の関係しか使用できない
  10. 10. 1、クロス集計表を行の項目と列の項目の相関が最大になるように行と列の双方向を並び替える2、並び替えた表から行と列のそれぞれの相対比率のパターンを求める3、固有値を使って行と列の成分スコアを求める4、成分スコアを散布図に配置する行と列の関係を表した図ができるので行と列を見比べる タグ毎における出現した単語の回数の集計表
  11. 11. 行にタグを、列に単語を設定したのでタグと単語の関係をみる
  12. 12. タグ × 抽出語 のクロス表(名詞、強制抽出語、動詞のみ)
  13. 13. ・タグ2では事件の概要が主だったので倒れたや駆けるなどの動作や事件に関わった人の名前が近くに配置・タグ4では新十郎が推理を披露し犯人を当てるところなのでその単語が近くに配置
  14. 14. 多次元尺度法・データの構造を考察する方法・個体間の親近性データに基づいて近しいものを近くにそうでないものを遠くに、二次元上、又は三次元上に表して個体間の相関関係を視覚的に見る 量的データの場合、個体間の距離を求めて距離が近いものと遠いものを距離に基づいて配置 質的データの場合、個体間の類似度を求めて類似度が大きいほど個体間 の関連性が強いので近くに配置・軸は関係なく図に配置されている個体のなかで解釈する 手順 1、各項目間の距離を測る 2、座標値を求める 3、2~3次元上でデータを配置
  15. 15. 抽出語 × タグ のクロス表(名詞、強制抽出語、動詞のみ)
  16. 16. 名詞と強制抽出した語と動詞の頻度順上位10位を対象
  17. 17. 階層的クラスター分析・対象間の関連性を表すデータを分析 データのパターンが似ているもの同士をグループにまとめてかたまり構造を把握・樹形図と呼ばれる図を作成・どのようにグループ分けをするかの基準を使わずグループ分けをする http://mjin.doshisha.ac.jp/R/28/28.html
  18. 18. 前段階として対応分析などで描いた図をもとにどのように分類できるかを検討する手順 1、データ間の相関係数から距離や類似度を求め距離行列を作成する ピアソン関数やコサイン係数を用いる2、1を元にコーフェン行列を求める グループごとの距離の行列のこと(一番始めは個体間の距離)3、2を元に樹形図を作成する4、2、3をグループが一つになるまで続ける
  19. 19. 抽出語 × タグ のクロス表(名詞、強制抽出語、動詞のみ)
  20. 20. ネットワーク分析・もとは通信ネットワークや組織の編成などに使われていた・語をノードとして表現して共起性があるものを線でつないで結び合わせたネットワークマップとして表示 ・密度(ネットワークに含まれる関係の密さを示す度) 密度が大きいほどノードからのびる線が多くなる ・接近中心性(ある点が他の点にどれだけ近いかを示す指標) ・次数(あるノードに接している辺の数) の3つを計算して図に表す これをノードと呼 ぶ http://mjin.doshisha.ac.jp/R/61/61.html
  21. 21. 1、各単語のバイグラムを求める バイグラムは前後で組み合わせになっているもの2、そのなかで頻度が多い順に並べる3、頻度が多いものをネットワークマップとして表示 http://mjin.doshisha.ac.jp/R/61/61.html
  22. 22. 文中における単語を集計した表
  23. 23. 分析してみて分かったこと• 推理小説の分析には対応分析が一番適し ている。 →どの章でどんなことが書かれているかがわかる・読者が文脈から読み取らなければいけな いことが分析では読み取ることができな い。 例えばこの小説の場合真犯人は別にいるが明確に書かれていないので読んだ人は真犯人が誰かが推測できるが文章を機械的に分析するだけでは分からない。

×