クラスタリングについて
•
0 likes•951 views
大学の講義で発表した資料 ・クラスタリングとは？ ・代表的なクラスタリング方法 の二点についてわかりずらく解説。
Recommended
More Related Content
Similar to クラスタリングについて
Similar to クラスタリングについて (18)
More from Arien Kakkowara
Recently uploaded
Recently uploaded (8)
クラスタリングについて
- 2. 発表内容 クラスタリングとは 凝集型クラスタリング ｋ-‐‑‒ 平均法 混合正規分布型クラスタリング １. ２. ３. ４. ⾔言語処理理のための機械学習⼊入⾨門 p77 − 87 より コロナ社出版 ⾼高村⼤大也 著 ⾃自然⾔言語処理理シリーズⅠ
- 3. キーワード ! ! クラスタリング クラスタ 凝集型クラスタリング k -‐‑‒ 平均法
- 4. クラスタリングとは かみくだいた説明 ・たくさんのデータの中から似たようなデータを ⼀一つのグループとしてまとめる作業のこと ・クラスタリングによってまとめられたグループ のことをクラスタという
- 5. 具体例例 ! テーブル 汚い 店員 いじわる ごはん ⾼高い おばちゃん 態度度悪い 机きれいに して！ ライス 安くして ⾔言葉葉遣い よくならない？ もっと掃除 してください とり天 照りマヨ 毎⽇日置いて ( ´́△｀) アンケート
- 6. 具体例例 ! 店員 いじわる ごはん ⾼高いライス 安くして ⾔言葉葉遣い よくならない？ おばちゃん 態度度悪い もっと掃除 してくださいテーブル 汚い机きれいに して！ とり天 照りマヨ 毎⽇日置いて ( ´́△｀) アンケート クラスタリング
- 7. 具体例例 ! 店員 いじわる ごはん ⾼高いライス 安くして ⾔言葉葉遣い よくならない？ おばちゃん 態度度悪い もっと掃除 してくださいテーブル 汚い机きれいに して！ とり天 照りマヨ 毎⽇日置いて ( ´́△｀) アンケート クラスタ
- 8. クラスタリングとは 注意 ・クラスタリングによって各クラスタの内容を 予想することはできても、はじめからその内容 があることを知ることはできない
- 9. 具体例例 ! 店員 いじわる ごはん ⾼高いライス 安くして ⾔言葉葉遣い よくならない？ おばちゃん 態度度悪い もっと掃除 してくださいテーブル 汚い机きれいに して！ とり天 照りマヨ 毎⽇日置いて ( ´́△｀) アンケート クラスタリング
- 10. 具体例例 ! 店員 いじわる ごはん ⾼高いライス 安くして ⾔言葉葉遣い よくならない？ おばちゃん 態度度悪い もっと掃除 してくださいテーブル 汚い机きれいに して！ とり天 照りマヨ 毎⽇日置いて ( ´́△｀) アンケート 掃除催促 値引交渉 接客態度度改善 商品陳列列 意味不不明 クラスタリングの結果から類推
- 11. 具体例例 ! テーブル 汚い 店員 いじわる ごはん ⾼高い おばちゃん 態度度悪い 机きれいに して！ ライス 安くして ⾔言葉葉遣い よくならない？ もっと掃除 してください とり天 照りマヨ 毎⽇日置いて ( ´́△｀) アンケート 掃除催促？ 値引交渉？ 接客態度度改善？ 商品陳列列？ どんなクラスタができるかわからない
- 12. クラスタリングとは おまけ ・データから、なんらかのモデルや処理理⼿手段を 導くこと→学習(クラスタリングも学習の⼀一つ) ・学習に⽤用いるデータ→学習データ ・学習、学習データはそれぞれ代わりに、 訓練、訓練データとも呼ばれる
- 13. クラスタリングとは ちょっとしたあれ D:データ全体 d:各事象 x:事象をベクトルで表現 D = {d , d , d , … , d } 1 2 3 |D| x , x , x , … , x(1) (D)(2) (3)
- 19. 凝集型クラスタリング ・最も似ているデータ同⼠士でクラスタを形成する クラスタリングの⽅方法 ・クラスタが形成されるプロセスは樹形図による ⼀一つの図で表せる ・ボトムアップクラスタリングとも呼ばれる
- 20. ! 樹形図
- 23. 凝集型クラスタリング ・最も似ているデータ同⼠士でクラスタを形成する クラスタリングの⽅方法 ・クラスタが形成されるプロセスは樹形図による ⼀一つの図で表せる ・ボトムアップクラスタリングとも呼ばれる ・クラスタ同⼠士で最も似ているデータを⽐比較する 場合、クラスタ同⼠士での類似度度の定義が必要
- 24. 凝集型クラスタリング クラスタ同⼠士の類似度度を図る⽅方法 １．単連結⽅方法 ⼆二つのクラスタ内で、最も似たデータ同⼠士の類 似度度をそのクラスタ同⼠士の類似度度とする⽅方法 データの多いクラスタができやすい sim(c ,c ) = max sim(x ,x )ji x ∈ c , x ∈ cjlik lk
- 25. 凝集型クラスタリング クラスタ同⼠士の類似度度を図る⽅方法 ２．完全連結⽅方法 ⼆二つのクラスタ内で、最も似てないデータ同⼠士 の類似度度をそのクラスタ同⼠士の類似度度とする⽅方法 データが少ないクラスタができやすい sim(c ,c ) = min sim(x ,x )ji x ∈ c , x ∈ cjlik lk
- 26. 凝集型クラスタリング クラスタ同⼠士の類似度度を図る⽅方法 ３．重⼼心法 ⼆二つのクラスタの重⼼心間の類似度度をクラスタ同 ⼠士の類似度度とする⽅方法 単連結・完全連結の中間の性質を持っている x ∈ c sim(c ,c ) = sim ( ∑ x , ∑ x)ji x ∈ c ji i j c c| | | | ― 1 1 ―
- 27. k -‐‑‒ 平均法 ・データをｋ個のクラスタに分けることにして、 データ全体を適当に分け、それからより良良く 分ける調整することで、クラスタリングを⾏行行う ⽅方法
- 28. k -‐‑‒ 平均法 ⼿手順 １．ｋの値は⾃自分で前もって決める(任意の個数) ２．無作為でｋ個の代表を決め、各データをどの 代表に近いかで帰属するクラスタを定める ３．各クラスタで平均ベクトルを求め、 その平均ベクトルを新たな代表とする ４．２〜～３をクラスタに変化がなくなるまで⾏行行う
- 29. ! 具体図 代表の無作為選出
- 31. ! 具体図 各クラスタの平均算出
- 32. ! 具体図 新たな代表の決定
- 34. ! 具体図 クラスタリングの収束
- 35. k -‐‑‒ 平均法 ・最初に決めた代表によって結果が変化する ・適切切な値を設定することで、計算量量が減り、 良良い結果が得られる ・凝集型クラスタリングの結果を初期値として 利利⽤用することもある
- 36. k -‐‑‒ 平均法 注意 ・クラスタの数ｋの値によってアルゴリズムの 挙動が⼤大きく変化してしまう (凝集型クラスタリングでは樹形図のどの地点 で切切っても問題ない)
- 37. 混合正規分布型クラスタリング ・k -‐‑‒ 平均法にて ⼆二つの代表の中間付近に位置するデータ →どちらかのクラスタに必ず帰属 ! ! ! ! →確率率率的に分けてみる ! !
- 38. 混合正規分布型クラスタリング 確率率率的に分けてみる ・ の計算を⾏行行う (事例例 がクラスタ に 属する確率率率) ←コレ ・この確率率率分布→正規分布 が定まっている ( ) P( c | x )(i) x (i) c P( c | x ) = =(i) P( c , x )(i) ∑ P( c , x )(i) P(c) exp ( )2σ -|x - m |2(i) c ∑ P(c) exp ( )2σ -|x - m |2(i) c ( x - µ )2 2σ2 exp 2 2 1 2πσ√ 2 σ2
- 39. 混合正規分布型クラスタリング ! ! ! ・多くの正規分布からできている→混合正規分布 ・平均ベクトル P( c | x ) = =(i) P( c , x )(i) ∑ P( c , x )(i) P(c) exp ( )2σ -|x - m |2(i) c ∑ P(c) exp ( )2σ -|x - m |2(i) c 2 2 ∑ P(c|x ) ∑ P(c|x )x x ∈ D(i) x ∈ D(i) (i) (i) (i) cm =
- 40. 注意 ・k -‐‑‒ 平均法→クラスタが変化しなくなるまで続⾏行行 ・混合正規分布型クラスタリング →平均ベクトルの差の合計が⾮非常に⼩小さくなる まで続⾏行行 →EMアルゴリズムの⼀一種 EMアルゴリズムでの収束判定を使おうとお得 混合正規分布型クラスタリング
- 41. まとめ ・クラスタリング -‐‑‒ データをまとめる作業のこと -‐‑‒ まとまったデータをクラスタという ・クラスタリングの⽅方法 -‐‑‒ 凝集型クラスタリング(似たデータくっつける) -‐‑‒ k -‐‑‒ 平均法(k個の代表決めて区分する) -‐‑‒ 混合正規分布型クラスタリング (確率率率分布を考慮して区分する)