Tokyo r#10 Rによるデータサイエンス第五章：クラスター分析

Tokyo.R#10 Rによるデータサイエンス第五章：クラスター分析

自己紹介 ,[object Object],[object Object],[object Object],[object Object],[object Object]

Rとわたし ,[object Object],[object Object],[object Object],[object Object],[object Object]

アジェンダ ,[object Object],[object Object],[object Object],[object Object],[object Object],R によるデータサイエンス第五章：クラスター分析 http://mjin.doshisha.ac.jp/R/28/28.html

クラスター分析とは ,[object Object],[object Object],[object Object],[object Object],本章ではこっちを扱います

階層的クラスタリング

分析の流れ ,[object Object],[object Object],[object Object],[object Object],[object Object]

デンドログラムクラスタが一つずつ併合され，最終的に一つのクラスタにまとまる階層的クラスタリング併合されてゆく過程をグラフで表現したもの＝デンドログラム

デンドログラム併合されたクラスターの距離

コーフェン行列 ,[object Object],[object Object],階層的クラスタリングの手法はこの行列の求め方の違い 1.1 1.1 1.1 0.1 setosa5 0.2 0.3 1.1 setosa4 0.3 1.1 setosa3 1.1 setosa2 setosa4 setosa3 setosa2 setosa1

アルゴリズム ,[object Object],C(1) C(2) C(3) C(4) C(5) (4.5,2) データ 5 (4,4) データ 4 (2,4) データ 3 (1,2) データ 2 (2,1) データ 1 座標データ

STEP1 併合 ,[object Object],C(1) C(2) C(3) C(4) C(5) 初期のコーフェン行列はデータ間の距離 2.06 3.20 3.50 2.69 C(5) 　 2.00 3.61 3.61 C(4) 　　 2.24 3.00 C(3) 　　　 1.14 C(2) C(4) C(3) C(2) C(1)

STEP2 コーフェン行列の更新 ,[object Object],[object Object],[object Object]

以下繰り返し… クラスタ C(3) と C(4) が併合され，クラスタ C(3,4) が作られる C(1,2) C(3) C(4) C(5) 2.06 3.20 2.69 C(5) 　 2.00 3.61 C(4) 　　 2.61 C(3) C(4) C(3) C(1 ，２ )

以下繰り返し… クラスタ C(3,4) と C(5) が併合され，クラスタ C(3,4,5) が作られる C(1,2) C(5) C(3,4) 2.63 3.09 C(5) 　 3.11 C(3,4) C(3,4) C(1 ，２ )

以下繰り返し… クラスタ C(1,2) と C(3,4,5) が併合され，クラスタ C(1,2,3,4,5) が作られる C(1,2) C(5) C(3,4) 3.10 C(3,4,5) C(1 ， 2)

クラスタ間の距離(1/4) ,[object Object],[object Object],[object Object],[object Object],j i k j i k Cij Cij

クラスタ間の距離(2/4) ,[object Object],[object Object],[object Object],[object Object],i i j k j k Cij Cij

クラスタ間の距離(3/4) ,[object Object],[object Object],i j k Cij

クラスタ間の距離(4/4) ,[object Object],[object Object],[object Object],※ 平方和 : クラスタ X 内の各データ x に対して，クラスタ X の重心 center ( X ) との距離 d(x,center(X)) の自乗の和

手法を選ぶ上での注意点 ,[object Object],[object Object],[object Object]

hclust 関数 ,[object Object],[object Object],hclust(d, method = “complete”, …)

hclust に関連する関数 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

デンドログラムのできるまで STEP 1/3 ,[object Object],[object Object]

非階層的クラスター分析 ,[object Object],[object Object],[object Object]

k-means のアルゴリズム ,[object Object],K 個のクラスタの代表点　　　　　を適当に作成 STEP 1

k-means のアルゴリズム各データ X とクラスタの代表点　との距離を測り最も距離が近いクラスタを X のクラスタとする STEP ２

k-means のアルゴリズム形成されたクラスターの中心を求める STEP 3

k-means のアルゴリズムクラスタの中心が変化しない時点まで STEP2,3 を繰り返す STEP ２

kmeans 関数 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],kmeans(x, centers, iter.max=10,nstart=1, algorithm= c("Hartigan-Wong", "Lloyd", "Forgy", "MacQueen"))

モデルに基づいたクラスター分析 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

EMアルゴリズム不完全データ x どのクラスタで発生したかがわからない隠れ変数： c ( どのクラスタで発生したか）を付与完全データ： y=(x,c) x の分布の最適化問題を y の分布の最適化問題の繰り返しに帰着させるアルゴリズム EM アルゴリズム

EMアルゴリズムの流れ θ ：固定 c : 尤度最大 E-step θ ：尤度最大 c : 固定 M-step c を推定！ θ を推定！パラメータ θ と隠れ変数 c を交互に推定 -> 収束したときのパラメータを採用！

R で混合分布モデルを使うときの 3STEP ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

hc で選択できるモデル ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

実行例 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

iris データについて ,[object Object],Iris setosa ( 檜扇菖蒲） Iris versicolor Iris virginica

Tokyo r#10 Rによるデータサイエンス第五章：クラスター分析

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to Tokyo r#10 Rによるデータサイエンス第五章：クラスター分析

Similar to Tokyo r#10 Rによるデータサイエンス第五章：クラスター分析 (20)