第六回「データ解析のための統計モデリング入門」前半

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

Ad

第六回「データ解析のた
めの統計モデリング入門」
読書会
第六章 GLMの応用範囲を広げる
@gepuro

自己紹介
• 電気通信大学大学院修士2年
• 専門：信頼性工学、生存時間解析

6.1 さまざまな種類のデータで応用できるGLM
• GLMの特徴
• 確率分布・リンク関数・線形予測子の組み合わ
せを指定することによって、さまざまなタイプの
データを表現できる
確率分布乱数生成 glm()のfamily
指定
よく使うリ...

6.2 例題：上限のあるカウントデータ
• 二項分布を使う
• 応答変数𝑦 ∈ {0, 1, 2, … , 𝑁}の範囲の値をとる
• 「N個体の実験対象に同じ処理をしたら、y個体で
反応が陽性、N-y個体では陰性」

例題のデータ
N y x f
8 1 9.8 C
8 6 10 C
8 5 11 C
8 6 11 C
8 1 9.4 C
8 1 8.8 C
・・・・・・・・・・・・
• 𝑁𝑖個の観察種子のうち生きていて発芽能力がある
ものは𝑦𝑖個、死...

植物の体サイズ𝑥𝑖と生存種子数𝑦𝑖
植物の体サイズ𝑥𝑖
生存種子数𝑦𝑖
○：肥料あり
○：肥料なし
• 体サイズ𝑥𝑖が大きくなると
生存種子数𝑦𝑖が大きくなるらしい
• 肥料をやると生存種子数
が多くなるらしい

6.3 二項分布で表現する「あり・なし」カウントデータ
• 二項分布の確率分布
N個中のy個で事象が生起する確率
𝑝 𝑦 𝑁, 𝑞 =
𝑁
𝑦
𝑞 𝑦
1 − 𝑞 𝑁−𝑦
確率𝑝(𝑦𝑖|8,𝑞)
𝑦𝑖
ー：q=0.1
ー：q=0.3
ー：q=0...

6.4 ロジスティック回帰とロジットリンク関数
線形予測子𝑧
確率𝑞
𝑞𝑖 = 𝑙𝑜𝑔𝑖𝑠𝑡𝑖𝑐 𝑧𝑖 =
1
1 + exp(−𝑧𝑖)
• 6.4.1 ロジットリンク関数
種子の生存確率𝑞𝑖をパラメータにする

• ロジスティック関数と線形予測子𝑧𝑖 = 𝛽1 + 𝛽2 𝑥𝑖の
関係を見る
𝛽1 = 2
𝛽1 = 0
𝛽1 = −3
𝛽2 = 4
𝛽2 = 2
𝛽1 = −1
確率𝑞
確率𝑞
説明変数𝑥 説明変数𝑥
𝛽2 = 2の時 𝛽1 = 0の時

6.4.2 パラメータ推定
𝐿 𝛽𝑗 =
𝑖
𝑁𝑖
𝑦𝑖
𝑞𝑖
𝑦 𝑖
1 − 𝑞𝑖
𝑁 𝑖−𝑦 𝑖
log(𝐿 𝛽𝑗 =
𝑖
𝑙𝑜𝑔
𝑁𝑖
𝑦𝑖
+ 𝑦𝑖 log 𝑞𝑖 + 𝑁𝑖 − 𝑦𝑖 log(1 − 𝑞𝑖)
尤度関数
対数尤度関数
対数...

> model <- glm(cbind(y, N-y)~x+f, data=data4a, family=binomial)
> model
Call: glm(formula = cbind(y, N - y) ~ x + f, famil...

例題データの一部（肥料なし）
xx
生存種子数𝑦𝑖

6.4.3 ロジットリンク関数の意味・解釈
𝑞𝑖
1 − 𝑞𝑖
= exp 線形予測子
= exp(𝛽1 + 𝛽2 𝑥𝑖 + 𝛽3 𝑓𝑖)
= exp 𝛽1 exp 𝛽2 exp(𝛽3)
ロジスティック関数：𝑞𝑖 =
1
1+exp(−𝑧 𝑖)...

𝑞𝑖
1 − 𝑞𝑖
= exp −19.5 exp 1.95𝑥𝑖 exp(2.02𝑓𝑖)
𝑥𝑖が1単位増加したらexp(1.95 𝑥𝑖 + 1 )になる。
exp 1.95 ≈ 7
オッズが7倍ぐらい増加する。
「病気であれば、発病リスクが7倍...

6.4.4 ロジスティック回帰のモデル選択
library(MASS)
stepAIC(fit.xf)
AIC最少のモデルを選択すること
ができる。

おまけ
glmを使わずに推定する。

対数尤度関数を定義する
funQ <- function(beta1, beta2, beta3, x){
1 / (1 + exp(-(beta1 + beta2*x$x + beta3*x$f)))
}
logLikelyhood.part...

optimで対数尤度の最大値を求める
> optim(c(1,1,1), logLikelyhood, control=list(fnscale=-1))
$par
[1] -19.537817 1.952571 2.022927
$value...

それぞれの２階微分を求める
f <- expression(
y*log(1/(1+exp(-b1-b2*x-b3*z)))
+ (N-y)*log(1-1/(1+exp(-b1-b2*x-b3*z)))
)
b11 <- D(D(f, "b1...

ヘッセ行列を求める
rslt <- NULL
for(hen in c(b11, b12, b13, b21, b22, b23, b31, b32, b33)){
tmp <- 0
for(i in 1:nrow(data4a)){
N <-...

逆行列を求める
> solve(hessian)
[,1] [,2] [,3]
[1,] 1.9991552 -0.19551996 -0.19765617
[2,] -0.1955200 0.01928951 0.01778859
[3,] ...

対角行列の平方根を求める
> (se <- sqrt(diag(solve(hessian))))
[1] 1.4139149 0.1388867 0.2313375
これらが標準誤差になる。
glmの結果
Std. Error
1.4138
...

z統計量を求める
> (zvalue <- c(b1, b2, b3)/ se)
[1] -13.818242 14.058736 8.744485
glmの結果
z value
-13.82
14.06
8.74

glmの結果
Pr(>|z|) Pr(>|z|)
<2e-16 ***
<2e-16 ***
<2e-16 ***を求める
> pnorm(abs(zvalue), lower.tail=F)
[1] 9.892197e-44 3.404587...

おしまい

Share Slideshare

LinkedIn
Facebook
Twitter

Embed

Size (px)

Show related Slideshows at end

WordPress Shortcode

Link

Share
Email

統計的学習の基礎 4.4～ by Atsushi Hayakawa 3401 views
はじパタ11章　後半 by Atsushi Hayakawa 5042 views
最強のハードディスクはどれだ？ by Atsushi Hayakawa 9094 views

View on Slideshare

1 of 25 Ad

View on Slideshare

1 of 25 Ad