![今回は初期値を変えないと推定できなかった
（デフォルトでは[-2, 2]の一様分布から初期値が生成されるため，
今回のような上限打切の状況には適さなかった？？）](https://image.slidesharecdn.com/wonderful2chap7sharedver-170430132134/75/Stan-R-Chapter-7-7-6-7-9-42-2048.jpg)
![[DL輪読会]Learning by Association - A versatile semi-supervised training method ...](https://cdn.slidesharecdn.com/ss_thumbnails/dl-170613062403-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DLHacks LT] PytorchのDataLoader -torchtextのソースコードを読んでみた-](https://cdn.slidesharecdn.com/ss_thumbnails/torchtextupload-170918235754-thumbnail.jpg?width=640&height=640&fit=bounds)
StanとRでベイズ統計モデリング読書会 Chapter 7（7.6-7.9） 回帰分析の悩みどころ ～統計の力で歌うまになりたい～
- 1.
- 2. 自己紹介 紀ノ定 保礼（Kinosada Yasunori） −静岡理工科大学 情報学部 講師 − 研究領域：認知心理学・交通心理学 − 趣味：カラオケ
- 3. 今回の発表について 本書のデータは使用していません ‒ 発表者自身の歌唱記録データ ‒ 注意点 -実際は同一人物（発表者）の時系列データですが， 例示のため，全データ点が独立とみなして回帰分析したりして います ‒ 勉強中のため，間違いや「こうすればもっと面白い」 という点があれば，ぜひご指摘ください
- 4.
- 5.
- 6. 説明変数が多い場合の問題 • うまく推定できない – 7.4多重共線性の問題など •解釈が難しい Y X1 X2 X3 X98 X99 X100 …
- 7.
- 8.
- 9. • 音程 • 安定性 •抑揚 • ロングトーン …が影響しそう （定石と合っている）
- 10. 変数間の情報を活用したモデリングも 可能 • 音程 • 安定性 •抑揚 • しゃくり • こぶし • フォール • ロングトーン • ビブラート • ビブラート秒 • ビブラート回数 トレードオフ ビブを増やすと， 安定性とロング トーンの減点が 減りやすい 上手くしゃくらないと 音程が下がる ※諸説あり
- 11.
- 12.
- 13.
- 14. Bayesian Lasso − 説明変数の係数𝛽𝑘に対して， 二重指数分布（ラプラス分布）を事前分布に設定 • 𝜇 = 0を中心に尖った分布（本書6.16参照） • そのようなペナルティを与えても生き残る（係数が0でない） 変数は予測に寄与 変数間の情報が乏しい場合 ～推定中の対処～ ← 尖らせるほど， きつい制約になる
- 15.
- 16.
- 17.
- 18.
- 19.
- 20.
- 21.
- 22.
- 23.
- 24.
- 25.
- 27.
- 28.
- 29.
- 30.
- 31.
- 32. 下限打切の場合（left-censored） Y n ~𝑁𝑜𝑟𝑚𝑎𝑙(𝜇, 𝜎 𝑌) y n ~ 𝑁𝑜𝑟𝑚𝑎𝑙 𝜇, 𝜎 𝑌 ただし 𝑦 𝑛 < L 𝑛 = 1, … , 𝑁𝑜𝑏𝑠 𝑛 = 1, … , 𝑁𝑐𝑒𝑛𝑠実際には観測されず 推定するので小文字 ・打ち切りしない測定の場合 ・打ち切りする測定の場合 例：96点以下は正確な点数を覚えていない 打ち切りの閾値
- 33. パラメータを推定するには尤度の計算が必要 – 打ち切りしない測定の尤度 – 打ち切りする場合の尤度（Lは打ち切りの閾値） 𝑁𝑜𝑟𝑚𝑎𝑙𝑌 𝜇, 𝜎 𝑌) 𝑦 < 𝐿 の確率 𝑃𝑟𝑜𝑏 𝑦 < 𝐿 = −∞ 𝐿 𝑁𝑜𝑟𝑚𝑎𝑙 𝑦 𝜇, 𝜎 𝛾) = −∞ 𝐿 1 2𝜋𝜎 exp − 1 2 𝑦−𝜇 𝜎 2 𝑑𝑦 = න −∞ 𝐿−𝜇 𝜎 1 2𝜋 exp − 1 2 𝑧2 𝑑𝑧 = න −∞ 𝐿−𝜇 𝜎 𝜑(𝑧)𝑑𝑧 = Φ 𝐿 − 𝜇 𝜎 標準正規分布の 確率密度関数
- 34.
- 35.
- 36.
- 37. 上限打切の場合は？（right-censored） LIVE DAM STADIUMでは （総合）点数= 素点 + ボーナス点 だが… 素点98.591 + ボーナス点1.409 = ぴったり100点 そんなことある？！
- 38.
- 39.
- 40.
- 41.
- 42.
- 43.
- 44.
- 45.
- 46. 外れ値への対処 • 原因が明確で分析に不適な場合（例：歌唱中に中断） ‒ 当該データの修正や削除 •経験的にあり得る場合（例：スランプによる低得点） 1. 本当の力はこんなもんじゃない，と，除外 2. 稀に外れ値が出ることが分かっているので， そのようなメカニズムを仮定し，外れ値を含めて解析 - 裾の長いコーシー分布 - Studentのt分布
- 47. ノイズに正規分布を仮定したモデル式（単回帰） – 𝑌 𝑛~ 𝑁𝑜𝑟𝑚𝑎𝑙 𝑎 + 𝑏𝑋 𝑛 , 𝜎 𝑛 = 1, 2, … , 𝑁 点数 model7-8.stan 予測分布を 描くために 正規分布に 従う乱数を生成 抑揚
- 48. 点数 コーシー分布を仮定したモデル式 – 𝑌 𝑛~ 𝐶𝑎𝑢𝑐ℎ𝑦 𝑎 + 𝑏𝑋 𝑛 , 𝜎 𝑛 = 1, 2, … , 𝑁 予測分布を 描くために コーシー分布に 従う乱数を生成 model7-9.stan 抑揚
- 49.
- 50. ちなみにstudentのt分布の場合は 自由度𝜈 = 1ならコーシー分布と一致 𝜈= ∞なら正規分布と一致
- 51.
- 52.
- 53.
- 54.