ベイズ統計の基礎

1. ベイズ統計の基礎専修大学人間科学部心理学科国里愛彦 1

2. 目次 1. ベイズ統計とは？ 2. ベイズ統計のメリット 3. Stanでベイズ統計やってみよう！ 4. ベイズ統計での報告の注意事項 2

4. ベイズ統計とは？ • ベイズ統計学とは，ベイズの定理（Bayes’s theorem）に基づく統計学 • 重要なのは，Bの下でのAの確率P(A|B)から， Aの下でのBの確率P(B|A)を求めることができる点（確率が逆転している） P(B | A) = P(A | B)P(B) P(A) 4

5. ベイズって誰？ • トーマス・ベイズ（1702-1761）は，英国の数学者・長老派の牧師（温泉リゾートで有名なタンブリッジ・ウェルズの小さな教会）。 • 牧師業の合間に書いた論文「確率の考え方におけるある問題の解法に関する考察」が，ベイズ統計の源流となる論文（元々遺稿だったのを親戚のプライス牧師が発見し補筆して発表。そこには現在のベイズの定理はないが，そこで提示された問題をラプラスが解いたのがベイズの定理のスタート）。 5

6. ベイズの前に，統計解析とは？ • 直接的に観察することはできないが，何らかのパラメータ（θ）が存在し，データ（yi）が生成される。 • 手元にあるデータから，そのデータを生成したパラメータを推測するのがデータ解析になる。 y9 y6 y7 y5y4 y2 y10 y3 y8 y1 θ 6

7. ベイズの定理とデータ解析 𝑦𝑖が得られた下でのθの確率 = θの下で𝑦𝑖が得られる確率 θの確率× 𝑦𝑖が得られる確率 𝑃(𝜃|𝑦𝑖) = 𝑃 𝑦𝑖 𝜃 𝑃(𝜃) 𝑃(𝑦𝑖) • データ(𝑦𝑖)が得られた下でパラメータ(θ)を知りたい場合，ベイズの定理の右辺を解く。事後確率（Posterior probability）尤度（Likelihood）事前確率 (Prior probability）正規化係数 (Normalizing constant) 7

8. HIV問題でベイズを理解する（以下に出る数値はあくまで例です） HIV患者がこのHIV検査で陽性になる確率（感度)も非患者が陰性になる確率（特異度）も99%とする。 8

9. そうだ，ベイズ定理で整理しよう！上記を計算すると， 9.016%になる。事前確率の P(真陽性)が小さいと検査陽性でも実際に陽性である可能性は低くなる。 𝑃(真陽性|検査陽性) = 𝑃 検査陽性真陽性 𝑃(真陽性) 𝑃(検査陽性) HIV患者が検査で陽性反応を示す確率は99% 保健所で検査する人でHIVの方は0.1% HIV患者かつ検査陽性(0.1%*99%) + 非患者かつ検査陽性(99.9%*1%)=1.098% 9

10. ある保健所では検査をうけるHIVの方が多いとすると(0.1%→1%) 事前確率の変化（0.1%→1%）によって，検査陽性時の真陽性の事後確率が変化（9%から50%）。 𝑃(真陽性|検査陽性) = 𝑃 検査陽性真陽性 𝑃(真陽性) 𝑃(検査陽性) HIV患者が検査で陽性反応を示す確率は99% 保健所で検査する人でHIVの方は1% HIV患者かつ検査陽性(1%*99%) + 非患者かつ検査陽性(99%*1%)=1.98% 計算すると50% 10

11. ベイズ更新 • 事後確率を導いた後で，新たにデータが手に入った場合，過去に得た事後確率を新たなデータの事前確率として使える。 →ベイズ更新（Bayesian updating） • 「今日の事後分布は，明日の事前分布」 (Lindley, 2000) • 迷惑メールフィルタなどは，ベイズ更新してスパム推定の精度を上げている。 11

12. ベイズ更新 • 臨床試験において，データが追加された時にも，ベイズ更新を使うことができる。 𝑃(𝜃|𝑦𝑖) = 𝑃 𝑦𝑖 𝜃 𝑃(𝜃) 𝑃(𝑦𝑖) 𝑃(𝜃|𝑛𝑒𝑤 𝑦𝑖) = 𝑃 𝑛𝑒𝑤 𝑦𝑖 𝜃 𝑃(𝜃) 𝑃(𝑛𝑒𝑤 𝑦𝑖) 事後確率尤度事前確率ベイズ更新事前確率 12

13. HIV検査問題でベイズ更新 • その後４回検査を受けて，２回目陰性，３〜５回目は陽性だった場合・・・１回目は，事前確率(H=0.01, L=0.001) の影響を強く受けるが，ベイズ更新を繰り返すと結論は収束してくる 13

14. 確率から確率分布へ f(𝜃|𝑦𝑖) = f 𝑦𝑖 𝜃 f(𝜃) f(𝑦𝑖 ) 事後分布（Posterior distribution）尤度（Likelihood）事前分布（Prior distribution） f(𝜃|𝑦𝑖) ∝ f 𝑦𝑖 𝜃 f(𝜃) 規格化係数 (Normalizing constant) • θを含まない規格化係数を除いた表現 14

15. 尤度 • 尤度f(𝑦𝑖 |θ)は，パラメータ(θ)を色々な値に動かした時に，手元のデータが得られる尤もらしさの分布になる。 • 尤度が最大になるθを探す方法を最尤法と呼び，頻度論でよく用いれる。 • 最尤法は，過学習しやすい，パラメータの多い複雑なモデルでは推定が局所最適解に落ちやすいなどのデメリットがある。 →事前分布やMCMC法を用いたベイズ統計学を使用する。事後分布∝尤度＊事前分布 15

16. 事前分布と事後分布 • 事前分布は，データ(𝑦𝑖)を観察する前のパラメータ(θ)の分布。 • 事後分布は，データ(𝑦𝑖)を観察した下でのパラメータ(θ)の分布。 • 事後分布は，事前分布の影響をうける（下図の事後分布は，データは同じだが，事前分布が異なる） →事前分布の選択が主観的であると批判 θ 事後分布∝尤度＊事前分布 16

17. 事前分布の設定 • 臨床家の意見や先行研究から事前分布を設定する ① 無情報事前分布：一様分布など平坦な分布を使う（事後分布は尤度に従う） ② 懐疑的事前分布：研究仮説について保守的な事前分布（大きな治療効果は生じないなど） ③ 楽観的事前分布：研究仮説に対して好ましい方向の事前分布 ④ 臨床的事前分布：臨床家の意見や知見からある程度客観性を担保できるもの 17

18. 事後分布の要約統計量 • 点推定値は，事後分布の平均値であるEAP推定値(expected a posteriori) ，中央値であるMED推定値(posterior median) ，最頻値であるMAP推定値（maximum a posteriori）がある。 • 区間推定は，a%信用区間 (Credible Interval, 確信区間・ベイズ区間とも）を使う（事後分布の両端(100-a)/2を切り取る）。 • 信用区間は，「パラメータθが，AからBの区間に95%の確率で存在する」と解釈され，直感的に理解しやすい（信頼区間は違う）。18

19. 事後予測分布 • データ𝑦𝑖を観測した下での，新しいデータnew 𝑦𝑖の分布 →事後分布f(θ| 𝑦𝑖)で重み付けして，確率モデルf(new 𝑦𝑖 |θ)を足し合わせる。 →MCMCの事後分布のサンプルをデータ生成モデルにいれて乱数を発生させることを繰り返す。 • 予測分布から得た予測区間をベイズ予測区間を呼ぶ。 f 𝑛𝑒𝑤 𝑦𝑖 𝑦 = f 𝑛𝑒𝑤 𝑦𝑖 𝜃 f 𝜃 𝑦𝑖 𝑑𝜃 19

21. 頻度論の特徴 • パラメータ(θ)は定数，データ(y)は確率変数と考える。 →パラメータは未知の定数なので，それを確率的に扱うことはできない（「母平均が0 である確率は80%」とか言えない）。 y9 y6 y7 y5y4 y2 y10 y3 y8 y1 θ • 帰無仮説検定や信頼区間は，解釈を誤ることがある（帰無仮説の確率は知り得ない）。 21

22. ベイズ統計の特徴 • パラメータ(θ)は確率変数，データ(y)は定数と考える。 →信用区間や仮説の確率などがわかりやすい。 →ベイズ更新が便利 →事後分布の情報が豊か y9 y6 y7 y5y4 y2 y10 y3 y8 y1 θ • 事前分布が主観的＆計算が大変 →無情報事前分布の利用＆MCMCの使用（複雑なモデルも推定可能に） 22

23. 臨床試験のデザインや解析にベイズ統計を使うメリット • 過去の研究などの事前情報を組み込むことで，今回の臨床試験から得られる情報を増やすことができる。 • データの変動性が小さいことなどが，事前情報でわかっているならサンプルサイズを小さくできる。 • 適応型デザインを使うことでデータを蓄積しながら中止についての判断ができるので，結果としてサンプルサイズが小さくなる。 FDA(2010) Guidance for the Use of Bayesian Statistics in Medical Device Clinical Trials 23

24. 臨床試験のデザインや解析にベイズ統計を使うメリット • 適切な事前の計画があるのが前提だが，試験の途中で好ましくない群を中止したり，割付方法を変更することもできる。 • 頻度論では近似値だったり実装できないことも，正確に解析できる • 欠測値を柔軟に扱うことができたり，サブグループ解析などで階層モデルを作った上で多重性の調整をしたりできる。 FDA(2010) Guidance for the Use of Bayesian Statistics in Medical Device Clinical Trials 24

25. ベイズを活用した臨床試験（エボラへのZMappの有効性試験） • 2014~2016年にかけて西アフリカでエボラのアウトブレイクが生じた(約11000名の死者)。 • 動物実験では，3 種類のモノクローナル抗体の混合の ZMapp が有効とされる。 →エボラウィルス病に対するZMappの有効性を検証する適応型無作為化比較試験を行った。 • リベリア，シエラレオネ，ギニア，アメリカにおいて72名の患者が登録され，36名が標準治療に，36名が標準治療+ZMapp投与を受けた。 • 主要エンドポイントは，28日後の死亡率 The PREVAIL II Writing Group, for the Multi-National PREVAIL II Study Team (2016) N Engl J Med 375:1448-56. 25

26. エボラへのZMappの有効性試験 • エボラでは，治療供給不足，流行終息に伴う患者減少，新たな有望な薬剤が利用可能になるなどが生じる。 →本試験も，2015年3月に開始，流行終息で11月に終了 →状況に応じた柔軟な臨床試験に（ベイズを利用）。 • 事前分布は，群間には差がない＆大きな効果より小さな効果が多いという懐疑的事前分布を設定した。 • 28日死亡率の群間での絶対差は，-14%(95%信用区間は-34% ~ 6%)。ZMappが優れる事後確率は，91.2%(事前設定した97.5%を下回った) →ZMappが有益に思えたが事前設定した有効性の基準を越えるものではなかった。 The PREVAIL II Writing Group, for the Multi-National PREVAIL II Study Team (2016) N Engl J Med 375:1448-56. 26

28. どうやってベイズ統計をする？ ※BUGS/WinBUGS，OpenBUGS， JAGSなどもあるが，開発が終わっていたり，Stanに比べると開発速度も計算速度も遅い。 • ベイズ統計学では積分を用いるが, 解くことが難しいことも多い。 →素人的に言えば，積分は面積を求めることなので，マルコフ連鎖モンテカルロ (MCMC)法を用いる。 • 今回は，Stan(Rの場合は，RStan)を使ってベイズ統計を体験してみる。 28

29. モンテ・カルロ法 -川崎市の面積はどのくらい？- 1. たくさんの点を地図上にランダムにうつ。 2. 川崎市に入っている点（赤）を数える。 3. 全体の面積×[赤い点/(赤い点＋青い点)] • 解析的に解けないものも乱数を発生させることで，評価可能になる。 • このような方法をモンテ・カルロ法と言う。 29

30. Hamiltonian Monte Carlo(HMC)法 • Stanでは，HMCを実装したNUTS(No-U-Turn Sampler) を使用する。事後分布と独立した標準正規分布の同時分布から乱数発生 ①初期値θ1を決める ②標準正規分布から乱数ptを発生 ③リープフロッグ法で遷移させ，候補となるθaとpaを準備 ④特定の確率で候補を受け入れ，さもなくば，θはそのまま ※事前に決めたサンプリング回数まで ②〜④を繰り返す。詳細は，豊田秀樹編著『基礎からのベイズ統計学：ハミルトニアンモンテカルロ法による実践的入門』 30

31. スタニスワフ・ウラムとモンテカルロ法&Stan • 原爆・水爆の開発にも関わった数学者スタニスワフ・ウラムは，1945年にウィルス性脳炎になった（一時的に失語も生じた）。 • トランプで一人遊びをしていた（成功する場合の確率を計算する必要がある）時，全ての可能な組み合わせを計算するより，その推移を実験して，どんな割合で成功するかだけに注目するほうが実際的と気づく。 →モンテカルロ法へ発展 →Stanの名前の由来『数学のスーパースターたち―ウラムの自伝的回想』,1979，東京図書 31

32. Stanを使ってみよう！ • RStanのGithubページ（日本語化されている）があるので，そこの手順に従って，インストールする。 https://github.com/stan-dev/rstan/wiki/RStan-Getting- Started-(Japanese) • 以降のデモに関しては，研究会ではHTMLファイルとRmarkdownファイルを配布しています。ご関心のある方は，国里までご連絡くだされば，配布いたします。 32

33. データの説明（疾患Aに対する新規治療薬Bの有効性評価） • 60名の患者を，通常治療(tAU)と新規治療薬Bを追加した治療(tNEW)の2群に1:1で割り付ける臨床試験を実施。 • プライマリーアウトカムは，治療一ヶ月後の症状評価尺度得点とする（得点範囲は，1 ~ 100点で，症状が重いほど得点が高い）。新規治療はコストが高く，通常治療よりも6点以上低い必要がある。 • 仮想データは，正規分布から乱数発生させて作成（tAU~Normal(50, 8); tNEW~Normal(40, 10)） 33

34. データの視覚化 34

35. data{ int NtAU; int NtNEW; real StAU[NtAU]; real StNEW[NtNEW]; } parameters { vector<lower = 0, upper = 100> [2] mu; vector<lower = 0, upper = 100> [2] sigma; } model { StAU ~ normal(mu[1],sigma[1]); StNEW ~ normal(mu[2],sigma[2]); } Stanコードの最小単位は，data{}， parameters{}，model{}の３つ data{}では，データ型やベクトル数などを指定し，データを定義 parameters{}では，推定したいパラメータを指定（適宜，範囲も指定する） model{}では，データがパラメータとモデルからどのように生成されるか指定事前分布を指定していない場合，パラメータの範囲の一様分布が指定される。 35

36. Stanコードの実行 # Stanの設定（並列化） rstan_options(auto_write=TRUE) options(mc.cores = parallel::detectCores()) # サンプリング fit1 <- stan(model_code = model1, seed = 1234, data = stanData1, warmup = 300, iter = 1000, chains = 4, thin = 2) 先程のStanコードをmodel1に入れて指定 MCMCサンプリングで，不安定な初期300個を削除４つのチェインから1000サンプルを持ってくる。サンプルは２つに１つを使用36

37. 収束判定 • サンプリングが終わったら，MCMC チェーンが収束したかチェックする。 • bayesplotパッケージが便利 • トレースプロットをみて，複数の連鎖がちゃんと混ざり合っているか，ドリフトを起こしてないか確認（左図） • サンプル間の自己相関が高くなってないか確認（右図） 37

38. 収束判定 • Rhat（1.1以下が望ましい）を確認する。 • 有効サンプルサイズを総サンプルサイズで割ったもの(0.1以上が望ましい)を確認する。 38

39. 各群の平均の事後分布 • 事後分布をプロット（中央値と95%信用区間）。記述統計の平均値を中心に分布しています。 39

40. 平均の差の事後分布 • 得られたMCMCサンプルを用いて，平均値の差 (MutAU-MutNEW）の事後分布を算出しました。 • 平均の差が0以上の確率は，1 • 平均の差が6以上（新規治療として意味のある差）の確率は，0.98 →事後分布を使って，柔軟な仮説の検討ができる 40

41. 事後予測分布 • MCMCサンプルを用いて，今後，新たなデータが得られた場合の予測分布を算出することができる。 • 新規治療は，やや標準偏差が大きいが多くの患者にとって利益が期待できそう。 41

42. ベイズ更新 • 得られた事後分布を次の臨床試験（120名を各群60名ずつに無作為割付）の事前分布に指定してみる（ベイズ更新）。 • 残念ながら，今度の試験では，新規治療薬の方が効果が低いという結果に・・・ →先程の事後分布とは反対方向・・・ 42

43. ベイズ更新 • ベイズ更新すると，事前分布の影響を強くうけて，平均が0付近の分布になった。 • 無情報的事前分布の場合は，新規治療群の方が劣性になっている。 →事前分布の設定は慎重に →ベイズ更新を繰り返せば，結論は収束していく。 43

45. 必須報告事項 • ベイズ統計の報告で，以下の３つが大切 ①データ，モデル，事前分布を明確に記載 ②事後分布の計算方法と妥当性を確認 ③事後分布の解釈 ※事後予測チェック『Doing Bayesian Data Analysis, Second Edition: A Tutorial with R, JAGS, and Stan』Ch25 45

46. そもそもベイズ統計を使う意義を説明する • 雑誌のエディターも査読者も帰無仮説検定になじんでいるが，ベイズ統計にはなじんでない →なぜベイズ統計を使うのか説明をする • ベイズ統計はデータに合わせてモデルを作れる，帰無仮説検定にあるような想定(分散の等質性、ノイズが正規分布)が不要，帰無仮説検定よりも事後分布から得られる情報が多いなどの理由からベイズ統計の意義を主張できる。『Doing Bayesian Data Analysis, Second Edition: A Tutorial with R, JAGS, and Stan』Ch25 46

47. データ構造，モデル，事前分布を明確に記述する。 • 意味のあるパラメータを報告するために，データ構造について要約し（何が応答変数か，何が説明変数か），モデルについて記述する。 • 事前分布が適切であり，結果をあらかじめ方向づけるものではないと読者に納得してもらうように報告する。 • 事前分布は、少なくとも少しは情報のあるものがよい。同じ方法を使った先行研究がある場合に，それを無視すべきではない。『Doing Bayesian Data Analysis, Second Edition: A Tutorial with R, JAGS, and Stan』Ch25 47

48. グラフィカルモデルのすすめ • 階層モデルなどの複雑なモデルは，モデルの記述が大変なので，グラフィカルモデル（プレート表現）を使うとわかりやすいです（プレートは forを表す）。連続的離散的潜在顕在決定論的 (生成量) 『実践ベイズモデリング -解析技法と認知モデル- 』（朝倉書店,2017年,P189) θi pij yij bj 𝑏𝑗~𝑁𝑜𝑟𝑚𝑎𝑙 0, 2 𝜃𝑖~𝑁𝑜𝑟𝑚𝑎𝑙 0, 1 𝑝𝑖𝑗 = 1 1 + exp(𝜃𝑖ー𝑏𝑗) 𝑦𝑖𝑗~𝐵𝑒𝑟𝑛𝑜𝑢𝑙𝑙𝑖 𝑝𝑖𝑗 i=1…N j=1…I 48

49. 事後分布の妥当性を示し，事後分布を要約する • 連鎖が収束したかをRhatやグラフで示す • パラメータが多いと要約も大変なので，理論や結果に基づいて何を報告するのか選択する（ヒストグラムは事後分布の情報をよく示すが，適宜，要約統計量も使う） • 複数の事前分布を使って分析し，事後分布から得られる結論は変わらないことを示す（感度分析） • 事後予測分布からデータを作って，実際のデータと同じ傾向を示すか確認する（事後予測チェック）『Doing Bayesian Data Analysis, Second Edition: A Tutorial with R, JAGS, and Stan』Ch25 49

50. 推薦図書『StanとRでベイズ統計モデリング』（共立出版, 2016）『基礎からのベイズ統計学: ハミルトニアンモンテカルロ法による実践的入門』（朝倉書店，2015年）『はじめての統計データ分析 ―ベイズ的〈ポストp値時代〉の統計学―』（朝倉書店，2016年）『実践ベイズモデリング -解析技法と認知モデル- 』（朝倉書店，2017年）『Doing Bayesian Data Analysis, Second Edition: A Tutorial with R, JAGS, and Stan』(Academic Press,2014 そろそろ邦訳版？) 『Guidance for the Use of Bayesian Statistics in Medical Device Clinical Trials』(FDA, 2010) 50

51. JustGiving 統計学で検索！ http://justgiving.jp/p/886 REQUIRE研究会は、臨床疫学系の研究者が、統計学の継続学習をする場です。こうした取り組みは、公的研究費や民間財団からの支援を受けることは難しい状況です。しかし、運営費を確保するために参加費や年会費を高く設定することは、大学院生の参加を妨げ、かつ「参加者が講師」というスタンスを貫くために採用したくないと考えています。継続的に健全な研究会を運用可能な仕組みにするため、どうか、ご支援を頂けると幸いです。

ベイズ統計の基礎

Senshu University

ベイズ統計の基礎