Recommended
Recommended
More Related Content
Similar to 分子シミュレーションと計測データの融合の機械学習
Similar to 分子シミュレーションと計測データの融合の機械学習 (20)
More from RCCSRENKEI
More from RCCSRENKEI (20)
Recently uploaded
Recently uploaded (20)
分子シミュレーションと計測データの融合の機械学習
- 2. 1．はじめに 目次：テキスト通りに進めます 2．ベイズモデリング 3．熱平衡アンサンブルの機械学習 4. 動的過程の機械学習 3.1 ベイズモデリング 3.2 最大エントロピー法（レプリカ平均束縛法） 4.1 データ同化（粒子フィルタ法） 4.2 隠れマルコフモデル 2.1 条件付確率とベイズの定理 2.2 尤度と最尤法
- 3. 1．はじめに 分子シミュレーション結果から実験観測量を計算しても，実験値 とよく一致するとは限らない． “All models are wrong, but some are useful” (George Box) ポテンシャルエネルギー関数（力場）は粗い近似である． 分子シミュレーションと計測データと融合しよう！！ シミュレーションと計測データを融合する一般的枠組みは， ベイズ統計学に基づいたモデル構築（ベイズモデリング） ベイズモデリングは，今風に言えば，機械学習である 分子シミュレーション 実験計測 長所 短所 分子の時々刻々の動きを すべて“見える”。 “模倣システム”の 近似計算 “本物” 時・空間，少なくとも一方の 分解能は良くない
- 4. 2．ベイズモデリング 2.1 条件付確率とベイズの定理 𝑃 𝑎, 𝑏 𝑃 | 𝑏 𝑎 𝑃 𝑎 𝑃 | 𝑎 𝑏 𝑃 𝑏 1 𝑃 小 1 2 ，𝑃 奇 1 2 ， 𝑃 小, 奇 1/3 確率 𝑃 𝑎 同時確率𝑃 𝑎, 𝑏 変数Xは，「目が3以下（X = 小）か4 以上（X = 大）か」どちらかであり， 変数Yは「目が奇数(Y = 奇)か偶数 (Y = 偶)か」であるとしよう． 事象aが起こったことが所与のときに 事象bが起こる確率、 bの全ての事象について確率和をとると１になる 確率の乗法定理 𝑃 | 𝑏 𝑎 𝑃 | 𝑎 𝑏 𝑃 𝑏 𝑃 𝑎 2 条件付確率𝑃 | 𝑏 𝑎 “ベイズの定理” 𝑃 | 奇 小 2/3 トーマス・ベイズ 1702 ‐ 1761 これが実際にベイズを 描いているかどうかど うかは疑わしい 𝑃 | 𝑏 𝑎 ∝ 𝑃 | 𝑎 𝑏 𝑃 𝑏 5
- 5. 2．ベイズモデリング 2.2 尤度（ゆうど）と最尤法 “データに基づく理論推定”という形に“読む” 事象a＝与えられたデータ | | 事象b＝理論推定したいもの 所与のデータaに基づく bの理論推定 事後確率posterior データa無しの bの理論推定 事前確率prior 理論推定bを用いて 考えた時のデータa の“ありえ度合い” 尤度likelihood (6) 𝒚：計測データ（M次元のベクトル） 𝑥：原子座標（N次元ベクトル） 計測とMDシミュレーションの文脈では、 𝜃は，理論モデルや計測に含まれるパラメータ 事前確率 尤度 事後確率
- 6. 2．ベイズモデリング 2.2 尤度（ゆうど）と最尤法 １） パラメータ θ既知として、計測に基づき、 対象システムの状態を推定する問題 ベイズの式 最尤法（頻度主義） MAP 最大事後確率 ２） 観測データに基づきパラメータ θ を学習する問題 実験データに基づく 高分解能モデル シミュレーション 単独の予測 シミュレーション 予測が計測を説 明する度合い 事後確率 ∝ 事前確率 尤度 ｘ ２つの問題設定がある （７） （８）
- 7. 1．はじめに 目次：テキスト通り 2．ベイズモデリング 3．熱平衡アンサンブルの機械学習 4. 動的過程の機械学習 3.1 ベイズモデリング 3.2 最大エントロピー法（レプリカ平均束縛法） 4.1 データ同化（粒子フィルタ法） 4.2 隠れマルコフモデル 2.1 条件付確率とベイズの定理 2.2 尤度と最尤法
- 8. 3．熱平衡アンサンブルの機械学習 3.1 ベイズモデリング Rieping et al, Science 2005 ベイズ推定による構造モデリング（A)と従来のモデリング（B） タンパク質SH3 （アミノ酸53個）： NMRのNOESY データに基づく， タンパク質 折りたたみ構造 モデリング NOESYのピーク強度𝐼 𝐼 γ𝑑 154個のデータ 分子の揺らぎが小さく，構造が大きく異ならない均一な分子集団の場合 距離 計測パラメータ
- 9. 𝑃 𝛀 𝑟 ∝ 𝑒 𝛀 9 𝒚𝐢 Ω 𝑟 log γ𝑑 𝜎は計測誤差を表し，これもパラメータ𝜃の例 γ は尤度関数に含まれるパラメータ 𝜃 の一例 𝑉 𝑟 を用いた温度一定のMDシミュレーションによる事前分布サンプリングを 行い，それにexp の再重みづけ (reweight) をする MDシミュレーションに の有効ポテンシャル関数を用 いる 3．熱平衡アンサンブルの機械学習 3.1 ベイズモデリング 𝑉 𝑟|Ω 𝑉 𝑟 𝛀 Ω 𝑟 2𝛽𝜎 尤度 𝑃 𝑟 ∝ 𝑒 タンパク質系のポテンシャルエネルギー関数 𝑉 𝑟 に従うボルツマン分布 事前分布 𝑃 𝑟 𝛀 ∝ 𝑃 𝛀 𝑟 𝑒 𝑒 𝛀 𝑒 10 ベイズの式 実際の計算として、２通りのやり方
- 10. 3．熱平衡アンサンブルの機械学習 3.1 ベイズモデリング 分子構造に顕著な揺らぎがあり不均一な集団になっている場合 Ω 𝑤 Ω 𝑟 12 系を離散的なクラスタ（構造状態とよぶ．𝑖 1~𝑁）の集合で表現 𝑃 𝑤|𝛀 ∝ 𝑃 𝛀 𝑤 𝑃 𝑤 13 𝑃 𝑤 ∝ 𝑒 14 𝑃 𝛀 𝑤 ∝ 𝑒 𝛀 ∑ 15 事前分布 尤度 ベイズの式 𝑤 についてモンテカルロ法によるサンプリングを行う
- 11. 天然変性タンパク質αシヌクレインの 構造集団のベイズモデリング Sethi et al, Chem. Phys. 2013 3．熱平衡アンサンブルの機械学習 3.1 ベイズモデリング 限界は，最初のMDシミュレーションでサンプルされた構造状態の範囲で しか推定ができないという点
- 12. 3．熱平衡アンサンブルの機械学習 3.2 最大エントロピー法（レプリカ平均束縛法） 計測データを直接にMDシミュレーションに取り込む 𝑃 𝑟 ∝ 𝑒 ポテンシャル関数を用いて普通にMD このポテンシャル関数は完全なものではない 目標 𝑃 𝑟 からの変化を最小限に抑えつつ， シミュレーションから得られる観測量の平均値が アンサンブル平均の観測データと一致するような分布𝑃 𝑟 を求める 𝐷 𝑃 𝑃 𝑃 𝑟 log 𝑃 𝑟 𝑑𝑟 𝑃 𝑟 log 𝑃 𝑟 𝑑𝑟 𝑃 𝑟 log 𝑃 𝑟 𝑃 𝑟 𝑑𝑟 16 カルバックライブラー情報量（2つの分布の“距離”を測る）
- 13. 𝛿 𝛿𝑃 𝐷 𝑃 𝑃 𝜆 Ω 𝑑𝑟𝑃 𝑟 Ω 𝑟 𝜅 1 𝑑𝑟𝑃 𝑟 0 3．熱平衡アンサンブルの機械学習 3.2 最大エントロピー法（レプリカ平均束縛法） 𝑃 𝑟 , , , , 𝑟 1 𝑍 𝑒 ∑ δ Ω 1 𝑛 Ω 𝑟 21 代替案として、レプリカ平均束縛法 レプリカ数𝑛が無限に大きい時に、最大エントロピー法で得られる分布と等価 𝑃 𝑟 1 𝑍 𝑒 19 Ω 𝑑𝑟 1 𝑍 𝑒 Ω 𝑟 20 解は、 正しいが、繰り返し計算となり、実用上は不便 条件付最適化問題（ラグランジュ未定係数法） “ほぼ”独立なMDを、ｎ個のレプリカについて行う。“相互作用”は、レプリカ平均値のみ レプリカ平均 アンサンブル平均の測定データ 未定係数λは、この式を満たすように決める 未定係数λに依存する分布
- 14. 1．はじめに 目次：テキスト通り 2．ベイズモデリング 3．熱平衡アンサンブルの機械学習 4. 動的過程の機械学習 3.1 ベイズモデリング 3.2 最大エントロピー法（レプリカ平均束縛法） 4.1 データ同化（粒子フィルタ法） 4.2 隠れマルコフモデル 2.1 条件付確率とベイズの定理 2.2 尤度と最尤法
- 15. 4. 動的過程の機械学習 𝑟 → 𝑟 →, , → 𝑟 → 𝑟 → 𝑟 のような時間幅 𝜏 の時間発展 （時系列）を確率過程として扱う 𝑃 𝑟 , 𝑟 , 𝑟 , , , , 𝑟 𝑃 𝑟 𝑟 , 𝑟 , , , , 𝑟 𝑃 𝑟 , 𝑟 , , , , 𝑟 マルコフ性 と 時間並進に対して不変 𝑃 𝑟 𝑟 , 𝑟 , , , , 𝑟 𝑃 𝑟 𝑟 ⋯ ⋯ ⋯ 𝑃 𝑟 𝑟 xt‐1 xt xt+1 xt+2 yt‐1 yt yt+1 yt+2 観測される 観測されない 隠れ変数 計測と分子シミュレーションのマルコフ過程によるモデル化 尤度 尤度 尤度 尤度 マルコフ 過程 マルコフ 過程 マルコフ 過程 以下、 簡略化して、 時間幅を１と書く
- 16. 4. 動的過程の機械学習 4.1 データ同化（粒子フィルタ法） 𝑃 𝑋, 𝑌 𝜃 𝑃 𝑥 𝑥 , 𝜃 𝑃 𝑦 𝑥 , 𝜃 𝑃 𝑥 𝜋 27 xt‐1 xt xt+1 xt+2 yt‐1 yt yt+1 yt+2 観測される 観測されない 尤度 尤度 尤度 尤度 マルコフ 過程 マルコフ 過程 マルコフ 過程 𝑋 𝑥 , , , , , 𝑥 ， 𝑌 𝑦 , , , , , 𝑦 データ同化は地球科学の分野において，観測データに基づく気象予測などに適用さ れてきた．データ同化はｘが連続変数のマルコフ過程を表現する． 初期分布に 含まれる パラメータ 尤度 マルコフ 過程
- 17. 4. 動的過程の機械学習 4.1 データ同化（粒子フィルタ法） 一期先予測 𝑃 𝑥 𝒚 : 𝑑𝑥 𝑃 𝑥 𝑥 𝑃 𝑥 𝒚 : 28 時刻1からt‐1までの 観測データyの集合 𝑃 𝑥 𝒚 : 𝑃 𝑥 𝒚 , 𝒚 : 𝑃 𝑥 , 𝒚 𝒚 : 𝑃 𝐲 𝒚 : 𝑃 𝒚 𝑥 , 𝒚 : 𝑃 𝑥 𝒚 : 𝑃 𝒚 𝒚 : 29 𝑃 𝒚 𝑥 𝑃 𝑥 𝒚 : 𝑑𝑥 𝑃 𝒚 𝑥 𝑃 𝑥 𝒚 : フィルタ （最初の等号は観測データを過去と今のデータに分けただけ．2つ目と3つ目の等号は𝑥 , 𝑦 につ いての乗法の公式を使った．３行目への変形では，分子の左の因子においてマルコフ性を利用 して条件から𝑦 : を消した．分母は分子の規格化定数であることが分かる式に変えた．） ２つの漸化式を用いて効率よく求められる
- 19. 一期先予測 状態 空間 x 尤度計算 再抽出 各サンプルαの MD計算 𝑃 𝑥 𝑥 各サンプル 構造の 尤度計算 𝑃 𝒚 𝑥 フィルタリング 𝑃 𝑥 𝒚 : をn個のサンプル 分子構造で表現 𝑃 𝑥 𝒚 : をn個のサンプル 分子構造で表現 4. 動的過程の機械学習 4.1 データ同化（粒子フィルタ法） 𝑃 𝑥 𝒚 : 𝜌 𝑃 𝒚 𝑥 ∑ 𝑃 𝒚 𝑥 に従って再抽出 確率 𝛼 1 𝛼 2 𝛼 𝑛
- 20. 疑似ＡＦＭ計測データ ( 15 x 15 pixels 2nm分解能) 分子シミュレーション 高速AFM計測からの分子シミュレーションと共役した データ同化（粒子フィルタ） 1000 kstep から 10000 kstep まで 1000 kstep ごと 渕上＠京大 シミュレーション設定： DNA・タンパク質、約20原子を１粒子に粗視化 表面は平面に近似 DNA・タンパク質に静電力、vdW力、排除体積、構造依拠項 表面とDNA・タンパク質にファンデルワールス力 溶媒水は陰に取り扱う（Langevin 方程式＋構造依拠項） W. Li et al., Proc. Natl. Acad. Sci. 111 10550 (2014). G. S. Freeman et al., J. Chem. Phys. 141 165103. (2014). H. Kenzaki et al., J. Chem. Theory Comput. 7 1979 (2011). 動画 安藤ら 双子数値実験
- 22. 物理パラメータの推定（イオン強度依存性） イオン強度： 0.2 M （疑似AFMデータと同条件） 512粒子 試行1 最大尤度 対数尤度：‐7105. イオン強度： 0.4 M 対数尤度：‐9252. 512粒子 試行1 最大尤度 イオン強度： 0.1 M 対数尤度：‐ 8582. 512粒子 試行1 最大尤度 疑似ＡＦＭデータと同一 イオン強度 0.2 Mの時、 尤度が最大定可能 高速AFM計測からの分子シミュレーションと共役した データ同化（粒子フィルタ） 渕上＠京大
- 23. 4. 動的過程の機械学習 4.2 隠れマルコフモデル データ同化と類似の機械学習が隠れマルコフモデル（hidden Markov model）． 違いは、データ同化は連続変数、隠れマルコフモデルは離散変数を扱うこと。 観測される変数 ｙ ボブが散歩、 買い物、 クリーニングの どれを行ったか？ 1年分記録されている 隠れた変数 x その日の天気が 晴れか、雨か？ Wikipediaより ⇒関数演算が行列演算に変わる 隠れマルコフモデルの例 HMMは、音声認識、 バイオインフォマティクス等に広く利用される
- 24. 4. 動的過程の機械学習 4.2 隠れマルコフモデル パラメータ既知のとき、全期間の計測データ𝒚 : を使って各時刻 の分子構造状態（隠れ変数）𝑥 ∈ 1,2,3, , , , 𝑁 を推定する 𝑃 𝑥 |𝒚 : 31 𝑃 𝑥 𝒚 : 𝑃 𝑥 , 𝒚 : 𝑃 𝒚 : 𝑃 𝒚 : |𝑥 𝑃 𝑥 , 𝒚 : ∑ 𝑃 𝑥 , 𝒚 : 𝛽 𝑥 𝛼 𝑥 ∑ 𝛼 𝑥 32 𝛼 𝑥 ≡ 𝑃 𝑥 , 𝒚 : (33) 𝛽 𝑥 ≡ 𝑃 𝒚 : |𝑥 (34) 𝛼 𝑥 𝑃 𝒚 𝑥 𝑃 𝑥 𝑥 𝛼 𝑥 35 尤度 時間発展の 遷移行列𝑇 前向きアルゴリズム 𝛽 𝑥 𝛽 𝑥 𝑃 𝑦 𝑥 𝑃 𝑥 𝑥 37 後ろ向きアルゴリズム 求めたい量 やはり、漸化式を用いる。 ベクトル ベクトル
- 25. max 𝑃 𝒀 𝜃 𝑃 𝑋, 𝒀 𝜃 39 を（周辺）尤度とする． 4. 動的過程の機械学習 4.2 隠れマルコフモデル ⇒ バウム・ウェルチアルゴリズム 最尤法によるパラメータ最適化 パラメータ既知のときの最適な時系列 ⇒ ビタービアルゴリズム
- 26. Single‐molecule FRET タンパク質フォールディングFRETデータによる隠れマルコフモデリング 松永、杉田、eLIFE 2018 遷移行列𝑇 の要素をパラメータとして、FRET計測データから、機械学習 4. 動的過程の機械学習 4.2 隠れマルコフモデル 適用例
- 27. 天然構造らしさ 天然構造らしさ 松永、杉田、eLIFE 2018 MDデータ（事前分布）による、 状態分布と遷移頻度 学習後の状態分布と遷移頻度 4. 動的過程の機械学習 4.2 隠れマルコフモデル 適用例 FRET 大 天然状態 FRET 大 変性状態 FRET 小 変性状態
- 28. 参考：教科書 ベイズ統計、データ同化、隠れマルコフモデ ルの参考書 樋口知之、データ同化入門、朝倉書店 ビショップ、パターン認識と機械学習（下）、 丸善出版、機械学習の基礎についての バイブル 石井健一郎・上田修功，続・わかりやす いパターン認識：教師なし学習入門， オーム社
- 29. 𝑃 𝑎 𝑃 𝑎, 𝑏 𝑃 | 𝑎 𝑏 𝑃 𝑏 3 𝑃 | 𝑏 𝑎 ∝ 𝑃 | 𝑎 𝑏 𝑃 𝑏 5 𝑃 | 𝑏 𝑎 𝑃 | 𝑎 𝑏 𝑃 𝑏 ∑ 𝑃 | 𝑎 𝑏 𝑃 𝑏 4 𝑃 | 𝑏 𝑎 𝑃 | 𝑎 𝑏 𝑃 𝑏 𝑃 𝑎 2 “ベイズの定理” 2．ベイズモデリング 2.1 条件付確率とベイズの定理 トーマス・ベイズ 1702 ‐ 1761 これが実際にベイズを 描いているかどうかど うかは疑わしい