Recommended
Recommended
More Related Content
What's hot
What's hot (20)
脳波解析のための相互情報量 Analyzing Neural Time Series Data 29章
- 1. ANTS 29章 Mutual Information 坂本 嵩 慶應義塾大学環境情報学部 学部・大学院修士四年一貫教育プログラム 2020.06.09. ANTS勉強会
- 2. 超ジェネリックな関係性 エントロピー 結合エントロピー 相互情報量の計算 1. 相互情報量とは とりあえず包含的な関係性 データ数の影響 ノイズとサンプル数の関係 2. 相互情報量の特徴 時間方向？トライアル方向？ 振幅値に対して 周波数情報や位相情報に対して 3. 相互情報量の適用 permutation test 4. 相互情報量の統計 とは特徴適用統計
- 3. 確率とエントロピー エントロピー＝事象の不確実性 高エントロピー：不確実 低エントロピー：確実 𝐻 𝑋 = − 𝑖=1 𝑛 𝑝 𝑥𝑖 log2 𝑝(𝑥𝑖) 計算するときは log(0) = −∞ に注意 微小値を足して回避する 相互情報量とは − エントロピー とは 振幅、パワーなどの値をまとめた任意のビン 確率
- 5. エントロピーはビン数に依存する ビンが増える→エントロピー↑ ・ビンは多すぎても少なすぎてもダメ ・条件/被験者/電極間のビン数は揃える Freedman-Diaconis rule ・最適なビン数を決める式 ・他にもScott’s ruleやSturger’s rule 𝑛𝑏𝑖𝑛𝑠 = max 𝑥 − min(𝑥) 2𝑄 𝑥 𝑛−1/3 相互情報量とは − エントロピー とは
- 6. エントロピーだけでも指標になる 不確実性の指標 ・システムの制約の多さ ・時間＆トライアル方向にデータを 集めて計算 ・右図下：400ms窓を100msずらし 相互情報量とは − エントロピー とは
- 7. 結合エントロピー＝同時確率のエントロピー 𝐻 𝑋, 𝑌 = − 𝑗=1 𝑚 𝑖=1 𝑛 𝑝 𝑥𝑖, 𝑦𝑗 log2 𝑝(𝑥𝑖, 𝑦𝑗) 相互情報量とは − 結合エントロピー とは
- 8. 相互情報量 ２変数の重複した情報 ・正 / 負 / 線形 / 非線形 問わない関係性 𝑀𝐼 𝑋, 𝑌 = 𝐻 𝑋 + 𝐻 𝑌 − 𝐻(𝑋, 𝑌) 相互情報量とは − 相互情報量 とは
- 9. データ数の影響 データ数が減る → H, MI ↑ ・ビン数ではなく、サンプル数 対策①：ビン数を変える 対策②：下式を使う 対策③：ノイズが一様なら無視 Δ𝐻 = 𝑏𝑖𝑛𝑠 − 1 2𝑁𝑙𝑛2 Δ𝑀𝐼 = 𝑏𝑖𝑛𝑠 − 1 2 2𝑁𝑙𝑛2 相互情報量の特徴 特徴
- 11. 時間方向 vs トライアル方向 時間方向 ・tempo precision が高い ・位相ロックの活動を捉えやすい トライアル方向 ・tempo precision が低い ・非位相ロックの活動も捉えやすい 時間＆トライアル方向 ・データの増加→ロバスト性向上 相互情報量の適用 適用