6 Info Theory

前回の練習問題 ,[object Object],A B A C ABA D ACABAD 2 文字前長さ１ 4 文字前長さ 3 6 文字前長さ 6 符号語系列は (0, 0, A), (0, 0, B), (2, 1, C), (4, 3, D), (6, 6, *) ,[object Object],[object Object],A B A C ABA D ACABAD 2 文字前長さ１ 4 文字前長さ 3 6 文字前長さ 6

前回の練習問題 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

本日の講義 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

乱数とは ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

「無秩序さ」の定式化 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],（ x を出力する最小のプログラムのサイズ）

コルモゴロフ複雑さの例（１） ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

コルモゴロフ複雑さの例（２） ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

コルモゴロフ複雑さと無秩序さ ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

コルモゴロフ的な乱数の定義 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

乱数の存在確率 ,[object Object],[object Object],[object Object],⇒ ほとんどすべての系列は圧縮不能（乱数である）ことを導ける 1 n –2 n –1 n サイズ n 未満のプログラムはすべて，長さ n の系列を出力 n+ α 長さ n 未満の系列は，サイズ n 以上のプログラムでしか作れない

乱数の計算可能性 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

擬似乱数 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

統計的検定 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

復習：確率，確率密度関数 ,[object Object],[object Object],[object Object],[object Object],[object Object],確率密度関数晴曇雨雪 0.3 0.4 0.2 0.1

確率密度関数について ,[object Object],[object Object],[object Object],＝ x y ここの面積 x -> 最小値， y -> 最大値とすると，面積＝１

x 2 値の定義 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],n i ... 系列 a において C i に属する値の個数（カイ２乗値）

x 2 値の解釈 ,[object Object],[object Object],系列 a が理想的な系列に近ければ ... ⇒ 分子部分は 0 に近づく ⇒ x 2 値も 0 に近づく

x 2 値の計算例 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

x 2 値の計算例（続） ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

x 2 値の評価 ,[object Object],[object Object],[object Object],[object Object],[object Object],自由度 2 自由度 4 自由度 6 x 2 O

x 2 値の比較 ,[object Object],[object Object],[object Object],理想系列では， x 2 値が 0 になる確率はきわめて小さい観測系列の x 2 値が 0 ⇒ 理想系列では考えにくい振る舞い x 2 値の大小だけでなく，理想的な x 2 分布と比較することが重要 x 2 O 自由度 5

x 2 値検定の実施例 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

その他の統計的検定手法 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

擬似乱数生成アルゴリズムについて ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

線形合同法の性質について ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

線形合同法の問題点 ,[object Object],[object Object],[object Object],[object Object],X i +1 = 5 X i + 1 mod 7 のとき ... 1 2 3 4 5 6 O 1 6 5 4 3 2 平面上の点を一個選んで ... という用途には使えない（初期値が 5 のとき）

M系列法 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],X i X i –1 X i – p X i – p +1 X i – p +2 結線 or 断線

M系列法について ,[object Object],[object Object],[object Object],[object Object],[object Object]

その他の擬似乱数生成法 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

まとめ ,[object Object],[object Object],[object Object],[object Object],[object Object]

練習問題 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]

6 Info Theory

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Viewers also liked

Viewers also liked (8)

Similar to 6 Info Theory

Similar to 6 Info Theory (20)

More from melvincabatuan

More from melvincabatuan (19)

Recently uploaded

Recently uploaded (8)

6 Info Theory