More Related Content
What's hot
What's hot (20)
Similar to Rabbit challenge 1_math
Similar to Rabbit challenge 1_math (20)
Recently uploaded
Recently uploaded (20)
Rabbit challenge 1_math
- 3. １．線形代数学（行列）
- 4. １．１ 行基本変形 (1) ① i行目をc倍する →i行、i列目だけcとした対角行列をかける ② s行目にt行目のc倍を加える →s行、t列目をcとした対角行列をかける 1 0 0 0 3 0 0 0 1 1 2 3 1 2 3 1 2 3 例 2行目を3倍する 1 2 3 3 6 9 1 2 3 ＝ 1 0 0 0 1 0 2 0 1 例 3行目に1行目の2倍を加える → 3行、1列目を2にする 1 2 3 1 2 3 1 2 3 ＝ 1 2 3 1 2 3 2 + 1 4 + 2 6 + 3 ＝ 1 2 3 1 2 3 3 6 9 1 2 3 3 × 1 3 × 2 3 × 3 1 2 3 ＝
- 5. １．１ 行基本変形 (2) ③ p行目とq行目を入れ替える →p行目とq行目を入れ替えた対角行列をかける 1 0 0 0 0 1 0 1 0 1 2 3 4 5 6 7 8 9 例 2行目と3行目を入れ替える 1 2 3 7 8 9 4 5 6 ＝
- 6. １．２ 逆行列の求め方 ガウスの掃き出し法 例 の逆行列を求める 2 4 1 5 単位行列を右に書く → 最終的に単位行列が右側になるように基本変形していく 1行目を1/2倍 2行目に1行目の-1倍を加える 2行目を1/3倍 1行目に2行目の-2倍を加える 2 4 1 5 5/6 −2/3 −1/6 1/3 10 6 − 4/6 − 4 3 + 4/3 5 6 − 5/6 − 2 3 + 5/3 ＝ ＝ 1 0 0 1 2 4 1 5 1 0 0 1 2 4 1 5 1/2 0 0 1 2 4 0 3 1/2 0 −1/2 1 1 2 0 1 1/2 0 −1/6 1/3 1 0 0 1 5/6 −2/3 −1/6 1/3 検算
- 7. １．３ 逆行列が存在しない条件 𝑎 𝑏 𝑐 𝑑 において、 𝑎: 𝑏 = 𝑐: 𝑑 (𝑎𝑑 − 𝑏𝑐 = 0) であれば逆行列が存在しない 𝑎𝑑 − 𝑏𝑐は二つのベクトル𝑣1 = 𝑎, 𝑏 と𝑣2 = 𝑐, 𝑑 に囲まれた、 平行四辺形の面積とみることができる。 （ベクトルを用いた三角形・平行四辺形の面積の公式と求め方参照） ↓ これが0になる場合、逆行列が存在しない 𝑣1 = 𝑎, 𝑏 𝑣2 = 𝑐, 𝑑 𝑎𝑑 − 𝑏𝑐は行列式と定義される
- 8. １．４ 行列式の特徴（1） ① 全く同じベクトルがあれば行列式は0になる 𝑣1 ⋮ 𝑤 ⋮ 𝑤 ⋮ 𝑣𝑛 = 0 ざっくりした理解の仕方 ベクトルを連立方程式と見立てた時、同じ式が２つあるため解が無い＝ 行列式がゼロなので、逆行列が無いので、ベクトルを連立方程式として解けない ② 一つのベクトルがλ倍されていたら行列式もλ倍 行列を横ベクトルの組み合わせと考えたとき行列式には以下の特徴がある λ 𝑣1 ⋮ 𝑣𝑘 ⋮ 𝑣𝑛 =λ 𝑣1 ⋮ 𝑣𝑘 ⋮ 𝑣𝑛 ざっくりした理解の仕方 一つのベクトル成分がλ倍だと平行四辺形の面積もλ倍になる 𝑣1 3𝑣2 𝑣2
- 9. １．４ 行列式の特徴 （2） ③ 一つのベクトルが二つのベクトルの和であれば、行列式もそれぞれの和として表せる 𝑣1 ⋮ 𝑣𝑘1 + 𝑣𝑘2 ⋮ 𝑣𝑛 = 𝑣1 ⋮ 𝑣𝑘1 ⋮ 𝑣𝑛 + 𝑣1 ⋮ 𝑣𝑘2 ⋮ 𝑣𝑛 ざっくりした理解の仕方 2つのベクトル成分に分割すると平行四辺形の面積もそれらの和になる 𝑣1 𝑣2𝑏 𝑣2𝑎 𝑣1 ⋮ 𝑢 ⋮ 𝑤 ⋮ 𝑣𝑛 = − 𝑣1 ⋮ 𝑤 ⋮ 𝑢 ⋮ 𝑣𝑛 ④ 行を入れ替えると行列式の符号は反転する ざっくりした理解の仕方 行列式を移項して③の和の法則を使うと左辺の行列式は𝑤+ 𝑢の行が二行になる。 ①の同じ行が存在すると行列式が0になる法則より右辺の=0が証明できる。
- 10. １．５ 余因子展開による行列式の求め方 𝑣1 = 𝑎, 𝑏, 𝑐 𝑣2 = 𝑑, 𝑒, 𝑓 𝑣3 = 𝑔, ℎ, 𝑖 𝑣1 𝑣2 𝑣3 = 𝑎 𝑏 𝑐 𝑑 𝑒 𝑓 𝑔 ℎ 𝑖 = 𝑎 𝑏 𝑐 0 𝑒 𝑓 0 ℎ 𝑖 + 0 𝑏 𝑐 𝑑 𝑒 𝑓 0 ℎ 𝑖 + 0 𝑏 𝑐 0 𝑒 𝑓 𝑔 ℎ 𝑖 性質③より一列目を各行の和の形に分解 =𝑎 1 𝑏/𝑎 𝑐/𝑎 0 𝑒 𝑓 0 ℎ 𝑖 +𝑑 0 𝑏 𝑐 1 𝑒/𝑑 𝑓/𝑑 0 ℎ 𝑖 +𝑔 0 𝑏 𝑐 0 𝑒 𝑓 1 ℎ/𝑔 𝑖/𝑔 性質②よりa,d,gを行列式の外 にくくりだす =𝑎 1 𝑏/𝑎 𝑐/𝑎 0 𝑒 𝑓 0 ℎ 𝑖 − 𝑑 1 𝑒/𝑑 𝑓/𝑑 0 𝑏 𝑐 0 ℎ 𝑖 +𝑔 1 ℎ/𝑔 𝑖/𝑔 0 𝑏 𝑐 0 𝑒 𝑓 性質④より行を入れ替えて-1倍 （二回入れ替えたら-1×-1倍で 符号が戻ることに注意） =𝑎 𝑒 𝑓 ℎ 𝑖 − 𝑑 𝑏 𝑐 ℎ 𝑖 +𝑔 𝑏 𝑐 𝑒 𝑓 この部分を(aの)余因子という
- 11. ２．線形代数学（固有値）
- 12. ２．１ 固有値と固有ベクトル 𝑨𝒙 = 𝜆𝒙 が成り立つとき、𝑥: 固有ベクトル λ:固有値という。固有ベクトルは一つに決まらない（比率だけは決まる） 1 4 2 3 1 1 = 5 5 =5 1 1 例 (𝑨 − 𝜆𝑰)𝒙 =O（ただし𝒙 ≠ 0）より、 𝑨 − 𝜆𝑰 =0（行列式がゼロ）となるλを求める。 固有値と固有ベクトルの求め方 ざっくりした理解の仕方 もし、 𝐴 − 𝜆𝐼 ≠0つまり逆行列が存在すると、これを左からかけることで、 𝑥 = 0となり、 条件（ 𝑥 ≠ 0）に矛盾する。よって、 𝐴 − 𝜆𝐼 =0でなくてはならない。 1 − 𝜆 4 2 3 − 𝜆 = 0 例 1 4 2 3 𝒙=𝜆𝒙 1 − 𝜆 3 − 𝜆 − 8 = 0 𝜆 − 5 𝜆 + 1 = 0 𝜆= 5 −1 固有値 1 4 2 3 𝑥1 𝑥2 =5 𝑥1 𝑥2 𝑥1 + 4𝑥2 2𝑥1 + 3𝑥2 =5 𝑥1 𝑥2 𝑥1 = 𝑥2より 1 1 1 4 2 3 𝑥1 𝑥2 =−1 𝑥1 𝑥2 𝑥1 + 4𝑥2 2𝑥1 + 3𝑥2 =−1 𝑥1 𝑥2 𝑥1 = −2𝑥2より −2 1 固有ベクトル(1) 固有ベクトル(2) 固有ベクトル 固有ベクトル 正方行列𝑨について
- 13. ２．２ 固有値分解 正方行列𝐴が固有値𝜆1, 𝜆2, …と固有ベクトル𝒗𝟏, 𝒗𝟐, …を持つとき、 𝜦 ≠ 𝜆1 ⋯ 0 ⋮ ⋱ ⋮ 0 ⋯ 𝜆𝑛 𝑽 = 𝒗1, 𝒗2, … 𝑨𝑽 = 𝑽𝜦 注意：𝛬は右からかける。 左からかけると固有ベクトルにうまくかからない 𝑨= 𝑽𝜦𝑽−1 固有値分解
- 14. ２．３ 特異値分解 𝑴𝒗 = σ𝒖 𝑴T 𝒖 = σ𝒗 正方行列ではない行列𝑴に対して、 が成り立つ単位ベクトル𝒗、 𝒖があるとき 𝑴= 𝑼𝑺𝑽𝑇 このとき、𝑼, 𝑽は直行する。 𝑼𝑼𝑇 = 𝑽𝑽𝑇 = 𝑰 𝑴𝑴𝑻 = 𝑼𝑺𝑽𝑇 𝑽𝑺𝑻 𝑼𝑇 = 𝑼𝑺𝑺𝑻 𝑼𝑇 𝑴𝑽= 𝑼𝑺 𝑴𝑻 𝑼= 𝑽𝑺𝑻 𝑴𝑻 = 𝑽𝑺𝑻 𝑼𝑇 ・・・① ・・ ・② ①と②の積より 𝑴𝑴𝑻 は正方行列となるので、 これを固有値分解すると、左特異ベクトルと特異値の二乗が得られる (𝑨 = 𝑽𝜦𝑽−1 ) 特異値分解 特異値分解 𝑼は左特異ベクトル、 𝑽は右特異ベクトルという
- 15. ２．統計学
- 16. ２．１ 集合 𝑺 = {𝒂, 𝒃, 𝒄, 𝒅} S 𝑀 𝑎 𝑏 𝑐 𝑑 𝒂 ∈ 𝑺 : 𝑎は𝑆の要素（元）である 𝑴 ⊂ 𝑺 : 𝑆内に集合𝑀が含まれる 𝑒 𝒆 ∉ 𝑺 : 𝑒は𝑆の要素（元）ではない A 𝐵 𝑈 𝐴 ∪ 𝐵 和集合 A 𝐵 𝑈 𝐴 ∩ 𝐵 共通部分 𝐴 = 𝑈 ∖ 𝐴 絶対補（Aの否定） A 𝐵 𝑈 A 𝐵 𝑈 B ∖ 𝐴 相対補（差集合）
- 17. ２．２ 条件付確率 頻度確率：何回試行して何回当たったかなど、測定して得られる確率（客観確率）「全生徒の75%がこの試験に合格しました」 ベイズ確率：信念の度合い、測定で完全に求められない確率（主観確率）「あなたは80%の確率で合格するだろう」 𝐴 の中で𝐵の発生する確率：𝑃(𝐴 ∩ 𝐵) = 𝑃(𝐴) 𝑃(𝐵|𝐴) A 𝐵 𝑈 𝐴が発生する確率× 𝐴が発生する条件下でBが発生する確率 A 𝐵 𝑈 𝐴と𝐵の発生する確率：𝑃(𝐴 ∪ 𝐵) = 𝑃(𝐴) + 𝑃(𝐵) - 𝑃(𝐴 ∩ 𝐵) 𝑃(𝐴 ∩ 𝐵) = 𝑃(𝐵 ∩ 𝐴) 𝐴と𝐵を交換することも可能 = 𝑃(𝐵) 𝑃(𝐴|𝐵)
- 18. ２．３ ベイズ則 東京の6月の天気は例年1/3の確率で雨が降ることがわかっている。雨が降ると1/2の確率で甲州街道が渋滞になる。 今年の6月は2/3の確率で渋滞が発生したとすると、そのうち雨が降っていた確率は？ 𝑃(𝐴) 𝑃 𝐵 𝐴 = 𝑃(𝐵) 𝑃(𝐴|𝐵) 𝑃(𝐴) ：雨が降る確率 𝑃(𝐵) ：渋滞になる確率 𝑃 𝐵 𝐴 ：雨が降る条件下で渋滞する確率 𝑃(𝐴|𝐵)：渋滞している条件下で雨が降っている確率 𝑃 𝐴 𝐵 = 𝑃(𝐴) 𝑃 𝐵 𝐴 𝑃(𝐵) = 1/3 × 1/2 2/3 = 1/3 × 1/2 2/3 （例） = 1 4
- 19. ２．４ 確率変数、確率分布、期待値 確率変数 𝑓 𝑥𝑘 ：事象と結びつけられた数。事象そのものを指す。 確率分布 𝑃 𝑥𝑘 ：事象が発生する確率の分布。 期待値 𝐸 𝑓 ：その確率分布における確率変数の平均値。 𝐸 𝑓 = 𝑘=1 𝑛 𝑃 𝑥𝑘 𝑓 𝑥𝑘 = 1 𝑛 𝑃 𝑥 𝑓 𝑥 𝑑𝑥
- 20. ２．５ 分散、共分散、標準偏差 分散：データの散らばり具合。各値と期待値からのずれを平均したもの 𝑉𝑎𝑟 𝑓 = 𝐸((𝑓 𝑋 = 𝑥 − 𝐸 𝑓 )2) = 𝐸(𝑓2 𝑋 = 𝑥 ) −(𝐸 𝑓 )2 二乗の平均ひく平均の二乗 共分散：2つのデータ系列の傾向の違い 正の値、負の値：正（負）の相関がある ゼロ：相関は無い 標準偏差：分散の平方根（次元を合わせる目的） σ = 𝑉𝑎𝑟 𝑓 = 𝐸(𝑓2 𝑋 = 𝑥 ) − (𝐸 𝑓 )2
- 21. ２．６ 様々な確率分布 ①ベルヌーイ分布：𝑥が0または1となる確率の分布。表が出る確率が𝜇となるコイントスのイメージ。 𝑃 | 𝑥 𝜇 = 𝜇𝑥(1 − 𝜇)1−𝑥 𝑥：0 or 1、𝜇：𝑥となる確率 ②二項分布：ベルヌーイ分布の多試行版。ベルヌーイ試行をn回行って発生した事象の確率分布。 𝑃 | 𝑥 λ, 𝑛 = 𝑛𝐶𝑥λ𝑥 (1 − λ)𝑛−𝑥 𝑥：事象発生回数、λ：事象𝑥となる確率、𝑛：試行回数 = 𝑛! 𝑥! (𝑛 − 𝑥)! λ𝑥(1 − λ)𝑛−𝑥 𝑃 | 3 1/2,5 = 5𝐶3( 1 2 )3 (1 − 1/2)5−3 例：5回コイントスし3回表(𝑥=1)が出る確率 = 5! 3! (5 − 3)! 1 2 3 (1/2)2 = 5・4・3・2・1 (3・2・1)(2・1) 1 2 5 = 10/16 ③ガウス分布：事象の発生確率をグラフ化すると「釣り鐘型」となる連続分布 𝑁 𝑥; μ, σ2 = 1 2𝜋𝜎2 𝑒 − (𝑥−μ)2 2σ2 ③'正規分布：分散（σ2 ）=1、平均（ μ ）=0のガウス分布 𝑓 𝑥 = 1 2𝜋 𝑒−𝑥2 𝑥：事象発生回数、μ：事象𝑥の平均、σ2 ：事象𝑥の分散
- 22. ２．７ 推定 推定：母集団を特徴づける母数（平均などのパラメータ）を統計的に推測する事 母集団 抽出 標本 推測 推定量（estimator)：パラメータを推定するための関数（≒推定関数） 推定値（estimate)：実際に試行した結果から計算した値。真の値𝜃に対して推定値は𝜃と表される 標本分散：𝜎2 = 1 𝑛 𝑖=1 𝑛 𝑥𝑖 − 𝑥 2 不偏分散：𝑆2 = n 𝑛−1 𝜎2 = 1 𝑛−1 𝑖=1 𝑛 𝑥𝑖 − 𝑥 2 ざっくりした理解の仕方 先に平均（𝑥 ）が決まっているということは自由度が一つ減る（𝑛 − 1 ） 一致性：サンプル数が大きくなれば母集団の値に近づく 不偏性：サンプル数がいくらあってもその期待値は母集団の値と同様（𝐸 𝜃 = 𝜃）
- 23. ２．８ 自己情報量 例：沖縄で雪が降った（事象𝑎）日にライブがあった（事象A） → 情報量＝𝑖 𝑎 +𝑖 𝐴 、確率＝P 𝑎 P 𝐴 事象 情報量 確率 イメージ 沖縄に雪が降った 𝑖 𝑎 P 𝑎 北海道に雪が降った 𝑖 𝑏 P 𝑏 < < 一日増えたことが分かりにくい ＝情報量が少ない 一日増えたことが分かりやすい ＝情報量が多い 情報量が多い＝確率が小さい 独立な事象の積事象の情報量は、個々の情報量の和 自己情報量 ⅈ 𝑥 = − log 𝑃 𝑥 例：𝑖 𝑎 +𝑖 𝐴 = − log 𝑃 𝑎 𝑃 𝐴 = − log𝑃 𝑎 − log 𝑃 𝐴 確率1/2の事象が発生したときの情報量はlog2 𝑃 𝑥 ：bit 確率1/10の事象が発生したときの情報量はlog10 𝑃 𝑥 ：decit
- 24. ２．９ シャノンエントロピー シャノンエントロピー 自己情報量の期待値 𝐻 𝑥 = 𝐸(𝑖 𝑥 ) = −E(log 𝑃 𝑥 ) = − 𝑃 𝑥 log𝑃 𝑥 期待値は確率変数𝑖 𝑥 = − log 𝑃 𝑥 ×確率𝑃 𝑥 の和 0.5 例：コイントスのシャノンエントロピー 確率1/2がシャノンエントロピー最大（どちらが出るのも等しい場合）
- 25. ２．１０ KLダイバージェンス カルバック・ライブラー ダイバージェンス 同じ事象、確率変数における異なる確率分布の違いを表す。ダイバージェンス≒距離（でも厳密には距離と定義できない） 𝐷𝐾𝐿(𝑃| 𝑄 = 𝐸(log 𝑃(𝑥) 𝑄(𝑥) )=𝐸 log 𝑃 𝑥 − log 𝑄 𝑥 = 𝐸 − log 𝑄 𝑥 − (− log 𝑃 𝑥 ) = 𝐸(ⅈ 𝑄 𝑥 − ⅈ 𝑃 𝑥 ) 確率𝑄 𝑥 の情報量 例：最初に見積もった確率分布の情報量 確率𝑃 𝑥 の情報量 例：実際に測定した確率分布の情報量 = 𝑃 𝑥 (−log𝑄 𝑥 − −log𝑃 𝑥 ) = 𝑃 𝑥 log 𝑃(𝑥) 𝑄(𝑥) ※なお𝐷𝐾𝐿(𝑃| 𝑄 ≠ 𝐷𝐾𝐿(𝑄| 𝑃 （ 𝑃、 𝑄を交換できない）であることから、「距離」の定義を見たなさない しかし𝐷𝐾𝐿(𝑃| 𝑄 , 𝐷𝐾𝐿(𝑄| 𝑃 >0は成立するため、「距離」のように扱うことができる
- 26. ２．１１ 交差エントロピー 交差エントロピー KLダイバージェンスの一部を取り出したもの Qについての自己情報量をPの文武で平均している 例えば、「あらかじめ予測していたQの情報量を、実測したPの分布で平均する」 𝐷𝐾𝐿(𝑃| 𝑄 = 𝑃 𝑥 (−log𝑄 𝑥 − −log𝑃 𝑥 ) 𝐻 𝑃 :シャノンエントロピー = − 𝑃 𝑥 log𝑄 𝑥 − (− 𝑃 𝑥 log𝑃 𝑥 ) 𝐻 𝑃, 𝑄 :交差エントロピー 𝐻 𝑃, 𝑄 = 𝐷𝐾𝐿(𝑃| 𝑄 + 𝐻 𝑃