report01

1. 応用数学
レポート ID *****ai0025273

2. 1.線形代数
0) スカラー、ベクトル、行列、演算方法（積、行列式、逆行列）
1) 固有値、固有ベクトルの求め方
2) 固有値分解の理解
3) 特異値・特異ベクトルの概要
4) 特異値分解の概要

3. 0) スカラー、ベクトル、行列、演算方法（積、行列式、逆行列）
スカラー：普通の数、通常の演算が可能、ベクトルの係数になる
ベクトル：大きさ、向きあり。スカラーの塊
行列：スカラーを表にしたもの、ベクトルを並べたもの
行列
ベクトル
スカラー

4. 0) スカラー、ベクトル、行列、演算方法（積、行列式、逆行列）
行列の積
行列、ベクトルの積も同様。
ただし、行、列の数があっていなければならない

5. 0) スカラー、ベクトル、行列、演算方法（積、行列式、逆行列）
行列は、連立方程式の発想から、
Aの逆数が求められれば、連立方程式が解ける → 逆行列

6. 0) スカラー、ベクトル、行列、演算方法（積、行列式、逆行列）
逆行列の定義
Iは単位行列、1が対角に並んだもの
→ 逆行列の検算に使用
逆行列の存在しない条件、行列式がない

7. 0) スカラー、ベクトル、行列、演算方法（積、行列式、逆行列）
逆行列の求め方
・掃出し法 ・2x2行列の場合

8. 1) 固有値、固有ベクトルの求め方
固有値・固有ベクトルの定義
ある行列Aに対して，以下のような式が成り立つような，特殊なベクトルxと，右辺の係数
λがある。
特殊なベクトルxとその係数λを，
行列Aに対する，固有ベクトル，固有値という

9. 1) 固有値、固有ベクトルの求め方
固有ベクトルは一意には定まらない。

10. 2) 固有値分解の理解
固有値分解により、行列Aの累乗が、固有値の累乗と固有ベクトルの積となり
計算が容易となる！

11. 3) 特異値・特異ベクトルの概要
正方行列以外は固有値分解できないの？
同様のことができる。
特殊な単位ベクトルがあるならば

12. 4) 特異値分解の概要
求め方
つまり、
を固有値分解すればよい。特異ベクトルと特異値の
2乗が求められる
また特異ベクトルは対称行列のため、逆行列は転地行列を求めればよい

13. 4) 特異値分解の概要
特異値分解ができれば、行列のサイズの制限がなくなり、
多くの利用ができる。画像データの圧縮に近いことも可能

14. 2.確率・統計
0) 確率
1) 条件付き確率について
2) ベイズ則の概要
3) 期待値・分散の求め方
4) 様々な確率分布の概要

15. 0) 確率
頻度確率（客観確率）
•発生する頻度
•例:「10本のうち一本だけ当たりのクジを引いて当選する確率を調べたところ10%であっ
た」という事実
ベイズ確率（主観確率）
•信念の度合い
•例:「あなたは40%の確率でインフレンザです」という診断
->医者の主観

16. 1) 条件付き確率について
ある事象X=xが与えられた条件で、Y=yとなる確率
例；雨が降っている条件で交通事故に遭う確率
洗濯物を干している条件で、雨が降る
ある事象Y=yが与えられた条件で、X=xとなる確率 と
X=xとなる確率から求められる （ベイズ則）

17. 1) 条件付き確率について
独立な事象の同時確率
お互いの発生には因果関係のない事象X=xと事象Y=yが同時に発生する確率

18. 2) ベイズ則の概要
例題で理解
ある街の子どもたちは毎日1/4の確率で飴玉をもらうことができ，飴玉をもらうと1/2の確
率で笑顔になるという。その街の，笑顔な子どもが飴玉をもらっている確率を求めよ。(た
だし，この街の子どもたちが笑顔でいる確率は1/3である。)

19. 3) 期待値・分散の求め方
確率変数と確率分布
確率変数：事象と結びつけられた数値。事象そのものを指すと解釈の場合多い
確率分布：事象の発生する確率の分布。離散値であれば表に示せる
確率分布

20. 3) 期待値・分散の求め方
・期待値：その分布における確率変数の 平均の値 or ありえそうな値

21. 3) 期待値・分散の求め方
分散：
データの散らばり具合
データの各値が、期待値からどれだけずれているか平均したもの
＋であれば、+比例
- であれば -比例

22. 3) 期待値・分散の求め方
共分散：
・2つのデータ系列の傾向
・正の値であれば似た傾向（+比例）
・負の値をとれば逆の傾向（-比例）
・0となれば、関係性に乏しい

23. 3) 期待値・分散の求め方
標準偏差
分散：2乗しているので、元のデータと単位が異なる
→
平方根により元の単位に戻る。
→ 標準偏差

24. 4) 様々な確率分布の概要
ベルヌーイ分布
・コイントス。（裏か表 2つの可能性）
・裏と表の出る割合が等しくなくとも扱える
マルチヌーイ分布
・さいころを転がすイメージ(1,2,3,4,5,6 2つ以上の可能性）
・各面の出る割合が等しくなくとも扱える

25. 4) 様々な確率分布の概要
二項分布
・ベルヌーイ分布の多試行版
コイントスをn回おこなう
ガウス分布
・釣鐘上の連続分布

26. 3.情報論理
0) 情報の重み
1) 自己情報量・シャノンエントロピーの定義
2) KLダイバージェンス・交差エントロピーの概要

27. 0) 情報の重み
下記□内の点の数 どちらが多い
どちらも差が１つなのに
下がすぐわかる
上
下
増加の比率が違う
情報の重みに違いがある

28. 1) 自己情報量・シャノンエントロピーの定義
自己情報量
対数の底２：単位ビット(bit)
対数の底 e：単位ナット(nat)
例） さいころの１の出る確率P 1/6
I(p) = - log 2(1/6) = 2.585 bit (1/8の3bitより少ない値）

29. 1) 自己情報量・シャノンエントロピーの定義
シャノンエントロピー
・微分エントロピーというが微分しているわけではない
・自己情報量の期待値
例） さいころのXの出る確率P 1/6 どの目でも 1/6
H(x) = - 6x(1/6 * log2(1/6) = -log2(1/6) = 2.585

30. 2) KLダイバージェンス・交差エントロピーの概要
カルバック・ライブラー ダイバージェンス
・同じ事象・確率変数における異なる確率分布P,Qの違いを示す
・2つの確率分布がどの程度似ているかを表す尺度
ソロモン・カルバックとリチャード・ライブラー はそれぞれ異なる人
・情報ダイバージェンス、情報利得、相対エントロピーとも呼ばれる
・距離とも呼ばれるが、距離ではない

31. 2) KLダイバージェンス・交差エントロピーの概要
交差エントロピー
・KLダイバージェンスの一部を取り出したもの
・Qについての自己情報量をPの分布で平均している