2014 JOI春合宿行列の基礎とその応用

2014/03/20
山下洋史
@utatakiyoshi
行列の基礎とその応用

2014/03/202014 JOI春合宿行列の基礎とその応用
はじめに
・今日は「行列」の話をします
・2.5時間しかないのでめっちゃ飛ばします (最初の方はゆっくり?)
・数学的にはテキトーですが気分だけでも分かれば……
・それでも分からなくなったら適当に反応をください
(質問とかジェスチャーとか)
2

連立一次方程式
3

連立一次方程式の例(1)
4
果物屋は
桃を1個200円，柿を1個100円
で売っている．
JOI君は1600円で桃と柿を合計10個買った．
JOI君はそれぞれいくつずつ買った？

果物屋は桃を1個200円，柿を1個100円で売っている．
JOI君は桃と柿を合わせて10個買うと1600円であった．
JOI君はそれぞれいくつずつ買った？
5
+200x +100y =1600
+x +y =10
桃: x 個柿: y 個とすると，

6
直線 x+y=2 と直線 2x-y=2 の交点は？

7
直線 x+y=2 と直線 2x-y=2 の交点は？
+x +y =2
+2x -y =2

←連立一次方程式
8
+x +y =2
+2x -y =2
+200x +100y =1600
+x +y =10

とりあえず解く
(下1)-(上1)×2
→ -3y=-2
9
+x +y =2 (上1)
+2x -y =2 (下1)
+x +y =2 (上2)
-3y =-2 (下2)

とりあえず解く
(下1)+(上1)×(-2)→ -3y=-2
10
+x +y =2 (上1)
+2x -y =2 (下1)
+x +y =2 (上2)
-3y =-2 (下2)
+x +y =2 (上3)
+y =2/3 (下3)
+x =4/3 (上4)
+y =2/3 (下4)
(下2)を解く
(上3)+(下3)×(-1) → +x=4/3

変数と式を増やす
11
-x +y +z =0
x -2z =3
2x -y +z =-1
-x +y +z =0
+y -z =3
+y +3z =-1
-x +y +z =0
+y -z =3
+4z =-4
-x +y +z =0
+y -z =3
+z =-1
-x +y +z =0
+y =2
+z =-1
-x =-1
+y =2
+z =-1
x =1
+y =2
+z =-1
前進消去後退代入

N個の場合
12
……
……
前進消去
後退代入
こうできないときもあります(詳しくは後述 or 省略)

計算量について
前進消去
・(?列)×?+(?列) の計算 →O(N)
・1ステップあたりこれをN回
・これをNステップ
・→O(N3)
13
後退代入
・1つの変数について解く→O(N)
・これをN回
・→O(N2)

ベクトルと行列，
行列の積
14

縦ベクトル
縦ベクトル: 数,式を縦に並べたもの
15
要素ごとに足す
要素ごとに掛ける
0
@
x
y
z
1
A
0
@
x
y
z
1
A +
0
@
p
q
r
1
A =
0
@
x + p
y + q
z + r
1
A
c
0
@
x
y
z
1
A =
0
@
cx
cy
cz
1
A
(←スカラー倍と呼ぶ)
列ベクトルと呼ぶほうが多いかもしれない

ベクトルの図形的なイメージ
16
✓
2
1
◆
✓
2
4
◆
✓
2
4
◆
+
✓
2
1
◆
=
✓
5
0
◆
2
✓
2
1
◆
=
✓
4
2
◆
和→矢印をつなげる
c倍→長さをc倍

ベクトルで連立一次方程式を
書いてみる
17
-x +y +z =0
x -2z =3
2x -y +z =-1
0
@
x
x
2x
1
A +
0
@
y
0
y
1
A +
0
@
z
2z
z
1
A =
0
@
0
3
1
1
A
x
0
@
1
1
2
1
A + y
0
@
1
0
1
1
A + z
0
@
1
2
1
1
A =
0
@
0
3
1
1
A

行列
18
0
@
1 1 1
1 0 2
2 1 1
1
A 行列: 数,式を縦横に並べたもの
ベクトルと同様に，要素ごとに足す，要素ごとに掛ける
0
@
1 1 1
1 0 2
2 1 1
1
A +
0
@
1 0 0
0 1 0
0 0 1
1
A =
0
@
0 1 1
1 1 2
2 1 2
1
A
c
0
@
1 1 1
1 0 2
2 1 1
1
A =
0
@
c c c
c 0 2c
2c c c
1
A

行列と縦ベクトルの積
19
0
@
1 1 1
1 0 2
2 1 1
1
A
-x +y +z =0
x -2z =3
2x -y +z =-1
は
係数を抜き出したものになっている．
の
0
@
1 1 1
1 0 2
2 1 1
1
A
0
@
x
y
z
1
A =
0
@
0
3
1
1
A
が連立一次方程式になるように
行列と縦ベクトルの積を定めよう

20
0
@
1 1 1
1 0 2
2 1 1
1
A
0
@
x
y
z
1
A = x
0
@
1
1
2
1
A + y
0
@
1
0
1
1
A + z
0
@
1
2
1
1
A
とすればよい．
-x +y +z =0
x -2z =3
2x -y +z =-1
0
@
x
x
2x
1
A +
0
@
y
0
y
1
A +
0
@
z
2z
z
1
A =
0
@
0
3
1
1
A
x
0
@
1
1
2
1
A + y
0
@
1
0
1
1
A + z
0
@
1
2
1
1
A =
0
@
0
3
1
1
A
←3つ前のスライド

21
一般に，
… =
0
B
B
B
B
B
@
a
b
c
...
z
1
C
C
C
C
C
A
a +b +c +z…
→行列に含まれる縦ベクトルに係数をかけて足しあわせたもの

行列どうしの積
22
2つの式 Ax=y, By=z があるとき, A(Bx)=z
A(Bx)=(AB)x となるように行列同士の積を定めよう
0
@
1 1 1
1 0 2
2 1 1
1
A
0
@
x
y
z
1
A =
0
@
0
3
1
1
A → Ax=b

どうやって？
23

A(1,0,...,0)=?
24
初めの要素が 1 で他が全部 0 の縦ベクトルをAにかけてみる
a=1, b=c=...=z=0
… =
0
B
B
B
B
B
@
a
b
c
...
z
1
C
C
C
C
C
A
a +b +c +z…

2014/03/202014 JOI春合宿行列の基礎とその応用25
… =
0
B
B
B
B
B
@
1
0
0
...
0
1
C
C
C
C
C
A
1 +0 …+0 +0
a=1, b=c=...=z=0
A(1,0,...,0)=?

… =
0
B
B
B
B
B
@
1
0
0
...
0
1
C
C
C
C
C
A
a=1, b=c=...=z=0
A(1,0,...,0)=?

同様に考えると......
… =A =
0
B
B
B
B
B
@
1
0
0
...
0
1
C
C
C
C
C
A
A =
0
B
B
B
B
B
@
0
1
0
...
0
1
C
C
C
C
C
A
A
=
0
B
B
B
B
B
@
0
0
0
...
1
1
C
C
C
C
C
A
A…
Aと … のそれぞれの積を並べるとAになる！
0
B
B
B
B
B
@
1
0
0
...
0
1
C
C
C
C
C
A
0
B
B
B
B
B
@
0
1
0
...
0
1
C
C
C
C
C
A
0
B
B
B
B
B
@
0
0
0
...
1
1
C
C
C
C
C
A
A(1,0,...,0)=?

28
→ を調べてみる
Aと … のそれぞれの積を並べるとAになる！
0
B
B
B
B
B
@
1
0
0
...
0
1
C
C
C
C
C
A
0
B
B
B
B
B
@
0
1
0
...
0
1
C
C
C
C
C
A
0
B
B
B
B
B
@
0
0
0
...
1
1
C
C
C
C
C
A
[AB]
0
B
B
B
B
B
@
1
0
0
...
0
1
C
C
C
C
C
A
, [AB]
0
B
B
B
B
B
@
0
1
0
...
0
1
C
C
C
C
C
A
, · · ·

… =B
=A[AB]
0
B
B
B
B
B
@
1
0
0
...
0
1
C
C
C
C
C
A
= A
2
6
6
6
6
6
4
B
0
B
B
B
B
B
@
1
0
0
...
0
1
C
C
C
C
C
A
3
7
7
7
7
7
5
=A[AB]
0
B
B
B
B
B
@
0
1
0
...
0
1
C
C
C
C
C
A
= A
2
6
6
6
6
6
4
B
0
B
B
B
B
B
@
0
1
0
...
0
1
C
C
C
C
C
A
3
7
7
7
7
7
5
2つの式 Ax=y, By=z があるとき, A(Bx)=z.
A(Bx)=(AB)x
となるように行列同士の積を定めよう

… =B
=A
AB= A A A … A
[AB]
0
B
B
B
B
B
@
1
0
0
...
0
1
C
C
C
C
C
A
= A
2
6
6
6
6
6
4
B
0
B
B
B
B
B
@
1
0
0
...
0
1
C
C
C
C
C
A
3
7
7
7
7
7
5
=A[AB]
0
B
B
B
B
B
@
0
1
0
...
0
1
C
C
C
C
C
A
= A
2
6
6
6
6
6
4
B
0
B
B
B
B
B
@
0
1
0
...
0
1
C
C
C
C
C
A
3
7
7
7
7
7
5

A11B12 + A12B22 + A13B32
0
@
A11 A12 A13
A21 A22 A23
A31 A32 A33
1
A
0
@
B11 B12 B13
B21 B22 B23
B31 B32 B33
1
A
i 行目 j 列目の要素をと書きます
31
Aij
の1行目2列目=
0
@
A11 A12 A13
A21 A22 A23
A31 A32 A33
1
A
0
@
B12
B22
B32
1
A
の1行目=
B12
0
@
A11
A21
A31
1
A + B22
0
@
A12
A22
A32
1
A + B32
0
@
A13
A23
A33
1
A
の1行目=

0
B
B
B
B
B
B
@
A11 · · · A1n
...
...
Ai1 · · · Ain
...
...
An1 · · · Ann
1
C
C
C
C
C
C
A
0
B
@
B11 · · · B1j · · · B1n
... · · ·
...
Bn1 · · · Bnj · · · Bnn
1
C
A
32
Aij
の i 行目 j 列目=
の i 行目=
0
B
B
B
B
B
B
@
A11 · · · A1n
...
...
Ai1 · · · Ain
...
...
An1 · · · Ann
1
C
C
C
C
C
C
A
0
@
B1j
· · ·
Bnj
1
A
Ai1B1j + · · · + AinBnj
→Aの i 行目とBの j 行目の内積

前進消去のおさらい
(下1)-(上1)×2
→ -3y=-2
33
+x +y =2 (上1)
+2x -y =2 (下1)
+x +y =2 (上2)
-3y =-2 (下2)

+x +y =2 (上1)
+2x -y =2 (下1)
+x +y =2 (上2)
-3y =-2 (下2)
(下1)-(上1)×2
前進消去のおさらい
34
-2×(上1)+1×(下1)
の操作を
2 1
✓
1 1
2 1
◆
で表そう
横ベクトル: 行列や縦ベクトルと同じように和，スカラー倍ができる

行列と横ベクトルの積
35
…
a b c · · · z
= a
+z
+b
…
→行列に含まれる横ベクトルに
係数をかけて足しあわせたもの

(1,0,...,0)A=?
36
縦ベクトルと同様に，横ベクトルも考える
…
1 0 0 · · · 0
=
…
1
+0
+0

(1,0,...,0)A=?
37
縦ベクトルと同様に，横ベクトルも考える
…
1 0 0 · · · 0
=

(1,0,...,0)A=?
38
これらを縦に並べるとAが分かる
…
1 0 0 · · · 0
…
0 1 0 · · · 0
…
0 0 0 · · · 1
=
=
=
…
…

= B
行列の積ふたたび
今度は，(xA)B=x(AB) となるように積を定める
39
…
=A
1 0 0 · · · 0
0 1 0 · · · 0
(AB)=( A)B1 0 0 · · · 0
= B
(AB)=( 0 1 0 · · · 0 A)B
B
B
B
…
AB=

A11 B11 B12 B13
+A12 B21 B22 B23
+A13 B31 B32 B33
A11 A12 A13
0
@
B11 B12 B13
B21 B22 B23
B31 B32 B33
1
A
A11B12 + A12B22 + A13B32
0
@
A11 A12 A13
A21 A22 A23
A31 A32 A33
1
A
0
@
B11 B12 B13
B21 B22 B23
B31 B32 B33
1
A
40
Aij
の1行目2列目=
の2列目=
の2列目=

Ai1 · · · Ain
0
B
@
B11 · · · B1j · · · B1n
...
...
...
Bn1 · · · Bnj · · · Bnn
1
C
A
0
B
B
B
B
B
B
@
A11 · · · A1n
...
...
Ai1 · · · Ain
...
...
An1 · · · Ann
1
C
C
C
C
C
C
A
0
B
@
B11 · · · B1j · · · B1n
... · · ·
...
Bn1 · · · Bnj · · · Bnn
1
C
A
41
Aij
の i 行目 j 列目=
の i 行目=
Ai1B1j + · · · + AinBnj →Aの i 行目とBの j 行目の内積

行列の積まとめ
42
A …AB= A A A
B
B
B
…
AB=
の 2 通りで定義したが，どちらも
Ai1B1j + · · · + AinBnj
が i 行目 j 列目の成分になる．
→どちらでもOK

の話にもどりまして
43

行列の積の練習も
兼ねて……
44
を前進消去してみる
0
@
1 1 1
1 0 2
2 1 1
1
A
0
@
x
y
z
1
A =
0
@
0
3
1
1
A
(1行目)←(1行目)
(2行目)←(1行目)×1+(2行目)×1
(3行目)←(1行目)×2 +(3行目)×1
をするので，
0
@
1 0 0
1 1 0
2 0 1
1
A
を左からかける

兼ねて……
(1行目)←(1行目)
(2行目)← (2行目)
(3行目)← (2行目)×(-1)+(3行目)
45
0
@
1 1 1
0 1 1
0 1 3
1
A
0
@
x
y
z
1
A =
0
@
1 0 0
1 1 0
2 0 1
1
A
0
@
0
3
1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A
0
@
1 1 1
1 0 2
2 1 1
1
A
0
@
x
y
z
1
A =
0
@
1 0 0
1 1 0
2 0 1
1
A
0
@
0
3
1
1
A
をするので，
0
@
1 0 0
0 1 0
0 1 1
1
A を左からかければよい

兼ねて……
46
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 1 1
0 1 1
0 1 3
1
A
0
@
x
y
z
1
A =
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A
0
@
0
3
1
1
A
0
@
1 1 1
0 1 1
0 0 4
1
A
0
@
x
y
z
1
A =
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
0
3
1
1
A
0
@
1 1 1
0 1 1
0 0 4
1
A
0
@
x
y
z
1
A =
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A
0
@
0
3
1
1
A
0
@
1 1 1
0 1 1
0 0 4
1
A
0
@
x
y
z
1
A =
0
@
0
3
4
1
A
右辺を後から変形したのは伏線…

ちょい足し
47

線形性
A(x+y)=Ax+Ay
A(cx)=cAx
行列同士の掛け算も，行列×ベクトルを並べた
ものにすぎないので同じ線形性が成り立つ
48
←線形性

逆行列
・単位行列 I =
・IA=A=AI, Ix=x (かけても変化しない)
・A-1A=I=AA-1 となるA-1を逆行列と呼ぶ. (あるとは限らない)
・A-1から，A-1Ax=x=A-1bとして連立一次方程式が一発でとける
・一般に，逆行列を求めるのは大変
・Ax=bが解ければA-1を求める必要はないという場合が多い
49
0
B
B
B
B
B
@
1 0 0 · · · 0
0 1 0 · · · 0
0 0 1 · · · 0
...
...
...
...
...
0 0 0 · · · 1
1
C
C
C
C
C
A

しばし休憩
50
✓
1 2
1 0
◆ ✓
1
1
◆ ✓
1 2
1 0
◆ ✓
2
1
◆
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A
=? =?
の逆行列は？
ひまつぶし用練習問題

固有値
51

✓
1 2
1 0
◆ ✓
1
1
◆
✓
1 2
1 0
◆ ✓
2
1
◆
=?
=?
52
練習問題のこたえ

✓
1 2
1 0
◆ ✓
1
1
◆
=
✓
1
1
◆
✓
1 2
1 0
◆ ✓
2
1
◆
=
✓
4
2
◆
53

✓
1 2
1 0
◆ ✓
1
1
◆
=
✓
1
1
◆
= ( 1)
✓
1
1
◆
✓
1 2
1 0
◆ ✓
2
1
◆
=
✓
4
2
◆
= 2
✓
2
1
◆
54
→掛けたベクトルのスカラー倍になっている

固有値
・Ax = λx となる x を A の固有ベクトルと呼ぶ．
・λ を A の固有値と呼ぶ．
・固有値，固有ベクトルは複数ある
・1つの固有ベクトルに対して1つ固有値が対応する
55
は
✓
1 2
1 0
◆✓
1
1
◆✓
2
1
◆
の固有ベクトル
固有値は -1, 2
同じ固有値をもつ固有ベクトルがあると面倒なので固有値はすべて相異なるとする
c倍しても固有ベクトルなので，同じ方向のものは区別しない

固有ベクトルのイメージ
56
x1
x2
λ1=2
λ2=1/2

57
x1
x2
Aをかける
λ1=2
λ2=1/2

58
x1
x2
λ1=2
λ2=1/2

59
x1
x2
λ1=2
λ2=1/2
Aをかける

60
x1
x2
λ1=2
λ2=1/2
Aをかける
固有値最大の固有ベクトル→Aをかけた時の長さの倍率が最大

Aの累乗
61
✓
1 2
1 0
◆
= A
✓
3
0
◆
= x An
x = AA · · · Ax を計算してみよう
n個
AA · · · AAA
✓
3
0
◆
= AA · · · AAA
✓
1
1
◆
+
✓
2
1
◆
= AA · · · AA

( 1)
✓
1
1
◆
+ 2
✓
2
1
◆
= AA · · · A

( 1)2
✓
1
1
◆
+ 22
✓
2
1
◆
= ( 1)n
✓
1
1
◆
+ 2n
✓
2
1
◆
xを固有ベクトルの和に書く

二次形式
62

転置・内積
行列の転置 : とを入れ替えたもの
63
AjiAijAT
xT
y内積:
内積=0 であることを直交しているという
A
A
x
y

内積のイメージ
64
✓
2
1
◆
✓
2
4
◆
2 4
✓
2
1
◆
= 4 + 4 = 0
直角に交わる→内積 0
2 1
✓
2
1
◆
= 22
+ 12
= 5
自分との内積→長さの2乗

( i ≠ j なら )xi
T
xj = 0
二次形式
A が対称なら，固有ベクトルは直交する
65
AT
= A Aij = Aji
xT
Ax
1, · · · , n
x1, · · · , xn
固有値:
固有ベクトル:
二次形式:
(長さ 1 とする)
= (c1x1 + · · · + cnxn)T
A(c1x1 + · · · + cnxn)
= (c1x1 + · · · + cnxn)T
(c1 1x1 + · · · + cn nxn)
= 1c1
2
+ · · · + ncn
2

二次形式
66
1
p
5
✓
2
1
◆
A=
λ1=1 x1=
1
p
5
✓
1
2
◆
λ2=4 x2=
1
5
✓
8 6
6 17
◆
1c1
2
+ 2c2
2
= 1
c1
2
+ 4c2
2
= 1
傾いた楕円
xTAx=1 はどんなヤツ？

二次形式
固有値が全て正なら， = 1 は楕円の方程式になる
: レイリー商
( = 同じ方向で長さ 1 のベクトルの二次形式)
レイリー商最小の x = 最小固有値に対する固有ベクトル
楕円の長軸に対応
最大-短軸も同様
67
xT
Ax
xT
Ax
xT x

ここまでのまとめ
68
・行列で連立一次方程式を表せる
・行列×縦ベクトルは行列の中の縦ベクトルに
係数を掛けて足しあわせたもの (横も同様)
・A×Bの (i, j) 成分はAのi行とBのj列を掛ける
・Ax=λx → 固有ベクトル，固有値
・xTAx : 二次形式

行列のいろんな使い道
69
脈絡なく羅列します，ごめんね

1.フィボナッチ数
・フィボナッチ数
70
・行列の形で書ける
✓
fk+1
fk
◆
=
✓
1 1
1 0
◆ ✓
fk
fk 1
◆
↑Aとする
f0 = 0
f1 = 1
fk+1 = fk + fk 1

↵ =
1 +
p
5
2
=
1
p
5
2
✓
↵
1
◆
,
✓
1
◆
Aの固有値は固有ベクトルは
✓
fn+1
fn
◆
= An
✓
1
0
◆
= An 1
p
5
✓
↵
1
◆ ✓
1
◆
=
1
p
5

↵n
✓
↵
1
◆
n
✓
1
◆
fn = ↵n n
1.フィボナッチ数

2.PageRank
72
Webページ間のリンクが次のグラフのよう
に張られている
a
b
c
d

a
b
c
d
73
ページの上に人がいて，
毎回ランダムなリンクを選んで移動する
どのページに居る確率が高いか？
確率の高いページが重要っぽい！
2.PageRank

a
b
c
d
74
時刻 t に人が居る確率
at, bt, ct, dt
0
B
B
@
at+1
bt+1
ct+1
dt+1
1
C
C
A =
0
B
B
@
0 1/2 1/3 1
0 0 1/3 0
1 0 0 0
0 1/2 1/3 0
1
C
C
A
0
B
B
@
at
bt
ct
dt
1
C
C
A
↓Aとする
2.PageRank

今回のAの固有値は…
電卓(wolphram alpha.com)に聞いてみる
2.PageRank

←絶対値が 1未満
Eigenvalue: 固有値
Eigenvector: 固有ベクトル
2.PageRank

An
0
B
B
@
a0
b0
c0
d0
1
C
C
A = An
(c1v1 + c2v2 + x3v3 + x4v4)
= (1n
c1v1 + 2
n
c2v2 + 3
n
x3v3 + 4
n
x4v4)
! c1v1
nを大きくすると0に近づく
v1 =
0
B
B
@
2
0.667
2
1
1
C
C
A のスカラー倍に近づく
→aとcが重要そう
a
b
c
d
2.PageRank

3.統計学(線形回帰)
紅白饅頭セットの値段 Ci
=箱の価値 bB
+紅饅頭の価値 bR ×個数 Ri
+白饅頭の価値 bW ×個数 Wi
+誤差 εi (ランダム，平均0)
78
Ci = bB + bRRi + bW Wi + "i

(紅,白)=(1,1) のとき 351 円
(紅,白)=(1,0) のとき 147 円
(紅,白)=(2,3) のとき 848 円
(紅,白)=(10,20) のとき 5050 円
売ってみたらこうなった．
→箱と饅頭の価値はどんくらい？
(厳密には解けない)
0
B
B
@
351
147
848
5050
1
C
C
A =
0
B
B
@
1 1 1
1 1 0
1 2 3
1 10 20
1
C
C
A
0
@
bB
bR
bW
1
A +
0
B
B
@
"1
"2
"3
"4
1
C
C
A

80
C X B ε= +
C B ε= +
X
X
X
X
C B ε= +
X
X
X
-1
0
B
B
@
351
147
848
5050
1
C
C
A =
0
B
B
@
1 1 1
1 1 0
1 2 3
1 10 20
1
C
C
A
0
@
bB
bR
bW
1
A +
0
B
B
@
"1
"2
"3
"4
1
C
C
A

81
C X B ε= +
C B ε= +
X
X
X
X
C B=
X
X
X
-1
0
B
B
@
351
147
848
5050
1
C
C
A =
0
B
B
@
1 1 1
1 1 0
1 2 3
1 10 20
1
C
C
A
0
@
bB
bR
bW
1
A +
0
B
B
@
"1
"2
"3
"4
1
C
C
A
ε‘は平均 0
(めっちゃ雑な説明)

82
C B=
X
X
X
-1
0
B
B
@
351
147
848
5050
1
C
C
A =
0
B
B
@
1 1 1
1 1 0
1 2 3
1 10 20
1
C
C
A
0
@
bB
bR
bW
1
A +
0
B
B
@
"1
"2
"3
"4
1
C
C
A
を実際に計算してみると……
箱が 53円
紅饅頭が 94円
白饅頭が203円

4.統計学(主成分分析)
83
Xi,Yi = 科目1,2(国語, 算数)の得点
Zi=aXi+bYi
総合的な得点Ziを算出するために a,b を決める
国語
算数
Z の分散(ばらつき)を大きくすれば良さそう
a,bを大きくすればいくらでも大きくできるので，
a2+b2=1
と制限する

4.統計学(主成分分析)
84
分散共分散行列
Xの分散 X,Yの共分散
X,Yの共分散 Yの分散
=A
Zの分散= になる (説明は省略)
↓
レイリー商が最大，
最大固有値に対する固有ベクトル
平均 µX =
P
Xi
N
P
(Xi µX)
NP
(Xi µX)(Yi µY )
N
分散
共分散
a b A
✓
a
b
◆

ばねの振動

と細かく区切る．刻み幅
と近似すると
5.微分方程式 (差分法)
85
x00
(t) = kx(t)
h = 0.01
x0 = x(0), x1 = x(0.01), · · · , xn = (0.01 ⇥ n), · · ·
x00
(t) =
1
h

xn+1 xn
h
xn xn 1
h
→一次方程式になった
1
h2
xn+1 +

k
2
h2
xn +
1
h2
xn 1 = 0

... ... ...
... ... ...
x0
x1
x2
...
...
xN
=b を解けばよい
1
h2
xn+1 +

k
2
h2
xn +
1
h2
xn 1 = 0
を連立させて，
端は初期条件とか使ってうまくやる
5.微分方程式 (差分法)

6. 3DCG
(x,y,z) の位置にある赤い点は
カメラから見るとどの位置？
87
x
y
z
z’
y’
x’

回転:
88
x
y
z
z’
y’
x’
0
@
1
0
0
1
A ! rx
0
@
0
1
0
1
A ! ry
0
@
0
0
1
1
A ! rz
6. 3DCG

平行移動
89
x
y
z
z’
y’
x’
0
@
x
y
z
1
A !
0
@
x
y
z
1
A + rw
6. 3DCG

回転と平行移動合わせて，
90
0
@
x
y
z
1
A !
0
@
x
y
z
1
A + rw
0
@
1
0
0
1
A ! rx
0
@
0
1
0
1
A ! ry
0
@
0
0
1
1
A ! rz
0
B
B
@
x0
y0
z0
1
1
C
C
A =
0
B
B
@
x
y
z
1
1
C
C
A
rx ry rz rw
0 0 0 1
6. 3DCG

7.ロボットアーム
0
B
B
@
x0
y0
z0
1
1
C
C
A = R1R2R3
0
B
B
@
L
0
0
1
1
C
C
A
関節の角度・アームの長さ
がわかっている．
赤い点の位置は？

(L,0,0)
(x’,y’,z’)
0
B
B
@
x0
y0
z0
1
1
C
C
A =
0
B
B
@
L
0
0
1
1
C
C
A

R3
(L,0,0)(x’,y’,z’)
0
B
B
@
x0
y0
z0
1
1
C
C
A = R3
0
B
B
@
L
0
0
1
1
C
C
A

R2
R3
(L,0,0)
(x’,y’,z’)
0
B
B
@
x0
y0
z0
1
1
C
C
A = R2R3
0
B
B
@
L
0
0
1
1
C
C
A

R2
R3
(L,0,0)
(x’,y’,z’)
0
B
B
@
x0
y0
z0
1
1
C
C
A = R1R2R3
0
B
B
@
L
0
0
1
1
C
C
A
R1

今日紹介したもの
・フィボナッチ数 (固有値を使って一般項)
・PageRank (グラフを行列に，固有ベクトルが重要度)
・線形回帰 (変数の推定をAx=bに帰着)
・主成分分析 (分散が大の方向=固有ベクトル)
・差分法 (微分方程式を Ax=b に帰着)
・3DCG (座標のとりかえ)
・ロボットアーム (座標のとりかえを繰り返す)
96

おまけ
(数値計算に関連することとか
アルゴリズムに関連することとか)
97

さっきの
98
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 1 1
0 1 1
0 1 3
1
A
0
@
x
y
z
1
A =
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A
0
@
0
3
1
1
A
0
@
1 1 1
0 1 1
0 0 4
1
A
0
@
x
y
z
1
A =
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
0
3
1
1
A
0
@
1 1 1
0 1 1
0 0 4
1
A
0
@
x
y
z
1
A =
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A
0
@
0
3
1
1
A
0
@
1 1 1
0 1 1
0 0 4
1
A
0
@
x
y
z
1
A =
0
@
0
3
4
1
A
0
@
1 1 1
1 0 2
2 1 1
1
A
0
@
x
y
z
1
A =
0
@
0
3
1
1
A
0
@
1 1 1
0 1 1
0 1 3
1
A
0
@
x
y
z
1
A =
0
@
1 0 0
1 1 0
2 0 1
1
A
0
@
0
3
1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A
0
@
1 1 1
1 0 2
2 1 1
1
A
0
@
x
y
z
1
A =
0
@
1 0 0
1 1 0
2 0 1
1
A
0
@
0
3
1
1
A
O(N3)

前の練習問題
99
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A の逆行列は？
A1 A2
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A
A1
1
A2
1

前の練習問題
100
(A1A2)
1
= A2
1
A1
1
A2
1
A1
1
A1A2 = I より，
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A=
0
@
1 0 0
1 1 0
2 1 1
1
A=
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
AA1
1
A2
1
= =

前の練習問題
101
0
@
1 0 0
0 1 0
0 1 1
1
A
0
@
1 0 0
1 1 0
2 0 1
1
A の逆行列は？
0
@
1 0 0
1 1 0
2 1 1
1
A
一般に， (?行)×C+(?行) をしたときに
対応する場所に -C を書き込むと A1A2...AN の逆行列が求まる
→

LU分解
102
L
U x=b
U x=c
Ax = b
Ux = A1A2 · · · AN b
(A1A2 · · · AN ) 1
Ux = b
x=(Answer)
後退代入
O(N2)
後退代入
O(N2)

LU分解
103
L
U x=b
U x=c
Ax = b
Ux = A1A2 · · · AN b
(A1A2 · · · AN ) 1
Ux = b
L,U だけ前もって計算しておけば，
b が変わってもO(N2)で解ける
L,U の計算はO(N3)
x=(Answer)
後退代入
O(N2)
後退代入
O(N2)

An
0
B
B
@
a0
b0
c0
d0
1
C
C
A = An
(c1v1 + c2v2 + x3v3 + x4v4)
= (1n
c1v1 + 2
n
c2v2 + 3
n
x3v3 + 4
n
x4v4)
! c1v1
nを大きくすると0に近づく
v1 =
0
B
B
@
2
0.667
2
1
1
C
C
A のスカラー倍に近づく
→aとcが重要そう
a
b
c
d
べき乗法

べき乗法
An
x = An
( 1c1x1 + 2c2x2 + nc3x3)
= n
1 c1x1 + n
2 c2x2 + n
nc3x3
! n
1 c1x1 + n
2 c2x2 + n
nc3x3
適当な x から初めて，
・x ← Ax
・x の長さが 1 になるように x ← cx とする
(値が大きくなり過ぎないように)
を繰り返すと，x は最大固有値の固有ベクトルに近付く

ピボッティング
を4桁目で丸めながら計算する (正解は(-1,1))
106
✓
0.001 6
3 5
◆
x =
✓
6.001
2
◆
✓
0.001 6
0 6 ⇥ 3000 + 5
◆
x =
✓
6.001
6.001 ⇥ 3000 + 2
◆
(1行目)×3000+(2行目)

107
✓
0.001 6
3 5
◆
x =
✓
6.001
2
◆
6×3000=18000→1.8×104
6.001×3000=18003→1.8×104
✓
0.001 6
0 1.800 ⇥ 104
+ 5
◆
x =
✓
6.001
1.800 ⇥ 104
+ 2
◆

108
✓
0.001 6
3 5
◆
x =
✓
6.001
2
◆
1.8×104+5=18005→1.801×104
1.8×104+2=18002→1.800×104
✓
0.001 6
0 1.801 ⇥ 104
◆
x =
✓
6.001
1.800 ⇥ 104
◆

109
✓
0.001 6
3 5
◆
x =
✓
6.001
2
◆
✓
0.001 6
0 1.801 ⇥ 104
◆
x =
✓
6.001
1.800 ⇥ 104
◆
x2 = 1.800/1.801 = 0.9994
x1 =
6.001 6 ⇥ 0.999
0.001
=
6.001 5.994
0.001
=
0.007
0.001
= 7

どうしてこうなった
→ ピボット ((1,1)成分) が小さすぎた
→ 前進消去する前に，ピボットがその列の中
で最大になるように行を交換する
(行交換しても，解は変化しない)
110

ダメなものはダメ
(bの長さ) / (xの長さ) = (Aを掛けると長さ何倍?) = p
(eの長さ) / (rの長さ) = (Aを掛けると長さ何倍?) = q
111
|r|
|x|
|e|
|b|
A(x + r) = (b + e), Ax = b, Ar = e
p < λmax, q > λmin → p / q < λmax / λmin
条件数 κ
はの何倍(誤差の増幅度)?→ p / q

参考書籍
112
・「線形代数」がタイトルに入っている本は書
店に大量にある
(「単位が取れる!!!」みたいな物からガチ勢向けの抽象的な物まで)
・『線形代数とその応用』
産業図書 G. ストラング
・『線形計算の数理』
岩波数学叢書杉原正顯, 室田一雄

2014 JOI春合宿行列の基礎とその応用

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

More from Hiroshi Yamashita

More from Hiroshi Yamashita (7)

Recently uploaded

Recently uploaded (20)