2022 스터디 자료

1. 2022 AI 스터디 유제환
머신 러닝을 해보자
수학 보조 자료 (선형대수)

2. 순서
0. 왜 선형대수를 배워야 하는가?
1. 함수의 이해
2. 벡터의 이해
3. 행렬의 이해
4. 행렬은 사상이다.

6. 선형대수는 무엇을 연구하는가?
- 벡터 공간
- 행렬
- 선형 사상
- 연립 일차 방정식 (소거법, 행렬식)
미적분과 함께 대학수학의 기초 교과목

7. 선형성과 예측 가능성
함수 에 대해, 임의의 대하여 가산성과 동차성이 성립하면,
그 함수는 선형(linearity)이다.
α, x, y
f
f(x + y) = f(x) + f(y)
f(αx) = αf(x)
가산성 (Additivity)
동차성 (Homogeneity)
선형성을 가진다는 것은 연산에 대하여 '성질을 유지한다'는 의미!
선형 함수는 예측 가능하기 때문에 다루기 싶다.

8. 선형성과 예측 가능성
임의의 곡선은 그 자체로는
분석하기 힘들지만,
미분을 이용하면 분석, 예측 할 수 있다.

9. 1. 함수의 이해

10. 함수의 정의
• 집합 X(정의역), Y(공역)에 대한 함수 f의 정의
• 임의의 에 대해, 그에 대응하는 가 하나 존재한다.
• x가 y로 사상(mapping)된다.
x ∈ X y ∈ Y
X (정의역) Y (공역)
f(x) (치역)
사상 (mapping)
y = f(x)일 때, y는 x에 대하여 함수이다.

11. 함수의 종류
단사 함수 전사 함수 전단사 함수

12. 함수와 함수가 아닌 예
x = 1
2
-2
x2
+ y2
= 5
y = ± 5 − x2
x = 1
1
y = x2

13. 역함수
x y
f
f−1

14. 역함수의 존재 조건
x = 1
1
y = x2
y는 x에 대하여 함수이다.
x는 y에 대하여 함수일까?
-1
y=1
역함수는 전단사 함수에서만 정의된다!
즉, y값으로 x 값을 결정할 수 없다.
→ 역함수가 존재하지 않는다.
1
-1 1
f

15. 2. 벡터의 이해

17. 벡터의 정의
'수치의 조합' 측면에서
수를 나열한 것을 벡터라고 부른다.
(
6
π
−0.3)
종 벡터
(6 π −0.3)
횡 벡터
(
6
π
−0.3)
T
= (6 π −0.3)
(6 π −0.3)T
=
(
6
π
−0.3)
전치 (Transpose)

18. 벡터의 정의
'수치의 조합' 측면에서
같은 차원에서 덧셈과 정수배가 정의된다. → 성질을 유지한다 = 선형성을 가진다.
x1
⋮
xn
+
y1
⋮
yn
=
x1 + y1
⋮
xn + yn
c
x1
⋮
xn
=
cx1
⋮
cxn

19. 음... 잘 모르겠는데?

20. 벡터의 정의
'공간'에서 생각하자
x1
⋮
xn
n차원 벡터
O
기하학적인 접근
3
5 (
5
3)

21. 벡터의 정의
'공간'에서 생각하자
x1
⋮
xn
+
y1
⋮
yn
=
x1 + y1
⋮
xn + yn
c
x1
⋮
xn
=
cx1
⋮
cxn

23. 기저 (Basis)
우주에는 위도 없고 오른쪽도 없다.
좌표 위에 벡터를 그리면 v = (3, 5)
좌표가 없다면??

24. 우주 공간을 생각해보자
방향을 어떻게 정할까?
기준
= 지구
우주인은 지구로부터 위쪽 방향으로 4x 만큼 떨어져있다.
x = 기저

25. 기저 (Basis)
우주에는 위도 없고 오른쪽도 없다.
기준점을 정하고 기본 단위를 만든다 = 기저

26. 기저 (Basis)
우주에는 위도 없고 오른쪽도 없다.
다시 좌표계로 생각해보자
기저
기저를 바꾸면 성분값이 바뀐다.
성분값은 단지 우리가 해석을 위해 정한것이다.
(본질이 아님)

27. 기저 (Basis)
우주에는 위도 없고 오른쪽도 없다.

28. 기저 (Basis)
우주에는 위도 없고 오른쪽도 없다.

29. '덧셈'과 '정수배'만 정의된 세계를 '선형 공간' 또는 '벡터 공간'이라고 부른다.
벡터의 성분값 보다 더 본질적인 기저(Basis)가 존재한다.
'길이'와 '각도'가 정의되지 않는다!

30. 3. 행렬의 이해

31. 행렬
벡터는 '대상', 행렬은 '관계'
6 1/7 2.2
π 7 42
−0.3 e −5
정방 행렬 (n = m)
(
6 1/7 2.2
π 7 42)
2 x 3 행렬

32. 행렬
벡터는 '대상', 행렬은 '관계'
a11 a12 a13
a21 a22 a23
a31 a32 a33
aij = (i, j) i 행 j열의 성분
열벡터
행벡터

33. 연립 1차 방정식
연립 1차 방정식은 행렬로 나타낼 수 있다.

34. 벡터에 행렬을 곱해도 선형성(성질)을 계속 유지한다!
= 순수한 관계
간략하게 나타내면
연립 일차 방정식이
간단한 일차 방정식 처럼 보인다.
y = A ⋅ x

35. 4. 행렬은 사상이다

36. 결국 따지고 보면...
행렬 = 함수 = 사상
y = A ⋅ x
행렬과 벡터의 곱은
임의의 m차원 벡터 x가 임의의 n차원 벡터 y로 사상되는 것.
n * m m * 1
n * 1
이를 '선형 사상'이라고 부르며
만약 n = m이라면 (같은 차원)
'선형 변환'이라 부른다.

37. 사상의 모양

38. 기저로 생각하기
O
(
2 1
1 3)
e1 =
(
1
0)
→ e′

1 =
(
2
1)
e2 =
(
0
1)
→ e′

2 =
(
1
3)
(
2 1
1 3)
⋅
(
2
2)
=
(
6
8)
2e′

1 + 2e′

2 =
(
6
8)
2e1 + 2e2 =
(
2
2)
(
2
2)
= 2
(
1
0)
+ 2
(
0
1)
= 2e1 + 2e2

39. 행렬의 곱을 여러번 = 사상의 합성 = 합성 함수
x z
A ⋅ x = g(x)
y
B * z = f(z)
y = B ⋅ A ⋅ x
y = f(g(x))

40. 공간으로 생각하면 좋은 점 - 직관적으로 이해 가능
A ⋅ B ≠ B ⋅ A (A ⋅ B)2
≠ A2
⋅ B2