코딩 더 매트릭스 12장 특이값 분해

1. Ch12. 특이값 분해
(Singuler Value Decomposition)
아꿈사 김진성

2. 12.1 low-rank행렬의 근사값
• Rank 1 행렬의 연산
• 특이값 분해의 전반적인 내용은 low-rank의
k값을 어떻게 구할 것인가에 대한 것
• 주어진 행렬에 가장 가까운 랭크 k- 행렬을
찾는 문제를 정의하기 위해 행렬들에 대한 거
리를 정하는 것이 필요하고 이것이 Norm임

3. • 행렬 Norm은 단순 엔트리의 제곱합을
의미함
• 프로베니우스(Frobenius) Norm
• 프로네니우스 Norm은 벡터로 생각하여
연산을 하여도 같은 결과를 갖게 됨
의 값과
은 보는 것과 같이 결과를 갖는다

4. 12.2 트롤리 노선 위치
(Trolley-line-location) 문제
• 가상의 여러지점에 대해서 트롤리 노선을 어
떤식으로 놓을 것인지에 대한 결정을
이야기함
• 결론적인 해법을 먼저
제시하면 각 지점에서
노선이 수직으로 만나
는 거리의 합을 가지고
판단함

5. • 이부분을 수식적으로 정리를 해보면
(Definition10.1.4)에 의해 이므로
• 여기서 최상의 벡터 는 을 최대화하는 단위
벡터임
피타고라즈
정리에 의해
양변을 더하면

6. •
은 다음을 최소화하는 1차원 벡
터공간
•

7. • 행렬에 대한 최상의 Rank-1 근사는 원래의
행렬과 그 근사행렬 사이의 거리를 유사하게
측정
• 이를 위해서는 norm이 필요함
• 지금까지는 원점을 지나는 벡터에 대해서만
다루었고 이부분을 확장하여 좀 더 효율적인
벡터를 찾기 위해서 아핀공간의 개념을 적용

8. 12.3 가장 가까운 차원-k 벡터공간
• 앞의 틀로리 노선 문제는 k=1 의 특수한 경우
• 이제는 차원을 높여서 일반하면
• Gedanken알고리즘의 자연스런 일반화는
차원을 높이여서 정규직교 기저를 찾는 것

9. • 특이값 및 오른쪽 특이벡터들의 성질
- 오른쪽 특이벡더들은 정규직교한다.
- 특이값들은 음수가 아니며 내림차순이다.
- A의 모든 행은 오른쪽 특이벡터의 생성에
속한다.

10. • 특이값 분해(Singular value decomposition)
SVD
정규직교
같은표현

11. • 특이값 분해는 전치에 대해서 대칭성이다.
• 의 전치행령은 자신이기 때문
• 영이 아닌 특입값들의 개수는 rank A이다.
- 이는 A에 대한 최상의 랭크- k 근사는 A
자신
• 이제는 특이값 분해를 아핀공간에 적용하여 1
차원에서 구분하지 못한 것을 2차원에서 구할
수 있게 된다.