CNN

1. CNN
Convolutional Neural Network

2. Traditional NN & CNN
-완전연결계층 (Affine 계층)
-CNN
‘합성곱 계층(conv)’과 ‘풀링 계층(Pooling)’ 추가
출력에 가까운 층에서는 지금까지의 NN 구성 그대로 사용
▶ 간단하게, CNN은 신경망에 기존의 필터 기술을 병합하여 신경망이 2차원 영상을 잘 습득할 수 있도록 최적화 시
킨 알고리즘이다.
■ Problems of Fully-connected Layer?
‘데이터의 형상이 무시된다’
이미지의 경우, 세로/가로/채널(색상)로 구성된 3차원 데이터이다. 그러나 완전연결 계층에 입력할 때는 3차원의 데이터를 평평한 1차
원 데이터(gray scale)로 평면화 해주어야 한다. 이 과정에서 공간 정보가 손실될 수밖에 없고, 결과적으로 이미지 공간 정보 유실로 인
한 정보 부족으로 인공 신경망이 특징을 추출 및 학습이 비효율적이고 정확도를 높이는데 한계가 존재한다.
즉, 완전연결 계층은 형상을 무시하고 모든 입력데이터를 동등한 뉴런(같은 차원의 뉴런)으로 취급하여 형상에 담긴 정보를 살릴 수 없
다.
이미지의 공간 정보를 유지한 상태로 학습이 가능한 모델이 바로 CNN(Convolutional Neural Network)입니다.

3. Convolutional Neural Network
■ Diff. between CNN and Affine(Fully-connected Layer)
합성곱 계층은 형상을 유지한다.
이미지를 3차원 데이터로 입력 받으며, 마찬가지로 다음 계층에도 3차원 데이터로 전달한다. 따라서 CNN에서는 이
미지처럼 형상을 가진 데이터를 제대로 이해할 가능성이 높다.
•각 레이어의 입출력 데이터의 형상 유지
•이미지의 공간 정보를 유지하면서 인접 이미지와의 특징을 효과적으로 인식
•복수의 필터로 이미지의 특징 추출 및 학습
•추출한 이미지의 특징을 모으고 강화하는 Pooling 레이어
•필터를 공유 파라미터로 사용하기 때문에, 일반 인공 신경망과 비교하여 학습 파라미터가 매우 적음
■ CNN’s Features
•Locality
CNN은 local 정보를 활용한다. 공간적으로 인접한 신호들에 대한 correlation 관계를 비선형 필터를 적용하여 추출해 내는데, 이러한
필터를 여러 개 적용하면 다양한 local 특징을 추출해 낼 수 있게 된다.
•Shared Weight
동일한 계수를 갖는 filter를 영상 전체에 반복적으로 적용함으로써 변수의 수를 획기적으로 줄일 수 있으며, topology변화에 무관한 항상성
얻을 수 있게된다.

4. Convolution
■ Convolution
입력 영상으로부터 Convolution(filter)를 통해, feature map을
생성
- Filter(=Kernel) & Stride
이미지의 특징을 찾아내기 위한 공용 파라미터로, 일반적으로 (4, 4)이나 (3, 3)과 같은 정사각 행렬로 정의된다.
CNN에서 학습의 대상은 필터 파라미터이며, 합성곱 연산은 필터의 윈도우를 지정된 간격(stride)으로 순회하며 채널별로(컬러의 경우
3개) 입력데이터에 적용하여 Feature Map을 만든다.
주의 )입력 데이터의 채널 수와 필터의 채널 수는 같아야

5. Convolution
■ Filter
입력 영상으로부터 Convolution(filter)를 통해, feature map을
생성
Filter는 해당 특징을 두드러지게하거나, 그 특징이 데이터에 있는지 없는지를 검출해주는 함수이
다.
예1) 특징을 두드러지게 하는 필터
예2) 해당 특징 검출 필터
곡선을 검출하는 필터
직선 부분을 적용하면?
결과값 0에 수렴
즉, 필터는 입력 받은 데이터에서 그 특성을 가지고 있으면 결과 값이 큰 값이 나오고, 가지고 있지 않으면 0에 가까운 값이 나
오게 되어 테이터가 그 특성을 가지고 있는지 없는지의 여부를 알 수 있게 해준다.

6. Convolution
■ multiple filter
입력 영상으로부터 Convolution(filter)를 통해, feature map을
생성
입력 값에는 여러 개의 특징이 있어, 여러 개의 다중 필터 값을 다음과 같이 적용하게 된다.
Input data
| Filter
ㅡ Filter

7. Convolution
■ Padding
입력 영상으로부터 Convolution(filter)를 통해, feature map을
생성
합성곱 연산의 패딩 처리 : 입력 데이터 주위에 0을 채운다.
Convolution 레이어에서 Filter와 Stride의 작용으로 Feature Map의 크기는 입력데이터보다 작아진다. 합성곱 연산을 거칠 때
마다 크기가 작아지면 어느 시점에서는 크기가 1이 되어버려 더 이상 합성곱을 진행할 수 없게 되는데, CNN 네트워크는 하나의
필터 레이어가 아니라 여러 단계에 걸쳐서 계속 필터를 연속적으로 적용하여 특징을 추출하는 것을 최적화 해 나가는데, 필터
적용 후 결과 값이 작아지게 되면 처음에 비해서 특징이 많이 유실될 수가 있다. 충분히 특징이 추출되기 이전에 결과 값이 작아
지면 특징이 유실되기 때문에, 이를 방지하기 위한 방법으로 출력 크기를 조정할 목적으로 Padding을 진행한다.

8. Convolution
■ Output size
입력 영상으로부터 Convolution(filter)를 통해, feature map을
생성
합성곱 연산의 처리 흐름
배치처리
Input data
높이 : H
폭 : W
필터 높이 : FH
필터 폭 : FW
Stride 크기 : S
패딩 사이즈: P

9. Convolution
■ Activation Function
입력 영상으로부터 Convolution(filter)를 통해, feature map을
생성
필터들을 통해서 Feature map이 추출되었으면, 이 Feature map에 Activation
function을 적용하게 된다. Activation function의 개념을 설명하면, 위의 쥐 그
림에서 곡선 값의 특징이 들어가 있는지 안 들어가 있는지의 필터를 통해서 추
출한 값이 들어가 있는 예에서는 6000, 안 들어가 있는 예에서는 0 으로 나왔다.
이 값이 정량적인 값으로 나오기 때문에, 그 특징이 “있다 없다”의 비선형
값으로 바꿔 주는 과정이 필요한데, 이 것이 바로 Activation 함수이다.
ReLu 함수를 이용하는 이유는 뉴럴 네트워크에서 신경망이 깊어질 수록 학습이
어렵기 때문에, 전체 레이어를 한번 계산한 후, 그 계산 값을 재 활용하여 다시
계산하는 Back propagation이라는 방법을 사용하는데, sigmoid 함수를
activation 함수로 사용할 경우, 레이어가 깊어지면 이 Back propagation이
제대로 작동을 하지 않기 때문에,(값을 뒤에서 앞으로 전달할때 희석이 되는
현상. 이를 Gradient Vanishing 이라고 한다.) ReLu라는 함수를 사용한다.

10. Pooling 출력 데이터의 크기를 줄이거나 특정 데이터를 강조하게 되는
레이어
- Pooling
풀링 레이어는 컨볼루션 레이어의 출력 데이터(Activation Map)를 입력으로 받아서 출력 데이터의 크기를 줄이거나 특정 데이터를 강
조하는 용도로 사용한다. 풀링 레이어를 처리하는 방법으로는 Max Pooling과 Average Pooling, Min Pooling이 있다.
일반적으로 데이터풀링의 윈도우 크기와 스트라이드는 같은 값으로 설정하여 모든 원소가 한 번씩 처리되도록 설정한다.
- 특징
1. 학습해야 할 매개변수가 없다.
2. 채널마다 독립적으로 계산하기 때문에, 채널 수가 변하지 않는다.
3. 입력의 변화에 영향을 적게 받는다.
4. 통과하면 행렬의 크기가 감소한다

11. CNN
■ Local feature > global feature
새로 생긴 이미지는 원 이미지에서 부분 부
분의 특징을 뽑아낸 것 이다.(local feature).
이렇게 부분 부분에서 특징을 알 수 있기 때
문에 전체 이미지에서 특징을 분석하는 것
보다 좀 더 좋은 학습효과를 낼 수 있는 것
이 CNN이다. 이렇게 Convolution을 적용하
면서 영상 학습 쪽의 성능은 비약적으로 향
상되었다.
1. local feature가 global feature가 되는
과정
2. CNN과정

12. CNN-Dropout

13. Summary

14. Summary

15. Summary-Structure
■ Convolutional Layer
•입력 데이터에 필터를 적용 후 활성화 함수를 반영하는 필수 요소
•입력 영상으로부터 Convolution(filter)를 통해, feature map을 생성
•여러 개의 다른 특징을 추출하고 싶다면, 여러 개의 convolution kernel를 사용
■ Sub-sampling(Pooling)
•가장 강한 신호만 전달하는 방식을 채택하여 가장 큰 값을 선택하는 방법인 max-pooling을
주로 사용
•이동이나 변형 등에 무관한 학습 결과를 보이기 위해서 Convolution+Sub-sampling 과정을
여러 번 거쳐 대표할 수 있는 특징을 얻는 것이 중요

16. Summary

17. Thank you