[온라인교육시리즈] 글로벌 서비스를 위한 인프라 구축방법(남용현 클라우드 솔루션 아키텍트)

글로벌 서비스를 위해 고려해야 할 것과
GRM(Global Route Manager) 구성 방법

2/
Agenda
1. 글로벌 서비스를 위해서 생각해야 하는 것들
2. 글로벌 네트워크와 위치의 중요성
3. 글로벌 서비스 구성을 위한 사전 검토 요소
4. GRM(Global Route Manager)을 통한 서비스 구성 방법
1. 사이트 이중화
2. 국가/지역 기반의 서비스
3. Failover

3/
1. 글로벌 서비스를 위해서 생각해야 하는 것들
글로벌 원 빌드 vs. 지역별 서비스
공급 / 유통 / 마케팅 채널
다국어, 다양한 디바이스, 다양한 네트워크
게임 실행 / 배포 / 업데이트 속도
웹/게임 서버 , 백엔드 플랫폼의 지리적 위치
사용자 응답시간
기타 등등...
고려하지 않을 수 없는
“글로벌 네트워크” 와 “글로벌 인프라”
CDN / Global Region / Global Network

4/
2. 글로벌 네트워크와 위치의 중요성
인터넷은 “네트워크의 네트워크”로
다양한 접속 지점, 라우터 등을
거치면서 국가를 넘어서는 통신
에는 수십 ~ 수백ms 가 소요됩니다
예를 들어 한국-미국으로
150K 크기의 http data를 보내는데
120ms latency x 200 TCP Round Trip
= 약 24초
각 국가마다 네트워크 환경이 다르고
글로벌+모바일일 되면 한국과는 달리
전혀 다른 얘기가 됩니다
* NCP Global Region

5/
3. 글로벌 서비스를 위한 사전 검토 요소
글로벌 서비스를 위해서는 각 국의 네트워크 환경을 고려한 서비스 구성이 필요합니다
검토 요소 4가지
인프라 구성
Core Infra
Delivery Infra
DB Infra
Proxy
HTTPS
HTTP 2.0
전용선
컨텐츠 구성
컨텐츠 사이즈
이미지 최적화
압축률
JPEG / webp
지연 로딩
동영상
Mp4 / HLS
인코딩
품질 측정
Middle Mile
Last Mile
웹 페이지 성능
컨텐츠별 로딩 속도 분석
서비스 도메인 구성
static / dynamic 분리
TTL
Global Domain 구성
GRM (Global Route
Manager)

6/
3. 글로벌 서비스를 위한 사전 검토 요소 – 인프라 구성
(1) Core는 KR / 컨텐츠는 CDN 사용
CDN edge
CDN edge
CDN edge
CDN edge
Public internet
Public internet
Public internet
서비스 서버 + 플랫폼
FE
BE
(2) Frontend 전진 배치 유형 + 글로벌 백본 사용
Proxy(+Cache)
@ 글로벌 리전
Proxy(+Cache)
@ 글로벌 리전
Proxy(+Cache)
@ 글로벌 리전
NCP전용선
FE
BE
Frontend
@ 글로벌 리
전
Frontend
@ 글로벌 리전
Frontend
@ 글로벌 리
전
NCP 전용선
BE
FE
FE
FE
(3)지역별 분산 구조 유형
NCP 전용선
BE
(4)글로벌 IP Transit Backbone 서비스 사용 유형
FE

3. 글로벌 서비스를 위한 사전 검토 요소 – HTTP 1.1 vs. HTTP 2.0
HTTP 1.1 vs HTTP 2 차이점
 HTTP 헤더 데이터 압축
 서버 푸시 기술
 HTTP 1.x의 HOL(head-of-line) blocking 문제 해결
 TCP 연결 하나로 여러 요청을 다중화 처리
 TLS 위에서 동작
 인터리빙 허용 (우선순위 높은 컨텐츠 우선 전송)
위 그림에서의 HTTPS는 HTTPS가 아닌 HTTP/2 를 의미 함
HTTP 1.1 vs HTTP 2 로딩 속도 비교
https://www.httpvshttps.com
지원 브라우져
 크롬
 iOS용 크롬
 파이어폭스
 인터넷 익스플로러 11 (윈도 10에 한정)
 마이크로소프트 엣지
 오페라
 사파리 9

8/
3. 글로벌 서비스를 위한 사전 검토 요소 – 컨텐츠 구성
이미지는 여전히 웹의 몸집을 키우는 주요 요인입니다
HTTP Archive에 따르면, 웹 페이지를 가져오기 위해 전송되는 데이터의 60%가 JPEG, PNG, GIF로 구성된 이미지 입니다
이미지 최적화는 이미지의 파일 크기를 줄일 수 있는 여러 가지 방법으로 이루어집니다

9/
Google은 다른 손실 압축 시스템에 비해 WebP 사용이 30~35%를 절감하며, 하루에 430억 개의 이미지 요청을 제공하고 그 중 26%는 무손실
압축이었다고 보고했습니다
Netflix, Amazon, Quora, Yahoo, Walmart, Ebay, The Guardian, Fortune, 및 USA Today는 모두 WebP를 지원하는 브라우저에 이미지를
WebP로 압축하여 제공합니다

10/
이미지 지연 로드
지연 로딩은 사용자가 이미지를 봐야 할 때까지 브라우저 내 이미지 로딩을 지연하는 웹 성능 패턴입니다. 한 예로, 스크롤을 하면 이미지가 온디맨드로 비
동기 로드됩니다. 이 방식은 이미지 압축 전략의 바이트 절감을 한층 향상할 수 있습니다
지연 로딩이 유용한 이유는 무엇인가요?
필요할 때만 이미지를 '지연' 로딩하는 것에는 여
러 이점이 있습니다.
 데이터 소비 감소
 배터리 소모 감소
 향상된 다운로드 속도

11/
3. 글로벌 서비스를 위한 사전 검토 요소 – NAVER CLOUD FLATFORM 백본
리전간 실시간 Latency를 직접 확인하실 수 있습니다
NBP는 전세계 주요 10개 지역에 인프라 거점과 글로벌 네트워크를
보유하고 있으며, 클라우드 서비스 리전을 확대하고 있습니다

12/
NAVER CLOUD FLATFORM 에서 다양한 컨텐츠 생산을 위한 PaaS가 준비되어 있습니다
VOD Transcoder
1. 빠르고 쉬운 작업 생성
 웹 기반의 콘솔 환경에서 영상 변환 작업을
간단하게 생성
2. 다양한 코덱 지원
 H.264, VP9, VP8, MPEG-2, Animated GIF
 AAC, MP3, MP2, PCM, FLAC, Vorbis
3. 파일 기반의 클라우드 비디오 트랜스코딩
 고비용의 미디어 트랜스코딩 인프라를
직접 구축하거나 운영할 필요 없음
 클라우드 환경에서 손쉽게 영상 변환 작업
4. 간편한 트랜스코딩 프리셋 제공
 일반적으로 자주 사용되는 옵션들을 모아놓은
기본 프리셋 목록을 제공
5. 썸네일 이미지 추출
 비디오 트랜스코딩 작업을 수행하면서 원본 영상
파일로부터 고품질 썸네일 이미지를 추출
6. OPEN API 제공

13/
Image Optimizer
1. 쉽고 편리한 이미지 변환 환경 설정
 웹 기반의 콘솔 환경에서 Image Optimizer와
연동할 상품과 변환을 허용할 규칙을 쉽고 빠르게 설정
2. 의도치 않은 이미지 변환 작업 방지
 사전에 설정한 변환 타입과 해상도로만 이미지 변환이 허용
3. 안정적인 변환 및 배포 서비스
 수년간 운영해 온 네이버 포토인프라 플랫폼의 노하우가
적용된 고품질의 안정적인 이미지 변환 서비스
4. 변환 규칙 설정 및 관리
 리사이징, 크롭 등 변환 규칙
 각 규칙별로 적용될 가로/세로 사이즈, 회전, 얼굴인식, 품질
등의 옵션을 미리 설정
 섬네일 생성시 별도의 워터마크 이미지를 삽입
5. 상세 변환 이력 조회
6. 섬네일 변환 미리보기
[서비스 설정]
[이미지 변환]

14/
Live Station
1. 강력한 H/W 인코딩
 H/W 인코딩 엔진을 통한 강력한 성능과 안정성을 제공
 Ultra Low Latency를 실현
2. 분산 구조의 높은 안정성
 플랫폼의 확장성이 뛰어난 분산 구조를 통한 신뢰성 제공
 시스템 자체적으로 즉각적인 복원, 끊김 없는 재생 제공
3. 쉬운 사용성
 채널 생성과 화질 설정만으로도 바로 방송 서비스가
가능한 구조
4. Thumbnail image 추출
 방송 서비스 구현에 꼭 필요한 Thumbnail image를 추출
5. 타임머신(Time Shift) 기능
 방송 도중 일시정지를 하고, 다시 재생이 가능
6. 지원 Protocol / codecs
 Input : RTMP / Output : HTTPS , HLS
 Codecs : H.264, AAC
[2019.6]

15/
3. 글로벌 서비스를 위한 사전 검토 요소 – 품질 측정
서비스 구간 정의
 Last Mile
 네트워크 구조에서 사용자 단말이 직접 연결되는 부분을 칭하는 말.
 가정용 인터넷의 경우 주로 가정에 들어오는 인터넷용 모뎀(FTTH용 광모뎀, xDSL용 DSL 모뎀, 케이블 모뎀 등) 에서 ISP의 접속장치까지의
구간 등을 뜻하고, 휴대폰의 경우 휴대폰에서 기지국까지의 구간을 뜻한다.
 다른 구간에 비해 네트워크 품질의 수준이 고르지 못할 경우가 많으므로, 사용자 경험에 큰 영향을 미친다.
 Middle Mile
 네트워크 구조에서 First Mile 과 Last Mile 을 제외한 나머지 네트워크 구간을 칭하는 말.
 인터넷의 주로 국제간 케이블, 각 ISP간 피어링 구간 등을 뜻하게 된다.

16/
구간 별 최적화 방법
 Middle Mile
 일단 인터넷 회선이 아닌 가능한 글로벌 전용회선을 통한 안정적인 속도를 낼 수 있는 구성으로 아키텍처 구성
 CDN 을 활용 한 사용자와 원본간의 긴 통신 구간 최적화
 Last Mile
 최대한 사용자와 가까운 곳에 인프라 구성 및 서버까지 짧은 RTT 가 될 수 있는 구성
 SSL Offload 를 통한 부하 감소
 컨텐츠 사이즈 최소화
 변화에 대한 지속 적인 모니터링 (다양한 툴 사용 권고)
https://tools.pingdom.com https://developers.google.com/s
peed/pagespeed/insights/ https://loadimpact.com

17/
NAVER CLOUD FLATFORM 에서 다양한 품질 측정을 위한 PaaS가 준비되어 있습니다
Web service Monitoring System
1. 실시간 모니터링을 통한 서비스 안정성 향상
 URL만 등록하면 웹 페이지의 응답 속도 및
정상 동작 여부를 실시간으로 확인
2. 웹 서비스 글로벌 응답 속도 측정
 국내뿐만 아니라 미국, 싱가포르, 독일
3. 시나리오 모니터링
 사용자 행동 패턴을 고려해 시나리오를 작성
4. 다양한 브라우저 테스트 환경 제공
 IE, Chrome, Firefox

18/
NAVER CLOUD FLATFORM 에서 다양한 품질 측정을 위한 PaaS가 준비되어 있습니다
Real User Analytics
1. 실시간 성능 데이터 수집
1. 실시간으로 수집되는 데이터를 통해
이슈 상황 시 즉각 대응 가능
2. 간편한 모니터링 관리
1. 웹 사이트 소스에 RUA에서 제공하는 스크립트를 배포
2. 여러 개의 웹 사이트를 하나의 프로젝트로 묶어서 관리
3. 직관적인 대시보드 제공
1. 국가, OS, 브라우저, 페이지별 속도
2. 특정 페이지에서 일어나는 이슈 현상을 확인
3. 웹사이트의 성능이 떨어지는 원인을 손쉽게 파악

19/
3. 글로벌 서비스를 위한 사전 검토 요소 – 도메인 구성
웹표준 구성요소 3가지
구조(컨텐츠) HTML
 마크업 언어
 기본 골격
 웹 컨텐츠에 의미를 부여하고 구조를
형성하는 부분
 웹 문서를 만들기 위하여 사용되는 기
본적인 언어
 웹의 내용을 작성
정적 / 동적 컨텐츠
표현(디자인) CSS
 웹 컨텐츠의 디자인을 담당하는 부분
 웹 디자인
정적 컨텐츠
기능(비즈니스로직 JavaScript
 프로그래밍 요소
 기능적인 브라우저의 상호 작용을 담당
 동적인 화면을 웹 페이지에 구현하기
위해 사용하는 스크립트 언어
 웹의 동작을 구현
정적 컨텐츠
웹 서비스의 경우 기본 적으로 용도 / 기능별로 도메인을 구분합니다
이유는 각각의 용도별 컨텐츠를 보다 효과적으로 사용자까지 전송하기 위한 다양한 방법이 존재 하고 필요에 따른 변화를 쉽게 줄 수 있기 때문입니다
웹을 구성하는 요소는 크게 3가지 나뉩니다
글로벌 서비스는 각 리전을 다양한 용도로 구성 / 운영 할 수 있으며, 용도별로 구분된 컨텐츠를 구성하는 다양한 방법을 소개 합니다.

20/
3. 글로벌 서비스를 위한 사전 검토 요소 – GRM (Global Route Manager)
Case #1 사이트 이중화
Health Check
CACHE
DNS
Health Check
Health Check
OK
OK
FAIL
rr.grm.ntruss.com?
1.0.0.10
1.0.0.20
1.0.0.30
rr.grm.ntruss.com 300 IN A 1.0.0.10
300 IN A 1.0.0.20
rr.grm.ntruss.com?
300 IN A 1.0.0.20
ns1.grm.ntruss.com
(GRM)
Round Robin
• 도메인에 등록된 리소스 별로 주기적인 TCP, L7 헬스 체크 수행
• Resource 별로 균등한 요청을 분배하는 방식
KR
JP
US

21/
Case #1 사이트 이중화
Weighted
 도메인에 할당된 리소스 별 비율을 다르게 분배
 운영되는 인프라의 규모 혹은 성능에 따라 비율을 조정
CACHE
DNS1
1.0.0.10
(weight:70)
1.0.0.20
(weight:30)
CACHE
DNS2
CACHE
DNS3
ns1.grm.ntruss.com
(GSLB)
Health Check
OK
Health Check
OK
w.grm.ntruss.com 300 IN A 1.0.0.10
w.grm.ntruss.com?
w.grm.ntruss.com?
w.grm.ntruss.com
300 IN
A
1.0.0.20
w.grm.ntruss.com?
w.grm.ntruss.com?
w.grm.ntruss.com?
w.grm.ntruss.com?
KR
JP

22/
Case #2 국가/지역 기반의 서비스
CACHE DNS
(한국)
CACHE DNS
(뉴욕)
사용자 (한국)
사용자 (뉴욕)
kr.grm.ntruss.com
(한국)
usw.grm.ntruss.com
(미국)
미국일 때
한국일 때
ns1.grm.ntruss.com
(GSLB)
Health Check
OK
Health Check
OK
geo.grm.ntruss.com?
geo.grm.ntruss.com 3600 IN CNAME kr.grm.ntruss.com.
geo.grm.ntruss.com?
geo.grm.ntruss.com 3600 IN CNAME usw.grm.ntruss.com.
usw.grm.ntruss.com 300 IN CNME kr.grm.ntruss.com.
geo.grm.ntruss.com?
geo.grm.ntruss.com
300 IN
CNAME usw.grm.ntruss.com.
geo.grm.ntruss.com?
GeoLocation
 ISP / 국가별 응답을 다르게 할당하고 싶을 경우 사용
 지역/ CIDR 에 대하여 설정 가능하며, 분기 규칙(Map)을 사전 정의 필요
 지역에 대해서는 사전에 Default Map 템플릿을 제공한다.

23/
Case #3 Failover
Health Check
CACHE
DNS
Health Check
Health Check
OK
OK
FAIL
rr.grm.ntruss.com?
1.0.0.10
1.0.0.20
1.0.0.30
300 IN A 1.0.0.20
rr.grm.ntruss.com?
300 IN A 1.0.0.20
ns1.grm.ntruss.com
(GRM)
Failover
 Health check 를 통한 문제가 생긴 인프라 제거 가능
 백업 / DR 운영 가능
 Health check 는 공인 아이피만 가능함

24/
3. 글로벌 서비스를 위한 사전 검토 요소 – GRM (Global Route Manager) 예시
(2) Service Request
(2) Service Request
(2) Service Request
(2) Service Request
(1) DNS Lookup
(1) DNS Lookup
(1) DNS Lookup
(1) DNS Lookup
America
EU/Africa
South-East
Asia
Korea
US Region
DE Region
SG/JP Region KR Region Customer
On-premise
IPsec-VPN
DNS Lookup
Service Request
Backend
IPsec-VPN
• 클라이언트가 지리적/네트워크 경로 상 가까운 서버에 접근되도록 하기 위해 해외 POP들에 서버들을 배치하고,
• NCP GRM (GSLB)을 이용해 접속 국가 별로 분기
• 기본적으로 사용자 DNS IP(Cache DNS)를 기반으로 분기 됨
방식 DNS
(Domain Name System)
GSLB
(Global Server Load
Balancing) = GRM
IP Health Check X O
사용자 위치기반 분산 X O
부하분산 단순한 RR
(Round Robin)
지능적인 SLB
(Server Load Balancing)
예) RR, Weighted,
Geolocation
Public IP
Public IP
Public IP
Public IP
Private IP
Private IP
Private IP
Private IP
Private Subnet
NAVER CLOUD FLATPORM의
전용선 통신을 통한 안정적인 Middle Mile 확보
GCDN
Edge
GCDN
Edge
GCDN
Edge
(3) jpg/ccs/js
static contents
(3) jpg/ccs/js
static contents
(3) jpg/ccs/js
static contents
Proxy & Cache
Proxy & Cache
Proxy & Cache

[온라인교육시리즈] 글로벌 서비스를 위한 인프라 구축방법(남용현 클라우드 솔루션 아키텍트)

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to [온라인교육시리즈] 글로벌 서비스를 위한 인프라 구축방법(남용현 클라우드 솔루션 아키텍트)

Similar to [온라인교육시리즈] 글로벌 서비스를 위한 인프라 구축방법(남용현 클라우드 솔루션 아키텍트) (20)

More from NAVER CLOUD PLATFORMㅣ네이버 클라우드 플랫폼

More from NAVER CLOUD PLATFORMㅣ네이버 클라우드 플랫폼 (20)

[온라인교육시리즈] 글로벌 서비스를 위한 인프라 구축방법(남용현 클라우드 솔루션 아키텍트)