천만 사용자를 위한 AWS 클라우드 아키텍처 진화하기::이창수::AWS Summit Seoul 2018

© 2018, Amazon Web Services, Inc. or Its Affiliates. All rights reserved.
이창수
AWS 코리아 솔루션즈 아키텍트
천만 사용자를 위한 AWS
클라우드 아키텍쳐 진화하기

본 강연에서 다룰 내용
몇가지 기본 지식
사용자 증가에 따른 클라우드 아키텍쳐 진화하기
- 수직적 스케일 업을 통한 확장
- 멀티 AZ 기반 수평적 확장과 부하 이동하기
- 오토 스케일링
- 모니터링과 자동화
- 마이크로 서비스
10가지 체크 포인트

몇가지 기본 지식

a
e
o
q
t
i
h
p
Paris
u
l
f
d
m
c
b
n
s
k
vg
i
i
첫 5년: 4 리전
다음 5년: 7 리전
글로벌 리전
확장 현황
18 리전
54 가용 영역
2016–2018: 현재 7 리전
+ 4 리전 예정

(
) A C고객요청사항
Inter-region Peering
서로 다른 AWS 리전에서 두 개 이상의 VPC를
안전하게 연결하여 AWS 백본을 통해
인스턴스 간 통신 가능
NEW!
Inter-region
Peering
서울리전 Coming Soon
N
EW

N
EW
Inter-region VPC Peering
10.1.0.0/16 10.3.0.0/16
모든 구간 트래픽은 암호화 되고
아마존 글로벌 네트워크
구간을 이용
Inter-region VPC Peering

ss
Amazon 엣지 로케이션
114 PoPs (103 Edge Locations + 11 Regional Edge Caches)

Amazon 글로벌 네트워크
• 이중화된 100GbE 네트워크
• 리전간 이중화된 전용 네트워크 구간 연결

사용자의 위치에 따라 많은 네트워크 경로를 경유 해야함
어플리케이션 도달 경로는 매번 변동가능
Local ISP Network A B C D E F
애플리케이션 접근

Local ISP
애플리케이션 접근
Edge를 활용하면 이러한 비 효율성이 사라짐
CF & Route 53을 통해 AWS 네트워크에 빠르게 도달
AWS Shield 와 AWS WAF 를 통해 위협 완화
AWS Network

광범위하고 폭넓은 AWS 클라우드 서비스

광범위하고 폭넓은 클라우드 서비스
비지니스 요구 사항에 맞는
130여개 이상의 AWS 서비스 조립을 통해 유연한 활용 가능

이제 시작해볼까요?

첫 사용자

첫 사용자 1명
Amazon
EC2
Elastic IP
사용자
Amazon
Route 53

Elastic Compute Cloud (EC2)
• AWS 클라우드 가상 서버
• 다양한 운영 체제 지원
• 손쉽게 생성, 시작, 중단, 종료
• 손쉽게 수백대, 수천대로 확장 가능
• 원하는 대로 사용한 만큼만 과금
• 다양한 비용 모델 제공
• 다양한 컴퓨팅 옵션 선택 가능
인스턴스 세대
인스턴스 패밀리
인스턴스 사이즈
c5.xlarge

서버 트래픽↗ “더 높은 성능 인스턴스!”
수직적 스케일 업 (Scale-Up)
• 가장 쉬운 접근 방법
• 더 높은 CPU 인스턴스
• 더 높은 메모리 인스턴스
• 더 높은 스토리지 인스턴스
• 더 높은 I/O 인스턴스
• 쉽게 인스턴스 크기 변경
• 결국에는 한계 용량에 도달
vertically
1 vCPU
1 GiB 메모리
$0.014/시간
t2.micro
m5.xlarge
4 vCPU
16 GiB 메모리
$0.236/시간
c5.4xlarge
16 vCPU
32 GiB 메모리
$0.768/시간
[서울 리전 기준]

사용자 1명
• 이중화 없음
• 장애 시 페일 오버 불가
• 한 곳에 모든 것이 존재 Elastic IP
Amazon
Route 53
사용자
Amazon
EC2

사용자 > 1

사용자 > 1
EC2 DB
인스턴스
Amazon
Route 53
사용자
EC2 웹
인스턴스
Elastic IP
먼저, 기능에 따라 인스턴스의
역할을 나눈다!
• 웹 서버용 EC2 인스턴스
• DB용 EC2 인스턴스
• 직접 EC2에 DB 운영
• DB 관리형 서비스 사용

사용자 > 100

사용자 > 100
편리한 DB 운영을 위해
Amazon RDS 이용!
DB 백업, 패치 관리 대신
코어 서비스 개발에 집중!
Amazon
Route 53
사용자
웹
인스턴스
Elastic IP
Amazon
RDS

Amazon RDS
6개 데이터베이스 엔진 기반의 관계형 데이터베이스 관리형 서비스
간편한 관리 뛰어난 확장성 가용성 및 내구성 성능과 낮은 비용
데이터베이스 설치,
수동 패치 필요 없음
몇번의 클릭으로
손쉽게 컴퓨팅 및
스토리지 확장
Multi-AZ 구성 시
자동 동기식 복제,
자동화 백업, 페일 오버
고성능 OLTP 최적화된
볼륨과 범용 SSD 볼륨
제공

Amazon Aurora
• MySQL, PostgreSQL 호환
• 최대 15개 읽기 복제본
• 최대 64TB 자동 스토리지 확장
• Amazon S3 지속 증분 백업
• 3곳 가용 영역에 6벌 복제
Master Replica
AZ1
SHARED STORAGE VOLUME
AZ2 AZ3
수백 개 이상 SSD 스토리지 노드로 스트라이핑
SQL
트랜잭션
CACHING
SQL
트랜잭션
CACHING
SQL
트랜잭션
CACHING

Amazon Aurora 읽기 복제본 오토스케일링
마스터 읽기 복제본
SHARED DISTRIBUTED STORAGE VOLUME
읽기 END-POINT
N
EW
읽기 복제본 읽기 복제본

사용자 > 1,000

수평적
수직적

EC2 웹
인스턴스
RDS DB 인스턴스
Active (Multi-AZ)
가용 영역 #1 가용 영역 #2
EC2 웹
인스턴스
RDS DB 인스턴스
Standby (Multi-AZ)
Elastic
Load
Balancing
사용자
Amazon
Route 53
사용자 > 1,000
Elastic Load Balancing
확장성 높은 부하 분산 서비스
Multi-AZ 서버 구성
가용 영역을 통한 고가용성 확보
데이터베이스 이중화
RDS의 Active-Standby 복제본
Multi-AZ로 구성

Classic load balancer
• 고가용성
• 헬스 체크
• 세션 유지(stickiness)
• SSL 오프로드
• 모니터링, 로깅

Application Load Balancer
• 고가용성
• 헬스 체크
• 세션 유지(stickiness)
• SSL 오프로드
• 모니터링, 로깅
• HTTP/HTTPS 트래픽 최적화
• 컨텐츠/컨테이너 기반 라우팅
• 웹 소켓

Network Load Balancer
• 계층 4 TCP 트래픽 처리 최적화
• 초당 수백만의 높은 요청 처리량
• 매우 짧은 지연 시간
• 고정, 탄력적 IP 지원
• 향상된 로깅과 모니터링
• IP주소를 대상으로 로드 밸런싱

사용자 > 10,000+

사용자 : 10,000 - 100,000
ELB
사용자
Amazon
Route 53
RDS DB 읽기
전용 복제본
가용 영역 #1 가용 영역 #2
웹
인스턴스
웹
인스턴스
웹
인스턴스
웹
인스턴스
웹
인스턴스
웹
인스턴스
웹
인스턴스
웹
인스턴스
RDS DB 인스턴스
Active (Multi-AZ)
RDS DB 인스턴스
Standby (Multi-AZ)
RDS DB 읽기
전용 복제본
RDS DB 읽기
전용 복제본
RDS DB 읽기
전용 복제본

부하를 이동하기

EC2 웹
인스턴스
RDS DB 인스턴스
Active (Multi-AZ)
가용 영역
ELB
정적, 동적 콘텐츠를
Amazon S3로 이전!
• 정적 파일 (CSS/JS 파일,
이미지 및 비디오 등)
• 백업 및 애플리케이션
로그
사용자
Amazon
Route 53
Amazon
CloudFront
Amazon
S3
주위로 부하 이동하기

Amazon Simple Storage Service (S3)
• 오브젝트 기반 스토리지
• 높은 내구성
• 정적 자산에 최적
• “무한 확장성”
• 유휴 및 전송 중 데이터 암호화

Amazon CloudFront
• 캐시된 콘텐츠로 빠른 전달
• 오리진에 낮은 부하
• 정적 및 동적 콘텐츠 지원
• 비디오 스트리밍
• ACM를 통해 손쉽게 SSL 인증서 배포
• 낮은 TTL (0초까지 지원)
• AWS 무상 오리진 패치 및 AWS 최적화

주위로 부하 이동하기
Amazon DynomoDB와
ElastiCache 활용
• 자주 사용되는 세션/상태 정보
DynamoDB, ElastiCache에 저장
• Amazon ElastiCache
(Memcached, Redis)를 이용한
DB 캐싱
EC2 웹
인스턴스
RDS DB 인스턴스
Active (Multi-AZ)
가용 영역
ELB
사용자
Amazon
Route 53
Amazon
CloudFront
Amazon S3
DynamoDB
ElastiCache

Amazon DynamoDB
• 손 쉬운 관리형 NoSQL 서비스
• 읽기 및 쓰기 용량 제어 가능
• 한자리 밀리초 수준의 일관된 응답시간
• JSON 지원
• TTL과 스트림
• 전역 테이블

Amazon ElastiCache
• 인메모리 관리형 캐시 서비스
• 관리형 Memcached 및 Redis 지원
• 자가-치유 기능 (장애 인스턴스 교체)
• 하나에서 다수 노드로 확장
• 한 자리수 밀리초 속도

오토 스케일링

일요일 월요일 화요일 수요일 목요일 금요일 토요일
Amazon.com 전형적인 주간 트래픽

Provisioned capacity
일요일 월요일 화요일 수요일 목요일 금요일 토요일
Amazon.com 전형적인 주간 트래픽

11월
Amazon.com 11월 트래픽

76%
24%
11월

11월

오토 스케일링
컴퓨트 그룹 최소/최대 크기안에서 자동 조정
CloudWatch 메트릭 기반 스케일 인/아웃
온 디맨드와 스팟 인스턴스
대상 추적 조정 정책
단계 추가 조정 정책

오토 스케일링 대상 추적
ELB
오토스케일링
그룹
트래픽 5
10
15
20
25
30
0%
10%
20%
30%
40%
50%
60%
70%
80%
90%
100%
Instances
CPU
Target Utilization CPU Utilization Instances
트래픽

오토 스케일링 지원 서비스
클러스터
Fleet
Aurora 읽기 복제본
EMR 인스턴스 그룹
확장 가능한 타겟 확장 가능한 요소
Aurora
서비스 태스크ECS
Spot Fleet 요청 Spot 인스턴스EC2 Spot Fleet
AppStream 2.0
EMR
코어 노드
태스크 노드
AppStream 인스턴스
테이블, 글로벌 보조
인덱스 (GSI)
읽기/쓰기 용량DynamoDB

사용자 50만+

사용자 > 50만+
Amazon
Route 53사용자
Amazon
S3
ELB
Dynamo
DBRDS DB
인스턴스 읽기
전용 복제본
웹
인스턴스
웹
인스턴스
웹
인스턴스
ElastiCache
웹
인스턴스
웹
인스턴스
웹
인스턴스
ElastiCacheRDS DB
인스턴스
Active (Multi-
AZ) 가용 영역 #1 가용 영역 #2
Amazon
CloudFront
RDS DB
인스턴스 읽기
전용 복제본
RDS DB
인스턴스 Standby
(Multi-AZ)

모니터링과 자동화

모니터링
Build Measure
Learn
• 서비스 별 다양한 모니터링 지표 제공
• 지속적인 모니터링 통해 연속적인 개선
• 고객의 목소리 귀 기울이기
• 각 서비스와 구성 요소 별 성능, 비용 최적화!

집계 수준 메트릭
로그 분석 3rd 파티 tool
호스트 수준
메트릭

AWS X-Ray

불필요한 시간 소모가 발생하는 곳!
개발과 테스트 팀
변경이 우선
보안팀
위험 방지가 우선
운영팀
안정성이 우선
개발 테스트 보 안 운 영

효과적인 데브옵스를 위한 AWS 개발 도구
소스 빌드 테스트 프로덕션
Third Party
Tooling
AWS
CodeCommit
AWS
CodeBuild
AWS CodeDeploy
AWS Elastic Beanstalk
AWS CloudFormation
AWS
CodePipeline
AWS
CodeStar
AWS
IAM
Amazon
CloudWathch
3rd Party Extensions

마이크로 서비스
계층을 분해해서 추가로 더
개선할 수 있습니다!

마이크로 서비스란
서비스들이 네트워크를
통해 서로 통신한다.
composed of
that have
Adrian Cockcroft (VP of Cloud Architecture @ AWS,
former Cloud Architect at Netflix)
서비스는 독자적으로
업데이트하며 서로
영향을 주지 않는다.
“service-oriented
architecture
DLoosely coupled
elements
Bounded contexts” 다른 서비스의 내부 구조를 알지
못해도 서비스를 업데이트할 수
있다.

SOA
Presentation Tier Logic Tier
Data Tier
서비스를 단독적인 계층으로 분리하기
• 티어별 독립적으로 서비스 처리
• 독립적인 크기 변경 및 업데이트 가능
유연성과 확장성
각 구성 요소에 대한 이해

서비스 재활용
다시 만들지 말자!
• 모바일 푸시 보내기
• 이메일 보내기
• 큐와 토픽
• 트랜스 코딩
• 검색
• 모니터링 및 로깅
• IoT
Amazon ES Amazon SQSAWS IoT
Amazon
Elastic
Transcoder
AWS Step
Function
Amazon SES
직접 개발하지 말고 AWS의 다양한 관리형 서비스 활용
Amazon
Pinpoint
Amazon SES

AWS Lambda를 이용한 서버리스 아키텍쳐
• 확장성 높은 완전 관리형 서버리스 서비스
• Java, Node.js, Python, C#, Go 런타임 지원
• 클라우드 기반 통합 개발 환경 AWS Cloud9 IDE 제공
비동기성 큐 기반동기성 푸쉬 기반 스트림 기반
Amazon
API Gateway
Amazon
SNS
Amazon
S3
Amazon
DynamoDB
Amazon
Kinesis

AWS Lambda의 다양한 활용
Amazon
API
Gateway
Amazon
Alexa
AWS
IoT Amazon
Kinesis
Amazon
SNS
Amazon
SES
AWS Step
Functions 2
호출
1
함수
3
인터랙션
Amazon
S3
Amazon
DynamoDB
Custom
endpoints
Amazon
CloudWatch
Amazon
Elasticsearch
EC2
instance

사용자 100만+

사용자: 100만+
RDS DB 인스턴스
Active (Multi-AZ)
가용 영역
ELB
RDS DB
인스턴스 읽기
전용 복제본
RDS DB
인스턴스 읽기
전용 복제본
웹
인스턴스
웹
인스턴스
웹
인스턴스
웹
인스턴스
DynamoDB
Amazon SQS
ElastiCache
작업자
인스턴스
작업자
인스턴스
Amazon
CloudWatch
사내 앱
인스턴스
사내 앱
인스턴스
사용자
Amazon
Route 53
Amazon
CloudFront
Amazon
S3
Amazon SES
Lambda

사용자 1000만+

사용자 > 1000만
데이터베이스 쓰기 부하 경쟁이 잠재적으로 발생할 수
있습니다.
이 문제를 해결할 수 있을까요?
• 기능 기반의 데이터베이스 분리하기
• 수평적 확장을 위한 샤딩 : 다중 호스트로 하나의 데이터 집합 분리
• 다른 유형의 데이터베이스 검토

데이터베이스 분리하기
• 데이터베이스를 기능 및 목적에 따라 분리
• 거대한 단일 함수 및 테이블, 데이터베이스간 교차 쿼리에 어려움
포럼 DB 사용자 DB 제품 DB

수평적 확장 : 샤딩
CBA
사용자 ShardID
002345 A
002346 B
002347 C
002348 B
002349 A
• 함수나 키 영역에 의한 샤딩
• 확장에 실질적인 제한 없음
• 효율적인 구성을 위한 전문성 요구

다른 유형의 데이터베이스 검토
강력한 일관성
무결성
트랜잭션
그래프Key / Value 도큐먼트관계형
높은 처리량
빠른 데이터 처리
매우 짧은 지연 시간
속성에 대한 쿼리
인덱싱 및 문서 저장
쉽고 빠르게 데이터
간 관계 생성 및 탐색
SQL 기반 복잡한
쿼리
필터 기반 간단한
쿼리
필터, 집합, 프로젝션
기반 간단한 쿼리
관계를 기준으로
쿼리를 쉽게 표현
Amazon
DynamoDB
Amazon
RDS
Amazon
DynamoDB
Amazon
Neptune
Non-Relational

AWS Non-relational 데이터베이스 고객 사례

체크 리스트
1. Multi-AZ 아키텍처로 고가용성 확보
2. 자가 확장하는 서비스 사용
– ELB, Amazon S3, Amazon SNS, Amazon SQS, Amazon Step
function Amazon IoT, Amazon SES 등
3. 모든 계층 이중화
4. 인프라 내/외부 캐시 적극 활용
5. 인프라 및 배포 자동화 도구 사용

체크 리스트
6. 좋은 모니터링/측정/로깅 도구 확보
7. 계층을 분해한 느슨한 결합과 마이크로 서비스
8. 오토스케일링 적극 사용
9. 직접 만들지 말고 AWS 관리형 서비스 활용
10. 상황에 맞게 다양한 데이터베이스 검토

본 강연이 끝난 후
AWS 시작하기:
aws.amazon.com/ko/getting-started/tutorials/

본 강연이 끝난 후
AWS 프리 티어 체험하기:
aws.amazon.com/ko/free/

AWS Summit 모바일 앱과 QR코드를
통해 강연 평가 및 설문 조사에 참여해
주시기 바랍니다.
내년 Summit을 만들 여러분의 소중한
의견 부탁 드립니다.
#AWSSummit 해시태그로 소셜 미디어에 여러분의 행사
소감을 올려주세요.
발표 자료 및 녹화 동영상은 AWS Korea 공식 소셜 채널로
공유될 예정입니다.
여러분의 피드백을 기다립니다!

천만 사용자를 위한 AWS 클라우드 아키텍처 진화하기::이창수::AWS Summit Seoul 2018

More Related Content

What's hot

Similar to 천만 사용자를 위한 AWS 클라우드 아키텍처 진화하기::이창수::AWS Summit Seoul 2018

More from Amazon Web Services Korea

천만 사용자를 위한 AWS 클라우드 아키텍처 진화하기::이창수::AWS Summit Seoul 2018