발표영상 다시보기: https://youtu.be/z68l2X5KoC4 AWS 클라우드는 초기에 적은 비용으로 웹 서비스를 시작하고, 향후 사업이 발전했을 때 천만 이상의 유저가 사용할 수 있는 고가용성, 확장성, 민첩성이 뛰어난 웹 서비스를 만들 수 있습니다. 본 세션에서는 작은 서비스로 시작하여 AWS의 다양한 서비스를 사용하여 천만 이상의 대규모 유저 트래픽을 수용할 수 있는 웹 서비스로 발전시키는 것을 단계별로 오토스케일링, 트래픽 경감, 모니터링과 자동화, 고가용성 확보를 위한 아키텍처 구성 방법을 소개합니다.

1. © 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.
천만 사용자를 위한
AWS 클라우드 아키텍처 진화하기
문종민
솔루션즈 아키텍트
AWS Korea

2. Agenda
AWS 글로벌 인프라스트럭처와 서비스
사용자 수 < 1,000
사용자 수 > 1,000
사용자 수 > 10,000
사용자 수 > 100,000
사용자 수 > 1,000,000
사용자 수 > 10,000,000
천만 사용자를 위한 아키텍처 리뷰

3. © 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.

4. AWS 글로벌 인프라스트럭쳐
22개 리전
70개 가용영역
205개 엣지로케이션
11개 리전 엣지 캐시
이중화된 100Gbps 네트워크
리전간 backbone 통신

5. 폭 넓고 깊은 수준의 서비스 제공

8. © 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.

9. 주요 고려사항
• 서버 선정 및 이중화 구성
• DB 구성
• 사용자 인증 서비스
• 소스코드 관리 및 배포

10. 용도에 맞는 EC2 서버 선택
업무에 적합한 서버 선정
• CPU, 메모리, I/O 별 인스턴스 타입
• 필요 성능(IOPS)에 따른 스토리지 선택
필요 시 손쉬운 서버 타입 변경
• 용량 산정에 대해 고민하지 마세요.
t3.nano
m5.2xlarge
c5.9xlarge

11. 광범위하고 심층적인 플랫폼
카테고리 기능 옵션
프로세서 선택
(AWS, Intel, AMD)
빠른 processor
(up to 4.0 GHz)
높은 메모리 공간
(up to 12 TiB)
인스턴스 스토리지
(HDD and NVMe)
네트워킹
(up to 100 Gbps)
가속화된 컴퓨팅
(GPUs and FPGA)
Bare Metal
instance 크기
(Nano to 32xlarge)
Amazon Elastic
Block Store
Elastic Inference
Elastic Graphics+ + =
컴퓨팅 집약
메모리 집약
순간확장 성능
높은 I/O Storage
고밀도 스토리지
GPU 기반
그래픽 집약
범용
241instance types
거의 모든
워크로드 및
비즈니스 요구에
적용 가능

12. 서버 이중화 구성
Web/App EC2
VPC
Availability Zone1 Availability Zone2
Web/App EC2
Web/App EC2
VPC
Availability Zone1 Availability Zone2
Web/App EC2

13. AWS Elastic Load Balancing 을 활용한 부하 분산
Elastic Load Balancing
(ELB)

14. ALB VS. NLB
• 고가용성, 자동확장
• HTTP, HTTPS 지원
• 컨텐츠 기반 라우팅
• HTTP/2
• 헬스 체크
• 세션 유지
• 모니터링/로깅
• WebSockets 지원
• 고가용성, 자동확장
• 고정 IP
• TCP, UDP, TLS 지원
• 소스 IP 주소 유지
• 헬스 체크
• 세션 유지
• 모니터링/로깅
• WebSockets 지원

15. Amazon RDS
6개 데이터베이스 엔진 기반의 관계형 데이터베이스 관리형 서비스
간편한 관리 뛰어난 확장성 가용성 및 내구성 성능과 낮은 비용
데이터베이스 설치, 수동
패치 필요 없음
몇번의 클릭으로
손쉽게 컴퓨팅 및
스토리지 확장
Multi-AZ 구성 시
자동 동기식 복제,
자동화 백업, 페일 오버
고성능 OLTP 최적화된
볼륨과 범용 SSD 볼륨
제공

16. Amazon Aurora
• MySQL, PostgreSQL 호환
• 뛰어난 성능 및 확장성
• 3개의 가용 영역에 6벌 복제
• 최대 15개 읽기 복제본
• 최대 64TB 자동 스토리지 확장
• Amazon S3 지속 증분 백업
Master Replica
가용영역1
SHARED STORAGE VOLUME
가용영역2 가용영역3
수백 개 이상 SSD 스토리지 노드로 스트라이핑
SQL
트랜잭션
CACHING
SQL
트랜잭션
CACHING
SQL
트랜잭션
CACHING

17. 기본 아키텍처
User
Web/App EC2
Amazon Route 53
VPC
Availability Zone Availability Zone
Elastic Load
Balancing (ELB)
Amazon RDS
Web/App EC2

18. 회원가입, 로그인 등등
사용자 인증 서비스 구현

19. Amazon Cognito 를 이용한 빠른 인증구현
웹/모바일
어플리케이션
개발자들은
어플리케이션
개발에만 집중
Amazon Cognito는
인증과 자격증명을
다룸
Federation
관리형 사용자 디렉토리
내장된 UI
AWS 크리덴셜
표준 토큰
Amazon Cognito

20. 개발 형상관리 빌드 테스트 배포
AWS Code 서비스들
Third-party
tooling
AWS CodePipeline
AWS Cloud9 AWS CodeCommit AWS CodeBuild AWS CodeDeploy

21. © 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.

22. 주요 고려사항
• 시스템 확장
• DBMS 고 가용성
• 백업
• 시스템 모니터링

23. EC2 오토 스케일링
• 컴퓨팅 클러스터의 자동 수량 조절
• Pool 사이즈의 최소/최대 값을 지정
• 서버 장애 시 최소 수량만큼 자동 복구
• Amazon CloudWatch 지표 기반 스케일링
• 온디맨드 또는 스팟 인스턴스

24. Amazon.com 의 11월의 일별 일반적인 트래픽
76%
24%
November
미리 준비한 컴퓨팅 용량

25. Amazon.com 의 11월의 일별 일반적인 트래픽
November

26. Auto Scaling으로 가변적 동시 접속자 대응
User
Amazon RDS
VPC
Amazon Route 53
ALB
Availability Zone 1
Auto Scaling group
Availability Zone 2
WebApp
EC2

27. DBMS 고 가용성 고려
User
Amazon RDS
VPC
Amazon Route 53
ALBAvailability Zone 1
Auto Scaling group
Availability Zone 2
• DB 장애 시 시스템
서비스 불가
• DB가 Single Point of
failure 상태임.WebApp
EC2

28. DBMS 고 가용성 고려
• DB 고 가용성 방안 필요
User
Amazon RDS
VPC
Amazon Route 53
ALBAvailability Zone 1
Auto Scaling group
Availability Zone 2
WebApp
EC2
• DB 장애 시 시스템
서비스 불가
• DB가 Single Point of
failure 상태임.

29. 동기식
복제
Amazon RDS 다중 AZ 배포
• Master 인스턴스의 컴퓨팅, 네트워크, 스토리지
장애 시 자동 fail-over 수행으로 향상된 가용성
제공
• 동기식 물리적 복제를 통한 데이터 정합성
• Stand-by를 통한 백업 수행으로 Master 인스턴스
성능 보호
• 단일 인스턴스의 다중 AZ 배포 변경 가능
Amazon
RDS
Master
가용영역1
Amazon
RDS
Stand-by
가용영역2

30. Master
Amazon RDS 다중 AZ 배포 동작과정
Applications
동기식 복제
VPC
Region
Amazon Route 53
Availability Zone 1 Availability Zone 2
Standby

31. Master
Amazon RDS 다중 AZ 배포 동작과정
Applications
VPC
Region
Amazon Route 53
Availability Zone 1 Availability Zone 2
Standby

32. Amazon RDS 다중 AZ 배포 동작과정
Master
Applications
VPC
Region
Amazon Route 53
Availability Zone 1 Availability Zone 2

33. Amazon RDS 다중 AZ 배포 동작과정
Master
Applications
VPC
Region
Amazon Route 53
Availability Zone 1 Availability Zone 2

34. Amazon RDS 다중 AZ 배포 동작과정
Master
Applications
VPC
Region
Amazon Route 53
Availability Zone 1 Availability Zone 2

35. 동기식 복제
RDS 고 가용성 아키텍처
User
Amazon RDS Master
VPC
Amazon Route 53
ALB
Availability Zone 1
Auto Scaling group
Availability Zone 2
WebApp
EC2
Amazon RDS Stand-by

36. AWS Backup 서비스를 이용한 백업 관리 자동화
Amazon
EFS
Amazon
EBS
Amazon
RDS
Amazon
DynamoDB
AWS
Storage
Gateway
• 중앙관리 백업
• 백업플랜을 통한 프로세스 자동화
• 자동화된 백업일정 관리
• 온프레미스 백업 지원
• 백업데이터 수명관리 정책
• 증분백업 지원
• 대쉬보드를 통한 백업/복원 모니터링
• 백업 데이터 암호화
• 리소드 기반 백업 접근제어
• 교차리전 백업
AWS
Backup

37. CloudWatch를 활용한 모니터링
• AWS 서비스 별 주요 지표데이터 수집
• EC2 CPU 사용율, Disk read/write
IOPS
• ELB Active 요청수, Latency 등
• Custom, Application 데이터 수집
• 조건에 따른 조치 및 Alarm 수행
• Auto Scaling 수행
• Dashboard를 통한 단일 모니터링 뷰
제공

38. © 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.

39. 주요 고려사항
• 성능
• 부하분산

40. Amazon CloudFront
빠른 컨텐츠 전달을 위해 캐싱
오리진 측의 부담을 덜어줌
동적 / 정적 컨텐츠 / 스트리밍 비디오
사용자 SSL 인증서
낮은 TTL (0초까지 설정가능)
AWS에 최적화
Amazon
CloudFront
응답시간
서버부하
응답시간
서버부하
응답시간
서버
부하
No CDN 정적컨텐츠
CDN 배포
정적/동적
컨텐츠
CDN 배포

41. 동기식 복제
CloudFront 로 User Experience 개선
User
Amazon RDS
Master
VPC
Amazon Route 53
ALB
Availability Zone 1
Auto Scaling group
Availability Zone 2
Amazon RDS
Stand-by
Amazon Simple
Storage Service
(S3)
Amazon
CloudFront
WebApp EC2

42. 마스터 읽기 복제본
SHARED DISTRIBUTED STORAGE VOLUME
읽기 END-POINT
Amazon Aurora 읽기 복제본 오토스케일링
읽기 복제본 읽기 복제본

43. RDS 읽기 복제본 인스턴스로 DB 부하 분산
User
Amazon
RDS
Master
(Multi-AZ)
VPC
Amazon Route 53
Amazon
RDS
Standby
(Multi-AZ)
Availability Zone 1 Availability Zone 2
Amazon
RDS
Read
Replica
Amazon
RDS
Read
Replica
동기식
복제
Auto Scaling group
WebApp
EC2
비동기식
복제

44. Amazon ElastiCache
관리형 Memcached 또는 Redis
한 개에서 여러 개의 노드로 확장
자가 복구 (문제 인스턴스 교체)
1 밀리초 미만의 응답 속도 (일반적으로)
캐시, 세션 저장소, 채팅, 게임리더보드 등
다양한 Case로 활용 가능
Amazon ElastiCache

45. 비동기식 복제
ElastiCache 를 활용한 부하분산 및 성능향상
User
Amazon RDS
Master
VPC
Amazon Route 53
ALB
Amazon RDS
Standby
Availability Zone 1 Availability Zone 2
Amazon RDS
Read Replica
동기식 복제
Auto Scaling group
Amazon
ElastiCache
Master
Amazon
ElastiCache
Read Replica
WebApp
EC2

46. © 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.

47. 주요 고려사항
• Loosely Coupled, 분산 아키텍처
• 서버리스 아키텍처
• 분산 시스템 모니터링

48. 비동기 서비스를 활용한 Loose coupling
• 완전 관리형 서비스
• 부하에 따라 자동확장
• 관리 오버헤더 제거
• SQS – 메세지 큐 서비스
• SNS – 메세지 푸시 알림
서비스
인스턴스
Amazon SNS Topic
Topic 구독 큐
Message
Get
message
Put
message
Publish 알림
인스턴스
Amazon SQS
Topic 구독
Lambda

49. 서비스 재활용
다시 만들지 마세요!
• 모바일 푸시 보내기
• 큐와 토픽
• 이메일 보내기
• 미디어 파일 트랜스 코딩
• 워크플로우
• IoT
• 이벤트 버스
• ...
Amazon ES Amazon SQSAWS IoT
Amazon
Elastic
Transcoder
AWS Step
Function
Amazon SNS
직접 개발하지 말고 AWS의 다양한 관리형 서비스 활용
Amazon
Pinpoint
Amazon SES
Amazon
EventBridge

50. • 서버리스
• 이벤트가 발생하면 함수가 실행됨
• 내부적으로 스케일링
• Node.js (JavaScript), Java, Python
Ruby, C#, Go, Powershell 지원
Push: event
notification
Pull:
DynamoDB
stream
Pull:
Amazon Kinesis
stream
서버리스, 이벤트 기반 아키텍처 적용
Amazon Kinesis
Amazon DynamoDB
Amazon S3
AWS Lambda
Amazon SQS
Pull:
Amazon SQS

51. AWS Lambda의 다양한 활용
Amazon
API
Gateway
Amazon
Alexa
AWS
IoT Amazon
Kinesis
Amazon
SNS
Amazon
SES
AWS Step
Functions
Amazon
S3
Amazon
DynamoDB
Custom
endpoints
Amazon
CloudWatch
Amazon
Elasticsearch
EC2
instance

52. 용도에 적합한 DB 서비스 적용
데이터베이스 유형 사용 사례 AWS 서비스
Relational 기존 어플리케이션, ERP, DW 등 RDS Redshift
In-memory
캐싱, 세션 관리, 게임 순위표, 지리 공간
애플리케이션
ElastiCache
Key-Value
높은 트래픽의 웹 앱, 전자 상거래 시스템, 게임
애플리케이션
DynamoDB
Document
콘텐츠 관리, 카탈로그, 사용자 프로필,
MongoDB 호환
DocumentDB
Wide Column
장비 관리, 차량 관리 및 경로 최적화에 사용하는
대규모 산업용 앱
Managed Apache Cassandra
Graph 부정 탐지, 소셜 네트워킹, 추천 엔진 Neptune
Time Series IoT 애플리케이션, DevOps, 산업용 텔레메트리 Timestream
Ledger 레코드 시스템, 공급망, 등록, 은행 거래 QLDB

53. 분산 아키텍처 적용
업무A
RDS Master
VPC
ALB
업무 A
RDS Stand-by
Amazon Simple
Storage Service
(S3)
Amazon
CloudFront
업무A
ElastiCache
API Gateway
Lambda
DynamoDB
Message Put
Message
Get
업무 B
Redshift
업무A EC2
업무B EC2
Amazon Simple
Queue Service

54. AWS X-Ray
성능의 병목 원인과 에러 파악
어플리케이션의 특정 서비스 이슈를 파악
어플리케이션의 사용자에 대한 영향도 파악
어플리케이션의 서비스 호출 그래프 시각화
AWS X-Ray

55. 서비스 호출 그래프의 시각화

56. © 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.

57. 주요 고려사항
• 재해복구(DR) / 멀티 리전 시스템 고려
• 멀티 리전 시스템 배포

58. CloudFormation 으로 인프라 리소스를 모델링
YAML, JSON으로
인프라스터럭처
프로비저닝 script 작성
Script file
upload
AWS
CloudFormation으로
스택 생성
스택 및 리소스가
실행 환경으로
프로비저닝

59. S3 교차 리전 복제
Region #1 Region #2
Amazon Simple
Storage Service
Amazon Simple
Storage Service
Amazon
EC2
파일 보관
자동 복제
• 한 리전의 S3에 업로드 되는 file이
다른 리전에 자동 복제 sync 가능
• Tag 기반 선택적 복제 가능
• 재해복구, 컴플라이언스 준수, 낮은
지연시간 서비스에서 활용

60. RDS snapshot 교차 리전 복사
Region #1 Region #2
snapshot
생성
복사
Amazon RDS Amazon RDS
Snapshot Snapshot
snapshot
으로 DB 생성
• 한 리전의 DB 를 데이터와 엔진까지
전체 snapshot 복사
• 다른 리전에서 snapshot으로 DB
인스턴스 생성 가능
• 증분복사 기능으로 변경된 데이터만
복사 가능
• 빠른 시간에 재해복구을 위한 DB
생성 가능

61. DynamoDB 백업 테이블 교차 리전 복원
Region #1 Region #2
테이블
백업
복사
Snapshot Snapshot
테이블
복원
• 한 리전의 DynamoDB 테이블을 백업
• 다른 리전에서 백업 테이블로 복원
가능
• Point-In-Time Recovery 지원
• 빠른 시간에 재해복구을 위한 Table
생성 가능
Amazon
DynamoDB
Amazon
DynamoDB

62. Redis 용 ElastiCache 백업 교차 리전 복사
Region #1 Region #2
Amazon Simple
Storage Service
Amazon Simple
Storage Service
Amazon
ElastiCache
백업
export
복사
• 한 리전의 ElastiCache 백업을 S3에
Export 한 후, 이를 다른 리전에 복사
• 다른 리전에서 복사한 백업 file로
신규 cluster 생성
• 빠른 시간에 재해복구을 위한 Redis
cluster 생성 가능
Amazon
ElastiCache
신규
cluster
생성

63. 멀티 리전 배포
Region #1 Region #2
AWS
CodePipeline
AWS
CodeDeploy
Amazon EC2
AWS
CodeCommit
AWS
CodeBuild
AWS
CodeDeploy
Amazon EC2
• CodePipeline 서비스에서
단일 파이프라인으로 멀티
리전 배포 가능
• 동일 배포 파이프라인에
배포 대상 리전 추가하여
확장 가능

64. Route 53 를 통한 멀티 리전 라우팅
User
Amazon Route 53
Amazon RDS
Region #1
VPC
EC2
Amazon RDS
Region #2
VPC
EC2
• Route 53의 다양한 라우팅 정책
적용 가능
• 장애 조치 라우팅 정책으로
액티브 - 패시브 장애조치 구성
가능
• 사용자 위치에 기반한 지리 위치
라우팅 구성으로 멀티 리전
부하분산 가능

65. © 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.

66. 주요 고려사항
• 글로벌 시스템 확장
• 멀티 리전 서비스 확대

67. Aurora 글로벌 데이타베이스
서울 리전
Application
읽기쓰기
시드니 리전
읽기
런던 리전
읽기
오레곤 리전
읽기
짧은 복제 지연시간: 1초 미만의 짧은 복제 지연시간으로 리전 간 데이터 복제
빠른 복구: 기본 리전 장애 시 1분 이내에 타 리전에서 read-write 승격 가능
Application
Application
Application

68. DynamoDB 글로벌 테이블
서울 리전
Application
읽기쓰기
오레곤 리전
Application
읽기쓰기
런던 리전
Application
읽기쓰기
시드니 리전
Application
읽기쓰기
Global table에 대해 각 리전 별 Local 읽기-쓰기 지원
짧은 지연시간으로 데이터 동기화

69. ElastiCache 글로벌 데이타스토어 for Redis
서울 리전
Application
읽기쓰기
시드니 리전
읽기
오레곤 리전
읽기
Application
Application
짧은 복제 지연시간: 1초 미만의 짧은 복제 지연시간으로 리전 간 데이터 복제
빠른 복구: 기본 리전 장애 시 1분 이내에 타 리전에서 read-write 승격 가능

70. © 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.

71. Quick Review
멀티-AZ 를 활용한 이중화 구성
EC2 오토 스케일링 이용
성능 및 부하 분산을 위해 데이터를 캐시
적절한 지표/모니터링/로깅을 하고 있는지 확인
확장성이 뛰어난 관리형 서비스 활용

72. Quick Review
CloudFormation을 이용한 프로비저닝
용도에 적합한 데이터베이스 사용
느슨한 결함/분산 아키텍처 적용, 어플리케이션 구조 변경
글로벌 인프라스트럭처 활용 멀티 리전으로 진화

73. © 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.

74. 감사합니다
© 2020, Amazon Web Services, Inc. or its affiliates. All rights reserved.