Amazon EC2 고급 활용 기법 및 모범 사례::이진욱::AWS Summit Seoul 2018

© 2018, Amazon Web Services, Inc. or Its Affiliates. All rights reserved.
이진욱
Technical Trainer
Amazon EC2
고급 활용 기법 및 모범 사례

EC2 인스턴스 선택의 기본 요소
EC2 성능 개선 Tip
효과적인 활용을 위한 인스턴스 타입의 사용 사례

EC2 선택의 기본 요소

Amazon EC 2는 큰 주제입니다.
API
EC2
EC2
인스턴스
네트워킹
구매 옵션

Amazon EC2 인스턴스
Host server
Hypervisor
Guest 1 Guest 2 Guest n

아주 오래 전 ...
• 2006년 8월 서비스 첫 시작
• M1 instance
“One size fits all” M1

Amazon EC2 인스턴스의 역사
2006
m1.small
2007
m1.large
m1.xlarge
2008
c1.xlarge
c1.medium
2009
m2.2xlarge
m2.4xlarge
2010
m2.xlarge
cc1.4xlarge
t1.micro
cg1.4xlarge
2011
cc2.8xlarge
2012
m1.medium
hi1.4xlarge
hs1.8xlarge
m3.2xlarge
m3.xlarge
2013
cr1.8xlarge
g2.2xlarge
c3.8xlarge
c4.4xlarge
c3.2xlarge
c3.xlarge
c3.large
i2.xlarge
i2.2xlarge
i2.4xlarge
i2.8xlarge
2014
m3.medium
m3.large
r3.large
r3.xlarge
r3.2xlarge
r3.4xlarge
r3.8xlarge
t2.micro
t2.small
t2.medium
2015
g2.8xlarge
c4.large
c4.xlarge
c4.2xlarge
c4.4xlarge
c4.8xlarge
d2.xlarge
d2.2xlarge
d2.4xlarge
d2.8xlarge
t2.large
m4.large
m4.xlarge
m4.2xlarge
m4.4xlarge
m4.10xlarge
t2.nano
x1.32xlarge
2016
m4.16xlarge
x1.16xlarge
p2.xlarge
p2.8xlarge
p2.16xlarge
r4.large
r4.xlarge
r4.2xlarge
r4.4xlarge
r4.8xlarge
r4.16xlarge
2017
x1e.32xlarge
g3.4xlarge
g3.8xlarge
g3.16xlarge
i3.large
i3.xlarge
i3.2xlarge
i3.4xlarge
i3.8xlarge
i3.16xlarge
f1.2xlarge
f1.16xlarge
c5.19xlarge
c5.9xlarge
c5.4xlarge
c5.2xlarge
c5.xlarge
p3.16xlarge
p3.8xlarge
p3.2xlarge
x1e.16xlarge
x1e.8xlarge
x1e.4xlarge
x1e.2xlarge
x1e.xlarge
70+

EC2 인스턴스 선택 고려 요소
인스턴스 세대
c5.xlarge
인스턴스 패밀리 인스턴스 크기
CPU
Memory
Storage
Network
인스턴스 유형

다양한 인스턴스 타입
범용 컴퓨팅
최적화
C4
스토리지와
I/O 최적화
I3
P3
가속화된
컴퓨팅
메모리
최적화
R4C5M5
D2
X1
G3
F1
C3
EC2
Bare Metal
X1e
Unlimited

범용 인스턴스 : T2
T2.nano
0.5GiB
1 vCPU
Base perf
5%
…
7개 사이즈
T2.2xlarge
32 GiB
8 vCPU
Base perf
135%
• 프리 티어 및 시간당 $0.0058의 매우
저렴한 가격
• 간혈적으로 높은 성능이 필요할때 유휴
시간에 모아 놓은 크레딧을 기반으로
버스팅 하여 높은 성능을 제공
T2 Unlimited를 통해 크레딧 소진 후에도
원하는 만큼 최대 성능을 발휘

최신 하이퍼 바이저 기술 기반 M5
M4대비 14% 가격 성능 비 향상
M4 M5
범용
• 2.5 GHz 의 인텔 Skylake 프로세서 기반
• 보다 큰 인스턴스 사이즈 지원
24xLarge - 96 vCPU와 384 GiB 메모리 지원
(4:1 Memory : vCPU 비율)
• 기본적으로 향상된 Network 및 EBS 성능
기능 제공
• 인텔 AVX-512 기반의 최대 2배까지 향상된
벡터 및 부동 소수점수 연산 지원

최신 하이퍼 바이저 기술 기반 C5
C4 대비 25% 가격 성능 비 향상
C4 C5
컴퓨팅 최적화
• 3.0 GHz 의 인텔 Skylake 프로세서 기반
• 최대 72 vCPU와 144GiB 메모리 지원
(2:1 Memory : vCPU 비율)
• ENA Only - 25 Gbps NW bandwidth
• NVME based EBS storage
• 인텔 AVX-512 지원
“Amazon EC2 C5에서 성능이 크게 향상되었음을
확인했습니다. 업계 표준 CPU 벤치 마크에서
C5 인스턴스는 기존 C4보다 최대 140% 향상된 성능을
보였습니다.”
“AVX-512를 지원하는 c5.18xl 인스턴스 크기로
마이그레이션하기를 열망하고 있습니다... 주요 작업
부하의 처리 시간을 30% 이상 단축 할 것으로
기대합니다.”

메모리 최적화 인스턴스 : X1e
메모리 집약적인 작업
대량 메모리 작업이 필요한 경우
32:1 GiB / vCPU 비율
X1e
2018년 최대 16TB의 메모리 최적화 인스턴스 출시가 계획되어 있습니다.
2 TB
64 vCPU
X1e.16xlarge
4 TB
128 vCPU
x1e.32xlarge
…
6개 사이즈
• 고성능 데이터베이스
• SAP HANA와 같은 대형 인메모리
데이터베이스
• Oracle, SAP와 같은 vCPU 단위
라이센스를 갖는 DB워크로드

EC2 Bare Metal
EC2 Bare Metal
탄력성, 보안성, 확장성 그리고 AWS의
서비스들과 함께 베어 메탈 워크로드를
EC2에서 실행하십시오.
i3.metal
36 hyperthreaded cores
15.2 TB SSD-based NVMe
storage
512 GiB RAM
• 가상화되지 않은 작업 부하
• 특정 유형의 하이퍼 바이저
• 가상화를 지원하지 않는
라이센스 모델

인스턴스 타입의 사용 사례

모든 서버가 바쁜 것은 아닙니다.
L o w
H i g h
C P U 사 용 률

T2 인스턴스의 특성
• 가장 낮은 가격의 Amazon EC2 instance (시간당 $0.0058부터)
• 버스팅 가능한 성능
• CPU 크레딧에 따라 CPU 성능 할당
인스턴스 타입 vCPU 기준성능 시간당
CPU 크레딧
최대
CPU 크레딧 잔고
Memory (GiB)
t2.nano 1 5% 3 72 .5
t2.micro 1 10% 6 144 1
t2.small 1 20% 12 288 2
t2.medium 2 40% (of 200% max) 24 576 4
t2.large 2 60% (of 200% max) 36 864 8
t2.xlarge 4 90% (of 400% max) 54 1296 16
t2.2xlarge 8 135% (of 800% max) 81 1944 32

크레딧의 작동 방식
Baseline rate
Credit
balance
Burst
rate
• CPU 크레딧 하나는 1분 동안 100%의
사용률로 실행되는 vCPU 하나에 해당
• 시간당 획득하는 CPU 크레딧의 수는
인스턴스 크기에 의해 결정
• 인스턴스는 활성화 될 때 크레딧을 사용
• 인스턴스가 누적할 수 있는 획득 크레딧
수에는 한도 지정됨
• 크레딧은 24 시간 후에 만료

CPU 크레딧 잔고 모니터링

T2 Unlimited 인스턴스의 크레딧 이해

인스턴스 크기 이해
r4.16xlarge 2 – r4.8xlarge
≈
4 – r4.4xlarge
≈
8 – r4.2xlarge
≈

사용량과 Auto Scaling의 인스턴스 세분화
00:00 01:00 02:00 03:00 04:00 05:00 06:00 07:00 08:00 09:00 10:00 11:00 12:00 13:00 14:00 15:00 16:00 17:00 18:00 19:00 20:00 21:00 22:00 23:00
8xlarge x 24 instance
Hours
(xlarge 192 Instance
Hours)
192

00:00 01:00 02:00 03:00 04:00 05:00 06:00 07:00 08:00 09:00 10:00 11:00 12:00 13:00 14:00 15:00 16:00 17:00 18:00 19:00 20:00 21:00 22:00 23:00
4xlarge x 34 instance
Hours
(xlarge 136 Instance
Hours)
1921361/2

00:00 01:00 02:00 03:00 04:00 05:00 06:00 07:00 08:00 09:00 10:00 11:00 12:00 13:00 14:00 15:00 16:00 17:00 18:00 19:00 20:00 21:00 22:00 23:00
xlarge 87 Instance Hours
19287
1/8

00:00 01:00 02:00 03:00 04:00 05:00 06:00 07:00 08:00 09:00 10:00 11:00 12:00 13:00 14:00 15:00 16:00 17:00 18:00 19:00 20:00 21:00 22:00 23:00
Spot
On-Demand
Reserved
+ 인스턴스 유형 변경

- CPU -

Virtual CPU (vCPU)는 무엇입니까?
• vCPU는 일반적으로 하이퍼 스레드 코어입니다.
• Linux에서는 "B"스레드 앞에 열거 된 "A"스레드
• Windows에서 스레드는 인터리브됩니다.
• vCPU 수를 2로 나눠 코어 수를 계산합니다.
• EC2 및 Amazon RDS DB 인스턴스 유형별 코어 :
https://aws.amazon.com/ec2/virtualcores/
* “T” 유형은 조금 특별합니다.

필요에 따라 하이퍼 스레딩 중지
• FPU(부동소수점 처리장치)를 사용하는 무거운 어플리케이션에 유용합니다.
• 레이아웃을 확인하려면 'lscpu'를 사용하십시오.
• "B"스레드를 핫 오프라인합니다.
for cpunum in $(cat /sys/devices/system/cpu/cpu*/topology/thread_siblings_list |
cut -s -d, -f2- | tr ',' 'n' | sort -un); do
echo 0 | sudo tee /sys/devices/system/cpu/cpu${cpunum}/online
Done
• 모든 스레드의 처음 절반 만 초기화하도록 grub 설정
maxcpus=20

EC2 인스턴스에 대한 프로세서 상태 제어
• c4.8xlarge, d2.8xlarge, m4.10xlarge,
m4.16xlarge, p2.16xlarge, x1.16xlarge,
x1.32xlarge, etc
• 유휴 코어가 깊은 유휴 상태로 들어가면
활성 코어는 최대 클럭 주파수를 달성 할 수
있습니다.

C-상태 / P-상태 제어
• 대기 시간에 민감한 작업을 위한 C-상태 제어
유휴 상태를 종료하는 데 더 많은 시간이 필요하며 대기 시간에 민감한 작업
부하에는 적합하지 않을 수 있습니다.
• 리눅스 : grub에 "intel_idle.max_cstate = 1"을 추가하여 C-상태를 제어합니다.
• Windows : C-상태를 제어하는 옵션이 없습니다.
• AVX2를 위한 P-상태 제어
응용 프로그램이 모든 코어에서 AVX2를 많이 사용하는 경우 프로세서가 필요한
것보다 많은 전력을 소비하려고 시도 할 수 있습니다.
• 프로세서의 CPU 주파수를 명시적으로 줄입니다.
• CPU 주파수가 자주 변경되면 응용 프로그램 속도가 느려질 수 있습니다.
sudo sh -c "echo 1 > /sys/devices/system/cpu/intel_pstate/no_turbo“
참고: http://docs.aws.amazon.com/AWSEC2/latest/UserGuide/processor_state_control.html

Timekeeping
• 인스턴스상에서의 Timekeeping은 매우 어려운 작업 중 하나입니다.
• gettimeofday(), clock_gettime(), QueryPerformanceCounter()
• TSC (Time Stamp Counter)
• 사용자 공간에서 접근가능한 CPU counter입니다.
• 보정이 요구되는 경우 vDSO를 통해 수행됩니다.
• Sandy Bridge+ 프로세서들에서 Invariant TSC 지원
• Xen pvclock은 vDSO를 지원하지 않습니다.
• 현 세대의 인스턴스에서는 TSC를 클럭 소스로 사용하십시오.

응용 프로그램의 성능비교
#include <stdio.h>
#include <stdint.h>
#include <stdlib.h>
#include <time.h>
#define BILLION 1E9
int main(){
float diff_ns;
struct timespec start, end;
int x;
clock_gettime(CLOCK_MONOTONIC, &start);
for ( x = 0; x < 100000000; x++ ) {
struct timeval tv;
gettimeofday(&tv, NULL);
}
clock_gettime(CLOCK_MONOTONIC, &end);
diff_ns = (BILLION * (end.tv_sec - start.tv_sec)) + (end.tv_nsec - start.tv_nsec);
printf ("Elapsed time is %.4f secondsn", diff_ns / BILLION );
return 0;
}

응용 프로그램의 성능비교
[centos@ip-192-168-1-77 testbench]$ strace -c ./test
Elapsed time is 10.0336 seconds
% time seconds usecs/call calls errors syscall
------ ----------- ----------- --------- --------- ----------------
99.99 3.322956 2 2001862 gettimeofday
0.00 0.000096 6 16 mmap
0.00 0.000050 5 10 mprotect
0.00 0.000038 8 5 open
0.00 0.000026 5 5 fstat
0.00 0.000025 5 5 close
0.00 0.000023 6 4 read
0.00 0.000008 8 1 1 access
0.00 0.000006 6 1 brk
0.00 0.000006 6 1 execve
0.00 0.000005 5 1 arch_prctl
0.00 0.000000 0 1 munmap
------ ----------- ----------- --------- --------- ----------------
100.00 3.323239 2001912 1 total
Xen clocksource 사용 TSC clocksource 사용
[centos@ip-192-168-1-77 testbench]$ strace -c ./test
Elapsed time is 2.0787 seconds
% time seconds usecs/call calls errors syscall
------ ----------- ----------- --------- --------- ----------------
32.97 0.000121 7 17 mmap
20.98 0.000077 8 10 mprotect
11.72 0.000043 9 5 open
10.08 0.000037 7 5 close
7.36 0.000027 5 6 fstat
6.81 0.000025 6 4 read
2.72 0.000010 10 1 munmap
2.18 0.000008 8 1 1 access
1.91 0.000007 7 1 execve
1.63 0.000006 6 1 brk
1.63 0.000006 6 1 arch_prctl
0.00 0.000000 0 1 write
------ ----------- ----------- --------- --------- ----------------
100.00 0.000367 53 1 total
10.0336 sec 2.0787 sec

clocksource로 TSC를 사용하세요.
On Linux:
# cat /sys/devices/system/cl*/cl*/current_clocksource
xen
Change with:
# echo tsc > /sys/devices/system/cl*/cl*/current_clocksource
Or add to grub:
tsc=reliable clocksource=tsc
On Windows 2008 R2 이후 최신 OS:
• 별도의 작업없이 자동으로 최고의 클럭 소스를 선택합니다.

- Network -

분리된 드라이버 모델
Hardware
Driver Domain Guest Domain Guest Domain
VMM
Frontend
driver
Frontend
driver
Backend
driver
Device
Driver
Physical CPU
Physical
Memory
Network
Device
Virtual CPU
Virtual
Memory
CPU
Scheduling
Sockets
Application
1
23
4
5

Device pass through: 향상된 네트워킹
• SR-IOV가 드라이버 도메인에 대한 필요성을 제거합니다.
• 물리적 네트워크 장치가 인스턴스에 가상 기능을 제공합니다.
• 특별한 드라이버가 필요합니다 :
• 인스턴스 OS가 이러한 사항에 대해 알아야합니다.
• 여러분의 Amazon EC2 인스턴스에서 사용할 수 있다고 알려야 합니다.

향상된 네트워킹 적용 후
Hardware
Driver Domain Guest Domain Guest Domain
VMM
NIC
Driver
Physical
CPU
Physical
Memory
SR-IOV Network
Device
Virtual CPU
Virtual
Memory
CPU
Scheduling
Sockets
Application
1
2
3
NIC
Driver

Elastic network adapter
• 차세대 고급 네트워킹
• 하드웨어 체크섬
• 다중 대기열 지원
• 수신 측 스티어링
• 배치 그룹에서 25Gbps
• 새로운 오픈 소스 Amazon 네트워크 드라이버

Network performance
• 25 기가비트 및 10 기가비트
• 단방향 측정값, 양방향(전이중)은 두배
• 높음, 보통, 낮음 - 인스턴스 크기 및 EBS 최적화 기능에 따라 다름
• 중요한 경우 iperf로 테스트하십시오!
• 높고 일관된 인스턴스 대 인스턴스 대역폭이 필요할 때 배치 그룹 사용

R4 이후 인스턴스에서 ENA
• R4, I3, G3, F1, X1, P3, C5
• 가장 큰 크기의 인스턴스는 일관된 10Gbps 및
25Gbps의 대역폭을 제공합니다.
• 더 작은 크기에서도
• 기준 성능에서 최대 10Gbps까지
• 기준 성능 이하의 네트워크 사용량이 발생하면
크레딧이 누적됩니다.
• 배치 그룹 구성 없이 사용할 수 있는 전체 대역폭을 나타내지만
이를 위해서는 여러 스트림이 필요합니다.
• 단일 스트림은 배치 그룹 내에서 10Gbps까지 제한됩니다.
• AZ간 스트림 당 5Gbps이지만 전체 최대 25Gbps까지 지원합니다.

- OS -

OS의 성능 영향
• 메모리 집약적 인 웹 애플리케이션
• 많은 스레드 생성
• 메모리의 신속한 할당/해제
• RHEL6 및 RHEL7의 성능 비교
• ”top”에 많은 ”system"시간이 있는 경우
• 벤치 마크 도구 (ebizzy)를 사용하여 비슷한 성능 특성을 테스트
• "perf＂를 사용하여 성능 추적 가능

RHEL6과 RHEL7에서의 성능 비교
12,409 records/s
sys 341.22 s
1,418,204 page-faults
425,143 records/s
sys 0.18 s
14,109 page-faults
RHEL6 RHEL7
$ sudo perf stat ./ebizzy -S 10
[ec2-user@ip-172-31-12-150-RHEL6 ebizzy-0.3]$ sudo perf stat ./ebizzy -S 10
12,409 records/s
real 10.00 s
user 7.37 s
sys 341.22 s
Performance counter stats for './ebizzy -S 10':
361458.371052 task-clock (msec) # 35.880 CPUs utilized
10,343 context-switches # 0.029 K/sec
2,582 cpu-migrations # 0.007 K/sec
1,418,204 page-faults # 0.004 M/sec
10.074085097 seconds time elapsed
[ec2-user@ip-172-31-7-22-RHEL7 ~]$ sudo perf stat ./ebizzy-0.3/ebizzy -S 10
425,143 records/s
real 10.00 s
user 397.28 s
sys 0.18 s
Performance counter stats for './ebizzy-0.3/ebizzy -S 10':
397515.862535 task-clock (msec) # 39.681 CPUs utilized
25,256 context-switches # 0.064 K/sec
2,201 cpu-migrations # 0.006 K/sec
14,109 page-faults # 0.035 K/sec
10.017856000 seconds time elapsed

최신 OS 및 커널 사용
• 2009년에 RHEL6 Linux Kernel 2.6.32이 발표되었습니다.
• 최신 AWS 네트워킹 (ENA)을 기본적으로 지원하지 않습니다.
• 오래된 Xen 가상화 드라이버는 하이퍼 바이저에서 성능이 떨어집니다.
• 이전 NVME 드라이버는 IO에 문제가 있을 수 있습니다.
Linux: use 3.10+ kernel (최신의 NVME instances지원)
• Current Amazon Linux
• Ubuntu 14.04 또는 최신 버전
• RHEL/Centos 7 또는 최신 버전
Windows:
• Windows Server 2008 R2, Windows Server 2012 R2, Windows Server 2016

요 약

EC2를 효과적으로 이용하기
• 여러분의 어플리케이션들의 특성을 파악하십시오.
• 알맞은 인스턴스 타입을 선택하십시오.
• 최신의 인스턴스 타입을 사용하시는 것이 유리합니다.
• 적절한 사이즈를 선택하십시오.
• 하이퍼 스레딩 조정, C-상태와 P-상태 조정
• Timekeeping : TSC를 사용하십시오
• 향상된 네트워킹, NVME instances 등 지원
• 최근의 업데이트된 OS를 사용하십시오.

Amazon EC2 고급 활용 기법 및 모범 사례::이진욱::AWS Summit Seoul 2018

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to Amazon EC2 고급 활용 기법 및 모범 사례::이진욱::AWS Summit Seoul 2018

Similar to Amazon EC2 고급 활용 기법 및 모범 사례::이진욱::AWS Summit Seoul 2018 (20)

More from Amazon Web Services Korea

More from Amazon Web Services Korea (20)

Amazon EC2 고급 활용 기법 및 모범 사례::이진욱::AWS Summit Seoul 2018