AWS Summit Seoul 2023 | Amazon EKS, 중요한 건 꺾이지 않는 안정성

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.
S E O U L | M A Y 4 , 2 0 2 3

Amazon EKS,

•
•
•
•

쿠버네티스

쿠버네티스 컨트롤 플레인 (KCP)
쿠버네티스 데이터 플레인 (Node)

가용 영역 1 가용 영역 2 가용 영역 3
매니지드 노드 그룹 Fargate 서비리스
컴퓨트
셀프 매니지드 EC2
Customer VPC
Etcd API 서버 Etcd API 서버 Etcd API 서버
워커 노드 워커 노드 워커 노드

High Availability (HA) Disaster Recovery (DR)
•
•
•
•
•
•
•
99.999%

03.
빠른 확장
대규모 트래픽에도
안정성 유지
02.
영향 범위 최소화
01.
자가 복구

컨트롤 루프
Observe Act
Diff
Reconcile()
status:
spec:
현재 상태
원하는 상태
?

apiVersion: apps/v1
kind: Deployment
metadata:
name: nginx-deployment
labels:
app: nginx
spec:
replicas: 3
selector:
matchLabels:
app: nginx
template:
metadata:
labels:
app: nginx
spec:
containers:
- name: nginx
image: nginx:1.7.9
ports:
- containerPort: 80

Command
HTTP 요청 TCP Socket

Readiness
애플리케이션이요청을
받을준비가되었는가?
readinessProbe:
exec:
command:
- cat
- /tmp/healthy
initialDelaySeconds: 5
periodSeconds: 5

HTTP /healthy
서비스 엔드포인트에서 제거
1
2
3

Liveness
애플리케이션이건강한
상태인가?
livenessProbe:
httpGet:
path: /healthz
port: 8080
initialDelaySeconds: 5
periodSeconds: 5

HTTP /healthy
컨테이너 재시작
1
2
3

nginx nginx
nginx nginx
nginx
nginx
nginx
nginx
노드 선정 기준
(node resource,
affinity,
request/limit,
…)

nginx nginx
nginx nginx
nginx
nginx
nginx
nginx

nginx nginx
nginx nginx
nginx
nginx
nginx
nginx
부하 발생

spec:
affinity:
podAntiAffinity:
preferredDuringSchedulingIgnoredDuringExecution:
- labelSelector:
matchExpressions:
- key: app
operator: In
values:
- nginx
topologyKey: "kubernetes.io/hostname"
containers:
- name: nginx
image: nginx
Kubernetes.io/hostname이라는
Label 키를 가진 노드에
1
app: nginx 라는 Label을 가진
Pod가 이미 실행 중이라면
2
해당 노드에 Pod를 배포하지 마세요.
4
가급적(preferred), 반드시 (required)
3

spec:
topologySpreadConstraints:
- maxSkew: 1
topologyKey: topology.kubernetes.io/zone
whenUnsatisfiable: DoNotSchedule
labelSelector:
matchLabels:
app: nginx
containers:
- name: nginx
image: nginx
app: nginx 라는 Label을 가진
Pod가 실행 될 때
1
최대 1개의 Pod 수 차이를 허용합니다.
3
노드의 가용영역을 기준으로 Pod를 분산하고,
2
예) maxSkew:1로 10개의 Pod를 3개의 가용영역에 배포한다면?
→ 4,3,3 또는 3,4,3 또는 3,3,4의 비율로 배포됨

order
review
order
review
• order : 중요도 높음
• review : 중요도 낮음

order
review
order
review
노드 CPU/Memory 부하 발생

order
review
order
review
노드 CPU/Memory 부하 발생
Evicted
비즈니스에 영향을 주는 서비스가 축출됨

Request = Pod 배포를 위한 최소 요구 용량
Limit = Pod 에서 소비할 수 있는 최대 용량

Application
LoadBalancer
사용자들

Cluster
Auto Scaler
(CA)
Horizontal
Pod Autoscaler
(HPA)
CA

• CA – Node
CA
Metric

빠른 확장 노드 그룹 관리 Spot 인스턴스 활용

단일 프로비저너 (Karpenter)로
다양한 워크로드 용량 관리
CA ASG
EC2 API
Cluster
Auto-
scaler
Auto
Scaling
Group
Pod
Autoscaling
Pending
pods
EC2 Fleet
(instant)

Pending pods 기존 용량
Just-in-time capacity
Unschedulable pods
EC2로 API 요청
ASG를 관리하지
않고 적절한 크기의
인스턴스 생성
최적화된 용량

v1.24 v1.25
Amazon EKS
150일 14개월
3개월
업스트림 쿠버네티스
대비 100일 ~ 150일 정도
늦은 릴리즈 주기를 가짐
릴리즈 된 버전은 최대
14개월 동안 지원

워커 노드 1
워커 노드 2
워커 노드 3
kubelet
kube-proxy
Container Runtime
kubelet
kube-proxy
Container Runtime
kubelet
kube-proxy
Container Runtime
워커 노드 4
kubelet
kube-proxy
Container Runtime
워커 노드 5
kubelet
kube-proxy
Container Runtime
워커 노드 6
kubelet
kube-proxy
Container Runtime
Cordon
Scheduling
Disabled
Drain
Updating
Cordon Drain
Cordon Drain
Scheduling
Disabled
Scheduling
Disabled

워커 노드 1
워커 노드 2
워커 노드 3
kubelet
kube-proxy
Container Runtime
kubelet
kube-proxy
Container Runtime
kubelet
kube-proxy
Container Runtime
apiVersion: policy/v1
kind: PodDisruptionBudget
metadata:
name: nginx
spec:
minAvailable: 4
selector:
matchLabels:
app: nginx
1
3
Drain
2

예기치 못한 장애
이전 버전 롤백 불가능 한단계씩 버전 업데이트

VPC - Blue
1 2
Blue
VPC - Green
1 2
Green
Route53
1.22
1.23
( )
Application Load
Balancer
Application Load
Balancer
1
3
2
가중치 100
4
가중치 0

VPC - Blue
1 2
Blue
VPC - Green
1 2
Green
Route53
1.22
1.23
( )
Application Load
Balancer
Application Load
Balancer
2
가중치 90
1
가중치 10

VPC - Blue
1 2
Blue
VPC - Green
1 2
Green
Route53
1.22
1.23
( )
Application Load
Balancer
Application Load
Balancer
2
가중치 0
1
가중치 100

VPC - Blue
1 2
Blue
VPC - Green
1 2
Green
Route53
1.22
1.23
( )
Application Load
Balancer
Application Load
Balancer
2
가중치 0
1
가중치 100
클러스터 삭제
3

EKS Blueprints
for CDK
인프라 코드화 GitOps
Add-ons

01 02 03
컨트롤 플레인 데이터 플레인 버전 업데이트
안정성

https://github.com/aws/containers-roadmap/projects/1?card_filter_query=eks https://aws.github.io/aws-eks-best-practices/
Amazon EKS 로드맵 Amazon EKS 모범 사례

AWS Summit Seoul 2023 | Amazon EKS, 중요한 건 꺾이지 않는 안정성

More Related Content

What's hot

Similar to AWS Summit Seoul 2023 | Amazon EKS, 중요한 건 꺾이지 않는 안정성

More from Amazon Web Services Korea

AWS Summit Seoul 2023 | Amazon EKS, 중요한 건 꺾이지 않는 안정성