디지털 시대에 기업들은 빠르게 변화하는 시장과 환경에 발 빠르게 대처하기 위하여 점점 조직을 작게 만들어 민첩성을 확보하고자 노력하고 있습니다. 이를 위한 기술의 하나로 '클라우드 네이티브'의 도입이 가속화 되고 있는데요, 이는 클라우드 컴퓨팅 모델의 장점을 모두 활용하여 애플리케이션을 개발하고 실행하기 위한 접근 방식을 일컫습니다. 아키텍처 관점에서는 분산을 통한 유연성 확보, 운영 관점에서는 애플리케이션도 분산시켜야 하는데요, 이를 위해서는 다양한 클라우드 환경에서 자유롭게 이식하기 위한 '컨테이너' 구현이 필수적입니다.
1. SUSE Open Source Day | 1
성공적인 쿠버네티스 도입 전략
-구축 전략과 사례 -
2023.10.27
2. SUSE Open Source Day | 2
Playce Cloud 소개
금일 세션 목표
지속적인 디지털 환경의 변화 및 다양한 클라우드 플랫폼, 전문기술에 어려움을 가지고 있는 IT운영자, 개발자분들에게 구축/운영에 대한 클라우드 기술을
공유해 드립니다.
01 03
02
오픈소스활용하여클라우드네이티브형태의
소프트웨어개발환경을구현하고싶은고객
오픈소스기반의클라우드네이티브아키텍처4가지
필수요소를경험하고지속적으로운영하고싶은고객
쉽고,빠르게애플리케이션을온프라미스클라우드
환경설치하고,적은 비용으로IaaS,PaaS환경을
구현하고싶은고객
출처 : https://www.oracle.com/kr/cloud/cloud-native/what-is-cloud-native/
다양한 오픈소스
S/W로 개발환경
구축하기 인프라 종속성 탈피
4. SUSE Open Source Day | 4
01
Introduction to Jira Align
클라우드 네이티브 전환 요소
- DevOps/MSA/Container/Cloud -
5. SUSE Open Source Day | 5
2024년 10대 트렌드 중 본 세션 주제와 연결된 항목들
기업의 전략적 방향을 우선 설정한 후 기술을 통한 달성 방법을 파악하고 우선순위를 정해야 함
→ Gartner 2024년 트렌드 항목 중 큰 3가지의 틀은 클라우드/AI/보안을 꼽고 있음
기업의전략적방향
기업의전략적방향
기업의전략적방향
안전하고 신뢰할 수 있는 서비스의 지속성 추구
Protect Your Investment
비즈니스 가치 혁신을 통한 기업 성장 추구
Deliver the Value
➊ AI Trust, Risk, Security
Management
➋ Continuous Threat
Exposure
Management
개발자의 창의성과생산성 제고 추구
Rise of the Builders
➍ Platform
Engineering
➐ Intelligent
Applications
➌ Sustainable
Technology
➑ Democratized
Generative AI
➎ AI-Augmented
Development
➏ Industry Cloud
Platforms
➒ Augmented Connected
Workforce
➓ Machine Customers
6. SUSE Open Source Day | 9
이를 실행하기 위해 조직은 새로운 지속가능한 기술 프레임워크 필요
작고 빨라지려는 조직
민첩성을 중요시하며 슬림화된 조직과 빠른 의사 결정 조직을
만들려 하겠지만 조직 간 소통 부재로 인한 격리(Silo),
이기주의로 변화
Silo로 인한 사업부/조직 간의 이기종 클라우드 복잡성, 조직
내 기술 역량 파악 어려움, 클라우드 중복 구독, 중복 교육
등의 리소스 낭비 초래
Choi’s Pick
https://www.zdnet.com/article/tech-in-2023-weve-analysed-the-data-and-heres-whats-really-going-to-matter/
7. SUSE Open Source Day | 12
이를 실행하기 위해 조직은 새로운 지속가능한 기술 프레임워크 필요
관제의 문제
2026년까지 55% 기업들이 독립된 제어 시스템(Siloed
Control System)으로 인해 연결 비용과 데이터 공유 제한
문제로 통합 관제의 어려움을 겪을 것
Choi’s Pick
10 Future trends for working with business leaders(www.cio.com)
https://www.cio.com/article/410720/10-future-trends-for-working-with-business-leaders.html
https://wire19.com/it-industry-predictions-by-idc
8. SUSE Open Source Day | 13
이를 실행하기 위해 조직은 새로운 지속가능한 기술 프레임워크 필요
고객 기술 인력 부재의 문제
2024년까지 60% 이상의 엔터프라이즈에서 클라우드
오퍼링을 구매하면 전문적인 지식이 필요로 하는
구축/운영 기술을 보유한 전문팀(SME, Subject Matter
Expert)이 함께 제공될 것
Choi’s Pick
https://www.zdnet.com/article/tech-in-2023-weve-analysed-the-data-and-heres-whats-really-going-to-matter/
9. SUSE Open Source Day | 14
Buzzword
클라우드 네이티브 적용하려면
클라우드 네이티브는 클라우드 컴퓨팅 모델의 장점을 모두 활용하는
애플리케이션을 개발하고 실행하기 위한 접근 방식
아키텍처 관점 = 분산을 통한 유연성(Scale)
운영 관점 = 애플리케이션도 분산시켜야 함
10. SUSE Open Source Day | 16
클라우드라고는 하지만 – VM기반, 애플리케이션은 레거시 그대로
하이브리드 클라우드 레퍼런스 아키텍처
Customer
Gateway
VPC
Gateway
전용선
내부망(내부 시스템)
1G Network
10G Network
VLAN400
VLAN300
VLAN500 L2 1G Switch
L2 1G Switch
WEB SERVER VM GROUP
업무 WEB
#1 ~ #6
업무 WEB
#1 ~ #3
업무 WEB
#1 ~ #3
업무 WEB
#1, #2
업무 WAS
#1, #2
업무 WAS
#1 ~ #4
업무 WAS
#1 ~ #4
업무 WAS
#1 ~ #3
업무WAS
#1, #2
백업서버
WAS SERVER VM GROUP
오픈스택 가상화 컴퓨팅서버 #1 ~ #9(Physical 252core, 300% Util: 756 vCore 사용가능, 물리메모리 4.5TB 사용가능)
클라우드 관리서버
#1 ~ #3
VLAN500
VLAN300
Internet
웹방화벽
Router
방화벽
L2 Switch
웹방화벽
인터넷 망(외부시스템)
HA L2 Switch
10G 망 구성
VLAN300 VLAN300 VLAN500
ORACLE/MS-SQL
SAN 스토리지
DB VM GROUP
PostgreSQL #1,#2
VLAN300
MariaDB#1,#2
Oracle
MS-SQL #1, #2
SAN
Switch
VLAN500
VLAN500
VLAN500
NAS
VLAN300
VLAN600
VLAN600
VLAN600
VLAN600 VLAN600
VLAN600
SDx CONTROLLER
VLAN600
VLAN500
범
례
Storage망
VLAN300
복제망
VLAN400
관리망
VLAN500
Physical Machine
(28core/512GB)
Virtual Machine
VM
VLAN600데이터망
10G 1G
분산스토리지 메인서버 #1 ~ #4
(Total 240TB, Usable 80TB)
VLAN500
VLAN400
VLAN300
SOFTWARE DEFINED STORAGE GROUP
VLAN600
Elastic
Load Balancer
Availability Zone
Web/WAS
Servers
Web/WAS
Servers
Amazon EC2 Amazon EC2
Availability Zone
Amazon EC2
Private Subnet
Public Subnet
AWS
Shield
AWS
WAF
객체 스토리지
EBS & Snapshot(추가 확장)
Private Subnet
Master
Multi-AZ
(Standby)
업무용 EC2 Group(추가 확장)
외주 개발
보안L2#1
보안L2#2
보안L2#3(POE)
VPN
TUNNEL
VPN#2
VPN#3
VPN#4
협력사
단독 서버 #1~#N(단독 업무용)
VLAN500
VLAN400
VLAN300
BAREMETAL SERVER GROUP
VLAN600
CloudWatch
이메일 통지
VM VM
VM VM VM VM VM VM VM
VM VM VM VM VM
VM VM
VM VM
VM VM VM VM VM VM VM VM VM
VM VM
VM
VM VM
VM
HA
HA
IPS
HA
IPS
FW
HA
HA
L2 Switch
11. SUSE Open Source Day | 17
레거시 애플리케이션의 아픔
출처: https://www.facebook.com/75911537320/photos/a.10151028112312321.423930.75911537320/10154488365657321/?type=3&theater
시간이 지날수록 기능을 빨아들여 점점 커지는 특징의 용(?)
12. SUSE Open Source Day | 18
Cloud Native Scale Cube
출처: http://theartofscalability.com
13. SUSE Open Source Day | 19
다양한 클라우드 환경의 자유로운 이식성 환경 구성 필요
작은 서비스 크기(Microservice)로 개발(Dev)된
애플리케이션을 컨테이너(Container)로 구성
다양한 클라우드(Cloud) 내의
운영(Ops)환경에 지속적(Continuous)인
통합(Integration)과 배포(Deploy)
이미지 출처: https://dzone.com/articles/microservice-architecture-learn-build-and-deploy-a
14. SUSE Open Source Day | 20
이식성을 위한 컨테이너를 우선적으로 가져가야 합니다.
이식성을 제공하는 컨테이너를 활용함으로써 더 이상 고객은 응용 업무가 작동하는 환경에 대한 신경을 쓰지 않아도 되며 장애 대응이 가능하게 됨
LAPTOP
Container
Application
OS dependencies
Guest VM
Linux
BARE METAL
Container
Application
OS dependencies
Linux
VIRTUALIZATION
Container
Application
OS dependencies
Virtual Machine
Linux
PRIVATE CLOUD
Container
Application
OS dependencies
Virtual Machine
Linux
PUBLIC CLOUD
Container
Application
OS dependencies
Virtual Machine
Linux
Container 시장 = 모든 하이퍼스케일러(HyperScaler) 제공자들의 필수 제공 서비스
※ 하이퍼스케일러(hyperscaler): 대규모 클라우드 서비스 공급업체로, 컴퓨팅 및 스토리지와 같은 서비스를 엔터프라이즈 규모로 제공, 구글, 페이스북, 마이크로소프트 등 대규모 데이터센터를 운용하는 기업
15. SUSE Open Source Day | 22
컨테이너만 마구 적재한다면 위험한 상황을 초래! – 조율이 필요
Kubernetes 프로젝트
구글 퍼블릭 클라우드 인프라 사업을 성장시키기 위해 설계하고 개발
16. SUSE Open Source Day | 23
이미 많은 고객이 컨테이너로의 대이동 시작(Application Workload)
고객의멀티클라우드적용비율 여러클라우드에배포되는서비스(컨테이너확대)
지속적인
증가 추세
현재엔터프라이즈는 “클라우드비용효율화와새로운제품/서비스의빠른제공” 가장큰목표로잡음
17. SUSE Open Source Day | 28
멀티 클라우드 환경에서의 클러스터 관리
멀티클라우드관리포털개념 멀티클라우드관리고려사항
멀티클러스터에대한통합관리포털을제공하고
운영/모니터링의통합관제및관리지원필요
구축된멀티PlayceKube클러스터를
통합관리
표준KubernetesAPI지원클러스터지원
멀티클러스터의사용자인증
및보안적용
모니터링/클러스터운영통합관리
RancherService RancherAgent
RancherAgent
RancherAgent
멀티테넌시
관리/모니터링
멀티클러스터
생성
오픈소스환경을기반으로하되벤더의지원및기술내재화가능한형태의체계를구축하는것이필요합니다.
18. SUSE Open Source Day | 29
02
Introduction to Jira Align
쿠버네티스 전환 전략
- 적용 전환 전략과 사례 -
21. SUSE Open Source Day | 33
A사 – 멀티 클러스터 통합 관리 구축
멀티 클러스터 통합 관리 (운영, 모니터링, 로깅) 구성하고 필요시 즉각적으로 클러스터 확장 가능한 아키텍처 구성
//
//
별도의 통합관리 클러스터
구성
통합관리 클러스터에서
멀티클러스터 관리
통합관리클러스터구성
멀티 클러스터간 서비스
모니터링
멀티클러스터의 모니터링,
서비스 장애 대응
클러스터간서비스매시
프로젝트 기간 :2019.10~2019.12/2020.8~2020.12 /2021~
PaaS만필요한 부분 /IaaS만 필요한 부분 /IaaS와 PaaS가필요한 부분 /개발자를 위한 PaaS영역
멀티 클러스터를 관리를 위한 통합 사례
커뮤니티 오픈소스로 제1금융권 구축
Linkerd로 service mesh 구성 ( egress 추가구성 )
EFK(Elastisearch/Fluentd/Kibana) Prometheus/Grafana 구성
통합관리 클러스터 구성
통합관리클러스터
CI/CDCluster
운영클러스터
개발클러스터
멀티테넌시
관리/모니터링
멀티클러스터
생성
통합관리Agent
통합관리Agent
통합관리Agent
통합관리 K8S
CI/CD PROD DEV
통합관리 K8S
CI/CD PROD DEV
K8S 설치모듈 실행으로
클러스터 생성
빠른 클러스터 생성
용도에 맞는 클러스터 템플릿
구성
빠른클러스터확장
배포
서버
CI/CD
PROD
DEV
22. SUSE Open Source Day | 34
구축 사례
B사 - IaaS/PaaS 모델의 클러스터 구축
하이브리드 클라우드 구축 모델로 다양한 용도의 클러스터를 구성하고 해당 클러스터를 업무 및 환경에 맞게 Zone을 나눠서 운영
프라이빗 오픈스택 / 쿠버네티스 사례 –B사
인프라 전체 시스템
클라우드 전환
Large Scaled Service
AWS와 유사한 다양한
클러스터 방식의 클라우드 구성
“다양한 사용자 용도와
환경으로 구성된 멀티
클러스터 구성”
OpenStack위의 VM 생성
• 중요 업무
• 기존 업무
• 내부망
OpenStack클러스터
오픈스택
Compute Node
VM Pool
•••
OpenStack 인프라에
Kubernetes 생성
• 개발 인프라
• 노후 인프라
활용
OpenStackKubernetes
BareMetal 인프라에
Kubernetes 구성
• 고객 서비스
• 가용성
• Large Scale
Traffic
BareMetalKubernetes
BareMetal 인프라에
GPU Farm 구성
• ML 업무
• AI 개발
KubernetesGPUFarm
오픈스택
Compute Node
VM Pool
Kubernetes
Compute Node
(BareMetal)
Kubernetes
오픈스택(Ironic)
Compute Node
(BareMetal)
VM Pool
Kubernetes
GPU
*다양한 용도의 클러스터를 모델을 통해 업무 특성에 따른 애플리케이션 배치 진행
확장가능한오픈스택/쿠베네티스로변경
클라우드기반전산자원확충및운영환경조성
전산자원할당‧회수자동화및시스템부하에따른자동시스템확장용이
오픈소스(오픈스택,도커)로대체하여최신정보시스템환경으로최적화
타사의IaaS/PaaS→오픈소스기반CNCF컴포넌트로대체
23. SUSE Open Source Day | 36
구축 사례
C사 - AI를 위한 GPU Farm 환경 구축
ML 학습 및 운영을 위해서 BareMetal환경의 독립적인 K8SGPUFarm환경 구성
C사 AI 응대 시스템
Kubernetes를 GPU 드라이버와 연동한 AI 가상상담 플랫폼 구축
Nvidia-Docker 런타임을 활용한 Kubernetes 구축
AI/ML 기반으로 작동하는 서비스를 대상으로 효율적인 스케쥴링
Prometheus & Grafana를 통한 GPU 사용량 및 Metric 모니터링 프로젝트 기간 : 2021.6~ 2021.8
PaaS 구축 AI 가상상담 플랫폼 운영환경 구축
User
Master Node
Worker Node
GPU * 4
Master Node
Worker Node
GPU * 4
Master Node
Worker Node
GPU * 4
Worker Node
GPU * 4
Worker Node
GPU * 4
Switch
LoadBalancer
GPUFarm아키텍처구조
GPUFarm아키텍처구조
GPU/Mem 관련 매트릭
• GPU Utilization
• Power Draw
• Fan Speed
• Temp
• GPU Clock Speed
• Mem Clock Speed
• Memory Alloc
POD의 KUDA 지원 Notebook 사용
GUP 지원 Docker Runtime 구성
NVIDIA GPUs Driver 구성
24. SUSE Open Source Day | 37
쿠버네티스 전환 구축 전략(선 구축 사례 기반)
▪ 기존 가상화 중심에서 컨테이너 중심의 마이그레이션 전략 수립 및 전환 – Sustainable Technology
▪ 기술 내재화 기반의 비즈니스 중심의 빠른 대응이 가능한 인프라 환경 조성 – Platform Engineering
초기 전략 – 클라우드 친화
▪ 오픈소스 기반 서비스 인프라 전환 중심
- 오픈소스 기반 적용 전략 및 로드맵 수립
- 클라우드 네이티브 거버넌스 운영 체계 수립
▪ 컨테이너 전환 대상 업무시스템 분석 및 준비
- 중요도 기준 3~4단계 기준 수립 후 점진적으로
시스템을 전환
중기 전략 – 클라우드 네이티브
▪ 전략의 중심에 클라우드 네이티브를 배치
- Cloud, DevOps, Container(K8s), MSA 기술을 기반으로
조직의 Agile화를 추진
▪ 클라우드/컨테이너 인프라 기술 내재화
- 초기 SME를 활용한 클라우드 네이티브 기술 내재화
- 후속 조치로 선행 전환 이후 기간계 업무로 전환 확대
사례
서비스 분석
시사점
향후 발전방향
초기
▪X86 기반의 오픈소스 소프트웨어 시스템
전환
▪업무를 위한 공통 개발 플랫폼(PaaS) 제공
▪단순화/표준화 기반의 계층형 아키텍처
▪ 개발 인프라의 컨테이너 기반 기술 적용
중기
▪오픈소스/클라우드 기반 운영 환경을 위한
내부 요원의 기술 내재화
▪K8s 기반 통합 모니터링/백업 및 복구
체제 형성
▪컨테이너 기반 인프라 조성 및 서비스
애플리케이션 설계
장기
▪업무 시스템에 대한 서비스 중심의
클라우드 네이티브화
▪인프라 관점의 모니터링 일원화 및 사용자
중심의 인터페이스 전환
▪인프라 관점의 AI/ML 등의 신기술 접목을
위한 다양한 환경 제공
25. SUSE Open Source Day | 38
www.osci.kr
T. 02-516-0711 E. sales.osci.kr