[오픈소스컨설팅] IaaS부터 PaaS, 컨테이너 서비스, CI·CD, GPU 모니터링·관리까지 — 우리 환경에 맞는 스택 선택 기준

IaaS부터 PaaS, 컨테이너 서비스, CI·CD, GPU 모니터링·관리까지
오픈소스컨설팅 프리세일즈팀
김호진 상무

목차 GPU 인프라 통합관리 전략
솔루션 사용 케이스
PlayceCloud
Why OpenSource Consulting?
01
02
03
04
IaaS부터 PaaS, 컨테이너 서비스, CI·CD, GPU 모니터링·관리까지 — 우리 환경에 맞는 스택 선택 기준

IaaS부터 PaaS, 컨테이너 서비스, CI·CD, GPU 모니터링·관리까지 우리 환경에 맞는 최적의 인프라 stack을 컨설팅/구축/유지보수
GPU 인프라 통합관리 전략
통합 관리 플랫폼
여러 팀이 함께 쓰는 서비스처럼 GPU 통합관리

Playce Cloud - GPU 인프라 통합관리
사용자가 IaaS/PaaS/DevOps/GPU 환경을 제공하기 위해 Playce Cloud를 선택
가상화 GPU Zone
SDS Switch
관리
노드
#1
관리
노드
#2
관리
노드
#3
NAS
(복제용)
NAS
(메인)
Tenant Switch
… Disk Storage
Disk Storage Disk Storage Disk Storage
Disk Storage Disk Storage
GPU
GPU
MIG
GPU
VGPU Host-passthrough
GPU
GPU GPU
…
…
GPU
OpenStack 플랫폼 Ceph storage 클러스터 GPUaaS 모니터링/관리 Kuberenetes클러스터 VM 가상화 및 VDI DevOps 구현
사용자 대시보드 운영자 대시보드
가상화 CPU Zone …
GPU
GPU
MIG
VM 환경
K8S 환경
VM 환경
K8S 환경
VDI
VDI
OS
OS
OS
OS
베어메탈 Zone
OS
MLOps 환경
Disk Storage
GPU Host#2
GPU Host#1 GPU Host#
CPU Host#1
…
… GPU Host#3
CPU Host#2 CPU Host##

`
Playce OpenStack - OpenStack 기반 멀티존 클라우드 인프라
고객에게 VM을 제공하고, 그 위에 VDI 솔루션을 제공하고, 사용자/운영자 대시보드 구성
OpenStack 플랫폼 Ceph storage 클러스터 GPUaaS 모니터링/관리 Kuberenetes 클러스터 DevOps 구현
Compute 리소스를 CPU Zone과 GPU Zone으로 논리
분리해 워크로드 특성별로 최적 스케줄링.
CPU / GPU Zone 분리 아키텍처
Skyline으로 사용자·운영자 대시보드를 통합 제공
Windows VDI 고객을 위한 대시보드 제공
최신 버전 오픈스택과 Skyline / 고객 대시보드 기반 운영
3가지 종류의 GPU를 모두 Flavor로 제공
오픈스택 멀티테넌시와 가용존 설계로 다양한 팀별 제공
고가용·확장형 멀티테넌시
Containerize 수행
Playce OpenStack
CORE SERVICE + OPTIONAL
SERVICE
Playce OpenStack

Playce Ceph – Ceph 기반 저지연 스토리지 플랫폼
Ceph 를 이용하여, HCI 형태의 오픈스택을 구현하여 비용 효율화된 인프라 구축
VM 및 VDI용 루트/데이터 디스크를 Ceph RBD로 구성해
안정적인 성능·복제 제공.
Ceph RBD 기반 Block Storage
VDI 동시접속 환경에서도 5ms 수준 I/O 지연을 목표로
한 스토리지 레이아웃·네트워크 최적화.
NVMe 튜닝으로 5 ms 이하의 Latency 구현
Ceph RGW를 S3로 노출해 MLflow 모델/로그 아티팩트
저장소로 활용.
S3 게이트웨이 + MLflow 아티팩트 저장소
4K latency 5ms 이하를 VDI 기준임/ 통상 10 IOPS/user
기준으로 평가
OpenStack 플랫폼 Ceph storage 클러스터 GPUaaS 모니터링/관리 Kuberenetes 클러스터 DevOps 구현 Containerize 수행
`
Playce Ceph
Block storage
File storage
Object storage

`
Playce Monitoring - 멀티 모드 GPU as a Service
시스템과 GPU를 모니터링 하고 재 할당하고, 의사결정을 내릴수 있는 모니터링/관리 도구
H100 계열 GPU에 대해 MIG 슬라이싱, vGPU, 전용
Passthrough까지 상황별 GPU 제공 방식 구현
MIG / vGPU / Host Passthrough 풀 옵션 제공
24G/47G/94G 등 GPU 프로파일별 Flavor를 정의해 사용자가
필요한 사양을 셀프서비스로 선택.
OpenStack Flavor·Placement 연계 GPU 카탈로그
VM에 GPU passthrough 후, GPU Operator를 통해 K8s에서
실시간 GPU 리소스 요청·할당이 가능하도록 설계
Kubernetes 연동 GPUaaS (GPU Operator)
전체 사용를을 한눈에 볼수 있는 별도의 대시보드와 별도와
관리 대시보드 구현
GPU 관리를위한별도의 모니터링 /관리대시보드 구현
Playce Monitoring
EFK
Loki
Playce
Monitoring
WebUI
Playce
GPUMgt
WebUI
Monitoring + GPU

`
Playce Kube – 멀티 Kubernetes 관리
쿠버네티스의 사용성과 기능을 추가하기 위한 최적의 오픈소스 패키징 제공
OpenStack VM 위에 Kubernetes를 구성해
인프라·플랫폼 레이어를 분리, 이식성과 관리성 확보.
VM 상단 kubernetes 구조
여러 멀티클러스터를 통한 관리를 지원하며,
SSO연동
Rancher를 통한 멀티 클러스터 관리
필요 에드온의 설치/업그레이드/버전관리 기능 제공
클러스터 에드온 관리 제공
Plyace Kube
Catalog
Service
SSO
Orchestration
Service Mesh
Nexus
Repository
Playce Kube
WebUI

Playce DevOps – DevOps 대시보드 지원 및 MLOps 지원
VM이나 컨테이너 환경에서 CI/CD와 이미지/Runtime 보안취약점을 해결하기 위한 패키지
`
K8s 위에 CI/CD 툴체인(Jenkins/GitLab CI/ArgoCD
등)을 올려 애플리케이션 배포를 완전 자동화.
쿠버네티스 네이티브 DevOps 파이프라인
MLflow + S3 + GPUaaS 조합으로 모델 학습–배포–
모니터링까지 파이프라인화.
ML/AI 워크로드 DevOps (MLOps 연계)
로그/메트릭/트레이싱 스택과 보안 스캐너/런타임
보안(Falco 등)을 통합해 DevSecOps 체계 구축.
관측·보안·운영 표준화
Playce DevOps
Jenkins
Gitea
ArgoCD
Harbor
Falco
Trivy
Playce DevOps
WebUI
sonarqube

Playce Container – 개인별 컨테이너 서비스 제공 및 컨테이너라이즈 제공
개인 개발환경이나, 사내 서비스를 컨테이너라이즈 하는 서비스
Airgap 환경에서 개인별 개발 서비스 환경제공
개인 개발 툴 환경서비스 제공 ( GPU 제공 )
필요시 다양한 VM기반 APP을 Containerize 하는
서비스 제공
APP 서비스 컨테이너라이즈 제공
도커 이미지를 이용하여 이미지 빌드 기능 제공
이미지 빌드 기능 제공
Playce Container
vscode
Jupyter
Notebook
mlflow
Shared
Data
Containerize APP Service
`

최적화된 오픈소스 패키징
Playce Cloud 소개
효율적인비용(구축/운영비용),벤더종속에서탈피
많은벤더가참여하는오픈소스프로젝트패키징으로,재단기반의효율적인
지원체계제공
고객사환경에최적화된환경구성
IaaS&PaaS에대한전체컨설팅/구축/유지보수를제공함으로써고객사
환경에최적화된구성
검증된안전한최신버전선택
재단과연계하여,가장빠른최신의버전테스트및업데이트
Kubernetes 기반 컨테이너 운영을 위한
PaaS 솔루션
오픈스택 기반의 클라우드 운영을 위한
IaaS 솔루션
Ceph 기반의
스토리지 솔루션
컨테이너 기반의 CI/CD환경을
제공하는 솔루션
컨테이너 기반의 개발자 환경 제공
고객요청에 따른 컨테이너라이즈

Why OpenSource Consulting?
10여년 이상 오픈소스 기반의 Private Cloud 구축을 통한 다양한 노하우를 보유
다양한 고객사 프로젝트를 통해서
검증된 Private Cloud 구축 역량
LG CNS와의 협업을 통한 시너지
01.오픈소스컨설팅 기술 역량 02. 오픈소스에 대한 높은 이해도 03. LG CNS와의 협업
오픈소스 기반의 오랜 업력을 가진
제안사의 구축 업무 수행(현재)
AI·클라우드 전문 기업
오픈소스 기반
IaaS/PaaS/AI 전문 구축 기업
대규모 Private Cloud 구축 수행
(기상청, LG전자, LG에너지솔루션 등)
다양한 고객사의 GPU Farm 구축 경험
(기상청, LG에너지솔루션, 삼성카드)
다양한 금융사의 Private Cloud 구축 및 컨설팅 경험
(삼성카드, 동양생명, KB국민은행)
Cloud Native Computing
Foundation Silver 회원사
Kubernetes Certified
Service Provider 획득
OpenInfra Korea User
Group 운영진
OpenInfra Summit Asia
2024 실버 스폰서
Openinfra SUPPORTING
ORGANIZATIONS

재단 표준의 패키지 사용 / 지원 - OIF / CNCF MEMBERS
Cloud Native Computing Foundation Silver 회원사 / Kubernetes Certified Service Provider 획득
Supporting
Organization

www.osci.kr
T. 02-516-0711
E. sales@osci.kr

[오픈소스컨설팅] IaaS부터 PaaS, 컨테이너 서비스, CI·CD, GPU 모니터링·관리까지 — 우리 환경에 맞는 스택 선택 기준

More Related Content

Similar to [오픈소스컨설팅] IaaS부터 PaaS, 컨테이너 서비스, CI·CD, GPU 모니터링·관리까지 — 우리 환경에 맞는 스택 선택 기준

More from Open Source Consulting