3. Customer 360oView
External DataBig Data
Environment
DataData
Data warehouse
E-MailCRM
Single Customer View
with improved decision making
capabilities based on Customer
data
Big Data
Enabling innovative products
& services, customer
satisfaction
AnalyticsChurn propensity and prevention,
Product Sentiment, Recommendations and
more.
Internal Data
7. albastella.ai
Data Loading Verification Splitting
Processing
Feature
Engineering
Model
Training &
Verification
Hyperparamete
r Tuning
Model Serving
albastella.ai구성
1. 개요
머신 러닝(ML) 개발(전체 5%)보다 대부분 데이터 분석/개발된 모델을 반복적으로 학습하면서 튜닝하는 작업 필요.
albastella.ai 의 ML Pipeline를 통해 전 과정을 개발 관리
8. albastella.ai ML 아키텍처 구성 (Kubeflow 기반)
2. albastella.ai 구성 및 기능 요소
albastella.aiMachineLearning 구성
9. • Orchestration for complex ML workflows
• Reproducible and reliable experimentation
• Bridging experimentation and operationalization
• Composition and reusable ML components and pipelines
2. albastella.ai 구성 및 기능 요소
MLE2EPipelines
10. 9
albastella.ai주요 기능
2. albastella.ai 구성 및 기능 요소
albastella.ai 는 pipelines, Exeriments, Model Serving, Notebooks, Model Training, Fairing,
Hyperparameter tuning 등으로 구성
11. ㅇ 쿠버네티스 기반의 AI 파이프라인 관리
ㅇ 워크플로우의 메타데이터 관리
ㅇ 쥬피터 노트북 생성 및 관리 : 대화 형 Jupyter 노트북 생성 및 관리
ㅇ 딥러닝(TF) 자동 학습 기능
ㅇ 딥러닝 자동 학습 알고리즘 추가 기능
ㅇ 하이퍼파라미터 최적화 및 튜닝 지원
ㅇ 협업 지원 : 유저별 작업 공유, 히스토리 관리
ㅇ 학습 수행 및 과정 모니터링
ㅇ 학습 테스트 및 결과 모니터링
ㅇ AI학습모델 학습 지원 및 관리
ㅇ 하이퍼파라미터 자동화
ㅇ GPU리소스 관리
ㅇ 분산 학습 지원
ㅇ Tensorflow Extended지원
ㅇ AI모델 배포 : 텐서플로우, 파이토치, 셀던, 엔비디아텐서RT 지원
ㅇ 한글 UI 및 메뉴, 매뉴얼 제공
albastella.ai기능 구성
2. albastella.ai 구성 및 기능 요소
ML 모델 개발을 포함한 ML E2E Pipeline 전체 프로세스 지원
14. albastella.ai의 UI 화면으로서, albastell.ai의 구성 요소를 쉽게 접근할 수 있는 대시보드가 포함되어 있습니다.
대시보드에는 다음과 같은 기능이 포함되어 있습니다.
albastella.ai기능 구성
2. albastella.ai 구성 및 기능 요소
15. albastella.ai기능 구성
2. albastella.ai 구성 및 기능 요소
albastella.ai의 UI 화면으로서, Kubeflow의 구성 요소를 쉽게 접근할 수 있는 대시보드가 포함되어 있습니다.
대시보드에는 다음과 같은 기능이 포함되어 있습니다.
16. CLI 지원 프레임 워크는 Kubernetes 구성을 작성하고 배포하는 방법을 단순화합니다.
kubectl과 함께 작동하도록 설계되었습니다.
● Reuse: 자주 사용하는 목록을 빠르게 구성
● Customize: 요구 사항에 따라 부하 직원 목록 사용자 정의
● Deploy: 환경 지원
● Diff: 서로 다른 환경에서 실행중인 유사한 버전의 응용 프로그램
● Track: 언제든지 구성의 버전 관리 추적
albastella.aiuses Ksonnet
2. albastella.ai 구성 및 기능 요소
albastella.ai는 Kubeflow의 컴포넌트를 배포하고 실행하는 Ksonnet 사용
17. Bild: Nvidia
플러그인 이점
• 하드웨어 공급 업체가 핵심 Kubernetes 프로그램을 수정할 필요가 없고 장치 만 수정
• 특정 하드웨어 장치 플러그인을 구현하기 위한 플러그인 인터페이스를 Kubernetes Pod에 제공
• 클러스터의 GPU 수를 쉽게 파악
• GPU 상태 추적 용이
• Kubernates 클러스터에서 GPU 포드 시작 용이
Kubernetes NVIDIADevicePlugins
2. albastella.ai 구성 및 기능 요소
albastella.ai는 GPU, CPU 등 리소스 관리 기능 제공합니다.
18. ● 환경 조건을 기반으로 Jupyter 노드 생성
● 기본적으로 여러 이미지를 사용
● Tensorflow 버전이 CUDA와 다르면 구성 이미지를 수정
CPU : gcr.io/kubeflow-images-staging/tensorflow-notebook-cpu
GPU : gcr.io/kubeflow-images-staging/tensorflow-notebook-gpu
JupyterHub
2. albastella.ai 구성 및 기능 요소
albastella.ai는 jupiter 노트북을 관리합니다.