AWS reInvent를 통해 바라본 글로벌 Cloud 기술동향

1. AWS re:Invent를 통해 바라본
글로벌 Cloud 기술 동향
Kim Dong Hyun, Meister(IT System Management)
AWS Technique Team, Team Manager
Infra Business Division | Infra Innovation Department
kim.donghyun@kt.com

2. # WHOAMI
§ Systems and Infrastructure Geek
§ Enterprise Linux Infrastructure Engineer
§ History
• 2016 ~ Present : SSAM(사내강사)
• ‘23년도 Meister(IT시스템관리)
• 2023 Kubernetes, Open Infra Community Day(컨트리뷰터)
• 한국정보통신진흥협회(KAIT) Linux 공인시험(출제위원)
§ I love Community♥
• Blog http://rhlinux.tistory.com/, Café http://cafe.naver.com/iamstrong
• ClusterLabs Korea(Pacemaker) https://www.facebook.com/groups/clusterlabskorea
Facebook
TiStory
HA Cluster Summit,
Brno Czech

3. # In this Session
1. AWS reInvent 2023 주요 신기술
2. 글로벌 클라우드 시장 동향
3. 시장을 주도하는 클라우드 기술

4. What is AWS re:Invent?
‘AWS re:Invent’ 는 글로벌 클라우드 서비스 사업자인 ‘아마존 웹 서비스(Amazon Web Service, 이하 AWS)’가 개최하는 최대
규모의 행사로, 매년 AWS 신규 서비스와 활용 사례 등을 발표하고 IT 관계자들이 한 자리에 모이는 네트워킹의 장
Keynote
Expo
Boot Camp
Break Session
Chalk Talk

5. AWS re:Invent 2023
65,000+
2,900+ 380+
Attendees
Sessions Sponsors
150+ 1,000+ 50+

6. © 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS re:Invent MAP

7. 1. AWS re:Invent 2023 주요 신기술

8. Compute
AI and Machine Learning
Storage
Database
Security
Observability
AWS re:Invent 2023 - Key Announcements
• Amazon Q
• AWS Graviton 4
• AWS Trainoum2
• Amazon S3 Express One Zone
• Amazon RedShift Serverless(AI-Powered)

9. 생성형AI 역량은 데이터
전략에 달렸다.
Adam Selipsky, CEO of AWS(Amazon Web Services)
“확장성, 민첩성, 보안성 등을 갖춘 클라우드에 데이터가 있어야 하며,
클라우드 상의 다양한 도구를 통해 통합적으로 활용될 수 있어야 한다.”

10. AWS Generative AI Stack
APPLICATIONS THAT LEVERAGE FMs
TOOLS TO BUILD WITH FMS AND LLMS
INFRASTRUCTURE FOR FM TRAINING & INFERENCE
Amazon Q Amazon Q in
Amazon QuickSight
Amazon Q in
Amazon Connect
Amazon
CodeWhisperer
GPUs Inferentia
Trainium SageMaker
EC2 Capacity Blocks Neuron
UltraClusters EFA Nitro
Amazon Bedrock
Guardrails Customization capabilities
Agents

11. Amazon Q - AREAS OF EXPERTISE (Preview)
1. Your
business
3. Amazon
QuickSight
2. Building
on AWS
4. Amazon
Connect
5. AWS
Supply Chain
AWS에서 애플리케이션
및 워크로드를 구축,
최적화 및 운영하는
방식을 지원
Gen.AI 기반 비즈니스
질문에 대해 빠르고
정확하게 제공하여
직원 생산성 향상
인사이트를 쉽게
구축하고 활용할 수 있게
해주는 GENERATIVE BI
어시스턴트
상담원에게 문제 해결에
필요한 대응, 조치 및
정보를 실시간으로 제공
상담원에게 문제 해결에
필요한 대응, 조치 및
정보를 실시간으로 제공

12. Amazon Q - Building on AWS (Preview)
BUILDING ON AWS
Trouble Shooting
AWS 에서 어플리케이션 및 워크로드를 구축, 최적화 및 운영하는 방식을 17년간 축적된 지식을 바탕으로 트레이닝된 업무용으로
설계된 GENERATIVE AI 어시스턴트

13. AWS Redshift Serverless - Today
DATA
Amazon Redshift Serverless
Compute
쿼리
예측
모델
주1 Auto-WLM: Machine learning enhanced workload management
DATA
Amazon Redshift Serverless
쿼리
예측
모델
단순 유형의 쿼리패턴
Compute
Compute
복합적인 쿼리패턴
시사점
• 단일 Compute 처리 한계치 Very large Query의 경우 처리 어려움
• 완전히 다른 유형(ex. ETL 등)의 쿼리를 처리해여 하는 경우 속도 저하 발생
AutoWLM AutoWLM
주2 ETL : 추출(Extract), 변환(Transform), 로드(Load)를 나타내며 조직에서 여러 시스템의 데이터를 결합하기 위한 방법
Amazon Redshift Serverless는 데이터 웨어하우스 용량을 자동으로 프로비저닝하고 기본 리소스를 지능적으로 확장하고 용량을
몇 초 만에 조정하여 가장 까다롭고 변동성이 큰 워크로드에 대해서도 일관되게 높은 성능과 단순화된 운영을 제공

14. AWS Redshift Serverless - AI Scaling(Tech Preview)
DATA
쿼리
예측
모델
확장
예측
모델
AutoWLM Forecaster
On-Demand
Vertical Scaling
Compute
Compute
AI Models
Amazon Redshift Serverless
새로운 AI 기반 확장 및 최적화를 통해 쿼리 복잡성, 데이터 볼륨 등의 차원을 기반으로 워크로드 패턴을 학습하여 실제 워크로드
요구에 따라 지속적으로 리소스를 조정하여 맞춤형 성능 최적화를 적용

15. Amazon S3 Express One Zone
S3 Express One Zone은 지연 시간에 가장 민감한 애플리케이션에 대해 일관되게 10밀리초 미만의 데이터 액세스를 제공하도록
특별히 설계된 고성능 단일 영역 Amazon S3 스토리지 클래스
구분 S3 Standard S3 Intelligent-Tiering S3 Standard-HA S3 Express One Zone
특징
자주 엑세스 하는
스토리지
엑세스 패턴을 알 수 없는
데이터에 대해 자동 비용 절감
효과
밀리초 단위의 엑세스가 필요한
자주 엑세스 하지 않는 데이터
가장 자주 엑세스하는 데이터 및
고성능 스토리지
지연시간 10ms 이상 10ms 이상 10ms 이상 1-9ms
가용영역 3 3 3 1
가용성 99.99% 99.9% 99.9% 99.95%
적용 영역 범용(성능/비용) 비용 측면 유리 성능 측면 유리 AI / 미디어 유리
활용 사례 기본 스토리지 클래스 스토리지 비용 최적화 설계 스토리지 성능 최적화 설계
대규모 읽기 워크로드
EMR, 아테나, SageMaker 등 유리
수명 주기 전환 Y Y Y N

16. What is AWS Graviton processor?
AWS Graviton은 Amazon Web Services(AWS) 자회사 Annapurna Labs에서 설계한 64비트 ARM 기반 CPU 제품군 이며
Intel/AMD x86-64에 비해 에너지 사용량이 적고, 정적 클럭 속도 및 동시 멀티스레딩 생략이 특징
AWS Gravition
구분 EC2 INSTANCES Graviton 4
Compute Performance - +30%
Core Count - +50%
Memory Bandwidth - +75%
Encryption Capabilities 부분지원 지원
Integration with AWS Services 부분적 전체
Energy Efficiency 표준 우수
Cost-Efficiency 표준 개선

17. AWS Graviton 4 - Quick Comparison
구분 Graviton Graviton 2 Graviton 3 Graviton 4
출시 연도 2018 2019 2022 2023
CPU 타입 Coretex A72 Neoverse N1 Neoverse V1 Neoverse V2
최대 코어 수 16 4 64 96
클럭 속도 2.3GHz 2.5GHz 2.5GHz 2.6GHz
메모리 채널 - - 8 DDR5-4800 12 DDR5-5600
워크로드 WEB 전용 범용 ML, HPC
larger in-memory
databases and analytics
workloads
성능 - 기존 대비 40% 향상된 성능
• 기존 대비 25% 향상
• 전력 효율 60% 향상
• 데이타베이스 40% ↑
• 웹어플리케이션 30% ↑
• 자바어플리케이션 45% ↑
Amazon EC2 워크로드에 최고의 가격 대비 성능을 제공하기 위해 AWS에서 맞춤 설계한 Graviton 프로세서 제품군 최신 세대이며
기존 세대 대비 비교하여 최대 30% 더 뛰어난 컴퓨팅 성능을 제공

18. AWS Trainoum2
▶ Trainium’s Role in Enhancing AI Operations on AWS
OpenAI Chat GPT, Amazon Bedrock 및 Q, Google의 Gemini 플랫폼의 핵심에 있는 LLM은 데이터 처리량을 관리하기 위해 높은
처리 능력과 메모리 대역폭을 요구하고 신속한 응답을 가능하게 하기 위해 지연 시간이 짧은 통신을 요구

19. Decoding Amazon’s Generative AI Strategy
CPU GPU
Language Speech
Code
Image
Vector Storage Orchestration
Retrieval
Playground Dev Tools
Inference
Fine-Tuning
AI-Assistant Customer AP
Gen.AI Stack
Compute
구분
Foundation
Models
Retrieval and
Search
AI Platform
Application
Embedding
Graviton 4 Trainoum 2
Amazon Bedrock
Amazon MemoryDB for Redis
Amazon SageMaker Studio
Amazon Q for Business
AWS Gen.AI Services
Amazon Bedrock
Amazon Bedrock

20. 2. 글로벌 클라우드 시장 동향

21. 상위 클라우드 제공업체 시장 점유율
31%
24%
11%
4%
3%
2%
2%
Cloud Infrastructure Service
Revenue in 4Q 2023
출처: Sysnergy Research Group

22. Public cloud spending growth in 2023 ­ Gartner
출처: IDC Worldwide Semiannual Public Cloud Services Tracker, 1H 2023, November 30, 2023
전 세계 퍼블릭 클라우드 서비스 수익이 2023년에 6,630억 달러에 달할 것으로 예측되며 이는 2022년 대비 20.0% 증가한 수치로
2024년에도 비슷한 증가율이 예상
Deployment
Category
1H23 Revenue
1H23 Market
Share
1H22 Revenue
1H22 Market
Share
1H23/1H22
Growth
IaaS $64.4 20.4% $55.1 20.8% 16.9%
PaaS $56.8 18.0% $44.5 16.8% 27.7%
SaaS ­
Applications
$141.2 44.7% $121.9 46.0% 15.8%
SaaS ­ System
Infrastructure
Software
$53.2 16.9% $43.3 16.4% 22.7%
Total $315.5 100% $264.8 100% 19.1%
(revenues in US$ billions)

23. TOP 10 Strategic Technology Trends 2022-2024
No. 2022 2023 2024
1 Data Fabric Digital Immune System AI Trism
2 Cybersecurity Mesh Applied Observability CTEM
3 Privacy-enhacing Compution AI Trism Sustainable Technology
4 Cloud-Native Plaform Industry Cloud Platform Platform Engineering
5 Composable Applications Platform Engineering AI-Augmented Development
6 Decision Intelligence Wiress-Value Realization Industry Cloud Platform
7 HyperAutomation Superapps Intelligent Applications
8 AI Engineering Adaptive AI Democratized Generative AI
9 Distributed Enterprise Metaverse Augemented Connected Workforce
10 Total Experiance Sustainable Technology Machine Customer

24. Artificial Intelligence(AI) Chip - Cloud Market
(in Billion U.S Dollars)
2023
2024
2027
2028
2029
2030
2026
20 40 60 80 100 120 140 160
0
28
39
140
115
92
71
52
출처: Enterprise Apps Today 2024
180
2025
165
Market Revenue 2023-2030

25. Global AI Cloud Market Size 2023-2030
2022 2023 2024 2025 2026 2027 2028 2029 2030
100
200
800
700
600
500
400
300
CACR 39.7%
44.9
90.5
651.35
(USD Billon)
출처: SNS INSIDER, AI CLOUD MARKET

26. 3. 시장을 주도하는 클라우드 기술의 변화

27. AWS Adds GPU
Instances to EC2
History of the cloud(Time Line, 2005-2020)
2005 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 2020
1st Generation Cloud 2nd Generation Cloud Next Generation Cloud
Amazon Launches
Elastics Compute
Cloud(EC2)
AWS Offers
Service Level
Agreement(SLA)
Database Services
Available on Public
Cloud
‘Big Data’ Starts
Becoming Popular Private Cloud
Emerge
Edge Computing
Proposed
OpenStack Open-
Source Software
Launched
Microsoft Azure
Launched
Private Cloud
Emerge
Cisco coins ‘Fog
Computing’ for
Using the Edge
Non-Relational
Database Service
Available
Monitoring
Services become
available
DevOps for Cloud
gains Prominence
Real-time
Streaming Data
processed on AWS
AWS launches
Lambda for serverless
applications
Container Services
on Public Cloud
Blockchain-as-a-
Service Launched
Machine Learning
Service on the
Cloud
Dell Launches
Hybrid Cloud
System
Dell Launches
Hybrid Cloud
System
Cloud-Based
internet-Of-
Things(IOT)
Platform Available
Amazon
StepFunctions
launched
IBM Cognitive
Cloud Popularised
Microsoft
launched under
the sea data-
centre
Google Tensor
processing
Units(TPUs)
available on the
Cloud

28. 출처: Revolutionizing the IT Future
Edge
Computing
AI-as-a-Service
Cloud
FinOps
서버리스
컴퓨팅
클라우드 보안
컨테이너
관리형 서비스
Sustainable
Cloud
Computing
Multi & Hybrid
Cloud
Top 8 Cloud Computing Trends in 2024

29. Gartner Hype Cycle 2023: Positioning of Cloud Sustainability
출처: Gartner Hype Cycle 2023
Innovation
trigger
Peak of Inflated
Expectations
Trough of
Disillusionment
Slope of
Enlightenment
Plateau of
Productivity
Git Ops
Generative Cybersecurity AI
Cybersecurity Mesh
Architecture
Augmented FinOps
Neuro-Symbolic AI
AI Simulation
Casual AI
Postquantum Cryptography
Generative AI
Cloud-Native
AI-Augmented
Software Engineering
API Centric SaaS
Opensource Program Office
Cloud-Out to Edge
AI TRiSM
Industry Cloud Platform
Graph Data Science
Cloud Development Environments
>10yrs
>2-5yrs >5-10yrs
Cloud Sustainability

30. Cloud Native로의 변화와 기술혁신
On-Premises Lift & Shift
HW/SW 최적화
Cloud-Native
Cloud 최적화
COTS[주1] à
오픈소스 전환
주1 COTS(Commercial off-the-shelf)
컨테이너/
서버리스
관리형
서비스
Legacy Migrate Modernize
Innovation
기술혁신
속도
모놀리식 à
마이크로서비스
DevOps
모델
CI/CD
자동화 구현
Offload
Operational
Activities
자동화 툴 비용
최적화
Cost

31. What is Platform Engineering?
Observability
Services
Security
Services
Test Services
Development
Services
Operational
Services
• Container 취약점 점검
• 정적 코드 분석
• 보안정책 관리
Security Team
• 모니터링
• 로깅 감시
• 분석/추적
• 테스트 툴링
• 테스트 방법론 정의
• 테스트 승인
Development Team
• 저장소 관리
• 파이프라인 구축
• 저장소 구축
• 실시간 배포
• 개발 툴링&파이프라인
Observability Team Test Team
Operational Team
SW Support Team
플랫폼 엔지니어링은 소프트웨어를 제공하고 수명주기를 관리하기 위해 Self-Service 기능을 설계하고 구축하는 분야로 내부
사용자(일반적으로 소프트웨어 개발자 및 엔지니어)에게 공유 인프라 플랫폼을 제공
Platform
Observability
Services
Security
Services
Test
Services
Development
Services
Operational
Services
Test Team
Security Team SW Support Team
Observability Team Operational Team
Platform Team
Development Team

32. Platform Engineering 역할 상세
내부 개발자
내부 개발자 플랫폼
개발자 포탈
Platform
Management
Automation
Developer Tool
(IDE, Opensource 등)
Reusable Component
(API Catalog, Library 등)
Self Service
Container, Server, Network, Security, DBMS 등 CI/CD MSA 플랫폼 AI 플랫폼
Cloud 인프라스트럭처 어플리케이션 현대화 도구
플랫폼 총괄자
(Product Owner)
플랫폼 엔지니어링팀
어플리케이션 엔지니어
Platform 개발자
SW 설계 엔지니어
설계/구축
유지관리
···

33. Platform Engineering With Kubernetes
Container
Platform
Platform Engineers
Container
Orchestration
Software
On-Premises Cloud Multi-Cloud
Virtual Servers
Application
Dockerfile
Developers
Container
Orchestration
Deployment
Manifests
Docker Image
Container
Runtime
Host Operation
Systems
Platform Ops Team
Software Product Team Team A
Team B
Team C
Platform Ops팀은
우선순위에 따라
소프트웨어 팀과 협력
Platform Ops팀은
플랫폼을 제품으로
제공하고 지원

34. Conclusion
‘생성형 AI’가 바꾼 클라우드 시장 판도
클라우드 기술을 선도하는 ‘생성형 AI’

35. Thank you!
Kim Dong Hyun, IT System Management (Meister)
AWS Technique Team
Infra Business Division | Infra Innovation Department
Facebook
TiStory