AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트

2. 5 0 , 0 0 0 + 참가자수 2 , 1 0 0 + 기술 세션 1 0 0 , 0 0 0 + 라이브 등록자수 2018

4. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. NETWORKING and CONTENT DELIVERY (8) AWS Global Accelerator Performance and availability for your global user base AWS Transit Gateway Interconnect on-premises networks and VPCs at scale AWS Transfer for SFTP AWS DataSync Copy, move, sync large amounts of data between on-prem & AWS AWS Elemental MediaConnect Broadcast quality video transport Elastic Fabric Adapter Run HPC workloads with high inter-node communications AWS Cloud Map Map of your cloud complete with friendly names AWS App Mesh Monitor and control microservices COMPUTE (12) EC2 Spot Instance Use spot instance in auto-scale groups AWS Outposts Bring AWS services to any data center or on- premises CodeDeploy ECR as a Source Action ECS supports Blue/Green Deployments EC2 A1 Arm Instance EC2 C5n Instance EC2 P3Dn Instance Firecracker AWS License Manager Lightsail Tagging Lightsail Export to EC2 Hibernation for EC2 Instances IoT (5) AWS IoT SiteWise Collect telemetry data into cloud AWS IoT Events Event detection and action logic for IoT AWS IoT Things Graph represent Things such as devices and services as Models AWS IoT Service Delivery Designations Core, Greengrass, Analytics Partners in IoT Service Delivery AWS IoT Device Tester for FreeRTOS Operating system for microcontrollers DATABASE (6) Aurora Global Database Replicate updates globally of multi-regions DynamoDB Transactional APIs All-or-nothing queries for business logic DynamoDB on Demand Remove capacity planning, Pay-per request Amazon Timestream Time-series database for IoT and ops apps Amazon Quantum Fully managed ledger database Amazon RDS on VMware Run RDS on VMware vSphere MARKETPLACE (3) AWS Private Marketplace AWS Marketplace for SageMaker AWS Marketplace for Containers MANAGEMENT and GOVERNANCE (4) CloudWatch Automatic Dashboards Pre-built best practices dashboards for CloudWatch CloudWatch Logs Insights Log analytics service for CloudWatch logs AWS Well Architected Tools Training partners to deliver Well Architected reviews AWS Control Tower Automates setup of baseline environments STORAGE (11) S3 Batch Operations Manage billions of objects using APIs or console S3 Intelligent Tiering Automatically optimize pricing based on S3 based on access frequency S3 Object Lock Write once, read many object locking for S3 S3 Glacial Deep Archive Lowest price storage tier - for long term S3 PUT to Glacier four new features to reduce your storage costs Amazon FSx for Windows File Server Fully managed Microsoft Windows file system Amazon FSx for Lustre Fully managed Lustre file system AWS Snowball Edge Compute Optimized Run compute-intensive application offline EBS doubles peak IOPS EFS Infrequent Access EFS Multi-VPC Access SECURITY, IDENTITY, COMPLIANCE (1) AWS Security Hub Unified security management with actionable prompts BLOCKCHAIN (1) Blockchain on AWS Fully managed Blockchain network in minutes MACHINE LEARNING (11) Amazon SageMaker Ground Truth Build quality training sets using AI labeling Amazon SageMaker Neo Train model once, run them anywhere Amazon SageMaker RL & Deep Racer Learn Reinforcement Learning (RL) easily Dynamic Training with Apache MXNet Amazon Elastic Inference Add GPU to any EC2 or SageMaker instance AWS Inferentia Custom inference chip for inferencing workloads Amazon Textract Extract text and data from virtually any document Amazon Comprehend Medical Scan and extract unstructured medical data with ML Amazon Personalize Managed recommendations engine Amazon Forecast Accurate time-series forecasting service DEVELOPER TOOLS & MOBILE (2) AWS Tools for PyCharm AWS Toolkits for Visual Studio Code, IntelliJ, and PyCharm AWS Amplify Console Continuous deployment and hosting for modern web apps SERVERLESS (4) Ruby Support for Lambda Custom Engine for Lambda Lambda as a Target for App Load Balancer Invoke Lambda from ALB for serverless HTTP application Lambda Layers Manage common software and data across multiple functions ANALYTICS (4) Amazon Managed Streaming for Kafka Fully managed Apache Kafka service AWS Lake Formation Setup secure data lakes in days ML Insights for Amazon QuickSight Kinesis Data Analytics for Java Apps ROBOTICS and SATELLITE (2) AWS RoboMaker Build robotic applications easily AWS Ground Station Process satellite data and downlink via cloud AWS re:Invent 2018 발표 내용 한눈에 보기

7. “Builder들이 진정 원하는 것은 무엇인가?”

11. Amazon 글로벌 네트워크 • 전 세계 100GbE 네트워크 망 운영 중 • 중국을 제외한 전 세계 사설 인터넷 용량 확보 전 세계 150+ 글로벌 PoP 운영 89 Direct Connect 전용선 연결 지점 a e o q i h Paris Sweden AWS GovCloud East 처음 5년: 4 개 리전 개설 2016–2020: 13 개 리전 개설 및 계획 중 다음 5년 : 7개 리전 개설 A W S 글로벌 리전 확장 1 9 개 리전 5 7 가용 영역( A Z ) d m c g b n s k v i i i i i i i i Milan i Cape Town

12. N E W !

13. AWS Global Accelerator: 이전과 이후

14. N E W !

15. AWS Transit Gateway: 이전과 이후

16. AWS Transit Gateway: 이전과 이후

18. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 컴퓨팅 – EC2 인스턴스 통합 컨테이너 오케스트레이션 (ECS) Kubernates 관리 서비스 (EKS) 서버리스 컨테이너 서비스 (Fargate) 컨테이너 이미지 관리 (ECR) 배치 프로세싱 이벤트 기반 서버리스 컴퓨팅 45개의 이벤트 소스 15분 실행 시간 오픈 소스 프레임워크 스트리밍 지원 API 엔드 포인트 분산 데이터 처리 워크플로 관리 인공 지능을 위한 GPU 인스턴스 타입 지원 대용량 메모리 지원 (SAP를 위한 최대 12TB) FPGA 인스턴스 (F1) Nitro 기반 차세대 하이퍼바이저 (C5/M5/R5) EC2 Fleet 최대 절전 모드 NEW

19. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. EC2 인스턴스 타입의 진화 버스팅용 T 3 빅데이터 H 1 메모리 R 5 고속 I/O I 3 컴퓨팅 C 5 그래픽 G 3 범용 GPU P 3 대용량 메모리 X 1 X 1 e 범용 M 5 가 상 사 설 서 버 베어메탈 I 3 m 스토리지 D 2 F 1 FPGA A m a z o n L i g h t s a i l HPC전용 Z 1 Powered by M 5 a R 5 a • AWS 범용 및 메모리 최적화 인스턴스에서 선택 가능 • AMD 기반으로 비을 10 % 절감 가능 • 애플리케이션 거의 수정 없이 AMD 기반 전환 가능 M 5 d R 5 d C 5 dZ 1 d • 호스트 서버에 물리적으로 연결된 NVMe 기반 SSD 블록 레벨 인스턴스 스토리지 • 높은 속도 및 낮은 대기 시간의 로컬 블록 스토리지

20. N E W ! Amazon Linux, Ubuntu, Red Hat 및 ECS Optimized AMI 지원 웹 서버 및 컨테이너형 마이크로 서비스 등에 최적화 Annapurna Labs에서 직접 설계 및 개발 진행

21. N E W !

22. N E W ! 애드온 기능으로 사용 수천 개의 코어로 확장 가능 네이티브 통합 지원 Elastic Fabric Adapter(EFA)는 Amazon EC2 인스턴스를 위한 네트워크 인터페이스로, 고객이 전산 유체 역학, 기후 모델링, 저수지 시뮬레이션과 같이 높은 수준의 노드 간 통신이 필요한 고성능 컴퓨팅(HPC) 애플리케이션을 AWS에서 대규모로 실행할 수 있도록 지원합니다.

23. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 컴퓨팅 - 컨테이너 통합 컨테이너 오케스트레이션 (ECS) Kubernates 관리 서비스 (EKS) 서버리스 컨테이너 서비스 (Fargate) 컨테이너 이미지 관리 (ECR) 배치 프로세싱 이벤트 기반 서버리스 컴퓨팅 45개의 이벤트 소스 15분 실행 시간 오픈 소스 프레임워크 스트리밍 지원 API 엔드 포인트 분산 데이터 처리 워크플로 관리 인공 지능을 위한 GPU 인스턴스 타입 지원 대용량 메모리 지원 (SAP를 위한 최대 12TB) FPGA 인스턴스 (F1) Nitro 기반 차세대 하이퍼바이저 (C5/M5/R5) EC2 Fleet 최대 절전 모드 NEW

24. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 다양한 컨테이너 선택 옵션 A m a z o n E K SAW S Fa r g a t e f o r E C S AW S Fa r g a t e f o r E K S A m a z o n E C S C O M I N G S O O N 클러스터 관리 불필요 서버리스 기반 콘테이너 배포에만 집중 Kubernetes 기반 정식 서비스 가능한 기업형 플랫폼 제공 높은 확장성 및 고성능 콘테이너 관리 플랫폼 제공 서버리스 기반 K8s 서비스 지원 예정 마이크로 서비스를 위한 선택 | 민첩한 개발 및 테스트 가능 | 분 단위 배포 가능

26. N E W ! Microservice A Microservice B Microservice C Microservice A Microservice B Microservice C Microservice C Microservice C Before After

27. N E W ! 애플리케이션에 대한 맞춤형 클라우드 자원 목록 구성 가능 Before After

28. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 컴퓨팅 - 서버리스 통합 컨테이너 오케스트레이션 (ECS) Kubernates 관리 서비스 (EKS) 서버리스 컨테이너 서비스 (Fargate) 컨테이너 이미지 관리 (ECR) 배치 프로세싱 이벤트 기반 서버리스 컴퓨팅 45개의 이벤트 소스 15분 실행 시간 오픈 소스 프레임워크 스트리밍 지원 API 엔드 포인트 분산 데이터 처리 워크플로 관리 인공 지능을 위한 GPU 인스턴스 타입 지원 대용량 메모리 지원 (SAP를 위한 최대 12TB) FPGA 인스턴스 (F1) Nitro 기반 차세대 하이퍼바이저 (C5/M5/R5) EC2 Fleet 최대 절전 모드 NEW

30. N E W ! GE N E R AL L Y AVAI L AB L E A W S C l o u d 9 AWS Toolkit for PyCharm AWS Toolkit for IntelliJ AWS Toolkit for VS Code GENERALLY AVAILABLE IN DEVELOPER PREVIEW IN DEVELOPER PREVIEW 다양한 오픈 소스 통합 개발 환경 도구 선택 가능 AWS Toolkits for IDEs + IDE

31. N E W ! 지원 언어 람다 함수 Ruby언어 지원 + 새로운 런타임에 대해 API로 구동 - 런타임 호출 규칙 및 통합 지점 수정 가능 AWS Lambda에서 Ruby 지원의 경우, 맞춤형 런타임 기술 활용 Linux 호환 언어 런타임 활용 가능 맞춤형 런타임 지원 + AWS OPEN SOURCE o f f e r e d b y o f f e r e d b y o f f e r e d b y o f f e r e d b y PARTNER SUPPORTED

32. N E W ! 기존 람다 함수에서 중복되던 공유 코드, 라이브러리 및 의존성 패키지를 별도 레이어로 분리 가능 이제 손쉽게 바이너리, 의존성 또는 런타임으로도 람다 실행 환경 확장 가능 Lambda Layers BUSINESS LOGIC LIB A LIB B BUSINESS LOGIC LIB A LIB B BUSINESS LOGIC LIB A LIB B BUSINESS LOGIC LIB A LIB B 프로그래밍 모델 Before BUSINESS LOGIC BUSINESS LOGIC BUSINESS LOGIC BUSINESS LOGIC LIB A LIB B After

33. N E W ! 프로그래밍 모델 서버리스 애플리케이션 저장, 공유 및 배포, 판매 가능 Serverless Application Repository + 람다 함수를 기존 웹 애플리케이션에 통합 가능 ALB Support for Lambda AWS Lambda Applicatio n Load Balancer AWS Fargate Amazon EC2 재사용 가능한 빌딩 블록으로 애플리케이션 아키텍처 작성 Nested Applications • 서버리스 앱을 내부로 세트로 배포 가능 • 개발 중복을 줄여 생산성 향상 도모 가능 • 앱 구성 요소, 모듈 및 전체 응용 프로그램을 레포지터리에 공유 가능 +

34. N E W ! 모바일 앱 채팅 앱 대시보드 IoT 서비스 Amazon API Gateway WebSockets API 람다 함수 EC2 엔드포인트 AMAZON KINESIS 기타 AWS 서비스 Stateful 연결 모든 공개 AP I 엔드포인트 지원 Stateful 연결 Web Socket support for API Gateway 프로그래밍 모델 Websocket API를 통해 Lambda 함수와 API Gateway 통합으로 실시간 양방향 통신 응 용 프로그램을 구축 가능

35. N E W ! 워크플로 Step Functions 사진 업로드 이미지 리사이즈 메타데이터 추출 얼굴 인식 데이터베이스 저장 병 렬 기 능 실 행 시 Start E n d 코드 작성 없이 AWS 서비스 바로 연동 가능 Step Functions API Connectors Amazon ECS AWS Fargate Amazon DynamoDB Amazon SNS AWS Batch Amazon SQS AWS Glue Amazon SageMaker +

36. N E W ! Amazon Managed Streaming for Kafka 완전 호환 - 코드 변경 없이 Kafka 응용 프로그램 실행 가능 고 가용성 클러스터 관리는 AWS가 관리 (별도 Zookeeper 노드 설정 불필요) 패치에 대해 롤링 업그레이드로 가용성 유지 가능 (3AZ에 복제) WorkFlow 비동기 처리를 위한 메시징 큐 서버인 Apache Kafka 매니지드 서비스

37. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Cloud9 AWS Toolkit for PyCharm AWS Toolkit for IntelliJ AWS Toolkit for VS Code AWS Lambda layers AWS Nested apps Websocket support for API Gateway ALB support for Lambda Step Functions API Connectors Amazon Managed Streaming for Kafka 빠르게 서버리스 애플리케이션 개발 가능 IDE 지원 언어 워크플로프로그래밍 모델

39. N E W ! 높은 보안성의 VM 기능 https://firecracker-microvm.github.io/

40. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Firecracker 아키텍처 및 이점 • Firecracker 마이크로 VM은 KVM과 동일한 보안 기능 제공 • 불필요한 기능을 줄이고 빠른 시작 시간을 위해 설계 • 컨테이너 및 람다 함수 최적화로 125ms 이내 • 초당 150개 부터 수 천개까지 동시에 VM 생성 가능

42. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 다양한 스토리지 선택 옵션 Provisioned IOPS SSD General Purpose SSD Throughput- Optimized HDD Cold HDD Amazon Data Lifecycle Manager Elastic Volumes 블 록 스 토 리 지 THE MOST VOLUME OPTIONS (4) 객 체 스 토 리 지 STORAGE CLASSES (4) Amazon S3 One Zone-IA Amazon S3 Standard Amazon S3 Glacier Amazon S3 Standard-IA 파 일 시 스 템 Amazon EFS Amazon EFS Standard STORAGE CLASSES (2) 데 이 터 전 송 AWS Direct Connect AWS Snowball AWS Snowball Edge AWS Snowmobile AWS Storage Gateway Amazon Kinesis Firehose Amazon Kinesis Data Streams Amazon Kinesis Video Streams Amazon S3 Transfer Acceleration DATA TRANSFER OPTIONS (6)

43. N E W ! S3 Intelligent- Tiering 인공지능으로 파일 사용 빈도에 따라 자동으로 클래스 조정 및 비용 최적화 EFS Infrequent Access 사용 빈도가 낮은 데이터를위한 저가형 스토리지 EFS의 고가용성 및 높은 내구성 유지 하면서 비용 85%까지 절감 가능 EFS IA와 함께 EFS 생명 주기를 도입 하여 자동 전환 가능 Amazon S3 Standard Amazon S3 Standard-IA

44. N E W ! S3 Glacier Deep Archive 백업 테입 관리 불필요 및 장기 보관에 적합 기존 Glacier 보다 ¼ 낮은 가격 99.999999999 내구성 지원 및 3AZ에 보관 수 시간내 복구 옵션 제공 클라우드에서 사용 가능한 최저 비용 스토리지 일반적인 백업 테입 보다 낮음

47. N E W ! Amazon FSx for Windows File Server 윈도 파일 시스템과 완벽 호환성 제공 관리할 하드웨어 또는 소프트웨어 없음 PCI-DSS, ISO 및 HIPAA를 포함한 표준 규정 준수 수 밀리 초 미만의 대기 시간으로 최대 수십 GB/s 처리량 (Windows AD 액세스 제어 및 윈도 탐색 환경과 호환성) 네이티브 Windows 파일 서버를 기반으로 매니지드 Windows 파일 시스템

48. N E W ! 높은 처리량, 낮은 대기 시간, 100GB/s 및 수백만 IOPS 지원 Amazon S3와의 완벽한 통합되어 분석 전/후 데이터 보관 가능 PCI-DSS, ISO 및 HIPAA 등 표준 규정 준수 가능 고성능 연산에 집약적 작업 부하를 매니지드 파일 시스템 Amazon FSx for Lustre 러스터(Lustre)는 병렬 분산 파일 시스템으로서 주로 슈퍼컴퓨터 같은 고성능 컴퓨팅의 대용량 파일 시스템으로 사용. 러스터(Lustre)의 이름은 Linux와 cluster의 합성어임

49. N E W ! AWS DataSync AWS Transfer for SFTP 데이터 이동을 자동 및 가속화하는 온라인 전송 서비스 완전 관리형 SFTP 기반 파일 전송 서비스 재해 복구 옵션으로 AWS에 복제를 통한 제공 가능 로컬 VMWare 에이전트와 S3를 NFS 방식으로 연결 10Gbps의 속도로 온-프레미스와 데이터 동기화 (빠른 이동 가능) 1 2 3

50. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 객 체 스 토 리 지 STORAGE CLASSES (6) Amazon S3 One Zone-IA Amazon S3 Standard Amazon S3 Intelligent-Tiering Amazon S3 Glacier Amazon S3 Standard-IA Amazon S3 Glacier Deep Archive 파 일 시 스 템 THE MOST CLOUD NATIVE SYSTEMS (5) Amazon EFS Amazon FSx for Windows File Server Amazon FSx for Lustre Amazon EFS Standard Amazon EFS IA STORAGE CLASSES (3) NEW NEW NEW NEW NEW NEW 데 이 터 전 송 AWS Direct Connect AWS Snowball AWS Snowball Edge AWS Snowmobile AWS Storage Gateway Amazon Kinesis Firehose Amazon Kinesis Data Streams Amazon Kinesis Video Streams Amazon S3 Transfer Acceleration AWS DataSync AWS Transfer for SFTP NEW “I want it all, and I want it now.” Provisioned IOPS SSD General Purpose SSD Throughput- Optimized HDD Cold HDD Amazon Data Lifecycle Manager Elastic Volumes 블 록 스 토 리 지 THE MOST VOLUME OPTIONS (4) DATA TRANSFER OPTIONS (8)

55. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Dynamo DB – 두가지 피드백 HIGH-SCALE APPLICATIONS 읽기 및 쓰기 처리량 용량 예측이 어렵고, 스파크 트래픽이 발생했을 때 지연 시간이 발생할 수 있음. BUSINESS APPLICATIONS 하나 이상의 테이블에서 여러 개의 별도 작업을 묶는 비즈니스 로직을 구현해야 하는 경우

56. N E W ! DynamoDB On-Demand DynamoDB Transactions 읽기/쓰기 용량 계획 및 관리 불필요 복잡한 비지니스 로직 구현 가능 트랜잭션을 지원하는 최초의 비관계형 DB로서 엔터프라이즈 애플리케이션 지원 가능 트래픽에 따라 자동으로 용량이 조절되며, 사용한 용량 만큼만 과금하여 비용 효율적임

57. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 기존 시계열 데이터베이스관계형 데이터베이스 확장의 어려움 엔터프라이즈 급 가용성 및 안정성을 위한 수동 작업 필요 제한된 데이터 수명주기 관리 기능 시계열 데이터 처리에 부자연 스러움 빠르게 바뀌는 시계열 데이터 스키마 유연상 부족 시계열(Time-series) 데이터에 대한 처리의 어려움 근사치 보정 및 계산과 같은 시계열 데이터 처리 기능이 부족함 1 2 3 클릭 스트림 IoT 센서 데이터 데브옵스 로그 데이터

58. N E W ! 관계형 데이터베이스 보다 1,000 배 더 빠르고 비용은 1/10 매일 수조개의 데이터를 저장 및 처리 가능 서버리스와 인프라 관리 필요 없음 시계열 분석 기능 내장 (interpolation, smoothing, approximation) 쿼리 성능의 여러 단계별 개선 빠르게 확장 가능한 매니지드 시계열 데이터베이스 서비스 Amazon Timestream

60. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 분산화된 트랜잭션 처리2 DMV 차량 제목 기록 추적 제조사 반품된 제품의 유통 경로 추적 HR & 급여 개인 정보 변경 사항 추적 헬스 케어 병원 장비 재고 확인 및 추적 블록체인에 대한 AWS 고객 활용 사례 관계형 데이터 베이스 기존 Blockchain 프레임웍 차선책을 이용한 문제 해결? 프라이빗 블록 체인을 위한 원장 데이터 관리 1

61. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 모기지 업체 신디케이트 대출 처리 소상공인 공급 업체 및 유통 업체와의 거래 판매업 고객 보상 업무 효율화 금융 기관 P2p 지불 서비스 Blockchain 프레임웍의 문제 확장성 이슈초기 설정 어려움 관리상의 어려움 높은 관리 비용 분산화된 트랜잭션 처리2프라이빗 블록 체인을 위한 원장 데이터 관리 1 블록체인에 대한 AWS 고객 활용 사례

63. N E W ! 암호 기반 입증 모든 변경 사항은 암호화 방식으로 연결도어 검증 가능 투명성 제공 전체 데이터 계보에 대한 완전한 가시성 변경 불가- Immutable 추가만 가능, 변경 불가능한 저널은 모든 변경 사항 기록 및 추적 높은 가용성 제공 자동 스케일 업/다운 제공 손쉬운 사용 방법 친숙한 SQL 질의문 사용 가능 빠른 속도 제공 2-3 배 더 많은 트랜잭션 실행 신뢰할 수 있는 중앙에서 운영하는 투명한 암호로 입증 가능한 불변 트랜잭션 로그를 제공하는 매니지드 원장 데이터베이스 Amazon Quantum Ledger Database

64. N E W ! 확장 가능한 블록 체인 네트워크 생성 및 관리 서비스 Amazon Managed Blockchain Hyperledger Fabric 또는 Ethereum 중에서 선택 가능 몇 번의 클릭만으로 블록 체인 네트워크 생성 및 간단한 API 호출로 관리 수백만 건의 트랜잭션을 실행하는 수천 개의 애플리케이션 지원 가능 추가 분석을 위해 데이터를 QLDB로 이동 가능

70. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. FRAMEWORKS INFRASTRUCTURE P3 P3dn INTERFACES 멀티 GPU 환경에서 모델 학습 성능 향상 및 높은 확장성 제공 100 Gbps 네트워킹 64 GB GPU 메모리 768 RAM (시스템 메모리) P3dn.24xl 타 사 대비 3 배 빠른 네트워크 처리량 타 사 대비 2배 많은 GPU 인스턴스 메모리 제공 타 사 대비 100GB 더 많은 시스템 메모리 제공 “85%의 Tensorflow 프로젝트가 AWS 기반으로 구축 Nucleus Research, TensorFlow on AWS, 28 November 2018, Analyst: Rebecca Wettemann 인프라 및 프레임워크 제공 NEW

71. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. TensorFlow 학습 속도 30m 학습 속도 (Mountain View) ResNet50 만 아직 베타로만 제공 되는 독자 하드웨어 14m 학습 속도 (Seattle) ResNet50, 컨벌루션 뉴럴 네트워크 (CNN, 이미지 처리용), 반복 신경 네트워크 (RNN, 언어 처리 용) 글로벌 가용성이 보장되는 P3 인스턴스 가장 빠른 학습 속도 제공 TensorFlow 확장성 65% 기존 Tensorflow 256 GPUs하에서 성능 효율성 지표 90% AWS-최적화 Tensorflow 256 GPUs하에서 성능 효율성 지표 NEW TensorFlow를 생각해 본다!

72. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 추론 작업이 전체 기계 학습 비용의 대부분을 차지함 Inference Training Infrastructure costs 추론 Inference 작업은? Machine Learning 모델 학습은 쉽고, 빠르며, 비용 효과적으로 가능하지만…

74. N E W ! EC2 Instance EC2 Instance EC2 Instance GPU 훨씬 저렴한 비용으로 신속한 추론을 위해 Amazon EC2 인스턴스에 GPU 가속 기능 추가 (최대 75 % 절감) Amazon Elastic Inference P 3 . 8 X L P 3 P 3 P 3 P 3 Amazon Elastic Inference 36 TOPS GPU M5.large Amazon Elastic Inference Before After

75. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Starting at 1 TFLOPS 다양한 인스턴스 타입 활용 가능 간단한 음성 인식 및 자연어 처리 모델 Up to 32 TFLOPS 추천 엔진 또는 사기 탐지 모델 VPC 내부의 추론 탄력성 보장 360,000ResNet-50 컴퓨터 비전 사례 딥러능 모델 추론에 필요한 시간당 이미지 숫자 $0.22 시간당 비용 75% 기존 대비 비용 절감 L O W E S T C O S T A V A I L A B L E Elastic Inference - 확장성 및 비용

76. 전체 GPU가 필요하거나 대기 시간에 민감한 작업의 경우,

77. N E W ! 고성능 처리량 낮은 대기시간 스 백 TOPS 다양한 데이터 타입 다양한 ML 프레임워크 INT8, FP16, mixed precision TensorFlow, MXNet, PyTorch, Caffe2, ONNX EC2 인스턴스 지원 Amazon SageMaker 지원 Amazon Elastic Inference 지원 고성능 기계 학습 추론을 위한 AWS에서 설계 한 맞춤형 칩셋 AWS Inferentia

79. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 훈련 데이터 수집 및 저장 최적화된 기계학습 알고리즘 선택 데이터 훈련을 위한 인프라 설정 훈련 및 학습 모델 튜닝 (계속 반복) 최적화한 모델 배포 모델 기반 서비스 확장 및 운영 기계학습은 개발자에게 여전히 복잡하고 어렵다?!

80. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon SageMaker 손쉬운 기계 학습 모델 생성, 훈련 및 서비스 배포 완전 관리 서비스 완전 관리 및 자동 스케일링 원클릭 배포 Jupyter Notebook 기반 서비스 고성능 알고리즘 미리 제공 원클릭 데이터 훈련 Hyper- parameter 최적화 훈련 데이터 수집 및 저장 최적화된 기계학습 알고리즘 선택 데이터 훈련을 위한 인프라 설정 훈련 및 학습 모델 튜닝 (계속 반복) 최적화한 모델 배포 모델 기반 서비스 확장 및 운영

82. 그리고, 또한 고객이 원하는 것들 “좀 더 세부적이고 깊이 있는 기능들”

84. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. STATIONARY CAR STATIONARY CAR MOVING CARPEDESTRIAN STOP SIGN DIRECTION SIGN STOP SIGN TRAFFIC SIGNALS TRAFFIC SIGNALS STATIONARY VEGETATION STATIONARY ROAD STATIONARY BUILDING MOVING CAR PAVEMENT“좋은 학습 모델은 고품질의 훈련 데이터가 필요합니다” Jupyter Notebook 기반 서비스 훈련 데이터 수집 및 저장

85. N E W ! 사람에 의한 라벨링 작업 S3 데이터 저장소 자동 라벨링 훈련 데이터 생성 워크 플로 구성 Mechanical Turk 자체 직원 활용 서드 파티 벤더 학습 모델 실행 >80% 신뢰도 <80% 신뢰도 기계 학습 기법을 응용하여 정확한 훈련 데이터 세트 구축 가능 데이터 라벨링 비용을 최대 70 %까지 절감 Amazon SageMaker - Ground Truth

86. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon SageMaker: 다양한 학습 알고리즘 제공 10배 이상 빠른 성능 제공 K-Means Clustering Principal Component Analysis Neural Topic Modelling Factorization Machines Linear Learner (Regression) BlazingText Reinforcement Learning XGBoost Topic Modeling (LDA) Image Classification Seq2Seq Linear Learner (Classification) DeepAR Forecasting A L G O R I T H M S Amazon SageMaker 최적화된 모델 SageMaker 출시 이후 추가 알고리즘 40% 증가 고성능 알고리즘 미리 제공 최적화된 기계학습 알고리즘 선택

87. N E W ! Natural Language Processing Computer Vision Speech Recognition Text Clustering Text Generation Text Classification Grammar and Parsing Named Entity Recognition Text to Speech Handwriting Recognition Object Detection in Images 3D Images Text OCR Video Classification Speaker Identification RankingRegression Anomaly Detection AWS Marketplace 검색 가능 원 클릭으로 사용 신청 SageMake에서 바로 사용 가능 Amazon SageMaker에 직접 활용 할 수 있는 수백 가지 알고리즘 및 모델 제공 AWS Marketplace for Machine Learning 2. AWS Marketplace에 등록 3. SageMaker에서 자동 테스트1. 알고리즘, 모델 및 설정 패키징 4. AWS Marketplace에 등재 A W S M a r k e t p l a c e 에 서 알 고 리 즘 및 모 델 판 매 하 기

88. N E W ! Amazon SageMaker Neo 딥러닝 오픈 소스 컴퍼일러 및 런타임 기존 프레임워크 크기의 1/10 사이즈로 2배 이상 성능 제공

89. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 기계 학습 모델의 정교함 좋 은 성 능 을 위 해 요 구 되 는 데 이 터 량 강화 학습 Reinforcement Learning (RL) e.g. 보상을 통한 학습 - 게임 실행, 자율 주행 등 최근 기계 학습의 발전 – 강화 학습의 대두

91. N E W ! 다양한 강화 학습 알고리즘 지원 TensorFlow, MXNet, Intel Coach, Ray RL 지원 OpenGym을 통한 2D 및 3D 시뮬레이션 환경 Sumerian 및 RoboMaker로 시뮬레이션 연동 예제 노트북 및 튜토리얼 제공 SageMaker 기반 강화 학습 구축, 교육 및 배포 매니지드 서비스 Amazon SageMaker RL

92. 어떻게 강화 학습을 테스트 해볼 수 있을까요?

93. N E W ! HD Video 카메라 위치 제어를 위한 자이로스코프 센서 속도 측정을 위한 가속 센서 자동차 주행을 위한 대용량 배터리 듀얼 코어 Intel Atom® 프로세서 다 각도로 제어 가능한 바퀴 도로 주행 영상 캠쳐 강화 학습을 통해 자율 주행이 가능한 1/18 크기의 모형 자동차 AMAZON.COM에서 선 주문 가능 AWS DeepRacer

94. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS DeepRacer: 동작 원리 가상 차량 및 트랙에서 3D 시뮬레이션 강화 학습을 통한 보상 제공 모델 생성 가상 및 현실 트랙에서 테스트 및 개선 AWS DeepRacer League 누구나 참여할 수 있는 세계 최초의 가상 자율 레이싱 리그 AWS Summit에서 리그전 개최 지역 예선 우승자는 re:Invent 2019에서 결승

97. N E W ! 앱에서 데이터 스트리밍 페이지뷰, 클릭 데이터 등 인벤토리 문서, 제품, 영상, 리뷰 등 개인 정보 (선택 사항) 데이터 로딩 (EMR Cluster) 데이터 조사 데이터 특성 파악 알고리즘 선택 하이퍼파라미터 설정 모델 학습 모델 최적화 모델 호스팅 특성 업데이트 실시간 캐싱 맞춤형 개인화 및 추천 API 제공 A m a z o n P e r s o n a l i z e 에 의 한 매 니 지 드 서 비 스 운 영 Amazon Personalize 나이, 사는 곳 등 Amazon.com에서 사용 된 것과 동일한 기술을 기반으로하는 실시간 개인화 및 추천 서비스 Amazon Personalize

99. N E W ! Amazon Forecast 모든 과거의 시계열 데이터 활용 가능 SAP 및 Oracle Supply Chain과 통합 가능 3번의 클릭으로 맟춤형API 제공 50% 이상의 정확도 제공 직접 구축시 보다 1/10 비용 Amazon Timestream 통합 가능 구매 예측 여행 수요 측정 AWS 사용량 매출 예측 웹 사이트 트래픽 광고 수요 주요 활용 사례: Amazon.com에서 사용 된 것과 동일한 기술을 기반으로 하는 높은 정확성의 시계열 예측 서비스

100. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 과거 데이터 셋 상품, 공급망 정보, 매출 등 맞춤형 예측 API 제공 데이터 조사 특성 파악 8개 알고리즘 중 선택 하이퍼파라미터 선택 모델 호스팅 데이터 로딩 모델 학습 모델 최적화 관련 데이터 셋 날씨, 특가, 상품 정보 등 Amazon Forecast Amazon Forecast: 기계 학습 기반 시계열 예측 API 서비스 예 – 상품 판매 예측이 필요한 경우 A m a z o n F o r e c a s t 에 의 한 매 니 지 드 서 비 스 운 영

101. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 문서 내 텍스트 정보 추출 필요성 증가 수동 데이터 입력 규칙 및 템플릿 기반 추출 광학 문자 인식 (OCR) 어떤 문서 형식이든 식별 가능 필요 해당 문서에서 정확하게 텍스트를 추출 필요 문서 형식이 가변적이 되면 정확한 추출 불확실

102. N E W ! 문서에서 텍스트와 데이터를 의미적으로 쉽게 추출 할 수 있는 OCR ++서비스 Amazon Textract

104. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 스토리지 설정 1 데이터 이동 2 데이터 클린징 및 준비 3 보안 및 규정 준수용 정책 구성 및 시행 4 빅 데이터 분석을 위해 데이터 액세스 제어 5 인공 지능 및 분석을 위한 데이터 레이크(Data Lake) 구성 및 관리?

105. N E W ! 여러 서비스에 걸쳐 보안 정책 적용 데이터 인사이트 수집 및 관리 신속하게 데이터 이동, 저장, 카탈로그 정리 며칠 내에 안전한 데이터 레이크를 구축할 수 있는 서비스 Amazon Lake Formation

108. N E W ! AWS 클라우드 환경 전반에서 보안 및 규정 준수를 중앙에서 관리 가능 AWS Security Hub 우선 순위가 높은 순위로 요약 보기 산업 표준과의 편차를 탐지하기 위해 규정 준수 여부 자동 검사 알림에 대한 통합 관리를 통한 시간 절약 지속적인 가시성을위한 대시 보드 정책을 원활하게 집행하기 위한 가드레일 구성 접근 제어에 대한 모범 사례를 가진 랜딩 존 구성 가능 AWS Control Tower 다중 계정 환경 또는 외부 접근 설정 제어를 위한 안전하고 효과적인 접근 창구

109. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS의 하이브리드 환경 구축 옵션 온 프레미 환경과 AWS와 통합 VMware 소프트웨어 및 도구 AWS 기반 운영 온-프레미스 환경에서도 AWS 서비스를 유연하게 쓸 수 없을까? 엣지에서의 클라우드 연결 AWS Storage Gateway Amazon VPC AWS Direct Connect AWS IAM AWS Directory Service AWS OpsWorks AWS CodeDeploy VMware Cloud on AWS Snowball Edge Compute- Optimized AWS Systems Manager Amazon RDS on VMware NEW NEW

110. N E W ! AWS Outposts VMware Cloud on AWS 소프트웨어를 로컬에서 실행 가능 AWS 제공 하드웨어 랙 제공 AWS에서 사용하는 것과 똑같은 서비스를 온-프레미스에서 구동 가능 OPTION 1 OPTION 2 AWS 서비스를 기존 온-프레미스 환경에서 구동할 수 있는 하드웨어 운영 서비스 제공 EC2 인스턴스와 EBS 볼 륨을 AWS 콘솔 및 API로 로컬에서 실행 가능

112. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Well-Architected 프로그램 시작 2012 2013 AWS SA 리뷰 지원 2014 4개 부문 검증 2015 프레임워크 제공 20142016 운영 탁월성 부문 추가 2017 Serverless Lens 2018 IoT Lens HPC Lens APN Partners https://aws.amazon.com/well-architected 부분별 백서 및 정보 제공 AWS WELL-ARCHITECTED FRAMEWORK 기술 백서 무료 온라인 교육 제공

114. N E W ! AWS Well-Architected Tool AWS Well-Architected 모범 사례를 활용한 아키텍처 측정 및 향상 도구 아키텍처 개선을 위한 작업 계획 구현 아키텍처가 발전함에 따라 최신 상태로 유지 모범 사례와 비교하여 작업 부하 검토

117. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS IoT –광범위하고 세부적인 기능 제공 AWS 클라우드 디바이스 장치 관리 및 소프트웨어 업데이트 장치 보안 및 감사 도구 데이터 분석 산업용 장비의 데이터를 쉽게 수집 및 구성 NEW IoT 센서 및 앱내 이벤트 감지 및 대응 NEW 시각적으로 IoT 앱 개발 NEW

118. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 4차 산업 혁명 - 로봇 산업에 진입하려면? 지능형 로봇 기능 개발을 위한 기계 학습 전문 기술 필요 지속적인 프로토타입 개발 및 변경 필요 로봇 기계 조립 및 작업 설정이 하루 이상 시간 소요 현실에 가까운 시뮬레이션 환경 구축에 한달 이상 걸림 애플리케이션 관리 시스템과 통합 하는데 시간 소요

119. N E W ! 지능형 로봇 어플리케이션 손쉽게 개발, 테스트 및 배포 서비스 AWS RoboMaker 프로그램 개발 환경 지원 시뮬레이션 환경 지원 오픈 소스 로봇 운영체제 (ROS) 지원 로봇 장치 관리 및 업데이트

120. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 우주 산업은 어떤가요? But • 위성 지상국 건설 혹은 장기 임대 계약 체결. 데이터 전송 대역폭 구매 등 구축 및 유지에 고비용 • 확장을 위해서는 물리적 설비 투자 증설 네트워크 대역폭 및 스케줄링에 어려움 • 스타트업의 경우, 불투명한 비용 구조 우주 산업에 도전하는 기업 및 연구자의 증가 수 천개의 소형 위성이 운용 중이거나 발사 예정

121. N E W ! 인공 위성 제어 및 데이터 송수신을 위한 완전 관리 서비스로서 우주 스타트업 창업 비용 획기적 절감 가능 AWS Ground Station 위성 안테나를 통해 저궤도 (LEO) 및 중궤도(MEO) 소형 인공 위성 제어가능 위성 연결 채널 예약을 통해 동시에 S-band, X-band and UHF 다운링크 지원 전송 받은 위성 데이터를 안전한 VPC 내에서 다양한 AWS 분석 서비스 활용 가능

AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트

AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트

Recommended

More Related Content

What's hot

What's hot(20)

Similar to AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트

Similar to AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트(20)

More from Amazon Web Services Korea

More from Amazon Web Services Korea(20)

AWS re:Invent 2018 신규 서비스 살펴보기 - 윤석찬, AWS 테크에반젤리스트