Submit Search
Upload
Stream processing on AWS
•
Download as PPTX, PDF
•
0 likes
•
1,536 views
Mitsuharu Hamba
Follow
Stream processing on AWS
Read less
Read more
Technology
Report
Share
Report
Share
1 of 35
Download now
Recommended
The future of stream processing
The future of stream processing
Mitsuharu Hamba
頑張らないクラウド最適化 〜クラウドネイティブだけでないAWS活用〜
頑張らないクラウド最適化 〜クラウドネイティブだけでないAWS活用〜
宗 大栗
成長していくサービスとAWS
成長していくサービスとAWS
Mitsuharu Hamba
Black Belt Online Seminar AWS Amazon RDS
Black Belt Online Seminar AWS Amazon RDS
Amazon Web Services Japan
20170418 aws black-belt-architecture_pattern_of_serverless
20170418 aws black-belt-architecture_pattern_of_serverless
Amazon Web Services Japan
AWS Black Belt Techシリーズ AWS Data Pipeline
AWS Black Belt Techシリーズ AWS Data Pipeline
Amazon Web Services Japan
クラウド上のデータ活用デザインパターン
クラウド上のデータ活用デザインパターン
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 AWS X-Ray
AWS Black Belt Online Seminar 2017 AWS X-Ray
Amazon Web Services Japan
Recommended
The future of stream processing
The future of stream processing
Mitsuharu Hamba
頑張らないクラウド最適化 〜クラウドネイティブだけでないAWS活用〜
頑張らないクラウド最適化 〜クラウドネイティブだけでないAWS活用〜
宗 大栗
成長していくサービスとAWS
成長していくサービスとAWS
Mitsuharu Hamba
Black Belt Online Seminar AWS Amazon RDS
Black Belt Online Seminar AWS Amazon RDS
Amazon Web Services Japan
20170418 aws black-belt-architecture_pattern_of_serverless
20170418 aws black-belt-architecture_pattern_of_serverless
Amazon Web Services Japan
AWS Black Belt Techシリーズ AWS Data Pipeline
AWS Black Belt Techシリーズ AWS Data Pipeline
Amazon Web Services Japan
クラウド上のデータ活用デザインパターン
クラウド上のデータ活用デザインパターン
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 AWS X-Ray
AWS Black Belt Online Seminar 2017 AWS X-Ray
Amazon Web Services Japan
Serverless services on_aws_dmm_meetup_20170801
Serverless services on_aws_dmm_meetup_20170801
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 Amazon Relational Database Service (Amazon...
AWS Black Belt Online Seminar 2017 Amazon Relational Database Service (Amazon...
Amazon Web Services Japan
20160526 AWSサービスアップデート
20160526 AWSサービスアップデート
Genta Watanabe
AWSデータベースアップデート2017
AWSデータベースアップデート2017
Amazon Web Services Japan
20170705 blackbelt AWS Lambda
20170705 blackbelt AWS Lambda
Amazon Web Services Japan
New Cloud Design Pattern using Amazon Aurora
New Cloud Design Pattern using Amazon Aurora
宗 大栗
AWS Black Belt Online Seminar 2017 Amazon ElastiCache
AWS Black Belt Online Seminar 2017 Amazon ElastiCache
Amazon Web Services Japan
【IVS CTO Night & Day】Serverless & Mobile Updates
【IVS CTO Night & Day】Serverless & Mobile Updates
Amazon Web Services Japan
20151207 AWS re:invent 2015 ReCap
20151207 AWS re:invent 2015 ReCap
Kiyonori Kitasako
CloudFormation Getting Started with YAML
CloudFormation Getting Started with YAML
Yukitaka Ohmura
Androidを中心に紐解くIoT
Androidを中心に紐解くIoT
Keisuke Nishitani
オンプレミスRDBMSをAWSへ移行する手法
オンプレミスRDBMSをAWSへ移行する手法
Amazon Web Services Japan
Application Load Balancer
Application Load Balancer
Amazon Web Services Japan
Serverless Revolution
Serverless Revolution
Keisuke Nishitani
【IVS CTO Night & Day】AWS re:Invent 2017 振り返り
【IVS CTO Night & Day】AWS re:Invent 2017 振り返り
Amazon Web Services Japan
2016年5月のAWSサービスアップデートまとめ
2016年5月のAWSサービスアップデートまとめ
Amazon Web Services Japan
20190828 AWS Black Belt Online Seminar Amazon Aurora with PostgreSQL Compatib...
20190828 AWS Black Belt Online Seminar Amazon Aurora with PostgreSQL Compatib...
Amazon Web Services Japan
Morning Session - AWS Serverless Ways
Morning Session - AWS Serverless Ways
akitsukada
20190122 AWS Black Belt Online Seminar Amazon Redshift Update
20190122 AWS Black Belt Online Seminar Amazon Redshift Update
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 Deployment on AWS
AWS Black Belt Online Seminar 2017 Deployment on AWS
Amazon Web Services Japan
Amazon Kinesis Familyを活用したストリームデータ処理
Amazon Kinesis Familyを活用したストリームデータ処理
Amazon Web Services Japan
20120409 aws meister-reloaded-dynamo-db
20120409 aws meister-reloaded-dynamo-db
Amazon Web Services Japan
More Related Content
What's hot
Serverless services on_aws_dmm_meetup_20170801
Serverless services on_aws_dmm_meetup_20170801
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 Amazon Relational Database Service (Amazon...
AWS Black Belt Online Seminar 2017 Amazon Relational Database Service (Amazon...
Amazon Web Services Japan
20160526 AWSサービスアップデート
20160526 AWSサービスアップデート
Genta Watanabe
AWSデータベースアップデート2017
AWSデータベースアップデート2017
Amazon Web Services Japan
20170705 blackbelt AWS Lambda
20170705 blackbelt AWS Lambda
Amazon Web Services Japan
New Cloud Design Pattern using Amazon Aurora
New Cloud Design Pattern using Amazon Aurora
宗 大栗
AWS Black Belt Online Seminar 2017 Amazon ElastiCache
AWS Black Belt Online Seminar 2017 Amazon ElastiCache
Amazon Web Services Japan
【IVS CTO Night & Day】Serverless & Mobile Updates
【IVS CTO Night & Day】Serverless & Mobile Updates
Amazon Web Services Japan
20151207 AWS re:invent 2015 ReCap
20151207 AWS re:invent 2015 ReCap
Kiyonori Kitasako
CloudFormation Getting Started with YAML
CloudFormation Getting Started with YAML
Yukitaka Ohmura
Androidを中心に紐解くIoT
Androidを中心に紐解くIoT
Keisuke Nishitani
オンプレミスRDBMSをAWSへ移行する手法
オンプレミスRDBMSをAWSへ移行する手法
Amazon Web Services Japan
Application Load Balancer
Application Load Balancer
Amazon Web Services Japan
Serverless Revolution
Serverless Revolution
Keisuke Nishitani
【IVS CTO Night & Day】AWS re:Invent 2017 振り返り
【IVS CTO Night & Day】AWS re:Invent 2017 振り返り
Amazon Web Services Japan
2016年5月のAWSサービスアップデートまとめ
2016年5月のAWSサービスアップデートまとめ
Amazon Web Services Japan
20190828 AWS Black Belt Online Seminar Amazon Aurora with PostgreSQL Compatib...
20190828 AWS Black Belt Online Seminar Amazon Aurora with PostgreSQL Compatib...
Amazon Web Services Japan
Morning Session - AWS Serverless Ways
Morning Session - AWS Serverless Ways
akitsukada
20190122 AWS Black Belt Online Seminar Amazon Redshift Update
20190122 AWS Black Belt Online Seminar Amazon Redshift Update
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 Deployment on AWS
AWS Black Belt Online Seminar 2017 Deployment on AWS
Amazon Web Services Japan
What's hot
(20)
Serverless services on_aws_dmm_meetup_20170801
Serverless services on_aws_dmm_meetup_20170801
AWS Black Belt Online Seminar 2017 Amazon Relational Database Service (Amazon...
AWS Black Belt Online Seminar 2017 Amazon Relational Database Service (Amazon...
20160526 AWSサービスアップデート
20160526 AWSサービスアップデート
AWSデータベースアップデート2017
AWSデータベースアップデート2017
20170705 blackbelt AWS Lambda
20170705 blackbelt AWS Lambda
New Cloud Design Pattern using Amazon Aurora
New Cloud Design Pattern using Amazon Aurora
AWS Black Belt Online Seminar 2017 Amazon ElastiCache
AWS Black Belt Online Seminar 2017 Amazon ElastiCache
【IVS CTO Night & Day】Serverless & Mobile Updates
【IVS CTO Night & Day】Serverless & Mobile Updates
20151207 AWS re:invent 2015 ReCap
20151207 AWS re:invent 2015 ReCap
CloudFormation Getting Started with YAML
CloudFormation Getting Started with YAML
Androidを中心に紐解くIoT
Androidを中心に紐解くIoT
オンプレミスRDBMSをAWSへ移行する手法
オンプレミスRDBMSをAWSへ移行する手法
Application Load Balancer
Application Load Balancer
Serverless Revolution
Serverless Revolution
【IVS CTO Night & Day】AWS re:Invent 2017 振り返り
【IVS CTO Night & Day】AWS re:Invent 2017 振り返り
2016年5月のAWSサービスアップデートまとめ
2016年5月のAWSサービスアップデートまとめ
20190828 AWS Black Belt Online Seminar Amazon Aurora with PostgreSQL Compatib...
20190828 AWS Black Belt Online Seminar Amazon Aurora with PostgreSQL Compatib...
Morning Session - AWS Serverless Ways
Morning Session - AWS Serverless Ways
20190122 AWS Black Belt Online Seminar Amazon Redshift Update
20190122 AWS Black Belt Online Seminar Amazon Redshift Update
AWS Black Belt Online Seminar 2017 Deployment on AWS
AWS Black Belt Online Seminar 2017 Deployment on AWS
Similar to Stream processing on AWS
Amazon Kinesis Familyを活用したストリームデータ処理
Amazon Kinesis Familyを活用したストリームデータ処理
Amazon Web Services Japan
20120409 aws meister-reloaded-dynamo-db
20120409 aws meister-reloaded-dynamo-db
Amazon Web Services Japan
AWS Black Belt - AWS Glue
AWS Black Belt - AWS Glue
Amazon Web Services Japan
Effective Data Lakes - ユースケースとデザインパターン
Effective Data Lakes - ユースケースとデザインパターン
Noritaka Sekiyama
[CTO Night & Day 2019] AWS で構築するデータレイク基盤と amazon.com での導入事例 #ctonight
[CTO Night & Day 2019] AWS で構築するデータレイク基盤と amazon.com での導入事例 #ctonight
Amazon Web Services Japan
AWS Black Belt Online Seminar 2016 クラウドのためのアーキテクチャ設計 -ベストプラクティス-
AWS Black Belt Online Seminar 2016 クラウドのためのアーキテクチャ設計 -ベストプラクティス-
Amazon Web Services Japan
AWSのNoSQL入門
AWSのNoSQL入門
Akihiro Kuwano
20180710 AWS Black Belt Online Seminar AWS入門者向け: AWSで実現するウェブサイトホスティング
20180710 AWS Black Belt Online Seminar AWS入門者向け: AWSで実現するウェブサイトホスティング
Amazon Web Services Japan
20180508 AWS Black Belt Online Seminar AWS Greengrassで実現するエッジコンピューティング
20180508 AWS Black Belt Online Seminar AWS Greengrassで実現するエッジコンピューティング
Amazon Web Services Japan
AWS初心者向けWebinar RDBのAWSへの移行方法(Oracleを例に)
AWS初心者向けWebinar RDBのAWSへの移行方法(Oracleを例に)
Amazon Web Services Japan
20180425 AWS Black Belt Online Seminar Amazon Relational Database Service (Am...
20180425 AWS Black Belt Online Seminar Amazon Relational Database Service (Am...
Amazon Web Services Japan
AWS 資格試験対策講座
AWS 資格試験対策講座
Kameda Harunobu
Amazon Game Tech Night #22 AWSで実現するデータレイクとアナリティクス
Amazon Game Tech Night #22 AWSで実現するデータレイクとアナリティクス
Amazon Web Services Japan
20210127 AWS Black Belt Online Seminar Amazon Redshift 運用管理
20210127 AWS Black Belt Online Seminar Amazon Redshift 運用管理
Amazon Web Services Japan
SAP on AWS 実際の導入例と導入効果
SAP on AWS 実際の導入例と導入効果
Amazon Web Services Japan
IoTデザインパターン 2015 JAWS沖縄
IoTデザインパターン 2015 JAWS沖縄
Toshiaki Enami
AWS初心者向けWebinar AWSでBig Data活用
AWS初心者向けWebinar AWSでBig Data活用
Amazon Web Services Japan
AWS Black Belt Techシリーズ AWS re:Invent 2014 最新情報のアップデート
AWS Black Belt Techシリーズ AWS re:Invent 2014 最新情報のアップデート
Amazon Web Services Japan
AWSが誕生するまでの秘話
AWSが誕生するまでの秘話
Yasuhiro Horiuchi
20170725 black belt_monitoring_on_aws
20170725 black belt_monitoring_on_aws
Amazon Web Services Japan
Similar to Stream processing on AWS
(20)
Amazon Kinesis Familyを活用したストリームデータ処理
Amazon Kinesis Familyを活用したストリームデータ処理
20120409 aws meister-reloaded-dynamo-db
20120409 aws meister-reloaded-dynamo-db
AWS Black Belt - AWS Glue
AWS Black Belt - AWS Glue
Effective Data Lakes - ユースケースとデザインパターン
Effective Data Lakes - ユースケースとデザインパターン
[CTO Night & Day 2019] AWS で構築するデータレイク基盤と amazon.com での導入事例 #ctonight
[CTO Night & Day 2019] AWS で構築するデータレイク基盤と amazon.com での導入事例 #ctonight
AWS Black Belt Online Seminar 2016 クラウドのためのアーキテクチャ設計 -ベストプラクティス-
AWS Black Belt Online Seminar 2016 クラウドのためのアーキテクチャ設計 -ベストプラクティス-
AWSのNoSQL入門
AWSのNoSQL入門
20180710 AWS Black Belt Online Seminar AWS入門者向け: AWSで実現するウェブサイトホスティング
20180710 AWS Black Belt Online Seminar AWS入門者向け: AWSで実現するウェブサイトホスティング
20180508 AWS Black Belt Online Seminar AWS Greengrassで実現するエッジコンピューティング
20180508 AWS Black Belt Online Seminar AWS Greengrassで実現するエッジコンピューティング
AWS初心者向けWebinar RDBのAWSへの移行方法(Oracleを例に)
AWS初心者向けWebinar RDBのAWSへの移行方法(Oracleを例に)
20180425 AWS Black Belt Online Seminar Amazon Relational Database Service (Am...
20180425 AWS Black Belt Online Seminar Amazon Relational Database Service (Am...
AWS 資格試験対策講座
AWS 資格試験対策講座
Amazon Game Tech Night #22 AWSで実現するデータレイクとアナリティクス
Amazon Game Tech Night #22 AWSで実現するデータレイクとアナリティクス
20210127 AWS Black Belt Online Seminar Amazon Redshift 運用管理
20210127 AWS Black Belt Online Seminar Amazon Redshift 運用管理
SAP on AWS 実際の導入例と導入効果
SAP on AWS 実際の導入例と導入効果
IoTデザインパターン 2015 JAWS沖縄
IoTデザインパターン 2015 JAWS沖縄
AWS初心者向けWebinar AWSでBig Data活用
AWS初心者向けWebinar AWSでBig Data活用
AWS Black Belt Techシリーズ AWS re:Invent 2014 最新情報のアップデート
AWS Black Belt Techシリーズ AWS re:Invent 2014 最新情報のアップデート
AWSが誕生するまでの秘話
AWSが誕生するまでの秘話
20170725 black belt_monitoring_on_aws
20170725 black belt_monitoring_on_aws
Recently uploaded
TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案
TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案
sugiuralab
SOPを理解する 2024/04/19 の勉強会で発表されたものです
SOPを理解する 2024/04/19 の勉強会で発表されたものです
iPride Co., Ltd.
TSAL operation mechanism and circuit diagram.pdf
TSAL operation mechanism and circuit diagram.pdf
taisei2219
クラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdf
クラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdf
FumieNakayama
モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察 ~Text-to-MusicとText-To-ImageかつImage-to-Music...
モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察 ~Text-to-MusicとText-To-ImageかつImage-to-Music...
博三 太田
AWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdf
AWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdf
FumieNakayama
論文紹介:Semantic segmentation using Vision Transformers: A survey
論文紹介:Semantic segmentation using Vision Transformers: A survey
Toru Tamaki
【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)
【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)
Hiroki Ichikura
論文紹介:Automated Classification of Model Errors on ImageNet
論文紹介:Automated Classification of Model Errors on ImageNet
Toru Tamaki
論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...
論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...
Toru Tamaki
Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介
Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介
Yuma Ohgami
デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)
デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)
UEHARA, Tetsutaro
Recently uploaded
(12)
TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案
TataPixel: 畳の異方性を利用した切り替え可能なディスプレイの提案
SOPを理解する 2024/04/19 の勉強会で発表されたものです
SOPを理解する 2024/04/19 の勉強会で発表されたものです
TSAL operation mechanism and circuit diagram.pdf
TSAL operation mechanism and circuit diagram.pdf
クラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdf
クラウドネイティブなサーバー仮想化基盤 - OpenShift Virtualization.pdf
モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察 ~Text-to-MusicとText-To-ImageかつImage-to-Music...
モーダル間の変換後の一致性とジャンル表を用いた解釈可能性の考察 ~Text-to-MusicとText-To-ImageかつImage-to-Music...
AWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdf
AWS の OpenShift サービス (ROSA) を使った OpenShift Virtualizationの始め方.pdf
論文紹介:Semantic segmentation using Vision Transformers: A survey
論文紹介:Semantic segmentation using Vision Transformers: A survey
【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)
【早稲田AI研究会 講義資料】3DスキャンとTextTo3Dのツールを知ろう!(Vol.1)
論文紹介:Automated Classification of Model Errors on ImageNet
論文紹介:Automated Classification of Model Errors on ImageNet
論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...
論文紹介:Content-Aware Token Sharing for Efficient Semantic Segmentation With Vis...
Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介
Open Source UN-Conference 2024 Kawagoe - 独自OS「DaisyOS GB」の紹介
デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)
デジタル・フォレンジックの最新動向(2024年4月27日情洛会総会特別講演スライド)
Stream processing on AWS
1.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. Stream processing on AWS アマゾンウェブサービスジャパン株式会社 半場光晴
2.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. 目次 • このセッションの対象 • Stream processingとは? • シンプルにするための原則 • アーキテクチャの例示 • デザインパターン • まとめ
3.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. このセッションの対象 • このような方々 – Stream processingを何に生かせばよいのだろう? – AWSでStream processingをどのように組めば良いのだろう? – ラムダアーキテクチャに憧れている – サービスの今を常に把握し続けたい
4.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. 目次 • このセッションの対象 • Stream processingとは? • シンプルにするための原則 • アーキテクチャの例示 • デザインパターン • まとめ
5.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. Stream processingのストリームとは? • 連続するイベント、レコード、データ • 主な特徴 – 高スループット – 継続的な取り込み • 例えば – ログ集計、イベント集計 – センサー 例 1 KB * 10K record/s * 365 days = 300 TB / year ストリームからのBig Data?!
6.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. バッチ処理とストリーム処理の比較 • Batch processing – エラーレポート – 請求書 – CVRポート – セキュリティレポート • Stream processing – メトリクス監視 – 合計請求額アラート – クリック分析 – 異常検知
7.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. Stream processingを大別すると • イベント駆動型 – イベントが発生するたびに処理を実行する • マイクロバッチ型 – 細かく区切ったイベント群に対して、バッチ処 理を連続して実行する
8.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. マイクロバッチの例 Sliding window • Sliding window – Treat events as a window • 例 30 seconds window – Slide the window • 例 Every 20 seconds • ユースケース – 直近1分間に発生したイベント を10秒ごとに処理して異常検 知する http://spark.apache.org/docs/latest/streaming-programming-guide.html • Window length: 3 • The duration of the window • Sliding interval: 2 • The interval at which the window operation is performed
9.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. Stream processing活用の鍵 • Stream processingを使いこなすためのキーポ イントは何だろう? – シンプルが一番
10.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. 目次 • このセッションの対象 • Stream processingとは? • シンプルにするための原則 • アーキテクチャの例示 • デザインパターン • まとめ
11.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. ありあまるほどの選択肢 Amazon Glacier Amazon S3 Amazon DynamoDB Amazon RDS Amazon EMR Amazon Redshift Amazon Kinesis Amazon Kinesis- enabled app AWS Lambda Amazon ML Amazon SQS Amazon ElastiCache DynamoDB Streams Amazon Elasticsearch Service AWS IoT
12.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. シンプルにするための原則 • データバスを疎結合にしよう – Data > store > Process > Store > Process > Answers • 目的に適したソフトウェアを選択しよう – データ構造、レイテンシ、スループット、アクセスパターン • ラムダアーキテクチャの発想を取り入れよう – バッチ層 + スピード層 + サービング層 • AWSのサービスを活用しよう – レジリエント、低い管理コスト
13.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. 目次 • このセッションの対象 • Stream processingとは? • シンプルにするための原則 • アーキテクチャの例示 • デザインパターン • まとめ
14.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. アーキテクチャの例示 – 基本 • レイテンシ (結果が得られるまでの時間) • スループット • アクセスパターン • コスト Collect / Store Process Store / Analyze データ 結果
15.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. データソース層 • APIコール • DB書き込み • センサー、IoT • ログ • メッセージ • データ転送 Data Source Stream Files Disks AWS Direct Connect Mobile Apps Web Apps AWS Import/ Export Logging Data Centers Sensors & IoT Devices CloudWatch Snowball Messages Messaging AWS IoT AWS Direct Connect Message Transactions Hot Cold
16.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. データコレクション層 • KVS • Streaming • Messaging, Queue • Storage Data Source Collect / Store Transactions Stream Files Messages Disks Amazon Kinesis Streams Amazon Kinesis Firehose Amazon DynamoDB Streams Amazon SQS Apache Kafka AWS Direct Connect Snowball Mobile Apps Web Apps AWS Import/ Export Messaging Logging Data Centers AWS IoT Devices Sensors CloudWatch HotCold Amazon S3 Events WarmHotHot
17.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. Amazon DynamoDB Streams Amazon Kinesis Streams Amazon Kinesis Firehose Apache Kafka Amazon SQS Amazon S3 Event Notifications AWS Managed Service Yes Yes Yes No Yes Yes Guaranteed Ordering Yes Yes Yes Yes No No Delivery exactly-once at-least-once exactly-once at-least-once at-least-once at-least-once Data Retention Period 24 hours 7 days N/A Configurable 14 days 24 hours retry Availability 3 AZ 3 AZ 3 AZ Configurable 3 AZ 3 AZ Scale / Throughput No limit / ~ Table IOPS No Limit / ~ Shards No limit / Automatic No limit / ~ Nodes No Limits / Automatic No Limits Parallel Clients Yes Yes No Yes No No Stream MapReduce Yes Yes N/A Yes N/A N/A Record/Object size 400KB 1MB Amazon Redshift row size Configurable 256KB 5TB / S3 Object Cost Higher (table cost) Low Low Low (+admin) Low-Medium Low 各データコレクションの特徴
18.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. プロセス層 • Serverless • Stream processing • Distributed computing • Job chain Data Source Collect / Store Process Amazon Kinesis Apps AWS Lambda Transactions Stream Files Disks Amazon Kinesis Analytics Amazon Kinesis Streams Amazon Kinesis Firehose Amazon DynamoDB Streams Apache Kafka AWS Direct Connect Mobile Apps Web Apps AWS Import/ Export Logging Data Centers Sensors & IoT Devices CloudWatch Snowball Messages Amazon SQS Messaging AWS IoT AWS Direct Connect Message Amazon S3 Events Streaming EMR SQS Apps EC2 EC2 FastFast
19.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. 各プロセスの特徴 Spark Streaming Apache Storm Kinesis KCL Application AWS Lambda Amazon SQS Client Apps Scale ~ Nodes ~ Nodes ~ Nodes Automatic ~ Nodes Micro-Batch or Real-time Micro-batch Real-time Near-real-time Near-real-time Near-real-time AWS Managed Service Yes (EMR) No (EC2) No (KCL + EC2 + Auto Scaling) Yes No (EC2 + Auto Scaling) Scalability No Limits ~ Nodes No Limits ~ Nodes No Limits ~ Nodes No Limits No Limits Availability Single AZ Configurable Multi-AZ Multi-AZ Multi-AZ Programming languages Java, Python, Scala Any language via Thrift Java, via MultiLang Daemon (.NET, Python, Ruby, Node.js) Node.js, Java, Python AWS SDK languages (Java, .NET, Python, …)
20.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. • Cache • KVS • RDB • Search • Storage • DWH • Distribut ed • ML Process Analyze Store Amazon EMR Amazon ML Amazon RDS Amazon DynamoDB Amazon ElastiCache Data Source Collect / Store Amazon Kinesis Apps AWS Lambda Transactions Stream Files Disks Amazon S3 Amazon Kinesis Analytics (new) Amazon Kinesis Streams Amazon Kinesis Firehose Amazon DynamoDB Streams Apache Kafka AWS Direct Connect Amazon Elasticsearch Service SearchSQLNoSQLCacheML Amazon Redshift DWFileHadoop&Spark Mobile Apps Web Apps AWS Import/ Export Logging Data Centers Sensors & IoT Devices CloudWatch Snowball SQS Apps Messages Amazon SQS Messaging AWS IoT AWS Direct Connect Message Amazon S3 Events Streaming EMR EC2 EC2 HotWarmFastSlow データストア層
21.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. 各データストアの特徴 Amazon ElastiCache Amazon DynamoDB Amazon RDS/Aurora Amazon Elasticsearch Amazon S3 Amazon Glacier Average latency ms ms ms, sec ms,sec ms,sec,min (~ size) hrs Typical data stored GB GB–TBs (no limit) GB–TB (64 TB Max) GB–TB MB–PB (no limit) GB–PB (no limit) Typical item size B-KB KB (400 KB max) KB (64 KB max) KB (2 GB max) KB-TB (5 TB max) GB (40 TB max) Request Rate High - Very High Very High (no limit) High High Low – High (no limit) Very Low Storage cost GB/month $$ ¢¢ ¢¢ ¢¢ ¢ ¢/10 Durability Low - Moderate Very High Very High High Very High Very High Availability High 2 AZ Very High 3 AZ Very High 3 AZ High 2 AZ Very High 3 AZ Very High 3 AZ Hot Data Warm Data Cold Data
22.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. HotWarm FastFast Process Analyze Store Amazon EMR Amazon ML Amazon RDS Amazon DynamoDB Amazon ElastiCache Data Source Collect / Store Consume Amazon Kinesis Apps AWS Lambda Transactions Stream Files Disks Amazon S3 Amazon Kinesis new Analytics (new) Amazon Kinesis Streams Amazon Kinesis Firehose Amazon DynamoDB Streams Amazon QuickSight Apps & Services Analysis&VisualizationNotebooksIDE Apache Kafka AWS Direct Connect Amazon Elasticsearch Service SearchSQLNoSQLCacheML Amazon Redshift DWFileHadoop&Spark Mobile Apps Web Apps AWS Import/ Export Logging Data Centers Sensors IoT Devices CloudWatch Snowball API SQS Apps Messages Amazon SQS Messaging AWS IoT AWS Direct Connect Message Reference Architecture Amazon S3 Events Streaming EMR EC2 EC2 FastSlow WarmHotCold
23.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. 目次 • このセッションの対象 • Stream processingとは? • シンプルにするための原則 • アーキテクチャの例示 • デザインパターン • まとめ
24.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. デザインパターン – 基本1 • 何段階かにデータストアを分けて、複数のプロ セスの関連を疎にする Store Process Store ProcessData Answers process store
25.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. デザインパターン – 基本2 • 例えば、Kinesisを介して、複数のプロセスにス トリームをフォークして処理する Amazon Kinesis AWS Lambda Data Amazon DynamoDB Amazon Kinesis S3 Connector process store Amazon S3
26.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. デザインパターン – 基本3 • 例えば、複数のストリームの出力をEMRに集め て、また処理する Amazon EMR Amazon Kinesis AWS Lambda Amazon S3 Data Amazon DynamoDB AnswerSpark Streaming Amazon Kinesis S3 Connector Process store Spark SQL
27.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. Spark Streaming Apache Storm AWS Lambda KCL Amazon Redshift Amazon Redshift Hive Spark Presto Amazon Kinesis Apache Kafka Amazon DynamoDB Amazon S3data Hot Cold Data Temperature ProcessingSpeed Fast Slow Answers Hive Native KCL AWS Lambda データの鮮度と処理速度
28.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. デザインパターン – ニアリアルタイム Amazon EMR Apache Kafka KCL AWS Lambda Spark Streaming Apache Storm Amazon SNS Amazon ML Notifications Amazon ElastiCache (Redis) Amazon DynamoDB Amazon RDS Amazon ES Alert App state Real-time Prediction KPI process store DynamoDB Streams Amazon Kinesis Data Stream
29.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. バッチ&アドホック Amazon S3 Amazon EMR Hive Pig Spark Amazon ML process store Consume Amazon Redshift Amazon EMR Presto Spark Batch Interactive Batch Prediction Real-time Prediction Data Stream Amazon Kinesis Firehose
30.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. ラムダアーキテクチャ Batch Layer Amazon Kinesis Data Stream process store Amazon Kinesis S3 Connector Amazon S3 A p p l i c a t i o n s Amazon Redshift Amazon EMR Presto Hive Pig Spark answer Speed Layer answer Serving Layer Amazon ElastiCache Amazon DynamoDB Amazon RDS Amazon ES answer Amazon ML KCL AWS Lambda Storm Spark Streaming on Amazon EMR
31.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. 目次 • このセッションの対象 • Stream processingとは? • シンプルにするための原則 • アーキテクチャの例示 • デザインパターン • まとめ
32.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. まとめ • 構成要素を疎結合にしよう – データ、ストア、プロセス • ラムダアーキテクチャの発想を取り入れよう – バッチ、スピード、サービング • AWSマネージドサービスを活用しよう – データから価値を生み出すことに注力しよう
33.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. ご相談ください • Stream processingのみならず、Big data関連 の内容も、お気軽に、ご相談ください
34.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved. TECHNICAL & BUSINESS SUPPORT Account Management Support Professional Services Solutions Architects Training & Certification Security & Pricing Reports Partner Ecosystem AWS MARKETPLACE Backup Big Data & HPC Business Apps Databases Development Industry Solutions Security APPLICATION SERVICES Queuing Notifications Search Orchestration Email ENTERPRISE APPS Virtual Desktops Storage Gateway Sharing & Collaboration Email & Calendaring Directories HYBRID CLOUD MANAGEMENT Backups Deployment Direct Connect Identity Federation Integrated Management SECURITY & MANAGEMENT Virtual Private Networks Identity & Access Encryption Keys Configuration Monitoring Dedicated INFRASTRUCTURE SERVICES Regions Availability Zones Compute Storage Databases SQL, NoSQL, Caching CDNNetworking PLATFORM SERVICES App Mobile & Web Front-end Functions Identity Data Store Real-time Development Containers Source Code Build Tools Deployment DevOps Mobile Sync Identity Push Notifications Mobile Analytics Mobile Backend Analytics Data Warehousing Hadoop Streaming Data Pipelines Machine Learning
35.
©2016, Amazon Web
Services, Inc. or its affiliates. All rights reserved.
Editor's Notes
元ネタ http://cdn.oreillystatic.com/en/assets/1/event/144/Building%20a%20scalable%20architecture%20for%20processing%20streaming%20data%20on%20AWS%20Presentation.pdf
Download now