Download free for 30 days
Sign in
Upload
Language (EN)
Support
Business
Mobile
Social Media
Marketing
Technology
Art & Photos
Career
Design
Education
Presentations & Public Speaking
Government & Nonprofit
Healthcare
Internet
Law
Leadership & Management
Automotive
Engineering
Software
Recruiting & HR
Retail
Sales
Services
Science
Small Business & Entrepreneurship
Food
Environment
Economy & Finance
Data & Analytics
Investor Relations
Sports
Spiritual
News & Politics
Travel
Self Improvement
Real Estate
Entertainment & Humor
Health & Medicine
Devices & Hardware
Lifestyle
Change Language
Language
English
Español
Português
Français
Deutsche
Cancel
Save
Submit search
EN
TN
Uploaded by
Tetsunori Nishizawa
7,647 views
Amazon s3へのデータ転送における課題とその対処法を一挙紹介
Amazon s3へのデータ転送における課題とその対処法を一挙紹介
Technology
◦
Read more
5
Save
Share
Embed
Embed presentation
Download
Downloaded 19 times
1
/ 27
2
/ 27
3
/ 27
4
/ 27
5
/ 27
6
/ 27
7
/ 27
8
/ 27
9
/ 27
10
/ 27
11
/ 27
12
/ 27
13
/ 27
14
/ 27
15
/ 27
16
/ 27
17
/ 27
18
/ 27
19
/ 27
20
/ 27
21
/ 27
22
/ 27
23
/ 27
24
/ 27
25
/ 27
26
/ 27
27
/ 27
More Related Content
PDF
20190814 AWS Black Belt Online Seminar AWS Serverless Application Model
by
Amazon Web Services Japan
PPTX
20220409 AWS BLEA 開発にあたって検討したこと
by
Amazon Web Services Japan
PDF
20190424 AWS Black Belt Online Seminar Amazon Aurora MySQL
by
Amazon Web Services Japan
PDF
202110 AWS Black Belt Online Seminar AWS Site-to-Site VPN
by
Amazon Web Services Japan
PDF
ZabbixによるAWS監視のコツ
by
ShinsukeYokota
PDF
AWS Black Belt Online Seminar Amazon Aurora
by
Amazon Web Services Japan
PDF
AWSのログ管理ベストプラクティス
by
Akihiro Kuwano
PDF
AWS Black Belt Tech Webinar 2016 〜 Amazon CloudSearch & Amazon Elasticsearch ...
by
Amazon Web Services Japan
20190814 AWS Black Belt Online Seminar AWS Serverless Application Model
by
Amazon Web Services Japan
20220409 AWS BLEA 開発にあたって検討したこと
by
Amazon Web Services Japan
20190424 AWS Black Belt Online Seminar Amazon Aurora MySQL
by
Amazon Web Services Japan
202110 AWS Black Belt Online Seminar AWS Site-to-Site VPN
by
Amazon Web Services Japan
ZabbixによるAWS監視のコツ
by
ShinsukeYokota
AWS Black Belt Online Seminar Amazon Aurora
by
Amazon Web Services Japan
AWSのログ管理ベストプラクティス
by
Akihiro Kuwano
AWS Black Belt Tech Webinar 2016 〜 Amazon CloudSearch & Amazon Elasticsearch ...
by
Amazon Web Services Japan
What's hot
PDF
20201118 AWS Black Belt Online Seminar 形で考えるサーバーレス設計 サーバーレスユースケースパターン解説
by
Amazon Web Services Japan
PDF
20191030 AWS Black Belt Online Seminar AWS IoT Analytics Deep Dive
by
Amazon Web Services Japan
PDF
20200212 AWS Black Belt Online Seminar AWS Systems Manager
by
Amazon Web Services Japan
PDF
20200722 AWS Black Belt Online Seminar AWSアカウント シングルサインオンの設計と運用
by
Amazon Web Services Japan
PDF
20200422 AWS Black Belt Online Seminar Amazon Elastic Container Service (Amaz...
by
Amazon Web Services Japan
PDF
Amazon Athena 初心者向けハンズオン
by
Amazon Web Services Japan
PDF
[Aurora事例祭り]Amazon Aurora を使いこなすためのベストプラクティス
by
Amazon Web Services Japan
PDF
20190220 AWS Black Belt Online Seminar Amazon S3 / Glacier
by
Amazon Web Services Japan
PDF
Security hub workshop
by
Ryuhei Shibata
PDF
AWS Black Belt Online Seminar - Amazon Lightsail
by
Amazon Web Services Japan
PDF
AWS Black Belt Online Seminar 2018 Amazon DynamoDB Advanced Design Pattern
by
Amazon Web Services Japan
PDF
20190319 AWS Black Belt Online Seminar Amazon FSx for Windows Server
by
Amazon Web Services Japan
PDF
20190129 AWS Black Belt Online Seminar AWS Identity and Access Management (AW...
by
Amazon Web Services Japan
PDF
20191001 AWS Black Belt Online Seminar AWS Lake Formation
by
Amazon Web Services Japan
PDF
AWS X-Rayによるアプリケーションの分析とデバッグ
by
Amazon Web Services Japan
PDF
Black Belt Online Seminar Amazon CloudWatch
by
Amazon Web Services Japan
PDF
20180221 AWS Black Belt Online Seminar AWS Lambda@Edge
by
Amazon Web Services Japan
PDF
AWS Black Belt Online Seminar 2017 AWS Elastic Beanstalk
by
Amazon Web Services Japan
PDF
AWS Black Belt Online Seminar 2017 Auto Scaling
by
Amazon Web Services Japan
PDF
[AWSマイスターシリーズ]Amazon Elastic Load Balancing (ELB)
by
Amazon Web Services Japan
20201118 AWS Black Belt Online Seminar 形で考えるサーバーレス設計 サーバーレスユースケースパターン解説
by
Amazon Web Services Japan
20191030 AWS Black Belt Online Seminar AWS IoT Analytics Deep Dive
by
Amazon Web Services Japan
20200212 AWS Black Belt Online Seminar AWS Systems Manager
by
Amazon Web Services Japan
20200722 AWS Black Belt Online Seminar AWSアカウント シングルサインオンの設計と運用
by
Amazon Web Services Japan
20200422 AWS Black Belt Online Seminar Amazon Elastic Container Service (Amaz...
by
Amazon Web Services Japan
Amazon Athena 初心者向けハンズオン
by
Amazon Web Services Japan
[Aurora事例祭り]Amazon Aurora を使いこなすためのベストプラクティス
by
Amazon Web Services Japan
20190220 AWS Black Belt Online Seminar Amazon S3 / Glacier
by
Amazon Web Services Japan
Security hub workshop
by
Ryuhei Shibata
AWS Black Belt Online Seminar - Amazon Lightsail
by
Amazon Web Services Japan
AWS Black Belt Online Seminar 2018 Amazon DynamoDB Advanced Design Pattern
by
Amazon Web Services Japan
20190319 AWS Black Belt Online Seminar Amazon FSx for Windows Server
by
Amazon Web Services Japan
20190129 AWS Black Belt Online Seminar AWS Identity and Access Management (AW...
by
Amazon Web Services Japan
20191001 AWS Black Belt Online Seminar AWS Lake Formation
by
Amazon Web Services Japan
AWS X-Rayによるアプリケーションの分析とデバッグ
by
Amazon Web Services Japan
Black Belt Online Seminar Amazon CloudWatch
by
Amazon Web Services Japan
20180221 AWS Black Belt Online Seminar AWS Lambda@Edge
by
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 AWS Elastic Beanstalk
by
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 Auto Scaling
by
Amazon Web Services Japan
[AWSマイスターシリーズ]Amazon Elastic Load Balancing (ELB)
by
Amazon Web Services Japan
More from Tetsunori Nishizawa
PDF
AWS CLIでAssumeRole
by
Tetsunori Nishizawa
PDF
クラウド移行を終えてからが本番〜AWSの使いこなし術〜
by
Tetsunori Nishizawa
PDF
はじめてのAWS設計でやりがちな失敗パターンまとめ
by
Tetsunori Nishizawa
PDF
Jmespathをもっと広めたい
by
Tetsunori Nishizawa
PDF
オープンなクラウドの世界でエンジニアが楽しいと思うことを仕事にする方法
by
Tetsunori Nishizawa
PDF
Amazon WorkSpaces導入からはじめるスケーラブルなオフィス運営と、業務システムのクラウド移行
by
Tetsunori Nishizawa
PDF
インフラエンジニアのためのAWSサービスを利用したログ分析はじめの一歩
by
Tetsunori Nishizawa
PDF
EC2+RDSを基本から #cmdevio2017
by
Tetsunori Nishizawa
AWS CLIでAssumeRole
by
Tetsunori Nishizawa
クラウド移行を終えてからが本番〜AWSの使いこなし術〜
by
Tetsunori Nishizawa
はじめてのAWS設計でやりがちな失敗パターンまとめ
by
Tetsunori Nishizawa
Jmespathをもっと広めたい
by
Tetsunori Nishizawa
オープンなクラウドの世界でエンジニアが楽しいと思うことを仕事にする方法
by
Tetsunori Nishizawa
Amazon WorkSpaces導入からはじめるスケーラブルなオフィス運営と、業務システムのクラウド移行
by
Tetsunori Nishizawa
インフラエンジニアのためのAWSサービスを利用したログ分析はじめの一歩
by
Tetsunori Nishizawa
EC2+RDSを基本から #cmdevio2017
by
Tetsunori Nishizawa
Recently uploaded
PDF
PCCC25(設立25年記念PCクラスタシンポジウム):コアマイクロシステムズ株式会社 テーマ 「AI HPC時代のトータルソリューションプロバイダ」
by
PC Cluster Consortium
PDF
論文紹介:DiffusionRet: Generative Text-Video Retrieval with Diffusion Model
by
Toru Tamaki
PDF
論文紹介:HiLoRA: Adaptive Hierarchical LoRA Routing for Training-Free Domain Gene...
by
Toru Tamaki
PDF
論文紹介:MotionMatcher: Cinematic Motion Customizationof Text-to-Video Diffusion ...
by
Toru Tamaki
PDF
PCCC25(設立25年記念PCクラスタシンポジウム):日本ヒューレット・パッカード合同会社 テーマ1「大規模AIの能力を最大限に活用するHPE Comp...
by
PC Cluster Consortium
PDF
PCCC25(設立25年記念PCクラスタシンポジウム):Pacific Teck Japan テーマ2「『Slinky』 SlurmとクラウドのKuber...
by
PC Cluster Consortium
PDF
PCCC25(設立25年記念PCクラスタシンポジウム):Pacific Teck Japan テーマ3「『TrinityX』 AI時代のクラスターマネジメ...
by
PC Cluster Consortium
PDF
PCCC25(設立25年記念PCクラスタシンポジウム):エヌビディア合同会社 テーマ1「NVIDIA 最新発表製品等のご案内」
by
PC Cluster Consortium
PDF
PCCC25(設立25年記念PCクラスタシンポジウム):日本ヒューレット・パッカード合同会社 テーマ3「IT運用とデータサイエンティストを強力に支援するH...
by
PC Cluster Consortium
PDF
PCCC25(設立25年記念PCクラスタシンポジウム):富士通株式会社 テーマ1「HPC&AI: Accelerating material develo...
by
PC Cluster Consortium
PPTX
ChatGPTのコネクタ開発から学ぶ、外部サービスをつなぐMCPサーバーの仕組み
by
Ryuji Egashira
PPTX
2025年11月24日情報ネットワーク法学会大井哲也発表「API利用のシステム情報」
by
Tetsuya Oi
PDF
AI開発の最前線を変えるニューラルネットワークプロセッサと、未来社会における応用可能性
by
Data Source
PDF
ニューラルプロセッサによるAI処理の高速化と、未知の可能性を切り拓く未来の人工知能
by
Data Source
PDF
膨大なデータ時代を制する鍵、セグメンテーションAIが切り拓く解析精度と効率の革新
by
Data Source
PCCC25(設立25年記念PCクラスタシンポジウム):コアマイクロシステムズ株式会社 テーマ 「AI HPC時代のトータルソリューションプロバイダ」
by
PC Cluster Consortium
論文紹介:DiffusionRet: Generative Text-Video Retrieval with Diffusion Model
by
Toru Tamaki
論文紹介:HiLoRA: Adaptive Hierarchical LoRA Routing for Training-Free Domain Gene...
by
Toru Tamaki
論文紹介:MotionMatcher: Cinematic Motion Customizationof Text-to-Video Diffusion ...
by
Toru Tamaki
PCCC25(設立25年記念PCクラスタシンポジウム):日本ヒューレット・パッカード合同会社 テーマ1「大規模AIの能力を最大限に活用するHPE Comp...
by
PC Cluster Consortium
PCCC25(設立25年記念PCクラスタシンポジウム):Pacific Teck Japan テーマ2「『Slinky』 SlurmとクラウドのKuber...
by
PC Cluster Consortium
PCCC25(設立25年記念PCクラスタシンポジウム):Pacific Teck Japan テーマ3「『TrinityX』 AI時代のクラスターマネジメ...
by
PC Cluster Consortium
PCCC25(設立25年記念PCクラスタシンポジウム):エヌビディア合同会社 テーマ1「NVIDIA 最新発表製品等のご案内」
by
PC Cluster Consortium
PCCC25(設立25年記念PCクラスタシンポジウム):日本ヒューレット・パッカード合同会社 テーマ3「IT運用とデータサイエンティストを強力に支援するH...
by
PC Cluster Consortium
PCCC25(設立25年記念PCクラスタシンポジウム):富士通株式会社 テーマ1「HPC&AI: Accelerating material develo...
by
PC Cluster Consortium
ChatGPTのコネクタ開発から学ぶ、外部サービスをつなぐMCPサーバーの仕組み
by
Ryuji Egashira
2025年11月24日情報ネットワーク法学会大井哲也発表「API利用のシステム情報」
by
Tetsuya Oi
AI開発の最前線を変えるニューラルネットワークプロセッサと、未来社会における応用可能性
by
Data Source
ニューラルプロセッサによるAI処理の高速化と、未知の可能性を切り拓く未来の人工知能
by
Data Source
膨大なデータ時代を制する鍵、セグメンテーションAIが切り拓く解析精度と効率の革新
by
Data Source
Amazon s3へのデータ転送における課題とその対処法を一挙紹介
1.
Amazon S3へのデータ転送における 課題とその対処法を⼀挙紹介 2017.08.25 クラスメソッド株式会社 AWS事業部 にしざわ
2.
⾃⼰紹介 2 ⻄澤 徹訓 •
クラスメソッド株式会社 • AWS事業部 • アーキテクトグループ所属 • 2015年8⽉⼊社 • インフラ、エンプラ寄り • 最近は若者育成に⼒を⼊れて います
3.
好きなAWSサービス 3 特集カテゴリー ブログ登場回数 AWS-CLI
23 EC2 22 RDS 17 S3 15 Directory Service 11 Windows 11 Database Migration Service 9 IAM 8
4.
クラスメソッドとは︖ 4 AWSとビッグデータと スマホアプリとブログの 会社です。
5.
クラスメソッドとは(今⽇の趣旨と合ってます︖) 5 •Web系? •B to
C ではなく B to B •Webサービスは提供していない •社⾵はWeb系企業寄りかも
6.
クラスメソッドとは(今⽇の趣旨と合ってます︖︖) 6 •ベンチャー︖ •ベンチャーってわけでもない •新しい技術は好き •Alexaなんかもやってます
7.
クラスメソッドとは(今⽇の趣旨と合ってます︖︖︖) 7 •AWS利⽤事例? •AWS利⽤事例ならいくらでも︕
8.
本題 8 S3へのデータ転送で 困ったことはないですか︖
9.
Central StorageとしてのS3 9
10.
分析するにしても 10 まずはS3にデータを 持っていかないといけない
11.
今⽇のテーマ 11 S3への転送パターンを 可能な限り紹介します
12.
S3へのデータ転送︓ケース1 12 【ケース1】 たくさんのファイルを まとめてS3に転送したい
13.
• とにかくAWS CLIが便利︕︕︕ •
直感的なコマンド(ls/cp/mv/rm) • syncで同期 • 分割アップロードや並列数も設定可能 S3へのデータ転送︓ケース1への対処 13 http://docs.aws.amazon.com/cli/latest/reference/s3/index.html
14.
AWS CLIのS3オプション 14 •
s3オプション • max_concurrent_requests • max_queue_size • multipart_threshold • multipart_chunksize http://docs.aws.amazon.com/cli/latest/topic/s3-config.html
15.
S3へのデータ転送︓ケース2 15 【ケース2】 海外リージョンにあるS3バケットに ファイルを転送したい
16.
• S3 Transfer
Acceleration • 地理的に近いエッジロケーションを経由して からアップロードが可能 S3へのデータ転送︓ケース2への対処① 16 http://docs.aws.amazon.com/ja_jp/AmazonS3/latest/dev/transfer-acceleration.html
17.
• クロスリージョンレプリケーション • 近くのS3バケットに配置してレプリケーショ ンするという⽅法もあり S3へのデータ転送︓ケース2への対処②
17 http://docs.aws.amazon.com/ja_jp/AmazonS3/latest/dev/crr.html
18.
S3へのデータ転送︓ケース3 18 【ケース3】 転送スループットを上げたい
19.
• udp転送ツールを検討 • オーバヘッドが無いudpで •
Tsunami UDP • CloudDat(旧ExpeDat) S3へのデータ転送︓ケース3への対処 19 http://aws.typepad.com/sajp/2015/03/expedat.html
20.
S3へのデータ転送︓ケース4 20 【ケース4】 閉域網からファイル転送したい
21.
• S3エンドポイントを利⽤ • VPC内のEC2を経由する S3へのデータ転送︓ケース4への対処
21
22.
S3へのデータ転送︓ケース5 22 【ケース5】 クライアント側で使える プロトコルが限定されている
23.
• EC2で受けて何とかする • FTP/SFTPなど要件に合わせてEC2を⽤意 •
lsyncdやFileGatewayで同期 S3へのデータ転送︓ケース5への対処 23
24.
S3へのデータ転送︓ケース6 24 【ケース6】 EBSは使いたくない
25.
• FUSE • s3fs-use、goofysがハマるケースも •
使い⽅には要注意 S3へのデータ転送︓ケース6への対処 25
26.
ついに来ました︕ 26
27.
最後に 27 •情報発信/情報交換することで、AWS 好きが増え、元気になるエンジニアが 少しでも増えていったら嬉しいです。 •ありがとうございました︕︕︕
Download