【IVS CTO Night & Day】AI / Machine Learning on AWS

© 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
AI / Machine Learning on AWS
アマゾンウェブサービスジャパン株式会社
ソリューションアーキテクト保里善太
2017.12.12

⾃⼰紹介
保⾥善太(ほりぜんた)
技術統括本部
ソリューションアーキテクト
中規模のスタートアップからFinTech/ゲーム領域まで
をカバーする。
好きなAWSのサービス：
Macie/GuardDuty/SageMaker

Agenda
• Deep Learning, Machine Learning, Artificial
Intelligence
• What is Deep Learning ?
• Amazon AI and Machine Learning
• Use Cases

Deep Learning, Machine Learning, Artificial Intelligence
Artificial Intelligence
Machine Learning
Deep Learning

Machine Learning
Deep Learning
Strong AI

Weak AI
Machine Learning
Deep Learning

Example of Deep Learning

What is Deep Learning ?
Machine Learning
https://ja.wikipedia.org/wiki/

Neural Network
• 神経細胞（ニューロン）の数学的なモデル化に起源を持
つ学習器
• 軸索によりネットワークを構成
• 電気的な興奮状態を伝え合う
Original Update by Tsahi Levent-Levi / https://www.flickr.com/photos/126293865@N04/14953538130

Neural Network
•
•

Neural Network

Inference by Neural Network

Learning of Neural Network

機械学習の⼀般的な処理の流れ
Training
Prediction

Services
Amazon
Rekognition
Image
Platform
Engines
TensorFlow Caffe Torch Theano CNTK Keras
CPU IoT MobileInfrastructure GPU
MXNet
AWS Deep Learning AMI (Amazon Linux / Ubuntu / Windows)
AWSが提供するMLサービススタック
Amazon
Polly
Amazon
Lex
Amazon
Comprehend
Amazon
Translate
Amazon
Transcribe
Amazon
Rekognition
Video
Amazon
Machine
Learning
Apache Spark
Amazon EMR
Amazon
Kinesis
AWS Batch Amazon ECS
Amazon
SageMaker

Services
Amazon
Rekognition
Image
Platform
Engines
MXNet
Amazon
Polly
Amazon
Lex
Amazon
Comprehend
Amazon
Translate
Amazon
Transcribe
Amazon
Rekognition
Video
Amazon
Machine
Learning
Apache Spark
Amazon EMR
Amazon
Kinesis
Amazon
SageMaker

Services
Amazon
Rekognition
Image
Platform
Engines
MXNet
Amazon
Polly
Amazon
Lex
Amazon
Comprehend
Amazon
Translate
Amazon
Transcribe
Amazon
Rekognition
Video
Amazon
Machine
Learning
Apache Spark
Amazon EMR
Amazon
Kinesis
Amazon
SageMaker
本⽇のターゲットレイヤー

Amazon AI
⽂章からリアルな
⾳声への変換
Polly Lex
⾳声や⽂章を
使⽤した会話
Rekognition
画像/動画分析による
顔/物体/シーンの認識
Comprehend
⾃然⾔語処理に
よりテキスト
データを分析
Translate
テキストデータの
多⾔語間翻訳
Amazon
TranscribeTranscribe
⾳声をテキスト
へ変換
Amazon
Transcribe
New ! New ! New !

Amazon Rekognition
• 深層学習に基づく画像認識サービス
• 以下の各種機能を API で提供し，アプリケーションに簡単に追加できる
• 物体検出，顔検出，顔分析，顔照合，有名⼈認識，画像の節度などの機能
物体とシーンの検出顔分析顔照合顔認識

Bay
Beach
Coast
Outdoors
Sea
Water
Palm_tree
Plant
Tree
Summer
Landscape
Nature
Hotel
99.18%
99.18%
99.18%
99.18%
99.18%
99.18%
99.21%
99.21%
99.21%
58.3%
51.84%
51.84%
51.24%
物体およびシーンの検出

画像の節度
• Explicit Nudity
•
•
•
•
•
• Suggestive
•
•
•

顔の認識

顔の分析
Gender: Female: 100%
Age Range: 26-43 years old
Emotion: calm: 73%
Eye closed: open (value: 0)
Glasses: no glass (value: 0)
Sunglasses: false (value: 0)
Mouth open: false (value: 0)
Mustache: false (value: 0)
Beard: no (value: 0)

顔の⽐較

顔コレクションの作成
IndexFaces
SearchFacesByImage

Rekognition で物体についたラベルの認識が可能に
• オブジェクト上にある⽂字を認識すること
• 上限は100 ⽂字で，⾞のナンバープレート等の⼀般的なオブジェク
ト上の⽂字のみ（テキストOCRではない）

Amazon Rekognition のユースケース
• 検索可能な画像ライブラリ
• 画像の節度の判定
• 顔ベースのユーザー認証
• 感情分析
• 顔認識
• 画像内の⽂字認識 (100⽂字以内)

Amazon Rekognition Video

動画解析サービス Amazon Rekognition Video の提供開始
• S3 に蓄積された動画や，ライブストリーミング動画に対して以下の
ような分析機能を提供する
– ⼈物のトラッキング
– 顔の検出
– ラベルの検出
– 有名⼈認識
– イメージモデレーション
• H264 コーデックで，拡張⼦が .mp4 / .mov の必要あり
• バージニア北部，オレゴン，アイルランドで提供
• 動画 1 分につき $0.10〜，ストリーム 1 分につき $0.12〜
また顔のメタデータ 1000 個につき $0.01/month

動画認識

動画に対する分析
⼈物認識有名⼈認識
画⾯カットが切り替わっても，写っている⼈物が同⼀であることを認
識することが可能

動画に対する分析
オブジェクトや動作の認識動画のモデレーション

分析の結果得られるレスポンス
• 結果は JSON で返される
• “Timesamp” がついてお
り，どの時点でその認識
処理が⾏われたかを記録
• さまざまな分析結果が
JSON 内に合わせて格納
されている

ユースケース: 監視カメラで問題⾏動に反応
Kinesis Video Streams から読み込んだ監視カメラのスト
リームを，リアルタイムで分析して素早いアクション

ユースケース: 動画データを検索しやすく
ユーザーがアップロードした動画に対して定期的にタグ付
けを⾏い，後から簡単に検索できるようにする

Amazon Polly

Text-to-Speech処理
n
•
• SSML
n
n
• MP3 / Ogg Vorbis
• PCM PCM
SynthesizeSpeech
API

⾳声品質
• ⾃然に聞こえる⾳声
• テキスト変換処理の正確さ
• 略語、頭字語の展開、⽇付/時刻の変換、同形異義語の読み分け
Today in Las Vegas, NV it's 90°F.
"We live for the music", live from the Madison Square Garden.

発⾳
• 発⾳のカスタマイズ
• ⾳声合成マークアップ⾔語(SSML)を使⽤して、
発⾳、ボリューム、ピッチ、話す速度など、⾳声のさまざまな⾯を制御
• エイリアスを定義したレキシコンの適⽤
<speak>
My name is Kawahara. It is spelled
<prosody rate='x-slow'>
<say-as interpret-as="characters">Kawahara</say-as>
</prosody>
</speak>
W3C is a Consortium.
<lexeme>
<grapheme>W3C</grapheme>
<alias>World Wide Web Consortium</alias>
</lexeme>

スピーチマーク
開発者が映像体験と会話の同期を可能とするメタデータ
文：1文要素
語句：1単語要素
ビゼーム：音に対応する唇の形
SSML：<mark>タグ

Amazon Polly のユースケース
• コンテンツの作成
• 教育 / Eラーニング
• カスタマーコンタクトセンター
• IoT
• ⾔語学習

Alexa
Slack
FB
Salesforce
Microsoft Dynamics
Marketo
Zendesk
Quickbooks
HubSpot
Amazon Lex

ボット構造
Utterances
BookHotel Intents
Slots
Fulfillment

“Book a Hotel” 会話の流れ
“Book a Hotel in
NYC”
Hotel Booking
City New York City
CheckIn Nov 30th
CheckOut Dec 2nd
“Your hotel is booked for
Nov 30th”
Confirmation: “Your hotel is
booked for Nov 30th”
Yes
Intent/Slot
Utterances
“Can I go ahead
with the booking?
No
NLU
Book Hotel
NYC
ASR
Hotel Booking
New York City
a
in
Polly(TTS)

効率的で直観的な開発ツール

Amazon Lex のユースケース
• 情報ボット
• アプリケーションボット
• エンタープライズ⽣産性ボット
• IoT

Amazon Comprehend

⾃然⾔語理解サービス Amazon Comprehend の提供開始
• ⼊⼒されたテキストに対して，さまざまな分析を実施
• 英語とスペイン語に対応

⼊⼒した⽂章を分析

分析結果
エンティティの抽出キーフレーズの抽出

分析結果
⾔語の認識センチメント分析

バッチデータに対するトピックモデリング

ユースケース: カスタマーの声を分析
Twitter 等のデータを読み込んで Comprehend でタグ付
けや分類を⾏い，Redshift で分析

ユースケース: ナレッジマネジメントと検索
既存のドキュメント群に対してトピック分類を⾏い，その
結果を付与した形で，新たに利⽤する

Amazon Translate

多⾔語間翻訳サービス Amazon Translate プレビュー開始
• 深層学習に基づいた，⾼品質な多⾔語間翻訳サービス Amazon
Translateのプレビューを開始
– Encoder-decoder + attention model
• Polly や Lex との連携による多⾔語対応サービスの構築が可能に
• バージニア北部，オハイオ，オレゴンでプレビューを提供
アラビア語
中国簡体字
フランス語
ドイツ語
ポルトガル語
スペイン語
英語英語

Amazon Translate による翻訳

Amazon Transcribe

Speech-to-Text サービス Amazon Transcribe の
プレビュー開始
• テキストを⽂章に変換するマネー
ジドサービス
• リアルタイム処理のみならず，S3
に格納された⾳声データの処理も
サポート
• プレビューでの対応⾔語は英語と
スペイン語

Amazon Transcribe の特徴
Hello/
Hola
通常⾳声と電話⾳声の両⽅をサポート
カスタム語彙を登録することが可能
発話されたタイムスタンプと，書き起こしの信頼度を出⼒
複数話者の認識や句読点の⾃動補完
すでに英語とスペイン語に対応し，今後も拡充予定

タイムスタンプと信頼度
1.0 2.0 3.0 4.0 5.0 6.0 7.0 8.0 9.0 10.0 11.0 12.0 13.0 14.0 15.0 16.0 17.0
“Hi, I would like to reschedule my flight to Seattle to later tonight”
3.480 sec
Confidence : 1
6.402 sec
Confidence : 0.95
10.541 sec
Confidence : 1

句読点の補完
please extrapolate the projections based on market growth
and segment share can you email it to me once you are
done
Please extrapolate the projections based on market
growth and segment share. Can you email it to me once
you’re done?

ユースケース: コールセンターの⾳声データの可視化
AWS Lambda
Amazon S3
Amazon
Athena
Audio Input
Amazon
QuickSight
Amazon
Comprehend
Amazon
Transcribe

AWS ML Services Portfolio
⼤カテゴリ⼩カテゴリサービス名
映像
画像認識 Amazon Rekognition
動画認識 Amazon Rekognition Video
⾳声
Speech-to-Text Amazon Transcribe
Text-to-Speech Amazon Polly
⾃然⾔語
⾃然⾔語理解 Amazon Comprehend
テキスト翻訳 Amazon Translate
チャットボット Amazon Lex
New !
New !
New !
New !

Services
Amazon
Rekognition
Image
Platform
Engines
MXNet
Amazon
Polly
Amazon
Lex
Amazon
Comprehend
Amazon
Translate
Amazon
Transcribe
Amazon
Rekognition
Video
Amazon
Machine
Learning
Apache Spark
Amazon EMR
Amazon
Kinesis
Amazon
SageMaker

Amazon Machine Learning

❏ スケーラビリティ:
システムの拡張や運⽤を考える必要がない
❏ パッケージ化:
テストデータ分割や評価⼿法，予測 API の提供などが組み込まれている
Amazon Redshiftアプリケーション
Redshift上の取引データ
を使ってAmazon MLで
不正取引の抽出を⾏い、
S3に出⼒される結果を
Redshiftに戻して利⽤。
2クラス分類
ロジスティック回帰
多クラス分類
多項ロジスティック回帰
回帰分析
線形回帰

❏ 直感的でパワフルなサービスコンソールを使って
初期モデルの作成、調査
❖ データの取得
❖ モデルのトレーニング、クオリティ評価、微調整
❖ デプロイと管理
❏ フル機能のAPIとSDKでモデルのライフサイクル
を⾃動化
❖ Java, Python, .NET, JavaScript, Ruby, Javascript
❏ スマートiOS, AndroidアプリケーションをAWS
Mobile SDKで作成可能
使いやすく、開発者にとって扱いやすい

❏ Amazonで鍛えられた百戦錬磨の内部テクノロジー
がベース
❏ アルゴリズムだけの提供ではなく:
❖ スマートなデータ変換
❖ データ⼊⼒およびモデルクエリーのアラート
❖ 業界のベストプラクティスを内蔵
❏ ニーズに合わせて成⻑
❖ 最⼤100GBまでのトレーニングデータに対応
❖ 10億個の予測を⽣成
❖ バッチもしくはリアルタイムに予測を取得
パワフルな機械学習テクノロジー

❏ S3, Amazon Redshift, RDS上のMySQLに格納さ
れたデータにアクセス
❏ S3に予測を出⼒することで、他のデータフローと
容易にインテグレーション
❏ データアクセスパーミッションのポリシーを、
AWSの認証アクセス管理（IAM）を使って、
詳細な粒度で設定可能
AWSデータエコシステムとのインテグレーション

❏ サーバの準備や管理が不要で、エンドツーエンド
のサービスを提供
❏ ワンクリックで、予測モデルをデプロイ
❏ プログラム可能なクエリーモデルのメタデータに
より、⾃動的な再学習ワークフローを実現
❏ Amazon CloudWatchのメトリクスで、予測の
利⽤パターンをモニター可能
フルマネージドのモデル＆予測サービス

モデルの
作成
評価と最適化予想を得る
1 2 3
Amazon MLでスマートアプリケーションを作成する

モデルの
作成
1 2 3
❖ データを指定することで、データソースを作成
❖ データを検索し、理解する
❖ データを変換し、モデルをトレーニング

データソースを作成する
>>> import boto
>>> ml = boto.connect_machinelearning()
>>> ds = ml.create_data_source_from_s3(
data_source_id = ’my_datasource',
data_spec= {
'DataLocationS3':'s3://bucket/input/',
'DataSchemaLocationS3':'s3://bucket/input/.schema'},
compute_statistics = True)

データを調査し、理解する

モデルをトレーニングする
>>> import boto
>>> model = ml.create_ml_model(
ml_model_id=’my_model',
ml_model_type='REGRESSION',
training_data_source_id='my_datasource')

モデルの
作成
1 2 3
❖ モデルのクオリティを理解する
❖ モデルの解釈を調整する

モデルのクオリティを調査する

モデルの解釈を調整する

モデルの
作成
1 2 3
❖ バッチ予測
❖ リアルタイム予測

バッチ予測
❏ ⾮同期、巨⼤なボリュームに対しての予測⽣成
❏ サーバコンソールもしくはAPIからリクエスト
❏ データソースをバッチで取得するアプリケーションに適している
>>> import boto
>>> model = ml.create_batch_prediction(
batch_prediction_id = 'my_batch_prediction’
batch_prediction_data_source_id = ’my_datasource’
ml_model_id = ’my_model',
output_uri = 's3://examplebucket/output/’)

リアルタイム予測
❏ 同期、短い遅延、⾼いスループットで予測を⽣成
❏ サービスAPI、サーバ、モバイルSDKからリクエスト
❏ 個別のデータレコードに対して、インタラクション処理を実⾏する
アプリケーションに適している
>>> import boto
>>> ml.predict(
ml_model_id=’my_model',
predict_endpoint=’example_endpoint’,
record={’key1':’value1’, ’key2':’value2’})
{
'Prediction': {
'predictedValue': 13.284348,
'details': {
'Algorithm': 'SGD',
'PredictiveModelType': 'REGRESSION’
}
}
}

❏ データ分析/モデルトレーニング/評価:
$0.42/インスタンス時
❏ バッチ予測:
$0.10/1000
❏ リアルタイム予測:
$0.10/1000
+１時間毎のキャパシティリザベーションチャージ
使った分だけ、安価な⽀払い

Amazon EMR (Elastic MapReduce)
• フルマネージドな Hadoop を提供しており，ク
ラスタの構築、構成変更、破棄まで管理可能
• HDFS ではなく S3 上のデータを直接読み書き
することで、コンピュートとストレージを分離
可能
• ワークロードに応じたクラスタを複数⽴ち上げ
て，同⼀データを処理可能
• Spark MLlib や Mahout でスケーラブル機械学習

数多くの動画ストリームのインジェストを実現する
Amazon Kinesis Video Streams の提供開始
• ⼤量のカメラ（的な）デバイスからアップロードされる，動画スト
リームや時系列データを容易に取り扱うことができるマネージド
サービス
• デバイス側は Producer SDK を利⽤して，Kinesis Video Streams
にデータを送信し，Consumer で取得して処理する
• バージニア北部，オレゴン，アイルランド，フランクフルト，東京
リージョンで利⽤可能
• 料⾦体系はデータ量依存。Streamに対する投⼊量と読出量、保存量
に対して課⾦される

Amazon SageMaker

end-to-end のフルマネージド機械学習サービス
Amazon SageMaker の提供開始
• データサイエンティストや開発者が，容易に機械学習モデルを構築・学習・
活⽤するためのマネージドサービス
• バージニア北部，オハイオ，オレゴン，アイルランドで提供

ノートブックインスタンスへの素早いアクセス
マネジメントコンソールからインスタンスを⽴ち上げて，インスタン
ス上の Jupyter Notebook にアクセス
(1)
(2)

1. ノートブック上で開発を⾏う
2. 作成した学習⽤のコードを Docker イメージにパッケージする
3. 作成したイメージを ECR にパブリッシュする

1. ノートブックインスタンスから，トレーニングジョブを実⾏
2. SageMaker が ECR からイメージを pull して，S3 上のデータ
を使って学習を実施（GPU インスタンスを使うことも，複数イ
ンスタンスで分散学習させることも可能）
3. 学習が終了したら，S3 にモデルを出⼒して終了

1. 推論⽤の Docker イメージを作成して，ECR にパブリッシュ
2. ノートブックインスタンスから，作成済みデプロイのデプロイを実施
3. SageMaker が ECR からイメージを pull して，指定したインスタン
ス数だけ⽴ち上げ，エンドポイントを設定
4. エンドポイントに対して，推論のリクエストを投げることが可能

SageMaker の特徴
• ノートブックをブラウザ経由で簡単に⽴ち上げ，開発を
⾏うことができる
• 主要なパッケージはすでに⼊っており，必要なパッケージを
後からインストールすることも可能
• Terminal にもアクセスできる
• 開発，学習，推論の各プロセスについて，それぞれ個別
で利⽤することが可能
• 推論のエンドポイントはオートスケーリングや A/B テ
ストに対応

SageMaker のリファレンス
• Using Built-in Algorithms with Amazon SageMaker
• 主要なアルゴリズムについては，AWS から提供
• データさえあれば，学習〜エンドポイント作成まで aws cli のみで実
施可能
• Amazon SageMaker Examples
• scikit-learn, MXNet, Tensorflow などさまざまなフレームワークを
使った SageMaker での開発サンプルがある
• MXNet や Tensorflow は既存のコンテナイメージを利⽤可能
• 必要に応じて SageMaker の Python SDK も参照
• http://docs.aws.amazon.com/sagemaker/latest/dg/algos.html
• https://github.com/awslabs/amazon-sagemaker-examples
• https://github.com/aws/sagemaker-python-sdk/

Amazon Polly
主なユースケース例：
⾳声コンテンツの作成教育＆ Eラーニング
モバイル＆デスクトップアプリケーションカスタマーコンタクトセンター
Internet of Things (IoT) ユーザ補助機能

FM和歌⼭様：⼈⼯知能アナウンサー
❑ 完全に⾃動化されたキャスター不要のニュース配信が可能に
❑ 安定してアナウンサーを確保するのが難しい状況でも、タイムリーに
ニュース配信が可能
❑ 今後は災害情報等のタイムリーな発信にも活⽤していく予定

Amazon Rekognition
検索可能な画像ライブラリ不適切なコンテンツの識別
顔認証ベースのユーザ認証感情分析
顔の検出有名⼈の認識

Tunnel様 : RoomClipにおける画像判定
❑ 「アップロードされた画像が部屋全体の画像かどうか」を⾃動判定
❑ Amazon Rekognition で教師データとなる⼤量の画像をラベル化し、
Amazon Machine Learning でモデルを⽣成
❑ 新しい画像は都度Rekognitionでラベル化し、Amaozn MLで推論
http://engineer.roomclip.jp/entry/20
Amazon
Rekognition
Amazon
Machine Learning
ラベル化
学習
教師データ
Yes/No
判定対象画像
ラベル化
推論実⾏
部屋全体？

AI サービスによる課題の解決
千株式会社：「はいチーズ！」
https://www.slideshare.net/ShinjiMiyazato/amazon-rekognition-77222459
https://d0.awsstatic.com/events/jp/2017/summit/slide/D2T3-1.pdf

画像分割による⼤量の顔認識

アーキテクチャ

ケーススタディ：旅⾏とおもてなし
顔認識と感情捕捉に Rekognition を利⽤したホテルでの先験的なお客様体験
フロントスタッフとお客様の関係向上を⼿助けするため、Rekognition を利⽤：
❖ 早期にお客様を認識し、パーソナライズされたサービスをすばやく提供する
❖ リッチで状況に則したお客様の情報をリアルタイムに受信する
❖ 滞在中のお客様の感情を捉える
❖ お客様の満⾜度を 80％向上
“Kaliber は来店されたお客様と親密な絆を築く
ことを可能にする.” – GM of a 5-star property

お客様のワークフロー
お客様来店認識ご挨拶
アクションを引き起
こす感情を捉えるパーソナライズされた
サービスを楽しむ
⼤切なお客様とお別れする

hotel
簡素化されたアーキテクチャ
単⼀マスターゲストコレク
ションが、単⼀ワークフ
ローデプロイを可能にする
お客様を認識するとリアルタイム
情報検索が実⾏される
⾃動化されたAWS上の
パイプライン処理が信
頼性を向上する
⾃動化された画像サン
プリングが絶えず認識
精度を向上する

ケーススタディ：メディア
8つのネットワークでカメラに映っている⼈物を特定し、録画した動画を
インデックス化・検索できるようにする
Rekognition を活⽤し、動画のフレームからサンプリングした画像に対して顔認識を適⽤
❏ 99,000 ⼈の顔画像を 1 ⽇でインデックス
❏ 6 秒ごとにフレームをサンプリング
❏ 画像を S3 にアップロードして，Rekognition で最も⼀致する顔画像を検索
❏ メタデータとしてタイムスタンプと顔画像の ID を保存
❏ 3週間で組み込み
❏ 1年あたり〜9,000時間の労働時間短縮

C-SPAN Indexing Architecture
8拠点からエンコードされた
ビデオフィード
抽出されたフレームがJPG化
され、S3に保存される
Amazon SQS による
⾮同期処理化
類似度の⾼い顔を
Rekognitionで探す
検索／発⾒リクエスト
結果をキャッシュ
シーンが⼗分に変化したかどうかを
検出する

Amazon Lex
予約のスケジューリングカスタマーサポート
インフォメーションサービス企業データへのアクセス
Internet of Things (IoT)

Rekognition/Polly/Lex ユースケース: Motorola
Solutions
❏ 警察官が利⽤できるデバイス, サービスを提供
❏ 不明者の発⾒にAmazonの画像認識、⾳声認識を活⽤
AWS re:Invent 2016: Machine Learning State of the Union Mini Con (MAC206) – YouTube
https://youtu.be/HqsUfyu0XJc?t=1833
❖ カメラでリアルタイムに顔を抽出して
AWS に送信
❖ DBにデータを保存して Rekognition
に顔認識顔リクエストを送信
❖ マッチしたら、イベントでPollyを呼び
出して、⾳声でアラートを通知

AWSのお客様による機会学習その他取り組み事例
Zillow
不動産価格推定 (Apache Sparkを使⽤)
Howard Hughes Corp
⾼級不動産の購⼊⾒込み客スコアリング
FINRA
異常検知, 系列マッチング, 回帰分析, ネット
ワーク分析
Netflix
レコメンドエンジン
Pinterest
画像検索
Fraud.net
オンライン不正⽀払の検知
DataXu
⼤規模な⾃動機械学習処理 (Amazon EMR +
Spark)
Mapillary
クラウドソーシング地図に対するコンピュー
タビジョンの適⽤
Hudl
スポーツ映像の予測分析
Upserve
レストランの座席管理とPOSをもとにした顧
客動向の予測
TuSimple
⾃動運転へのコンピュータビジョンの適⽤
Clarifai
コンピュータビジョン API

Thank you!

Appendix

Infrastructure
• P2 Instance
• GPUアクセラレータNVIDIA Tesla K80を最⼤16個搭載可能
• ⼤量のGPUを使うことでディープラーニングのモデル構築にか
かる時間を⼤幅に短縮可能
Instance
Name
GPU
Count
Memory GPU
Memory
Network
Performance
p2.xlarge 1 61GiB 12 GiB High
p2.8xlarge 8 488GiB 96 GiB 10 Gigabit
p2.16xlarge 16 732GiB 192 GiB 20 Gigabit

•
•
• NVIDIA Roadmap
（GTC 2017）
Instance
Name
GPU
Count
Memory GPU
Memory
Network
Performance
p3.2xlarge 1 61GiB 16 GiB Up to 10 Gbps
p3.8xlarge 4 244GiB 64 GiB 10 Gbps
p3.16xlarge 8 488GiB 128 GiB 25 Gbps

EC2の新インスタンスファミリ C5
AVX-512 命令セットを利⽤可能で，機械学習やマルチメ
ディア，科学技術計算などに向く
Instance Name vCPUs RAM EBS Bandwidth
Network
Bandwidth
c5.large 2 4 GiB Up to 2.25 Gbps Up to 10 Gbps
c5.xlarge 4 8 GiB Up to 2.25 Gbps Up to 10 Gbps
c5.2xlarge 8 16 GiB Up to 2.25 Gbps Up to 10 Gbps
c5.4xlarge 16 32 GiB 2.25 Gbps Up to 10 Gbps
c5.9xlarge 36 72 GiB 4.5 Gbps 10 Gbps
c5.18xlarge 72 144 GiB 9 Gbps 25 Gbps

ディープラーニングモデルで推論可能なビデオカメラ
デバイス AWS DeepLens を提供開始
• カメラデバイスに内蔵されたコンピューティ
ングリソースで深層学習モデルによる推論を
実現
• 1080Pの映像に対応し，マイクアレイを内蔵．
8GB のメモリと Intel ATOM IoT プロセッ
サによる処理を実⾏する
• Greengrass Core が内蔵されており MXNet
/ TensorFlow / Caffe2をサポート

AWS DeepLens によるエッジでの顔検出
たとえば，顔が検出されたときのみ
Rekognition Video に動画を送ることが
可能となる

Services
Amazon
Rekognition
Image
Platform
Engines
MXNet
Amazon
Polly
Amazon
Lex
Amazon
Comprehend
Amazon
Translate
Amazon
Transcribe
Amazon
Rekognition
Video
Amazon
Machine
Learning
Apache Spark
Amazon EMR
Amazon
Kinesis
Amazon
SageMaker

AI Engines and Hardware
• 代表的なDeep Learning Framework
• Apache MXNet、TensorFlow、Theano、Caffe、Caffe2、
CNTK、Torch、Keras、Chainer、DSSTNE、Paddle…etc

AWS Deep Learning AMI
MXNet TensorFlow Caffe & Caffe2
Theano Cognitive Toolkit Torch
Keras
Nvidia CUDA & cuDNN Python 2 & Python 3
Intel MKL Anaconda
Amazon EC2 (Amazon Linux / Ubuntu)
•
•
•

AWSは MXNet を全⾯的にサポート
• マルチ GPU でのスケーラビリティに優れている
• AWS 社員もコミッターとして活躍
• CloudFormation で MXNet クラスタを構築するテンプレート
を提供
http://aws.typepad.com/sajp/2016/11/mxnet-default-framework-deep-learning-aws.html

End
Amazon Web Service Japan K.K.

【IVS CTO Night & Day】AI / Machine Learning on AWS

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to 【IVS CTO Night & Day】AI / Machine Learning on AWS

Similar to 【IVS CTO Night & Day】AI / Machine Learning on AWS (20)

More from Amazon Web Services Japan

More from Amazon Web Services Japan (20)

Recently uploaded

Recently uploaded (9)

【IVS CTO Night & Day】AI / Machine Learning on AWS