Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

【IVS CTO Night & Day】AI / Machine Learning on AWS

1,408 views

Published on

【IVS CTO Night & Day】AI / Machine Learning on AWS

Published in: Technology
  • Be the first to comment

【IVS CTO Night & Day】AI / Machine Learning on AWS

  1. 1. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. AI / Machine Learning on AWS アマゾン ウェブ サービス ジャパン株式会社 ソリューションアーキテクト 保里 善太 2017.12.12
  2. 2. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ⾃⼰紹介 保⾥ 善太(ほり ぜんた) 技術統括本部 ソリューションアーキテクト 中規模のスタートアップからFinTech/ゲーム領域まで をカバーする。 好きなAWSのサービス: Macie/GuardDuty/SageMaker
  3. 3. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Agenda • Deep Learning, Machine Learning, Artificial Intelligence • What is Deep Learning ? • Amazon AI and Machine Learning • Use Cases
  4. 4. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Agenda • Deep Learning, Machine Learning, Artificial Intelligence • What is Deep Learning ? • Amazon AI and Machine Learning • Use Cases
  5. 5. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Deep Learning, Machine Learning, Artificial Intelligence Artificial Intelligence Machine Learning Deep Learning
  6. 6. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Deep Learning, Machine Learning, Artificial Intelligence Artificial Intelligence Machine Learning Deep Learning
  7. 7. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Deep Learning, Machine Learning, Artificial Intelligence Artificial Intelligence Machine Learning Deep Learning Strong AI
  8. 8. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Deep Learning, Machine Learning, Artificial Intelligence Artificial Intelligence Weak AI Machine Learning Deep Learning
  9. 9. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Deep Learning, Machine Learning, Artificial Intelligence Artificial Intelligence Machine Learning Deep Learning
  10. 10. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Deep Learning, Machine Learning, Artificial Intelligence Artificial Intelligence Machine Learning Deep Learning
  11. 11. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Example of Deep Learning
  12. 12. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. What is Deep Learning ? Machine Learning https://ja.wikipedia.org/wiki/
  13. 13. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Neural Network • 神経細胞(ニューロン)の数学的なモデル化に起源を持 つ学習器 • 軸索によりネットワークを構成 • 電気的な興奮状態を伝え合う Original Update by Tsahi Levent-Levi / https://www.flickr.com/photos/126293865@N04/14953538130
  14. 14. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Neural Network • •
  15. 15. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Neural Network
  16. 16. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Inference by Neural Network
  17. 17. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Learning of Neural Network
  18. 18. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 機械学習の⼀般的な処理の流れ Training Prediction
  19. 19. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 機械学習の⼀般的な処理の流れ Training Prediction
  20. 20. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 機械学習の⼀般的な処理の流れ Training Prediction
  21. 21. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 機械学習の⼀般的な処理の流れ Training Prediction
  22. 22. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Agenda • Deep Learning, Machine Learning, Artificial Intelligence • What is Deep Learning ? • Amazon AI and Machine Learning • Use Cases
  23. 23. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Services Amazon Rekognition Image Platform Engines TensorFlow Caffe Torch Theano CNTK Keras CPU IoT MobileInfrastructure GPU MXNet AWS Deep Learning AMI (Amazon Linux / Ubuntu / Windows) AWSが提供するMLサービススタック Amazon Polly Amazon Lex Amazon Comprehend Amazon Translate Amazon Transcribe Amazon Rekognition Video Amazon Machine Learning Apache Spark Amazon EMR Amazon Kinesis AWS Batch Amazon ECS Amazon SageMaker
  24. 24. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Services Amazon Rekognition Image Platform Engines TensorFlow Caffe Torch Theano CNTK Keras CPU IoT MobileInfrastructure GPU MXNet AWS Deep Learning AMI (Amazon Linux / Ubuntu / Windows) Amazon Polly Amazon Lex Amazon Comprehend Amazon Translate Amazon Transcribe Amazon Rekognition Video Amazon Machine Learning Apache Spark Amazon EMR Amazon Kinesis AWS Batch Amazon ECS Amazon SageMaker AWSが提供するMLサービススタック
  25. 25. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Services Amazon Rekognition Image Platform Engines TensorFlow Caffe Torch Theano CNTK Keras CPU IoT MobileInfrastructure GPU MXNet AWS Deep Learning AMI (Amazon Linux / Ubuntu / Windows) Amazon Polly Amazon Lex Amazon Comprehend Amazon Translate Amazon Transcribe Amazon Rekognition Video Amazon Machine Learning Apache Spark Amazon EMR Amazon Kinesis AWS Batch Amazon ECS Amazon SageMaker AWSが提供するMLサービススタック 本⽇のターゲットレイヤー
  26. 26. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Services Amazon Rekognition Image Platform Engines TensorFlow Caffe Torch Theano CNTK Keras CPU IoT MobileInfrastructure GPU MXNet AWS Deep Learning AMI (Amazon Linux / Ubuntu / Windows) Amazon Polly Amazon Lex Amazon Comprehend Amazon Translate Amazon Transcribe Amazon Rekognition Video Amazon Machine Learning Apache Spark Amazon EMR Amazon Kinesis AWS Batch Amazon ECS Amazon SageMaker AWSが提供するMLサービススタック
  27. 27. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon AI ⽂章からリアルな ⾳声への変換 Polly Lex ⾳声や⽂章を 使⽤した会話 Rekognition 画像/動画分析による 顔/物体/シーンの認識 Comprehend ⾃然⾔語処理に よりテキスト データを分析 Translate テキストデータの 多⾔語間翻訳 Amazon TranscribeTranscribe ⾳声をテキスト へ変換 Amazon Transcribe New ! New ! New !
  28. 28. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Rekognition • 深層学習に基づく画像認識サービス • 以下の各種機能を API で提供し,アプリケーションに簡単に追加できる • 物体検出,顔検出,顔分析,顔照合,有名⼈認識,画像の節度などの機能 物体とシーンの検出 顔分析 顔照合 顔認識
  29. 29. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Bay Beach Coast Outdoors Sea Water Palm_tree Plant Tree Summer Landscape Nature Hotel 99.18% 99.18% 99.18% 99.18% 99.18% 99.18% 99.21% 99.21% 99.21% 58.3% 51.84% 51.84% 51.24% 物体およびシーンの検出
  30. 30. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 画像の節度 • Explicit Nudity • • • • • • Suggestive • • •
  31. 31. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 顔の認識
  32. 32. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 顔の分析 Gender: Female: 100% Age Range: 26-43 years old Emotion: calm: 73% Eye closed: open (value: 0) Glasses: no glass (value: 0) Sunglasses: false (value: 0) Mouth open: false (value: 0) Mustache: false (value: 0) Beard: no (value: 0)
  33. 33. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 顔の⽐較
  34. 34. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 顔コレクションの作成 IndexFaces SearchFacesByImage
  35. 35. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Rekognition で物体についたラベルの認識が可能に • オブジェクト上にある⽂字を認識すること • 上限は100 ⽂字で,⾞のナンバープレート等の⼀般的なオブジェク ト上の⽂字のみ(テキストOCRではない)
  36. 36. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Rekognition のユースケース • 検索可能な画像ライブラリ • 画像の節度の判定 • 顔ベースのユーザー認証 • 感情分析 • 顔認識 • 画像内の⽂字認識 (100⽂字以内)
  37. 37. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Rekognition Video
  38. 38. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 動画解析サービス Amazon Rekognition Video の提供開始 • S3 に蓄積された動画や,ライブストリーミング動画に対して以下の ような分析機能を提供する – ⼈物のトラッキング – 顔の検出 – ラベルの検出 – 有名⼈認識 – イメージモデレーション • H264 コーデックで,拡張⼦が .mp4 / .mov の必要あり • バージニア北部,オレゴン,アイルランドで提供 • 動画 1 分につき $0.10〜,ストリーム 1 分につき $0.12〜 また顔のメタデータ 1000 個につき $0.01/month
  39. 39. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 動画認識
  40. 40. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 動画に対する分析 ⼈物認識 有名⼈認識 画⾯カットが切り替わっても,写っている⼈物が同⼀であることを認 識することが可能
  41. 41. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 動画に対する分析 オブジェクトや動作の認識 動画のモデレーション
  42. 42. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 分析の結果得られるレスポンス • 結果は JSON で返される • “Timesamp” がついてお り,どの時点でその認識 処理が⾏われたかを記録 • さまざまな分析結果が JSON 内に合わせて格納 されている
  43. 43. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ユースケース: 監視カメラで問題⾏動に反応 Kinesis Video Streams から読み込んだ監視カメラのスト リームを,リアルタイムで分析して素早いアクション
  44. 44. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ユースケース: 動画データを検索しやすく ユーザーがアップロードした動画に対して定期的にタグ付 けを⾏い,後から簡単に検索できるようにする
  45. 45. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Polly
  46. 46. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Text-to-Speech処理 n • • SSML n n • MP3 / Ogg Vorbis • PCM PCM SynthesizeSpeech API
  47. 47. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ⾳声品質 • ⾃然に聞こえる⾳声 • テキスト変換処理の正確さ • 略語、頭字語の展開、⽇付/時刻の変換、同形異義語の読み分け Today in Las Vegas, NV it's 90°F. "We live for the music", live from the Madison Square Garden.
  48. 48. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 発⾳ • 発⾳のカスタマイズ • ⾳声合成マークアップ⾔語(SSML)を使⽤して、 発⾳、ボリューム、ピッチ、話す速度など、⾳声のさまざまな⾯を制御 • エイリアスを定義したレキシコンの適⽤ <speak> My name is Kawahara. It is spelled <prosody rate='x-slow'> <say-as interpret-as="characters">Kawahara</say-as> </prosody> </speak> W3C is a Consortium. <lexeme> <grapheme>W3C</grapheme> <alias>World Wide Web Consortium</alias> </lexeme>
  49. 49. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. スピーチマーク 開発者が映像体験と会話の同期を可能とするメタデータ 文:1文要素 語句:1単語要素 ビゼーム:音に対応する唇の形 SSML:<mark>タグ
  50. 50. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Polly のユースケース • コンテンツの作成 • 教育 / Eラーニング • カスタマーコンタクトセンター • IoT • ⾔語学習
  51. 51. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Alexa Slack FB Salesforce Microsoft Dynamics Marketo Zendesk Quickbooks HubSpot Amazon Lex
  52. 52. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ボット構造 Utterances BookHotel Intents Slots Fulfillment
  53. 53. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. “Book a Hotel” 会話の流れ “Book a Hotel in NYC” Hotel Booking City New York City CheckIn Nov 30th CheckOut Dec 2nd “Your hotel is booked for Nov 30th” Confirmation: “Your hotel is booked for Nov 30th” Yes Intent/Slot Utterances “Can I go ahead with the booking? No NLU Book Hotel NYC ASR Hotel Booking New York City a in Polly(TTS)
  54. 54. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 効率的で直観的な開発ツール
  55. 55. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Lex のユースケース • 情報ボット • アプリケーションボット • エンタープライズ⽣産性ボット • IoT
  56. 56. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Comprehend
  57. 57. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ⾃然⾔語理解サービス Amazon Comprehend の提供開始 • ⼊⼒されたテキストに対して,さまざまな分析を実施 • 英語とスペイン語に対応
  58. 58. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ⼊⼒した⽂章を分析
  59. 59. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 分析結果 エンティティの抽出 キーフレーズの抽出
  60. 60. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 分析結果 ⾔語の認識 センチメント分析
  61. 61. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. バッチデータに対するトピックモデリング
  62. 62. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ユースケース: カスタマーの声を分析 Twitter 等のデータを読み込んで Comprehend でタグ付 けや分類を⾏い,Redshift で分析
  63. 63. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ユースケース: ナレッジマネジメントと検索 既存のドキュメント群に対してトピック分類を⾏い,その 結果を付与した形で,新たに利⽤する
  64. 64. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Translate
  65. 65. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 多⾔語間翻訳サービス Amazon Translate プレビュー開始 • 深層学習に基づいた,⾼品質な多⾔語間翻訳サービス Amazon Translateのプレビューを開始 – Encoder-decoder + attention model • Polly や Lex との連携による多⾔語対応サービスの構築が可能に • バージニア北部,オハイオ,オレゴンでプレビューを提供 アラビア語 中国簡体字 フランス語 ドイツ語 ポルトガル語 スペイン語 英語英語
  66. 66. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Translate による翻訳
  67. 67. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Transcribe
  68. 68. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Speech-to-Text サービス Amazon Transcribe の プレビュー開始 • テキストを⽂章に変換するマネー ジドサービス • リアルタイム処理のみならず,S3 に格納された⾳声データの処理も サポート • プレビューでの対応⾔語は英語と スペイン語
  69. 69. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Transcribe の特徴 Hello/ Hola 通常⾳声と電話⾳声の両⽅をサポート カスタム語彙を登録することが可能 発話されたタイムスタンプと,書き起こしの信頼度を出⼒ 複数話者の認識や句読点の⾃動補完 すでに英語とスペイン語に対応し,今後も拡充予定
  70. 70. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. タイムスタンプと信頼度 1.0 2.0 3.0 4.0 5.0 6.0 7.0 8.0 9.0 10.0 11.0 12.0 13.0 14.0 15.0 16.0 17.0 “Hi, I would like to reschedule my flight to Seattle to later tonight” 3.480 sec Confidence : 1 6.402 sec Confidence : 0.95 10.541 sec Confidence : 1
  71. 71. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 句読点の補完 please extrapolate the projections based on market growth and segment share can you email it to me once you are done Please extrapolate the projections based on market growth and segment share. Can you email it to me once you’re done?
  72. 72. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ユースケース: コールセンターの⾳声データの可視化 AWS Lambda Amazon S3 Amazon Athena Audio Input Amazon QuickSight Amazon Comprehend Amazon Transcribe
  73. 73. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. AWS ML Services Portfolio ⼤カテゴリ ⼩カテゴリ サービス名 映像 画像認識 Amazon Rekognition 動画認識 Amazon Rekognition Video ⾳声 Speech-to-Text Amazon Transcribe Text-to-Speech Amazon Polly ⾃然⾔語 ⾃然⾔語理解 Amazon Comprehend テキスト翻訳 Amazon Translate チャットボット Amazon Lex New ! New ! New ! New !
  74. 74. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Services Amazon Rekognition Image Platform Engines TensorFlow Caffe Torch Theano CNTK Keras CPU IoT MobileInfrastructure GPU MXNet Amazon Polly Amazon Lex Amazon Comprehend Amazon Translate Amazon Transcribe Amazon Rekognition Video Amazon Machine Learning Apache Spark Amazon EMR Amazon Kinesis AWS Batch Amazon ECS Amazon SageMaker AWS Deep Learning AMI (Amazon Linux / Ubuntu / Windows) AWSが提供するMLサービススタック
  75. 75. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Machine Learning
  76. 76. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Machine Learning ❏ スケーラビリティ: システムの拡張や運⽤を考える必要がない ❏ パッケージ化: テストデータ分割や評価⼿法,予測 API の提供などが組み込まれている Amazon Redshiftアプリケーション Redshift上の取引データ を使ってAmazon MLで 不正取引の抽出を⾏い、 S3に出⼒される結果を Redshiftに戻して利⽤。 2クラス分類 ロジスティック回帰 多クラス分類 多項ロジスティック回帰 回帰分析 線形回帰
  77. 77. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ❏ 直感的でパワフルなサービスコンソールを使って 初期モデルの作成、調査 ❖ データの取得 ❖ モデルのトレーニング、クオリティ評価、微調整 ❖ デプロイと管理 ❏ フル機能のAPIとSDKでモデルのライフサイクル を⾃動化 ❖ Java, Python, .NET, JavaScript, Ruby, Javascript ❏ スマートiOS, AndroidアプリケーションをAWS Mobile SDKで作成可能 Amazon Machine Learning 使いやすく、開発者にとって扱いやすい
  78. 78. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ❏ Amazonで鍛えられた百戦錬磨の内部テクノロジー がベース ❏ アルゴリズムだけの提供ではなく: ❖ スマートなデータ変換 ❖ データ⼊⼒およびモデルクエリーのアラート ❖ 業界のベストプラクティスを内蔵 ❏ ニーズに合わせて成⻑ ❖ 最⼤100GBまでのトレーニングデータに対応 ❖ 10億個の予測を⽣成 ❖ バッチもしくはリアルタイムに予測を取得 Amazon Machine Learning パワフルな機械学習テクノロジー
  79. 79. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ❏ S3, Amazon Redshift, RDS上のMySQLに格納さ れたデータにアクセス ❏ S3に予測を出⼒することで、他のデータフローと 容易にインテグレーション ❏ データアクセスパーミッションのポリシーを、 AWSの認証アクセス管理(IAM)を使って、 詳細な粒度で設定可能 Amazon Machine Learning AWSデータエコシステムとのインテグレーション
  80. 80. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ❏ サーバの準備や管理が不要で、エンドツーエンド のサービスを提供 ❏ ワンクリックで、予測モデルをデプロイ ❏ プログラム可能なクエリーモデルのメタデータに より、⾃動的な再学習ワークフローを実現 ❏ Amazon CloudWatchのメトリクスで、予測の 利⽤パターンをモニター可能 Amazon Machine Learning フルマネージドのモデル&予測サービス
  81. 81. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. モデルの 作成 評価と最適化 予想を得る 1 2 3 Amazon Machine Learning Amazon MLでスマートアプリケーションを作成する
  82. 82. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. モデルの 作成 評価と最適化 予想を得る 1 2 3 Amazon Machine Learning Amazon MLでスマートアプリケーションを作成する ❖ データを指定することで、データソースを作成 ❖ データを検索し、理解する ❖ データを変換し、モデルをトレーニング
  83. 83. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. データソースを作成する >>> import boto >>> ml = boto.connect_machinelearning() >>> ds = ml.create_data_source_from_s3( data_source_id = ’my_datasource', data_spec= { 'DataLocationS3':'s3://bucket/input/', 'DataSchemaLocationS3':'s3://bucket/input/.schema'}, compute_statistics = True)
  84. 84. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. データを調査し、理解する
  85. 85. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. モデルをトレーニングする >>> import boto >>> ml = boto.connect_machinelearning() >>> model = ml.create_ml_model( ml_model_id=’my_model', ml_model_type='REGRESSION', training_data_source_id='my_datasource')
  86. 86. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. モデルの 作成 評価と最適化 予想を得る 1 2 3 Amazon Machine Learning Amazon MLでスマートアプリケーションを作成する ❖ モデルのクオリティを理解する ❖ モデルの解釈を調整する
  87. 87. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. モデルのクオリティを調査する
  88. 88. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. モデルの解釈を調整する
  89. 89. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. モデルの解釈を調整する
  90. 90. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. モデルの 作成 評価と最適化 予想を得る 1 2 3 Amazon Machine Learning Amazon MLでスマートアプリケーションを作成する ❖ バッチ予測 ❖ リアルタイム予測
  91. 91. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. バッチ予測 ❏ ⾮同期、巨⼤なボリュームに対しての予測⽣成 ❏ サーバコンソールもしくはAPIからリクエスト ❏ データソースをバッチで取得するアプリケーションに適している >>> import boto >>> ml = boto.connect_machinelearning() >>> model = ml.create_batch_prediction( batch_prediction_id = 'my_batch_prediction’ batch_prediction_data_source_id = ’my_datasource’ ml_model_id = ’my_model', output_uri = 's3://examplebucket/output/’)
  92. 92. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. リアルタイム予測 ❏ 同期、短い遅延、⾼いスループットで予測を⽣成 ❏ サービスAPI、サーバ、モバイルSDKからリクエスト ❏ 個別のデータレコードに対して、インタラクション処理を実⾏する アプリケーションに適している >>> import boto >>> ml = boto.connect_machinelearning() >>> ml.predict( ml_model_id=’my_model', predict_endpoint=’example_endpoint’, record={’key1':’value1’, ’key2':’value2’}) { 'Prediction': { 'predictedValue': 13.284348, 'details': { 'Algorithm': 'SGD', 'PredictiveModelType': 'REGRESSION’ } } }
  93. 93. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ❏ データ分析/モデルトレーニング/評価: $0.42/インスタンス時 ❏ バッチ予測: $0.10/1000 ❏ リアルタイム予測: $0.10/1000 +1時間毎のキャパシティリザベーションチャージ Amazon Machine Learning 使った分だけ、安価な⽀払い
  94. 94. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon EMR (Elastic MapReduce) • フルマネージドな Hadoop を提供しており,ク ラスタの構築、構成変更、破棄まで管理可能 • HDFS ではなく S3 上のデータを直接読み書き することで、コンピュートとストレージを分離 可能 • ワークロードに応じたクラスタを複数⽴ち上げ て,同⼀データを処理可能 • Spark MLlib や Mahout でスケーラブル機械学習
  95. 95. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 数多くの動画ストリームのインジェストを実現する Amazon Kinesis Video Streams の提供開始 • ⼤量のカメラ(的な)デバイスからアップロードされる,動画スト リームや時系列データを容易に取り扱うことができるマネージド サービス • デバイス側は Producer SDK を利⽤して,Kinesis Video Streams にデータを送信し,Consumer で取得して処理する • バージニア北部,オレゴン,アイルランド,フランクフルト,東京 リージョンで利⽤可能 • 料⾦体系はデータ量依存。Streamに対する投⼊量と読出量、保存量 に対して課⾦される
  96. 96. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon SageMaker
  97. 97. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. end-to-end のフルマネージド機械学習サービス Amazon SageMaker の提供開始 • データサイエンティストや開発者が,容易に機械学習モデルを構築・学習・ 活⽤するためのマネージドサービス • バージニア北部,オハイオ,オレゴン,アイルランドで提供
  98. 98. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ノートブックインスタンスへの素早いアクセス マネジメントコンソールからインスタンスを⽴ち上げて,インスタン ス上の Jupyter Notebook にアクセス (1) (2)
  99. 99. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
  100. 100. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 1. ノートブック上で開発を⾏う 2. 作成した学習⽤のコードを Docker イメージにパッケージする 3. 作成したイメージを ECR にパブリッシュする
  101. 101. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 1. ノートブックインスタンスから,トレーニングジョブを実⾏ 2. SageMaker が ECR からイメージを pull して,S3 上のデータ を使って学習を実施(GPU インスタンスを使うことも,複数イ ンスタンスで分散学習させることも可能) 3. 学習が終了したら,S3 にモデルを出⼒して終了
  102. 102. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 1. 推論⽤の Docker イメージを作成して,ECR にパブリッシュ 2. ノートブックインスタンスから,作成済みデプロイのデプロイを実施 3. SageMaker が ECR からイメージを pull して,指定したインスタン ス数だけ⽴ち上げ,エンドポイントを設定 4. エンドポイントに対して,推論のリクエストを投げることが可能
  103. 103. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. SageMaker の特徴 • ノートブックをブラウザ経由で簡単に⽴ち上げ,開発を ⾏うことができる • 主要なパッケージはすでに⼊っており,必要なパッケージを 後からインストールすることも可能 • Terminal にもアクセスできる • 開発,学習,推論の各プロセスについて,それぞれ個別 で利⽤することが可能 • 推論のエンドポイントはオートスケーリングや A/B テ ストに対応
  104. 104. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. SageMaker のリファレンス • Using Built-in Algorithms with Amazon SageMaker • 主要なアルゴリズムについては,AWS から提供 • データさえあれば,学習〜エンドポイント作成まで aws cli のみで実 施可能 • Amazon SageMaker Examples • scikit-learn, MXNet, Tensorflow などさまざまなフレームワークを 使った SageMaker での開発サンプルがある • MXNet や Tensorflow は既存のコンテナイメージを利⽤可能 • 必要に応じて SageMaker の Python SDK も参照 • http://docs.aws.amazon.com/sagemaker/latest/dg/algos.html • https://github.com/awslabs/amazon-sagemaker-examples • https://github.com/aws/sagemaker-python-sdk/
  105. 105. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Agenda • Deep Learning, Machine Learning, Artificial Intelligence • What is Deep Learning ? • Amazon AI and Machine Learning • Use Cases
  106. 106. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Polly 主なユースケース例: ⾳声コンテンツの作成 教育& Eラーニング モバイル&デスクトップアプリケーション カスタマーコンタクトセンター Internet of Things (IoT) ユーザ補助機能
  107. 107. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. FM和歌⼭様:⼈⼯知能アナウンサー ❑ 完全に⾃動化されたキャスター不要のニュース配信が可能に ❑ 安定してアナウンサーを確保するのが難しい状況でも、タイムリーに ニュース配信が可能 ❑ 今後は災害情報等のタイムリーな発信にも活⽤していく予定
  108. 108. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Rekognition 主なユースケース例: 検索可能な画像ライブラリ 不適切なコンテンツの識別 顔認証ベースのユーザ認証 感情分析 顔の検出 有名⼈の認識
  109. 109. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Tunnel様 : RoomClipにおける画像判定 ❑ 「アップロードされた画像が部屋全体の画像かどうか」を⾃動判定 ❑ Amazon Rekognition で教師データとなる⼤量の画像をラベル化し、 Amazon Machine Learning でモデルを⽣成 ❑ 新しい画像は都度Rekognitionでラベル化し、Amaozn MLで推論 http://engineer.roomclip.jp/entry/20 Amazon Rekognition Amazon Machine Learning ラベル化 学習 教師データ Yes/No 判定対象画像 ラベル化 推論実⾏ 部屋全体?
  110. 110. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. AI サービスによる課題の解決 千株式会社:「はいチーズ!」 https://www.slideshare.net/ShinjiMiyazato/amazon-rekognition-77222459 https://d0.awsstatic.com/events/jp/2017/summit/slide/D2T3-1.pdf
  111. 111. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 画像分割による⼤量の顔認識 https://www.slideshare.net/ShinjiMiyazato/amazon-rekognition-77222459 https://d0.awsstatic.com/events/jp/2017/summit/slide/D2T3-1.pdf 千株式会社:「はいチーズ!」
  112. 112. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. アーキテクチャ 千株式会社:「はいチーズ!」 https://www.slideshare.net/ShinjiMiyazato/amazon-rekognition-77222459 https://d0.awsstatic.com/events/jp/2017/summit/slide/D2T3-1.pdf
  113. 113. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ケーススタディ:旅⾏とおもてなし 顔認識と感情捕捉に Rekognition を利⽤したホテルでの先験的なお客様体験 フロントスタッフとお客様の関係向上を⼿助けするため、Rekognition を利⽤: ❖ 早期にお客様を認識し、パーソナライズされたサービスをすばやく提供する ❖ リッチで状況に則したお客様の情報をリアルタイムに受信する ❖ 滞在中のお客様の感情を捉える ❖ お客様の満⾜度を 80% 向上 “Kaliber は来店されたお客様と親密な絆を築く ことを可能にする.” – GM of a 5-star property
  114. 114. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ケーススタディ:旅⾏とおもてなし お客様のワークフロー お客様来店 認識 ご挨拶 アクションを引き起 こす感情を捉えるパーソナライズされた サービスを楽しむ ⼤切なお客様とお別れする
  115. 115. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. hotel ケーススタディ:旅⾏とおもてなし 簡素化されたアーキテクチャ 単⼀マスターゲストコレク ションが、単⼀ワークフ ローデプロイを可能にする お客様を認識するとリアルタイム 情報検索が実⾏される ⾃動化されたAWS上の パイプライン処理が信 頼性を向上する ⾃動化された画像サン プリングが絶えず認識 精度を向上する
  116. 116. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ケーススタディ:メディア 8つのネットワークでカメラに映っている⼈物を特定し、録画した動画を インデックス化・検索できるようにする Rekognition を活⽤し、動画のフレームからサンプリングした画像に対して顔認識を適⽤ ❏ 99,000 ⼈の顔画像を 1 ⽇でインデックス ❏ 6 秒ごとにフレームをサンプリング ❏ 画像を S3 にアップロードして,Rekognition で最も⼀致する顔画像を検索 ❏ メタデータとしてタイムスタンプと顔画像の ID を保存 ❏ 3週間で組み込み ❏ 1年あたり〜9,000時間の労働時間短縮
  117. 117. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. C-SPAN Indexing Architecture 8拠点からエンコードされた ビデオフィード 抽出されたフレームがJPG化 され、S3に保存される Amazon SQS による ⾮同期処理化 類似度の⾼い顔を Rekognitionで探す 検索/発⾒リクエスト 結果をキャッシュ シーンが⼗分に変化したかどうかを 検出する
  118. 118. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
  119. 119. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
  120. 120. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
  121. 121. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Lex 主なユースケース例: 予約のスケジューリング カスタマーサポート インフォメーションサービス 企業データへのアクセス Internet of Things (IoT)
  122. 122. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Rekognition/Polly/Lex ユースケース: Motorola Solutions ❏ 警察官が利⽤できるデバイス, サービスを提供 ❏ 不明者の発⾒にAmazonの画像認識、⾳声認識を活⽤ AWS re:Invent 2016: Machine Learning State of the Union Mini Con (MAC206) – YouTube https://youtu.be/HqsUfyu0XJc?t=1833 ❖ カメラでリアルタイムに顔を抽出して AWS に送信 ❖ DBにデータを保存して Rekognition に顔認識顔リクエストを送信 ❖ マッチしたら、イベントでPollyを呼び 出して、⾳声でアラートを通知
  123. 123. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. AWSのお客様による機会学習その他取り組み事例 Zillow 不動産価格推定 (Apache Sparkを使⽤) Howard Hughes Corp ⾼級不動産の購⼊⾒込み客スコアリング FINRA 異常検知, 系列マッチング, 回帰分析, ネット ワーク分析 Netflix レコメンドエンジン Pinterest 画像検索 Fraud.net オンライン不正⽀払の検知 DataXu ⼤規模な⾃動機械学習処理 (Amazon EMR + Spark) Mapillary クラウドソーシング地図に対するコンピュー タビジョンの適⽤ Hudl スポーツ映像の予測分析 Upserve レストランの座席管理とPOSをもとにした顧 客動向の予測 TuSimple ⾃動運転へのコンピュータビジョンの適⽤ Clarifai コンピュータビジョン API
  124. 124. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Thank you!
  125. 125. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Appendix
  126. 126. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Services Amazon Rekognition Image Platform Engines TensorFlow Caffe Torch Theano CNTK Keras CPU IoT MobileInfrastructure GPU MXNet Amazon Polly Amazon Lex Amazon Comprehend Amazon Translate Amazon Transcribe Amazon Rekognition Video Amazon Machine Learning Apache Spark Amazon EMR Amazon Kinesis AWS Batch Amazon ECS Amazon SageMaker AWS Deep Learning AMI (Amazon Linux / Ubuntu / Windows) AWSが提供するMLサービススタック
  127. 127. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Infrastructure • P2 Instance • GPUアクセラレータNVIDIA Tesla K80を最⼤16個搭載可能 • ⼤量のGPUを使うことでディープラーニングのモデル構築にか かる時間を⼤幅に短縮可能 Instance Name GPU Count Memory GPU Memory Network Performance p2.xlarge 1 61GiB 12 GiB High p2.8xlarge 8 488GiB 96 GiB 10 Gigabit p2.16xlarge 16 732GiB 192 GiB 20 Gigabit
  128. 128. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. • • • NVIDIA Roadmap (GTC 2017) Instance Name GPU Count Memory GPU Memory Network Performance p3.2xlarge 1 61GiB 16 GiB Up to 10 Gbps p3.8xlarge 4 244GiB 64 GiB 10 Gbps p3.16xlarge 8 488GiB 128 GiB 25 Gbps
  129. 129. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. EC2の新インスタンスファミリ C5 AVX-512 命令セットを利⽤可能で,機械学習やマルチメ ディア,科学技術計算などに向く Instance Name vCPUs RAM EBS Bandwidth Network Bandwidth c5.large 2 4 GiB Up to 2.25 Gbps Up to 10 Gbps c5.xlarge 4 8 GiB Up to 2.25 Gbps Up to 10 Gbps c5.2xlarge 8 16 GiB Up to 2.25 Gbps Up to 10 Gbps c5.4xlarge 16 32 GiB 2.25 Gbps Up to 10 Gbps c5.9xlarge 36 72 GiB 4.5 Gbps 10 Gbps c5.18xlarge 72 144 GiB 9 Gbps 25 Gbps
  130. 130. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ディープラーニングモデルで推論可能なビデオカメラ デバイス AWS DeepLens を提供開始 • カメラデバイスに内蔵されたコンピューティ ングリソースで深層学習モデルによる推論を 実現 • 1080Pの映像に対応し,マイクアレイを内蔵. 8GB のメモリと Intel ATOM IoT プロセッ サによる処理を実⾏する • Greengrass Core が内蔵されており MXNet / TensorFlow / Caffe2をサポート
  131. 131. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. AWS DeepLens によるエッジでの顔検出 たとえば,顔が検出されたときのみ Rekognition Video に動画を送ることが 可能となる
  132. 132. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Services Amazon Rekognition Image Platform Engines TensorFlow Caffe Torch Theano CNTK Keras CPU IoT MobileInfrastructure GPU MXNet Amazon Polly Amazon Lex Amazon Comprehend Amazon Translate Amazon Transcribe Amazon Rekognition Video Amazon Machine Learning Apache Spark Amazon EMR Amazon Kinesis AWS Batch Amazon ECS Amazon SageMaker AWS Deep Learning AMI (Amazon Linux / Ubuntu / Windows)
  133. 133. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. AI Engines and Hardware • 代表的なDeep Learning Framework • Apache MXNet、TensorFlow、Theano、Caffe、Caffe2、 CNTK、Torch、Keras、Chainer、DSSTNE、Paddle…etc
  134. 134. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. AWS Deep Learning AMI MXNet TensorFlow Caffe & Caffe2 Theano Cognitive Toolkit Torch Keras Nvidia CUDA & cuDNN Python 2 & Python 3 Intel MKL Anaconda Amazon EC2 (Amazon Linux / Ubuntu) • • •
  135. 135. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. AWSは MXNet を全⾯的にサポート • マルチ GPU でのスケーラビリティに優れている • AWS 社員もコミッターとして活躍 • CloudFormation で MXNet クラスタを構築するテンプレート を提供 http://aws.typepad.com/sajp/2016/11/mxnet-default-framework-deep-learning-aws.html
  136. 136. © 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved. End Amazon Web Service Japan K.K.

×