Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

JAWS-UG AI支部 #2 re:Invent アップデート

524 views

Published on

re:Inventの発表を中心に、AI関係の最新情報をまとめました。

Published in: Internet
  • Be the first to comment

  • Be the first to like this

JAWS-UG AI支部 #2 re:Invent アップデート

  1. 1. 1 JAWS-AI re:Inventアップデート 2016年12月9日 アマゾン ウェブ サービス ジャパン株式会社 ソリューションアーキテクト 松尾康博
  2. 2. 2 Who am I ? • 名前 – 松尾康博 • 所属 – アマゾンウェブサービスジャパン株式会社 – ソリューションアーキテクト – 製造業のHPC、CAE、ビッグデータ解析等を主に担当 • 経歴 – 九州大学でスパコンの効率化研究 – SIerで 分散キューの開発・導入、分散処理研究 – Web系スタートアップCTO – SIerで仮想化基盤の研究・導入・運用 – 現職
  3. 3. 3 Amazonと機械学習
  4. 4. 4 Amazonでの取組み Amazon robotics
  5. 5. 5 Amazon 画像検索 & 音声検索 http://www.gizmodo.jp/2015/07/_amazon_1.html
  6. 6. 6 クラウド上で音声認識能力を継続的に改善し、インター フェースとして活用 Alexa, play Bruno Mars from Prime Music (ブルーノ・マーズの曲をかけてく ださい) Alexa, turn on the lights (ライトをつけてください)
  7. 7. 7 Amazon Go https://www.amazon.com/go
  8. 8. 8
  9. 9. 9 開催概要 • AWSの世界最大のカンファレンス • 「学習型カンファレンス」であることが 特徴で、参加者が自ら学ぶための機会を 多数ご用意 – 2016年11月29日-12月2日 – ラスベガスの3カ所のホテルにて • ベネチアン(本会場) • アンコール(サブ会場) • ミラージュ(サブ会場) – 30,000人以上の参加者 – 日本から700名以上のお客さまがご参加
  10. 10. 10 コンテンツ • 基調講演と新サービス発表 • 450以上のセッション • スペシャルナイトイベント • ブートキャンプ&ハッカソン • re:Invent Central(展示ブース) • AWS認定試験&ラウンジ • セルフペースドラボ • 様々なイベント – ウェルカムレセプション、パブクロール、 re:Playパーティなどの各種エンターテイン メントも盛りだくさん
  11. 11. 11 キーノート by Andy Jassy
  12. 12. 12 キーノート by Werner Vogels
  13. 13. 13 GameDay
  14. 14. 14 ブレイクアウトセッション
  15. 15. 15 re:Invent Central(展示ブース)
  16. 16. 16 ハンズオンラボ&ラウンジ
  17. 17. 17 ブートキャンプ
  18. 18. 18
  19. 19. 19 Machine Learning Session at re:Invent 2016 https://www.portal.reinvent.awsevents.com/connect/search.ww#loadSearch- searchPhrase=MAC3+MAC2+MAC4&searchType=session&tc=0&sortBy=abbreviationSort&p=
  20. 20. 20 https://www.youtube.com/playlist?list=PLhr1KZpdzukexYSNcIj9iBbmn9jYKu2pu
  21. 21. 21 Amazon Rekognition Deep learning-based image recognition service Search, verify, and organize millions of images Object and Scene Detection Facial Analysis Face Comparison Facial Recognition
  22. 22. 22 Amazon Rekognitionを発表 • 深層学習の技術を利用した画像認識のマ ネージドサービス • 学習済みモデルを利用して、画像の「状 況」「人物の顔」「物体」を検出 • S3に格納した画像に対して解析を行うこと で、マッチする状況や物体名を受け取れる • バージニア、オレゴン、アイルランドの リージョンで利用可能。月5,000回の認識 と年間1,000個の顔ベクトル情報まで無料 利用枠の対象となり、以後従量課金制 ※動作イメージ Apple!! https://aws.amazon.com/rekognition/ https://aws.amazon.com/jp/blogs/news/amazon-rekognition-image-detection-and-recognition-powered-by-deep-learning/
  23. 23. 23 Amazon Rekognitionを発表
  24. 24. 24 Amazon Rekognition - Deep Learning Process Conv 1 Conv 2 Conv n … … Feature Maps Labrador Dog Beach Outdoors Softmax Probability Fully Connected Layer
  25. 25. 25 Amazon Pollyを発表 • フルマネージド型の”Text-to-speech”機能を提供 する新サービス。APIを利用して文章をPollyに渡す と音声ストリームまたはファイルの形式で音声化 • 24の言語、47種類のボイス(男性、女性)に対応。 日本語もサポートしている • プロ声優による音声。Pollyで出力された音声デー タは自由に利用できる • バージニアとオレゴン、アイルランド、オハイオ のリージョンでプレビュー提供を開始 Open the pod bay door please, HAL. Open the pod bay door please, HAL. https://aws.amazon.com/polly/ https://aws.amazon.com/jp/blogs/news/polly-text-to-speech-in-47-voices-and-24-languages/
  26. 26. 26 Amazon Pollyを発表 • 料金体系は従量課金 – 5,000,000文字までは無料 – 以後、1文字あたり$0.000004 • 英語の場合、一般的に1分の音声出力で概ね $0.004くらいの課金になる
  27. 27. 27 Polly – Language Portfolio Americas: • Brazilian Portuguese • Canadian French • English (US) • Spanish (US) A-PAC: • Australian English • Indian English • Japanese EMEA: • Danish • Dutch • British English • French • German • Icelandic • Italian • Norwegian • Polish • Portuguese • Romanian • Russian • Spanish • Swedish • Turkish • Welsh • Welsh English
  28. 28. 28 Text and Speech Language Understanding Speech Recognition Natural Language Understanding Powered by the same Deep Learning technology as Alexa
  29. 29. 29 Amazon Lexを発表 • 音声またはテキストメッセージに応答するチャッ トボット開発を容易にするサービス。Amazon Alexaと同等の自然言語エージェントを開発可能に • 自然言語の入力を解析しその意味合いに応じたア プリケーションコードを実行することにより、 ユーザとのインタラクションを実現 • バージニアリージョンでプレビュー中。10,000テ キストと5,000音声の入力まで利用開始から1年間 は無料。以後1,000テキストあたり$0.75、1,000 音声あたり$4.00となる • https://aws.amazon.com/lex/ https://aws.amazon.com/jp/blogs/news/amazon-lex-build-conversational-voice-text-interfaces/
  30. 30. 30 Amazon Lexを発表
  31. 31. 31 Mobile Hub SaaS Connector Amazon API Gateway AWS Lambda Amazon API Gateway AWS Lambda Mobile Hub Custom Connector Business Application Firewall Mobile App Amazon Lex Enterprise SaaS Connectors with Mobile Hub AWS Lambda
  32. 32. 32 AWSで機械学習
  33. 33. 33 • NVIDIA K80を最大16GPU搭載 • 計192GBのGPUメモリと 約40,000 CUDAコアを搭載 • 1台で70TFlops(単精度浮動小数点演算)を実現 • 1台で23TFlops(倍精度浮動小数点演算)を実現 • GPUDirect™によるpeer-to-peer 接続をサポート Instance Name GPU Count vCPU Count Memory Parallel Processing Cores GPU Memory Network Performance P2.xlarge 1 4 61GiB 2,496 12 GiB High P2.8xlarge 8 32 488GiB 19,968 96 GiB 10 Gigabit P2.16xlarge 16 64 732GiB 39,936 192 GiB 20 Gigabit <インスタンスサイズ> GPU搭載:P2インスタンス https://aws.amazon.com/jp/blogs/news/new-p2-instance-type-for-amazon-ec2-up-to-16-gpus/ バージニア・オレゴン・アイルランド の3リージョンで提供中
  34. 34. 34 C5インスタンスを発表(2017年予定) • コンピューティング最適化 C4の後継として、 SkylakeコアのXeonを搭載したC5を発表 • 前世代のHaswell(C4に搭載)と比較して、 AVX-512命令セットが利用可能で機械学習や マルチメディア、科学技術計算などに最適 • 6種類のサイズを提供し、 最大で72vCPU、144GBメモリを搭載 • Elastic Network Adaptor(ENA)をサポートし、 EBS最適化オプションがデフォルトで有効 C5 AWSブログ:EC2インスタンスタイプのアップデート – T2, R4, F1, Elastic GPUs, I3, C5 https://aws.amazon.com/jp/blogs/news/ec2-instance-type-update-t2-r4-f1-elastic-gpus-i3-c5/
  35. 35. 35 F1インスタンスを発表(開発者プレビュー開始) • FPGAを搭載し高性能計算用途に最適なF1を発表 • Intel Xeon E5-2686v4(2.3GHz, Turbo mode対応)と 1個から8個のFPGA(Xilinx UltraScale+ VU9P)、最大 976GBメモリ、4TBのNVMe接続のSSDを利用可能 • 開発/テスト用AMIも提供。パッケージ化したAmazon FPGA Image(AFI)はAWS Marketplaceに公開可 • サンプルアプリケーションなどはF1 Hardware Development Kit(HDK)として提供 • バージニアリージョンにて開発者プレビューを開始。 他リージョンへの展開も準備中 F1 AWSブログ:開発者プレビュー ー EC2 Instances (F1) with Programmable Hardware https://aws.amazon.com/jp/blogs/news/developer-preview-ec2-instances-f1-with-programmable-hardware/
  36. 36. 36 容易にGPUインスタンスを利用するには
  37. 37. 37 NVIDIA製AMI https://aws.amazon.com/marketplace/seller-profile?id=c568fe05-e33b-411c-b0ab-047218431da9 • Windows Server + Driver • CUDA7.5 + Amazon Linux • DIGITS4 + Ubuntu 14.04 • etc.
  38. 38. 38 AWS製AMIも https://aws.amazon.com/marketplace/pp/B01M0AXXQB?qid=1475211685369&sr=0-1&ref_=srh_res_product_title プリインストール済み • MXNet • Caffe • Tensorflow • Theano • Torch ※要CUDAインストールCUDA込みAMI出ました
  39. 39. 39 Deep Learning AMIは随時更新中 ※Oregon Region ※2016/12/6時点
  40. 40. 40 MXNet at AWS
  41. 41. 41 AWSはMXNetを深層学習フレームワークとして選択 http://aws.typepad.com/sajp/2016/11/mxnet-default-framework-deep-learning-aws.html http://www.allthingsdistributed.com/2016/11/mxnet-default-framework-deep-learning-aws.html
  42. 42. 42 MXNetとは • オープンソース – Apache-2 ライセンス • 発祥 – ワシントン大学、カーネギーメロン大学 • サポートモデル – Convolutional Neural Networks (CNN) – Long Short-Term Memory (LSTM) • スケーラブル – 線形にスケールし、学習モデルを高速に作成 • 多くの言語に対応 – Scala, Python, R等。 Sparkとの連携も容易 • エコシステム – 産学に多くのコミュニテイ http://mxnet.io/ https://github.com/dmlc/mxnet
  43. 43. 43 MXNet への AWSの投資 • 開発ツール – AMIやCloudFormationテンプレートにより、モデル学習の開発・可視化を早く • ドキュメント – 多くのユースケース、ハウツー等に対応するドキュメント • 移行ツール – Caffeやその他フレームワークからの移行ツール、Kerasとの連携ツール • エコシステム – ワークショップ、パートナー、ブログ、AWSサービスと連携したアーキテク チャの公開
  44. 44. 44 複数GPUでのスケーラビリティ 有名な画像分析アルゴリズムInception v3 を、MXNetで実装しP2インスタンスで実行 スケーリング効率85%
  45. 45. 45 MXNET用クラスタをサクッと構築する機能も https://aws.amazon.com/blogs/compute/distributed-deep-learning-made-easy/ https://github.com/dmlc/mxnet/tree/master/tools/cfn
  46. 46. 46 AWS社員もコミッターとして貢献中
  47. 47. 47

×