[Microsoft Cognitive Toolkit (CNTK) on Azure ハンズオン] Microsoft Azure の AI 関連サービス

7. • • ・・・・・・・・・・・・・・・・・・・・・・・・・

8. Platform Services Infrastructure Services Web Apps Mobile Apps API Management API Apps Logic Apps Notification Hubs Content Delivery Network (CDN) Media Services BizTalk Services Hybrid Connections Service Bus Storage Queues Hybrid Operations Backup StorSimple Azure Site Recovery Import/Export SQL Database DocumentDB Redis Cache Azure Search Storage Tables Data Warehouse Azure AD Health Monitoring AD Privileged Identity Management Operational Analytics Cloud Services Batch RemoteApp Service Fabric Visual Studio App Insights Azure SDK VS Online Domain Services HDInsight Machine Learning Stream Analytics Data Factory Event Hubs Mobile Engagement Data Lake IoT Hub Data Catalog Security & Management Azure Active Directory Multi-Factor Authentication Automation Portal Key Vault Store/ Marketplace VM Image Gallery & VM Depot Azure AD B2C Scheduler The Azure Platform

9. 99 アクション人自動化されたシステムアプリ Web モバイル Bots インテリジェンスダッシュボード & 可視化 Cortana Bot Framework Cognitive Services Power BI データの取得 Event Hubs Data Catalog Data Factory 機械学習/分析 HDInsight (Hadoop and Spark) Stream Analytics インテリジェンス Data Lake Analytics Machine Learning データの格納 SQL Data Warehouse Data Lake Store データソースアプリセンサー/ デバイスデータ企業内に散在するデータを収集し、整理し、分析/学習し、アクションにつなげる End-to-Endのサービスを提供

10. Microsoft の AI 分野での取り組み Bing maps 提供開始目的地への最短経路 Microsoft Research 設立 Hotmail 提供開始迷惑メールの判別 Bing search 提供開始最適な検索結果 1991 20091997 2008 Kinect 販売開始人の動きを認識する Azure ML 提供開始将来起こることの予測 Skype Translator 提供開始人の言葉を認識する 2014 20152010 CNTK OSS公開深層学習ツールキット 2016 Cognitive Services 提供開始知覚・記憶・判断・推理 2016 クラウドロボティクス分野戦略提携 Pepper による次世代型店舗 2016 Microsoft AI and Research Group 設立 2016 りんな提供開始会話型 AI 2015

11. LINE：女子高生人工知能「りんな」 https://blogs.bing.com/japan/2015/08/07/aijk_rinna/

14. Microsoft Cognitive Services とは Web API 経由で利用できる “人工知能パーツ”

17. Microsoft Cognitive Services 一覧 Face Computer Vision Emotion Video Speaker Recognition Custom Recognition Bing Speech Linguistic Analysis Language Understanding Bing Spell Check Web Language Model Text Analytics Knowledge Exploration Entity Linking Academic Knowledge Recommendations Bing Image Search Bing Video Search Bing Web Search Bing Autosuggest Bing News Search Translator Content Moderator

18. 18 Cognitive Services：Face API 画像を分析し、複数人の顔を自動認識。顔検知機能、顔のグルーピング機能、顔の人物特定機能などを提供する https://www.microsoft.com/cognitive-services/en-us/face-api 顔から人物を特定 210人の顔を登録 2秒弱で特定完了

19. 19 Cognitive Services：Emotion API 画像や動画を分析し、人の感情を自動的に認識。怒り・軽蔑・嫌悪・怖れ・幸福・中立・悲しみ・驚きの８つの要素を確率で回答 https://www.microsoft.com/cognitive-services/en-us/emotion-api 感情を自動認識

20. 20 Cognitive Services：Computer Vision API 画像を分析し、2,000 に及ぶ物体を自動的に認識。自動タグ生成機能、自動説明機能、OCR 機能、サムネイル機能などを提供する https://www.microsoft.com/cognitive-services/en-us/computer-vision-api 写真の中にある物体を自動認識しタグとして生成

21. Cognitive Services：Video API 動画の安定化機能、動画から人の顔を認識・トラッキングする機能、動きを自動的に検出する機能、サムネイル動画を自動作成する機能などを提供 https://www.microsoft.com/cognitive-services/en-us/video-api 動画の揺れを自動補正して、安定化動画の中から人の顔を認識し自動的に追跡

22. Cognitive Services：Bing Speech API 音声を認識しテキスト化する機能、テキストを認識し音声出力する機能などを提供 https://www.microsoft.com/cognitive-services/en-us/speech-api 話している内容を自動的にテキスト化

23. Cognitive Services：LUIS API 会話を学習し、会話の内容から何をしたいのかを理解する https://www.microsoft.com/cognitive-services/en-us/language- understanding-intelligent-service-luis 航空券予約であることを認識 (86%の信頼確率)

24. Cognitive Services：Text Analytics API テキストを解析し、言語の自動特定、キーフレーズの自動抽出、ポジティブかネガティブかの感情の自動判別を行う https://www.microsoft.com/cognitive-services/en-us/text-analytics-api 文章からキーフレーズを自動認識

25. 日本語の入力を分析するには？ Language: ja keyPhrases: Azure

26. CognitiveServicesで広がるサービスの可能性製品の評判分析、要求分析 “(want to|request)” HoloLens ・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・

27. Computer Vision APIとBing Speech API 組み合わせ例画像ファイルテキストファイル画像ファイルの送信テキストファイル生成撮影（画像ファイル生成検知）実行スクリプト画像表示・キャプション発声（HTML/JavaScript）周期監視 Computer Vision API Describe Image機能 Microsoft Cognitive Services Bing Speech API Text To Speech機能組み込みWebサーバ SDカード合成音声で発声 ”a cat is sitting in the grass” ”a cat is sitting in the grass” a cat is sitting in the grass

28. Face APIとBing Speech API 組み合わせ例カメラカメラの前にいる人の画像音声ガイダンス「写真を撮ってください」 ID用カメラ写真付ID 音声ガイダンス「コードを入力してください」カメラ画像とID の画像を照合アプリケーションの利用音声ガイダンス「確認できました」

29. Cognitive Services 活用事例

30. Cognitive Services 活用事例 The Economist Election 2016 Emotion Tracking

31. Cognitive Services 事例：対話型自動販売機 http://www.nri.com/Home/jp/news/2015/151221_1.aspx

32. Cognitive Services 事例：顔認識による Pepper 応対 http://www.headwaters.co.jp/news/pepper/SynApps.html

33. Cognitive Services 活用事例株式会社アロバ様アロバビューコーロ

34. Cognitive Services 料金体系基本的に無料 https://www.microsoft.com/ cognitive- services/en-us/pricing https://www.luis.ai/ https://www.cris.ai/ https://portal.azure.com

35. Microsoft Bot Framework Bot とは? Bot Framework とは?

36. ダイアログ形式のコミュニケーションを実装 (C#, Node.js) BOT アプリをメッセージングサービスに接続 Bing, Cortana などから利用できるディレクトリに登録 Microsoft Bot Framework BOT アプリを容易に作成するフレームワーク

37. Bot Framework 活用事例株式会社ZEALS 様 BOT TREE for MEDIA

38. Bot Framework 活用事例高知銀行 (株式会社NextStreamer & 株式会社ブイキューブ) 店頭受付応答BOT「頭取くんと秘書子ちゃん」

39. AI & Bot に注目する理由 • いつでもどこでも • ユーザーが使い慣れたツールを経由して、商品やサービスを提供可能 • 自然言語に近く、意図を類推しやすい • パーソナライズ、パターン化などによる定型処理

40. MicrosoftCognitiveServicesをおススメする理由簡単フレキシブル実績数行のコードを追加するだけ Web API でアクセス開発言語やプラットフォームを問わず利用可能マイクロソフトのあらゆる分野のテクノロジー開発から誕生 GET A KEY

41. 情報リソース Cognitive Services サービス解説 https://docs.com/decode2016/1562/dbp-018-ai-microsoft-cognitive-services Cognitive Services ハンズオン http://aka.ms/cogbot01_HOL1 http://aka.ms/cogbot01_HOL2

42. 42

43. 43 ※ Wikipedia より引用定型レポート（SSRS）セルフサービス BI （Power BI）マシンラーニング（Azure ML）機械学習とデータマイニングは交差する部分が大きく、技法も同じなので混同されることが多いが、次のように定義できる。 • 機械学習の目的は、訓練データから学んだ「既知」の特徴に基づく予測である。 • データマイニングの目的は、それまで「未知」だったデータの特徴を発見することである。

44. • レコメンデーション • 同じ商品を買った人が買った別のアイテムをお勧め商品として提示 • 同じ属性を持った人が買った商品をお勧め商品として提示 • 分類 • メール本文・タイトルの内容からスパムメールの分類 • Web サイトの行動履歴から不正ユーザの検出 • 異常検知 • センサー情報に基づく機械故障予測 • NW アクセス情報から不正アクセスや攻撃を検知 • ユーザ属性の推定 • 属性情報が完全に取れているお客様のデータから、属性情報に欠損のあるお客様の属性情報を推定 44

45. 4545 機械学習教師あり学習教師なし学習強化学習決定木線形回帰 SVM ロジスティック回帰ニューラルネットワーククラスタリング次元削減 Q学習 K-mean法主成分分析正準相関分析ディープニューラルネットワーク畳みこみニューラルネットワーク再帰的ニューラルネットワーク回帰結合ニューラルネットワーク

46. • クラウドベースの機械学習実行基盤 • 機械学習の「モデル作成」「モデルの評価」から、作成した分析モデルのデプロイ（ Web サービス化）まで、機械学習の開発～サービス提供で必要となるすべてのコンポーネントを PaaS で提供 Microsoft Azure Machine Learning 開発環境予測モデルのデプロイ（ Web サービス） 46

47. 熟練者のノウハウをサービス化して世界に展開 47 経営課題 • 高度な予兆保全サービスによる連続稼働性の向上と、低コストの保守ビジネスによる利益確保を両立したい • 急成長するアジア市場で保守技術者の大量育成が必要効果解決策 “我々は予防保全の業界標準の先を行き、先取りした予兆的な保全を行うことにより、より高い稼働時間を保証したかった” ANDREAS SCHIERENBECK CEO ThyssenKrupp Elevator • ThyssenKrupp とその顧客の保守費用を削減 • 予測モデルの精度を向上し、急成長する市場の未熟な保守技術者も活用 • エレベーターの稼動データをリアルタイムに監視・見える化し、PCやモバイルでどこでも活用 • 問題発生時の対処方法のノウハウを機械学習でシステムに学ばせ世界中に展開

48. 4848 デバイス・コネクティビティデータ収集とブローカーサービスイベント処理とデバイス管理データ管理（変換・蓄積・処理）高度な分析 (Big Data 処理) データの提供と表現・気づきモビリティとコラボレーション ISS Agent ISS Gateway Event Hub Blob Storage マシンデータの蓄積 Azure ML 予兆の学習モデル Azure ML 修繕方法の学習モデルダッシュボード参照 • 顧客 • 設備 • 担当者 Notification Hubs 通知予兆イベント修繕方法の推奨 • ヘルス状態 • インシデント管理 • 対応のディスパッチ現地技術要員のモバイルデバイスオペレーションセンター Power BI セルフサービス分析『ThyssenKrupp teams up with Microsoft to create ‘smart’ elevators』 http://blogs.microsoft.com/firehose/2014/09/30/thyssenkrupp-teams-up-with-microsoft-to-create-smart-elevators/ 数千のシステムとセンサーデータ • イベント : ✓ドア開閉、軸アライメント、キャビン速度、モーター温度など • アラーム : ✓故障アラーム、エラーコードなど

49. Azure ML を用いてビルの熱源・動力の制御モデルを構築し、自動制御を実施 49 ① 建物の情報を Microsoft Azureにリアルタイム送信 ② 機械学習 Microsoft Azure Machine Learning によりデータを解析・学習し、建物にフィードバックこれまでのビル設備管理は“経験と勘”に頼っていたが、今回の連携とクラウド化によって、実データに基づく制御モデルの構築や管理の自動化が可能となり、ビルの使用エネルギー効率化と管理負担の軽減が実現する

50. ビジネス課題 • ゲーム開始直後 (3ヶ月以内) に解約する会員の増加 • 解約が予期される会員への早期のアクションが必要 • アクティブ期間が伸びるほど収益への影響が大きい利用データ最初の3日間の下記データを基に150以上のパターン化(数十TB以上) • Engagement（各セッションや日毎の利用時間） • Performance（ランキング、勝利数、敗退数） • Social（友人や他ユーザーとの同時プレイ数）モデリング • パターン化されたユーザー毎に次の7日間の行動を分析 • 1 週間分のデータを基にモデルのテストを実施（Boosted Decision Tree を活用）効果  ランダム抽出による従来の分析方法に比較して、3倍以上の精度で解約する会員を特定  AUC*：0.779  影響を与えた主要な項目：・友人とのプレイ数・3日目のプレイ数・3日目のプレイヤーの Grade *AUC (Area under the carve) AUC 0.9 - 1.0 High accuracy AUC 0.9 - 0.7 Moderate accuracy AUC 0.5 - 0.7 Low accuracy

51. 5151

52. 5252 ビジネス課題 • 口コミサイトの削除対象投稿を人手により監視 • キーワード検索では精度が悪い • 投稿内容を熟読し、削除の有無を判断するため、非常に工数がかかるモデリング • 日本語の形態素解析 (分かち書き) のソフトウエアとAzure MLを組み合わせ、削除対象投稿を抽出 • 品詞の抽出方法(名詞のみ、名詞＋動詞＋形容詞等)とアルゴリズムの組み合わせを総当たりでテストし、精度を向上効果 • Azure MLが削除対象投稿を判断してくれるようになったため、作業が非常に楽になった *AUC (Area under the carve) AUC 0.9 - 1.0 High accuracy AUC 0.9 - 0.7 Moderate accuracy AUC 0.5 - 0.7 Low accuracy

53. 53

54. 54

55. 55

56. 56

57. 1. トレーニングデータ（実績データ）の準備 • 予測モデルを作成する為のトレーニングデータ（実績データ）を準備例：顧客属性によるお勧め商品の提示（リコメンデーション）を行いたいのであれば、どういった属性情報のお客様が、どういう商品を買ったのかという実績データが必要 2. 予測モデルの開発と評価 3. 予測モデルの公開（Web サービス） • 作成した予測モデルは、非常に簡単な操作でWebサービスとして公開可能。 57

58. ① 部品をドラッグ＆ドロップ ②各部品のプロパティーを設定 58 Azure ML Studio の基本的な使い方

59. ① 部品をドラッグ＆ドロップ ②各部品のプロパティーを設定 59Azure ML Studio の基本的な使い方

60. 60 性別年齢配偶者子供人数 … 製品カテゴリ男性 19 無 0 1 女性 44 有 2 3 男性 49 有 1 2 男性 12 無 0 3 女性 37 無 0 1 女性 60 有 2 4 男性 44 有 1 2 女性 27 有 0 4 女性 51 有 3 2 女性 81 有 2 1 男性 22 無 0 3 男性 29 無 0 2 トレーニングデータ（実績データ）を元に予測モデルを作成 Azure Machine Learning ではトレーニングデータを使ってモデルの学習を行い、予測モデルを作成性別：男年齢：45 配偶者：有子供人数：2

61. 61 Azure Machine Learning では、以下のシステム・サービスからトレーニングデータをロード可能 CSV, TSV, ARFF, SvmLight 形式 HDInsight (Hadoop) Azure SQL Database Azure テーブル OData 業務システム OData Training Data Azure Machine Learning

62. Train Model Score Model 検証用データトレーニングデータ Evaluate Model 機械学習アルゴリズム予測モデルの評価予測モデルの見直し • アルゴリズムの変更 • パラメータの見直し

63. 63 トレーニングデータの読込みデータクレンジング・メタデータ設定読み込んだデータを「トレーニングデータ」と「評価用データ」に分割予測モデルの作成に使用するアルゴリズム予測モデルの作成（トレーニング）左インプット：利用するアルゴリズム右インプット：トレーニングデータ作成した予測モデルを評価する為に、評価用データで予測を実行予測結果の評価と可視化

64. 64  ML Studio : Experiments > Evaluate Model > Evaluation Result • True Positive • False Positive • True Negative • False Negative • Accuracy • Precision • Recall • F1 Score • Threshold • AUC ✓ AUC 0.9 - 1.0 High accuracy ✓ AUC 0.9 - 0.7 Moderate accuracy ✓ AUC 0.5 - 0.7 Low accuracy

65. 65

66. 66 ② Web サービスの Input / Output を設定 ③「 PREPARE WEB SERVICE 」ボタンをクリックすると Web サービスが作成される ① Deploy 用の Experiment を作成

67. Training Data Web Service Azure Machine Learning Microsoft Azure 67 Webシステム Azure Blob ストレージ Hive Azure SQL Database Azure テーブル業務システム OData OData HDInsight ( Hadoop ) 他システム Power View 等のデータ分析・可視化ツール Azure Blob ストレージ Azure SQL Database Batch Execution Service Request-Response Service 評価モデル作成 (Training)

68. • Microsoft Azure Machine Learning Center http://azure.microsoft.com/ja-jp/documentation/services/machine-learning/ • Azure Machine Learning Support Forum http://social.msdn.microsoft.com/forums/azure/en-US/home?forum=MachineLearning • Machine Learning Blog http://blogs.technet.com/b/machinelearning/ 68

69. 69

70. Cognitive Toolkit | Caffe | TensorFlow | Torch

71. Cognitive Toolkit (旧称 CNTK)とは多様な種類の深層学習アプリケーションに対応オープンソース • 世界記録を達成した MS Research のスピーチ研究チームが開発 • MIT や Stanford 等の様々な研究者と共同作業で改定中 • Python, C++, BrainScript

72. Microsoft Cognitive Toolkit (CNTK) の性能 Theano only supports 1 GPU We report 8 GPUs (2 machines) for CNTK only as it is the only public toolkit that can scale beyond a single machine. Our system can scale beyond 8 GPUs across multiple machines with superior distributed system performance. 0 10000 20000 30000 40000 50000 60000 70000 80000 CNTK Theano TensorFlow Torch 7 Caffe Speed Comparison (Frames/Second, The Higher the Better) 1 GPU 1 x 4 GPUs 2 x 4 GPUs (8 GPUs) 2015年7月時点

73. Cognitive Toolkit による自動応答システムの実現

74. 学習

75. ディープラーニング向け VM イメージも https://azure.microsoft.com/en-us/marketplace/partners/microsoft-ads/dsvm-deep-learningtoolkit/

[Microsoft Cognitive Toolkit (CNTK) on Azure ハンズオン] Microsoft Azure の AI 関連サービス

[Microsoft Cognitive Toolkit (CNTK) on Azure ハンズオン] Microsoft Azure の AI 関連サービス

Recommended

More Related Content

What's hot

What's hot(20)

Similar to [Microsoft Cognitive Toolkit (CNTK) on Azure ハンズオン] Microsoft Azure の AI 関連サービス

Similar to [Microsoft Cognitive Toolkit (CNTK) on Azure ハンズオン] Microsoft Azure の AI 関連サービス(20)

More from Naoki (Neo) SATO

More from Naoki (Neo) SATO(20)

[Microsoft Cognitive Toolkit (CNTK) on Azure ハンズオン] Microsoft Azure の AI 関連サービス