Edge から Cloud /
Beginner から Professional までサポートする
Azure AI プラットフォーム
日本マイクロソフト パートナー事業本部
松崎 剛
https://tsmatz.wordpress.com/
AI 成熟度モデル (MPN AI Playbook より)
AI API の統合
構築済み AI API を
ソリューションに利用
している
カスタム モデル化
お客様のデータで
トレーニングしたモデルを
展開している
カスタム アルゴリズム
カスタム アルゴリズムを
設計・実装し、アルゴリ
ズムについて深く理解し
ている
特定業種への特化
業界特化型の AI ソリューション
パッケージを提供している
Machine Learning on Azure
洗練されたトレーニング済モデル
ソリューション開発の簡素化
Azure
Databricks
Machine Learning
VMs
使い慣れたフレームワーク
先進的なディープラーニング ソリューションの構築
TensorFlow KerasPytorch Onnx
Azure
Machine Learning
LanguageSpeech
…
Azure
Search
Vision
On-premises Cloud Edge
生産性向上のためのサービス
データ サイエンティストと開発者の支援
強力なインフラストラクチャー
ディープラーニングの加速化
柔軟な配置
インテリジェント クラウドおよびエッジへの展開と管理
Cognitive Services
Computer Vision API
Content Moderator
Bing Spell Check
QnA Maker
Bing Auto Suggest
Face API (Emotion)
Video Indexer
Speaker Recognition API
Text Analytics API
Translator Text API
Bing Visual Search
Bing News Search
Bing Video Search
Bing Web Search
Bing Entity Search
Custom Decision
Gesture
Local Insights
And more…
Anomaly Detector
Knowledge Exploration
Event Tracking
Custom Vision
Language
Understanding
Bing Custom Search
Answer Search
Custom Translator
Custom Voice
Speech to Text,
Text to Speech
Standard Voice
Text to Speech
Neural Voice
Speech Translator,
Custom Speech
Ink Recognizer URL Preview
Bing Local Business Search
Conversation Learner
Personality Chat
Anomaly Finder
Form Recognizer
Content Moderator
Personalizer
Bing Image Search
Ink Analysis
AI の民主化 (1) – Cognitive Services
Computer Vision API
Content Moderator
Bing Spell Check
QnA Maker
Bing Auto Suggest
Face API (Emotion)
Video Indexer
Speaker Recognition API
Text Analytics API
Translator Text API
Bing Visual Search
Bing News Search
Bing Video Search
Bing Web Search
Bing Entity Search
Custom Decision
Gesture
Local Insights
And more…
Anomaly Detector
Knowledge Exploration
Event Tracking
Custom Vision
Language
Understanding
Bing Custom Search
Answer Search
Custom Translator
Custom Voice
Speech to Text,
Text to Speech
Standard Voice
Text to Speech
Neural Voice
Speech Translator,
Custom Speech
Ink Recognizer URL Preview
Bing Local Business Search
Conversation Learner
Personality Chat
Anomaly Finder
Form Recognizer
Content Moderator
Personalizer
Bing Image Search
Ink Analysis
AI の民主化 (1) – Cognitive Services
Computer Vision API
Content Moderator
Bing Spell Check
QnA Maker
Bing Auto Suggest
Face API (Emotion)
Video Indexer
Speaker Recognition API
Text Analytics API
Translator Text API
Bing Visual Search
Bing News Search
Bing Video Search
Bing Web Search
Bing Entity Search
Custom Decision
Gesture
Local Insights
And more…
Anomaly Detector
Knowledge Exploration
Event Tracking
Custom Vision
Language
Understanding
Bing Custom Search
Answer Search
Custom Translator
Custom Voice
Speech to Text,
Text to Speech
Standard Voice
Text to Speech
Neural Voice
Speech Translator,
Custom Speech
Ink Recognizer URL Preview
Bing Local Business Search
Conversation Learner
Personality Chat
Anomaly Finder
Form Recognizer
Content Moderator
Personalizer
Bing Image Search
Ink Analysis
AI の民主化 (1) – Cognitive Services
Container Support
AI の民主化 (2) – Power Platform
Analyze Act Automate
AI の民主化 (2) – Power Platform
Power BI
AI の民主化 (2) – Power Platform
Power BI
AI の民主化 (2) – Power Platform
Power BI
AI の民主化 (2) – Power Platform
Power BI
AI の民主化 (2) – Power Platform
PowerApps
AI の民主化 (2) – Power Platform
AI の民主化 (2) – Power Platform
AI の民主化 (2) – Power Platform
AI の民主化 (2) – Power Platform
PowerApps
AI の民主化 (2) – Power Platform
Machine Learning on Azure
洗練されたトレーニング済モデル
ソリューション開発の簡素化
Azure
Databricks
Machine Learning
VMs
使い慣れたフレームワーク
先進的なディープラーニング ソリューションの構築
TensorFlow KerasPytorch Onnx
Azure
Machine Learning
LanguageSpeech
…
Azure
Search
Vision
On-premises Cloud Edge
生産性向上のためのサービス
データ サイエンティストと開発者の支援
強力なインフラストラクチャー
ディープラーニングの加速化
柔軟な配置
インテリジェント クラウドおよびエッジへの展開と管理
Cognitive Services
ML のライフサイクル管理
Azure Machine Learning service
Azure
AML service workspace
Data Scientist
SDK
Operate
Blob
Provision data
VM with GPUs
Cluster
Mount
Model
Kubernetes
Cluster
Training
Serving
Azure Machine Learning service
Azure
AML service workspace
Data Scientist
SDK
Operate
Blob
Provision data
VM with GPUs
Cluster
Mount
Model
Container
Image
Training
Serving
IoT Hub
Devices
az iot edge set-modules --device-id [device id] --hub-name [hub name] --content ./deployment.json
一般のアプリケーション開発
Model reproducibility Model retrainingModel deploymentModel validation
Build appCollaborate Test app Release app Monitor app
App developer
using Azure DevOps
Data scientist using
Azure Machine Learning
MLOps による機械学習ライフサイクルの自動化
Model reproducibility Model retrainingModel deploymentModel validation
Train
model
Validate
model
Deploy
model
Monitor
model
Build appCollaborate Test app Release app Monitor app
App developer
using Azure DevOps
Data scientist using
Azure Machine Learning
Retrain model
Code
Dataset &
environment
versioning
Azure Machine Learning extension for Azure DevOps
Model reproducibility Model retrainingModel deploymentModel validation
Train
model
Validate
model
Deploy
model
Monitor
model
Build appCollaborate Test app Release app Monitor app
App developer
using Azure DevOps
Data scientist using
Azure Machine Learning
Retrain model
Code
Dataset &
environment
versioning
クラウドで実行するメリット
クラウドでは下記はどちらも同じ Cost
trial01 trial02 trial03 … trial10
trial01
trial02
trial03
trial10
…
(1) 10 times sequential in a single machine
(2) 10 times parallel and stop after execution
Azure Machine Learning service 付加価値
ハイパーパラメータのチューニング Automated Machine Learning
大量データと高度分析 (Batch & Real-time)
INGEST STORE PREP & TRAIN MODEL & SERVE
Azure Blob Storage
Business/custom apps
(Structured)
Logs, files and media
(unstructured)
Azure SQL Data
Warehouse
Azure Analysis
Services
Azure Data Factory
Sensors and IoT
(unstructured)
Azure HDInsight (Kafka)
Azure IoT Hub
Cosmos DB
Predictive apps
Operational Reports
&
Analytical Dashboards
(PowerBI)
SQL Database
SQL
Polybase
Azure Databricks
Structured Streaming を使った分析例
データソース
Apache Kafka (HDInsight)
Initial Stream Processing
Map, Filter, Join, Windowing, …
Structured Streaming を使った分析例
データソース
Apache Kafka (HDInsight)
Databricks
# create streaming dataframe from Kafka
df = spark 
.readStream 
.format("kafka") 
.option("kafka.bootstrap.servers", "host1:port1,host2:port2") 
.option("subscribe", "topic1") 
.option("startingOffsets", "earliest") 
.load()
Structured Streaming を使った分析例
データソース
Apache Kafka (HDInsight)
Databricks
Advanced Analysis (query, inferencing, etc) by cluster
# Watermarking and windowing analysis
windowed_df = (
df
.withWatermark(df.event_time, "10 minutes")
.groupBy(
df.device_id,
window(df.event_time, "5 minutes"))
.count()
)
analyzed_df = model.transform(windowed_df)
...
Structured Streaming を使った分析例
データソース
Apache Kafka (HDInsight)
Databricks
# Sink and Start streaming !
df.writeStream
.format("com.databricks.spark.sqldw")
.option("url", "...")
.option("tempDir", "wasbs://... ")
.option("forwardSparkAzureStorageCredentials", "true")
.option("dbTable", "testTable")
.option("checkpointLocation", "/tmp_checkpoint_location")
.start()
Data Warehouse
Structured Streaming を使った分析例
Input Stream
(Kafka or Event Hub)
Structured
Streaming
(Databricks)
SQL DW
File
Cosmos DB
Event Hub
or Kafka
BI
SEMS
BizApp
Function
Grid
dashboard
logging
transaction
alert or workflow
…
Databricks Delta
Streaming
OPTIMIZE
Columnar ベースの
Parquet データメタデータ +
Databricks Delta
Streaming
OPTIMIZE
Big Data セミナー@10/31
是非ご参加ください
http://aka.ms/bgdev20191031
くらでべ
(Cloud Developer Channel)
http://aka.ms/clouddevch

Edge から Cloud, Beginner から Professional までサポートする Azure AI プラットフォーム

  • 1.
    Edge から Cloud/ Beginner から Professional までサポートする Azure AI プラットフォーム 日本マイクロソフト パートナー事業本部 松崎 剛
  • 2.
  • 3.
    AI 成熟度モデル (MPNAI Playbook より) AI API の統合 構築済み AI API を ソリューションに利用 している カスタム モデル化 お客様のデータで トレーニングしたモデルを 展開している カスタム アルゴリズム カスタム アルゴリズムを 設計・実装し、アルゴリ ズムについて深く理解し ている 特定業種への特化 業界特化型の AI ソリューション パッケージを提供している
  • 4.
    Machine Learning onAzure 洗練されたトレーニング済モデル ソリューション開発の簡素化 Azure Databricks Machine Learning VMs 使い慣れたフレームワーク 先進的なディープラーニング ソリューションの構築 TensorFlow KerasPytorch Onnx Azure Machine Learning LanguageSpeech … Azure Search Vision On-premises Cloud Edge 生産性向上のためのサービス データ サイエンティストと開発者の支援 強力なインフラストラクチャー ディープラーニングの加速化 柔軟な配置 インテリジェント クラウドおよびエッジへの展開と管理 Cognitive Services
  • 5.
    Computer Vision API ContentModerator Bing Spell Check QnA Maker Bing Auto Suggest Face API (Emotion) Video Indexer Speaker Recognition API Text Analytics API Translator Text API Bing Visual Search Bing News Search Bing Video Search Bing Web Search Bing Entity Search Custom Decision Gesture Local Insights And more… Anomaly Detector Knowledge Exploration Event Tracking Custom Vision Language Understanding Bing Custom Search Answer Search Custom Translator Custom Voice Speech to Text, Text to Speech Standard Voice Text to Speech Neural Voice Speech Translator, Custom Speech Ink Recognizer URL Preview Bing Local Business Search Conversation Learner Personality Chat Anomaly Finder Form Recognizer Content Moderator Personalizer Bing Image Search Ink Analysis AI の民主化 (1) – Cognitive Services
  • 6.
    Computer Vision API ContentModerator Bing Spell Check QnA Maker Bing Auto Suggest Face API (Emotion) Video Indexer Speaker Recognition API Text Analytics API Translator Text API Bing Visual Search Bing News Search Bing Video Search Bing Web Search Bing Entity Search Custom Decision Gesture Local Insights And more… Anomaly Detector Knowledge Exploration Event Tracking Custom Vision Language Understanding Bing Custom Search Answer Search Custom Translator Custom Voice Speech to Text, Text to Speech Standard Voice Text to Speech Neural Voice Speech Translator, Custom Speech Ink Recognizer URL Preview Bing Local Business Search Conversation Learner Personality Chat Anomaly Finder Form Recognizer Content Moderator Personalizer Bing Image Search Ink Analysis AI の民主化 (1) – Cognitive Services
  • 7.
    Computer Vision API ContentModerator Bing Spell Check QnA Maker Bing Auto Suggest Face API (Emotion) Video Indexer Speaker Recognition API Text Analytics API Translator Text API Bing Visual Search Bing News Search Bing Video Search Bing Web Search Bing Entity Search Custom Decision Gesture Local Insights And more… Anomaly Detector Knowledge Exploration Event Tracking Custom Vision Language Understanding Bing Custom Search Answer Search Custom Translator Custom Voice Speech to Text, Text to Speech Standard Voice Text to Speech Neural Voice Speech Translator, Custom Speech Ink Recognizer URL Preview Bing Local Business Search Conversation Learner Personality Chat Anomaly Finder Form Recognizer Content Moderator Personalizer Bing Image Search Ink Analysis AI の民主化 (1) – Cognitive Services Container Support
  • 8.
    AI の民主化 (2)– Power Platform Analyze Act Automate
  • 9.
    AI の民主化 (2)– Power Platform Power BI
  • 10.
    AI の民主化 (2)– Power Platform Power BI
  • 11.
    AI の民主化 (2)– Power Platform Power BI
  • 12.
    AI の民主化 (2)– Power Platform Power BI
  • 13.
    AI の民主化 (2)– Power Platform PowerApps
  • 14.
    AI の民主化 (2)– Power Platform
  • 15.
    AI の民主化 (2)– Power Platform
  • 16.
    AI の民主化 (2)– Power Platform
  • 17.
    AI の民主化 (2)– Power Platform PowerApps
  • 18.
    AI の民主化 (2)– Power Platform
  • 19.
    Machine Learning onAzure 洗練されたトレーニング済モデル ソリューション開発の簡素化 Azure Databricks Machine Learning VMs 使い慣れたフレームワーク 先進的なディープラーニング ソリューションの構築 TensorFlow KerasPytorch Onnx Azure Machine Learning LanguageSpeech … Azure Search Vision On-premises Cloud Edge 生産性向上のためのサービス データ サイエンティストと開発者の支援 強力なインフラストラクチャー ディープラーニングの加速化 柔軟な配置 インテリジェント クラウドおよびエッジへの展開と管理 Cognitive Services
  • 20.
  • 21.
    Azure Machine Learningservice Azure AML service workspace Data Scientist SDK Operate Blob Provision data VM with GPUs Cluster Mount Model Kubernetes Cluster Training Serving
  • 22.
    Azure Machine Learningservice Azure AML service workspace Data Scientist SDK Operate Blob Provision data VM with GPUs Cluster Mount Model Container Image Training Serving IoT Hub Devices az iot edge set-modules --device-id [device id] --hub-name [hub name] --content ./deployment.json
  • 23.
    一般のアプリケーション開発 Model reproducibility ModelretrainingModel deploymentModel validation Build appCollaborate Test app Release app Monitor app App developer using Azure DevOps Data scientist using Azure Machine Learning
  • 24.
    MLOps による機械学習ライフサイクルの自動化 Model reproducibilityModel retrainingModel deploymentModel validation Train model Validate model Deploy model Monitor model Build appCollaborate Test app Release app Monitor app App developer using Azure DevOps Data scientist using Azure Machine Learning Retrain model Code Dataset & environment versioning
  • 25.
    Azure Machine Learningextension for Azure DevOps Model reproducibility Model retrainingModel deploymentModel validation Train model Validate model Deploy model Monitor model Build appCollaborate Test app Release app Monitor app App developer using Azure DevOps Data scientist using Azure Machine Learning Retrain model Code Dataset & environment versioning
  • 26.
    クラウドで実行するメリット クラウドでは下記はどちらも同じ Cost trial01 trial02trial03 … trial10 trial01 trial02 trial03 trial10 … (1) 10 times sequential in a single machine (2) 10 times parallel and stop after execution
  • 27.
    Azure Machine Learningservice 付加価値 ハイパーパラメータのチューニング Automated Machine Learning
  • 28.
    大量データと高度分析 (Batch &Real-time) INGEST STORE PREP & TRAIN MODEL & SERVE Azure Blob Storage Business/custom apps (Structured) Logs, files and media (unstructured) Azure SQL Data Warehouse Azure Analysis Services Azure Data Factory Sensors and IoT (unstructured) Azure HDInsight (Kafka) Azure IoT Hub Cosmos DB Predictive apps Operational Reports & Analytical Dashboards (PowerBI) SQL Database SQL Polybase Azure Databricks
  • 29.
    Structured Streaming を使った分析例 データソース ApacheKafka (HDInsight) Initial Stream Processing Map, Filter, Join, Windowing, …
  • 30.
    Structured Streaming を使った分析例 データソース ApacheKafka (HDInsight) Databricks # create streaming dataframe from Kafka df = spark .readStream .format("kafka") .option("kafka.bootstrap.servers", "host1:port1,host2:port2") .option("subscribe", "topic1") .option("startingOffsets", "earliest") .load()
  • 31.
    Structured Streaming を使った分析例 データソース ApacheKafka (HDInsight) Databricks Advanced Analysis (query, inferencing, etc) by cluster # Watermarking and windowing analysis windowed_df = ( df .withWatermark(df.event_time, "10 minutes") .groupBy( df.device_id, window(df.event_time, "5 minutes")) .count() ) analyzed_df = model.transform(windowed_df) ...
  • 32.
    Structured Streaming を使った分析例 データソース ApacheKafka (HDInsight) Databricks # Sink and Start streaming ! df.writeStream .format("com.databricks.spark.sqldw") .option("url", "...") .option("tempDir", "wasbs://... ") .option("forwardSparkAzureStorageCredentials", "true") .option("dbTable", "testTable") .option("checkpointLocation", "/tmp_checkpoint_location") .start() Data Warehouse
  • 33.
    Structured Streaming を使った分析例 InputStream (Kafka or Event Hub) Structured Streaming (Databricks) SQL DW File Cosmos DB Event Hub or Kafka BI SEMS BizApp Function Grid dashboard logging transaction alert or workflow …
  • 34.
  • 35.
  • 37.
  • 38.