IoTNEWS ＆ IoTビジネス共創ラボ 共催イベント 日本マイクロソフト株式会社 パートナー事業本部 クラウド ソリューション アーキテクト 福原 毅 氏

1. Azure
2019年10月28日
IoTNEWS & IoTビジネス共創ラボ 共催イベント
～ Azureを使ったIoTをビジネスにより活かすためのポイント ～
福原 毅 ( tfukuha )
日本マイクロソフト株式会社
パートナー事業本部
シニア クラウド ソリューション アーキテクト ( Data & AI )
Intel OpenVINO, NVIDIA DeepStream対応開発キットから、
エッジサーバー、Azure Data Box Edgeまで、Azure IoT Edge対応デバイスのご紹介

2. Microsoft Build 2017 Keynoteでのエッジ デモを今実装したらどうなるか？
Azure IoT Edgeとは？
• Azure IoT Edge Module
• Azure IoT Edge Device
Microsoft Build 2019 で発表された最新技術なら、ここまでできる!?
まとめ
本日の内容

3. インテリジェント エッジの必要性
高速なデータ処理と分析、および、より
短い応答時間は、これまで以上に重要
インテリジェント クラウド
• ビジネスの迅速化と拡大: オンデマンドで、
無制限のコンピューティング パワー
インテリジェント エッジ
• クラウドへの接続なしに、優先度の高いタスクを
ローカルで処理可能
• クラウドから迅速にプルするには困難なほどに
生成されるデータを処理可能
• ローカルデバイス内、もしくは近くのロジックで
リアルタイム処理
• データ プライバシーに関する要件への柔軟な対応

4. Satya Nadella
The future of computing could actually be
at the edge, where computing is done locally
before data is then transferred to the cloud for AI
and machine learning purposes.
This is not going to be about either edge or
cloud. It’s going to be the two technologies
working in tandem. Now, all this is being driven
by this new tech paradigm that we describe as
the intelligent cloud and the intelligent edge.
The capacity at the edge, that ubiquity is going
to be transformative in how we think about
computation in any business process of ours.
“Microsoft Government Leaders Summit” 基調講演より抜粋
( October 8, 2019. )

5. クラウドからエッジまでの一貫性
一貫性のあるセキュリティ、ID認証、管理と、AIおよびパートナーソリューション
Azure IoT Edge Azure Services
ツール

6. Build 2017: SatyaのKeynoteでの Edge デモ – Azure Stack + Cognitive Services + Functions
https://channel9.msdn.com/Events/Build/2017/KEY01#time=27m52s

7. このデモ、Azure IoT Edgeデバイスを使って、
今なら、誰でも安価に実装できる⁉

8. Demo
Intel UP2 による画像認識デモ

9. Azure IoT Edge による展開例
Cognitive Services Vision
Azure
IoT Hub
Custom
Code
(video
collection)
IoT Edge
Device
(Raspberry Pi)
Azure Container Registry
Deployment
Manifest
Docker
Container
Video
Camera Custom
Code
(Display)
Docker
Container
Azure
Cognitive
Services
Docker
Container

10. 通信パターン
Video
Camera
Camera AI
Azure IoT Edge device
I/O HTTP
IoT Hub
Azure IoT Edge Runtime
messages
Camera
Custom
modules
https://github.com/ms-iotkithol-jp/Custom-vision-service-iot-edge-raspberry-pi

11. Raspberry Pi + カメラの日本語ハンズオン
https://github.com/ms-iotkithol-jp/IoTKitHoLV5/tree/master/basic

12. コアとなる画像認識処理についての現在のアーキテクチャ
IoT Hub
Python
IoT Edge runtime (Docker container)
JSON
Camera Feed
Jetson Nano (nVIDIA) / Intel UP2
Messages
Azure Container Registry
Pre Inference Post
IOT SDK
Pre-Processing
OPEN CV
Post-Processing
Local Storage Blob
HTTP/
FRAME
MODEL
ONNX Runtime
Inferencing
IOT SDK
HTTP/
JSON
Storage
Machine Learning
Reference implementation to use ONNX Runtime with Azure IoT Edge:
https://github.com/Azure-Samples/onnxruntime-iot-edge/

13. Microsoft Build 2017 Keynoteでのデモを今実装したらどうなるか？
Azure IoT Edgeとは？
•Azure IoT Edge Module
•Azure IoT Edge Device
Microsoft Build 2019 で発表された最新技術なら、ここまでできる!?
まとめ
本日の内容

14. 一般的なオペレーティング システムと互換
クラウドとエッジ間でコードの対称性が
保たれているため、開発やテストが容易
チップセットからクラウドに至るまで
ソリューションをセキュリティで保護
クラウドおよびカスタム ワークロードを
安全にエッジに移動
AI と高度な分析のシームレスなデプロイ
クラウドから構成、更新、監視
Azure IoT Edge

15. モノ 洞察 アクション
Azure IoT Edge
IoT Hub
洞察 アクション
22

16. Azure IoT Edge とは
Azureで作成したモジュールを、Azure以外のIoTデバイスなどで実行する基盤

17. 例: Cognitive Service for Azure IoT Edge
Export
https://www.customvision.ai/
24

18. https://channel9.msdn.com/Events/Build/2017/KEY01#time=19m00s

19. Microsoft Build 2017 Keynoteでのデモを今実装したらどうなるか？
Azure IoT Edgeとは？
•Azure IoT Edge Module
•Azure IoT Edge Device
Microsoft Build 2019 で発表された最新技術なら、ここまでできる!?
まとめ
本日の内容

20. Azure Marketplaceで提供されるIoT Edgeモジュール
3rdパーティ製も提供中
• Sign-up: aka.ms/iot-edge-
marketplace-signup
aka.ms/iot-edge-marketplace
➔
➔

23. Azure Blob Storage
シナリオに合わせて、適切な実行場所の選択が可能
Azure
Storage
Blob
REST APIセンサー
Azure Storage SDK
によるカスタムモジュール
Azure IoT Edge デバイス
AzureBlob
Storage
on IoT Edge
データ処理
エッジ側の
ローカル
blob
記憶域

24. (Private Preview) Azure SQL Database Edge
一貫性のあるデータ & 分析エンジンをエッジに提供
SQL Server Azure SQL Database新製品
既存の Azure IoT Edge サービスを補完
接続状態またはオフラインで実行される、
省スペース、ターンキー、ML 対応を特長とするエッジ向けの
データ エンジン
ミッション クリティカルなワークロードに
対応する、完全な AI/ML 機能を備えた、
業界をリードするデータ エンジン

25. Azure SQL Database Edge
フットプリントが小さく、エッジ向けに最適化され、AI が組み込まれている
プラットフォームの選択肢 AI の組み込み
エッジ
時系列の組み込み
データ センター/
クラウド
アプリを一度開発すれば、任意の場所に展開可能
フットプリントが
小さいエンジン
(500 MB 未満)
組み込みの
時系列ストリーミング
および分析
待ち時間の短い分析の
ための機械学習
ターンキー管理
1 つの管理画面で
展開 & 更新
比類ないパフォーマンスとセ
キュリティ
最高のセキュリティと
業界をリードする
パフォーマンス
オールインワンのローカル ストリーミング、
ストレージ、分析
SQL
時系列
0
20
40
60
80
100
120
140
160
180
200
脆弱性(2010～2018)
ARM64 x64

26. Microsoft Build 2017 Keynoteでのデモを今実装したらどうなるか？
Azure IoT Edgeとは？
•Azure IoT Edge Module
•Azure IoT Edge Device
Microsoft Build 2019 で発表された最新技術なら、ここまでできる!?
まとめ
本日の内容

27. https://catalog.azureiotsolutions.com/
Azure IoT Edge Devices
Azure IoT Edgeを活用したデバイス
➔

28. Lenovo

30. Azure IoT Edgeの活用
エッジでAIを実行する場合の課題への適用
• 少ない計算能力
• ニューラル ネット向けの汎用的
なハードウェアの抽象化がない
• ドライバー バージョンの混在
• 各プラットフォームに依存した
知識が必要

31. 現実: 機械学習開発における展開の課題

32. ONNXとは？
https://github.com/onnx/onnx

33. Azure IoT Edge Deviceの例: Qualcomm SNPE
Vision AI Developer Kit - ハードウェア仕様
参考URL:https://visionaidevkit.com/
https://developer.qualcomm.com/blog/microsoft-s-vision-ai-developer-kit-now-available
➔

34. エッジ デバイスでの、クロスプラット フォーム アーキテクチャ
Qualcomm、Intel、およびNVIDAのエッジ デバイスでのクロスプラットフォーム実装
Blob
Storage
model.onnx
OpenVINO
model.onnx
TensorRT
+ +
IoT
Edge
• ONNXランタイムを使ったハードウェアアクセラレーションによるエッジAI
• クロスプラットフォーム: 同じコードとモデルを使用
• コードの管理と開発プラットフォームはVisual Studio Code
• Azure IoT はコンテナーの管理と展開
• Azure Blob Storage on Edge (コンテナー)は、(クラウド上の) Azure Blobとデータ同期
• Azure Machine Learning Serviceは、モデルのビルドとONNXへの変換
Reference implementation to use ONNX Runtime with Azure IoT Edge:
https://github.com/Azure-Samples/onnxruntime-iot-edge/

35. Azure IoT Edge Deviceの例: NVIDIA DeepStream
NVIDIA JETSON NANO FAMILY
GPU
128 基の NVIDIA CUDA® コアを実装した
NVIDIA Maxwell™ アーキテクチャ
CPU
クアッドコア ARM® Cortex®-A57 MPCore プ
ロセッサ
メモリ 4 GB 64 ビット LPDDR4
GPU
256 基の NVIDIA CUDA コアを実装した
NVIDIA Pascal™ アーキテクチャ
CPU
デュアルコア Denver 2 64 ビット CPU とクアッ
ドコア ARM A57 のコンプレックス
メモリ 4 GB / 8 GB 128 ビット LPDDR4
GPU
384 / 512 基の NVIDIA CUDA コアを実装し
た NVIDIA Volta™ アーキテクチャ と、48/64
Tensor コア
CPU 6/8 コア ARM v8.2 64 ビット CPU
メモリ 8 GB / 16 GB 128 ビット LPDDR4
Jetson Nano Jetson TX2 Jetson AGX Xavier

36. Azure IoT Edge Deviceの例: Intel OpenVINO
IEI Tank* AIoT Developer Kit and Microsoft Azure*: Running
Machine Learning on the Edge (セットアップ ガイド)
Set up Microsoft Azure* IoT Edge on an UP Squared* Board
(セットアップ ガイド)
Intel AI / Vision Developer kits
➔ ➔

37. NVIDIA、MICROSOFT とともに、
インテリジェント エッジ時代に向けたテクノロジ コラボレーションを発表
Microsoft のインテリジェント エッジ ソリューションが、NVIDIA T4 GPUによって機能を拡張し、業界全体での AI 加速を推進
https://www.nvidia.com/ja-jp/about-nvidia/press-releases/2019/nvidia-with-microsoft-announces-technology-collaboration-for-era-of-intelligent-edge/ より抜粋

38. Azure IoT Edgeデバイスの例: Lenovo + NVIDIA
マイクロソフト、Lenovo、NVIDIA は、Azure IoT Edge に高度な AI をもたらすべく提携
Tesla T4
SE350 Edge Server EPC300 Edge Gateway
IoT510-C カメラ
製品概要: https://www.lenovo.com/jp/ja/data-center/servers/edge/ThinkSystem-SE350/p/77TM7DSSE35

39. Azure IoT Edgeデバイスの例: Lenovo + NVIDIA
16台のカメラで問題のある梱包を検出
Azure IoT Hub
Azure IoT Edge
Lenovo SE350 Edge Server
IoT Edge ランタイム
Lenovo IoT510-C
カメラ
https://mybuild.techcommunity.microsoft.com/sessions/77052?source=sessions

40. 提供中
ThinkSystem SE350 Edge Server、EPC300 Edge
Gateway、IoT510-C カメラは、IoT Edge 認定後
Azure IoT デバイス カタログに掲載される予定
Nvidia Deepstream は
IoT Edge マーケットプレース
で提供

42. Lenovo、レノボ、レノボロゴ、RackSwitch、System xはLenovo Corporationの商標。他の会社名、製品名、サービス名等は、それぞれ各社の商標または登録商標です。
※製品や価格等は事前の予告なく変更される場合があります。※製品写真はイメージです。出荷時のものと異なる場合があります。
SE350 キャンペーンモデル 有線モデル 無線対応モデル
CPU XeonD-2123IT(4コア) 2.20GHz
メモリー 8GB（8GB DDR4 × 1）
SSD 480GB（480GB A600i SATA × 1）
ネットワーク
10GbE RJ45 x 2ポート
1GbE RJ45 x 4ポート
10GbE RJ45 x 2ポート
1GbE RJ45 x 4ポート
WiFi/LTE

43. Azure IoT Edge Deviceの例:
Azure Data Box Edge = Compute + Project Brainwave
ローカル
ストレージ
オンプレミスのシステム
FPGA +
Brainwave
最適化されたネットワーク
データ転送 Azure ストレージ
(Block, Page, および Files)
IoT Edge モジュール
IoT Hub

44. Azure Data Box Edgeでのカメラソリューション例

45. Azure Data Box Edge 仕様
仕様 詳細
ローカルキャッシュ容量 12 TB NVME フラッシュストレージ
クラウド側の容量 10 PB
データ暗号化 AES 256-bit encryption
フォームファクター 1U ラックマウントサーバー, 29.6" deep
CPU 10 コア × 2 CPU
ネットワークインターフェイス 4x25 GbE SFP+
アクセス インターフェイス SMB/CIFS と NFS
機械学習アクセラレーター Brainwave powered Intel FPGA
電源 110/240 (50/60 Hz)
38

46. NVIDIA、MICROSOFT とともに、
インテリジェント エッジ時代に向けたテクノロジ コラボレーションを発表
Microsoft のインテリジェント エッジ ソリューションが、NVIDIA T4 GPUによって機能を拡張し、業界全体での AI 加速を推進
https://www.nvidia.com/ja-jp/about-nvidia/press-releases/2019/nvidia-with-microsoft-announces-technology-collaboration-for-era-of-intelligent-edge/ より抜粋

48. Microsoft Build 2017 Keynoteでのデモを今実装したらどうなるか？
Azure IoT Edgeとは？
•Azure IoT Edge Module
•Azure IoT Edge Device
Microsoft Build 2019 で発表された最新技術なら、ここまでできる!?
まとめ
本日の内容

49. https://mybuild.techcommunity.microsoft.com/sessions/77052?source=sessions
IoT PnPと、IoT Central / Microsoft Flow連携

50. Microsoft Build 2017 Keynoteでのデモを今実装したらどうなるか？
Azure IoT Edgeとは？
•Azure IoT Edge Module
•Azure IoT Edge Device
Microsoft Build 2019 で発表された最新技術なら、ここまでできる!?
まとめ
本日の内容

51. エッジ デバイスでの、クロスプラット フォーム アーキテクチャ
Qualcomm、Intel、およびNVIDAのエッジ デバイスでのクロスプラットフォーム実装
Blob
Storage
model.onnx
OpenVINO
model.onnx
TensorRT
+ +
IoT
Edge
• ONNXランタイムを使ったハードウェアアクセラレーションによるエッジAI
• クロスプラットフォーム: 同じコードとモデルを使用
• コードの管理と開発プラットフォームはVisual Studio Code
• Azure IoT はコンテナーの管理と展開
• Azure Blob Storage on Edge (コンテナー)は、(クラウド上の) Azure Blobとデータ同期
• Azure Machine Learning Serviceは、モデルのビルドとONNXへの変換
Reference implementation to use ONNX Runtime with Azure IoT Edge:
https://github.com/Azure-Samples/onnxruntime-iot-edge/

52. 一貫性のあるセキュリティ、ID認証、管理と、AIおよびパートナーソリューション
Azure IoT Edge Azure Services
ツール

53. マイクロコントローラー
Azure Sphere
• 組み込みシステムで特定の
操作を管理するように
設計された集積回路
• 高度なセキュリティで
保護されたコネクテッド MCU
• 最新の MCU 向けの Azure
Sphere Linux OS
• Azure IoT Device SDK が
含まれる
IoT デバイス
Azure IoT Device SDK
• 接続、対話、データの
やり取りを行う
アプライアンス、車両、
工場の機械などの
エンドポイント デバイス
• 1,000 台を超えるデバイス、250
を超えるパートナー
– すべてが認定を受けて
Azure IoT サービスと
緊密に連携
• クロスプラットフォームでありオープ
ン ソース:
Windows IoT、Linux、Android、
iOS、RTOS など
Edge デバイス
Azure IoT Edge
• IoT エンドポイントの
ゲートウェイ機能を集約、
処理、および提供する
デバイス
• Azure サービスをあらゆる
IoT デバイスのコンテナーに
デプロイして管理
• AI、AzureML、Azure
Stream Analytics など
• クロスプラットフォームでありオープン
ソース:
Windows IoT、Linux
Edge アプライアンス
Azure Data Box Edge
• 機械学習の推論など、
クラウドやエッジの役割の
サブセットを提供する
統合アプライアンス
• Data Box Edge: AI 対応、
ストレージ、Azure Edge
アプライアンスの
コンピューティング
• Data Box: オフライン、
高耐久データ転送、
100 TB ～ 1 PB
Edge スタック
Azure Stack
• IaaS や PaaS の機能など、
フルスタックのクラウドを
提供するスケーラブルな
ソリューション
• エッジおよび非接続の
シナリオ
• 規制要件
• オンプレミスでのクラウド
アプリケーション モデル
ハイパースケール
クラウド
エッジのリージョン
• ファースト パーティ クラウド リー
ジョン
• あらゆる範囲の
ハイパースケール クラウド サービス
• 階層化されたサービス可用性:
Heroes > Hubs > Satellites
• オープン ソースを基盤とするサー
ビス & ツール
最高の専門性
最少のサービス
最少のフォーム ファクター
最大のサービス
© Microsoft Corporation
センサー + 制御 インタラクティブなセンサー 統合プラットフォーム 世界規模の処理

54. デジタル トランスフォーメーションを加速するMicrosoft IoT
25年以上、組込みデバイス ビルダーの皆様と包括的なIoTポートフォリオを提供
Azure
IoT Hub
Azure
IoT Central
Azure
IoT Edge
Azure IoT
solution accelerators
AZURE SPHERE
MCUによる接続性と高い安全性の
あるデバイスソリューション
WINDOWS FOR IOT
小さなフットプリントから
大企業向けのエッジ デバイスまで、
Windowsのパワーを提供
センサー PCクラス
WINDOWS SERVER IOT
エッジ コンピューティング ワークロードの
ほとんどの要件に対応
サーバー クラス
AZURE STACK
Azureを拡張し、クラウドの境界を越
えたハイブリッド アプリケーションを、一
貫性をもって構築、実行
ハイブリッド サーバー
インテリジェント エッジ
インテリジェント クラウド

55. Azure Sphere

56. デジタルトランスフォーメーションの加速に向けて Windows for IoT が
チップの選択肢を拡大し、インテリジェントエッジのサポートを強化
CEATEC 2019 でのアナウンス: https://news.microsoft.com/ja-jp/2019/10/15/191015-windows-for-iot/
.MX 6, i.MX 7,
もしくは i.MX 8M/8M が最小ハード
ウェア ) を一般提供
• Windows 10 IoT Coreについて
10年サポート
• 商用利用レベルのプラットフォーム

57. Windows for IoT ファミリー
OSリリース後10年サポート、柔軟な管理オプション、および高度なセキュリティ機能
https://docs.microsoft.com/windows-hardware/design/minimum/minimum-hardware-requirements-overview
パワフルなスマートデバイス
• Win 32及びUWPアプリによる豊富なユーザーエクスペリエンス
• デスクトップと同じ展開、管理性及びサービス
• 使い慣れたインターフェースとロックダウン機能でユーザーエクスペリエンスを管理
• Windows 10 Enterpriseと同一。ただし、ボリュームライセンスではなくOEM
チャネルを通して販売
小さなフットプリントのスマートエッジデバイス
• 使い慣れたWindows セキュリティ、ツール、アプリ、管理性
• Universal Windows Platform (UWP)
• ディスプレイ有/無のデバイスに最適
• OS-shell 無
• OSのロイヤリティ無し。Windows 10 IoT Core サービス サブスクリプション有り
Windows 10 IoT Enterprise
• 1GHz x86 or x64 CPU
• 1 GB RAM (2 GB for 64-bit)
• 16 GB ストレージ (20 GB for 64-bit)
Windows 10 IoT Core
• 400 MHz x86, x64 or ARM CPU
• 256MB RAM (512MB ディスプレイ付)
• 2 GB ストレージ
高度なデータ分析とストレージ
• 拡張されたセキュリティ機能
• 独自のハイブリッドプラットフォーム--- お使いのオンプレミスと
クラウドインフラを統合
• Azure IoT Edgeを管理する改善されたコンテナーをサポート
• CAL-無しオプションを提供
Windows Server IoT 2019
• 1.4GHz x64 CPU
• 512 MB RAM (2 GB デスクトップ用)
• 32GB ストレージ
➔

58. インテリジェント エッジの基盤
Windows for IoT は、セキュアに、かつ簡単に高度なソリューション開発を支援
迅速にIoTデバイスを市場投入:
Visual Studio は、複雑なIoTの問題を
解決するドキュメントや数百のサンプル、
効率的なコーディングとテストができる環
境を提供する開発ツール。
これまでで最もセキュアなWindowsで、
保護を維持:
Windows for IoT は、そのままでエンド-
ツウ-エンドのセキュリティ機能を提供。常
に更新され、迅速に脅威を検出、対処
可能。
インテリジェント エッジ向けに
設計されたスマート デバイス:
標準の高度な機能によって、複雑な
AIや機械学習ワークロードとデータ分析
を簡単に扱うことが可能。

59. © Copyright Microsoft Corporation. All rights reserved.
© 2019 Microsoft Corporation. All rights reserved. Microsoft, Windows, Windows Vista and
other product names are or may be registered trademarks and/or trademarks in the U.S.
and/or other countries.
The information herein is for informational purposes only and represents the current view
of Microsoft Corporation as of the date of this presentation. Because Microsoft must
respond to changing market conditions, it should not be interpreted to be a commitment on
the part of Microsoft, and Microsoft cannot guarantee the accuracy of any information
provided after the date of this presentation.
MICROSOFT MAKES NO WARRANTIES, EXPRESS, IMPLIED OR STATUTORY, AS TO THE
INFORMATION IN THIS PRESENTATION.