推論
デプロイメント
データの準備
アノテーション
モデル構築・学習
推論
デプロイメント
データの準備
アノテーション
モデル構築・学習
ここは世界中の研究者が
論文として発表。基本的に、
GitHubで公開される。
それを利活用すべし
どんなデータを整備するか
企業内のデータ利活用
戦略が競争力の源泉
ビジネスにインパクトがある
領域の特定、そのための
機械学習利活用
Agents, Applications & Solutions
11
Amazon Azure Google IDCF Sakura
Gen Kepler Volta Kepler Pascal Volta Kepler Pascal Pascal Pascal
GPU K80 x 1 V100 x 1 K80 x 1
P40 x 1
P100 x 1
V100 x 1 K80 x 1 P100 x 1 P100 x 1 P100 x 1
CPU
Core
4 8 6 6 12/1- *** *** 56 8
RAM 61GB 61GB 56GB 112GB 12/1- *** *** 256GB 128GB
Cost /
Hour
$0.9 $3.06 $0.9 $2.07 12/1- $0.45 $1.46 $3.94 $3.19
https://azure.microsoft.com/ja-jp/pricing/details/batch/
• InfiniBand を活用し
128 GPU で 約 100 倍
の高速化の実現
• XTREME DESIGN 社と
連携。即座にMNが使える
環境を10月から提供予定
1
10
100
1 2 4 8 16 32 64 128
理論値 Azure 実測値
(倍)
(GPU数)
Azure DSVMとは?
• 機械学習、深層学習に必要
なツール群をすでに同梱し
たVM
• 無料(仮想マシン料金の
み)
• 深層学習的には、NVIDIA
Libraryを同梱しているのが
とてもうれしい。
今回実現したこと:
• Chainer 3.0.0rc1 / Cupy 2.0.0rc1
のDSVMへの同梱完了
• ChainerCV/ChainerRLも同梱
• Ubuntu/Windows版も同梱
• レクチャー用のJupyter
notebookも同梱
https://azuremarketplace.microsoft.com/en-us/marketplace/apps/microsoft-ads.dsvm-deep-learning
https://azure.microsoft.com/ja-jp/services/batch-ai/
Clusters
• Provision
GPUs
• Install drivers
and software
• Interactive use
Scheduling
• Queue work
• Prioritize jobs
• Start MPI
• Monitor
• Handle
failures
Data
• Scale access to
training data
• Output logs &
models
• Secure &
compliant
Cost
• Scale up and
down
• Share reserved
instances
• Low priority
Workflow
• Choose
efficient
hardware
• Tooling
integration
• Laptop to
cloud
Apps + insights
Social
LOB
Graph
IoT
Image
CRM INGEST STORE PREP & TRAIN MODEL & SERVE
Data orchestration
and monitoring
Data lake
and storage
Hadoop/Spark/SQL
and ML
.
IoT
Azure Machine Learning
Azure Machine
Learning
Workbench
VM (CPU/GPU)
Spark
Container Services
SQL Server
ML Server
ON-PREMISES
EDGE
Azure IoT Edge
学習とデプロイの選択肢
AZURE
学習履歴&
モデル管理
サービス
Azure Machine Learning と統合するためのVS Code
のエクステンション
新しいニューラルネットワーク開発プロジェクトの、構築と
学習までをサポート
リモートのトレーニングをサポート
ジョブの管理
Python, Jupyter Notbook, Git など VS Code の既存
機能との連携
 Azure は、日本初のクラウド セキュリティ ゴールドマークの取得 (外部監査人による ISO 27017 認定)を始め、
ISO 27018、HIPAA、FedRAMP、SOC 1、SOC 2 などの、幅広い国際的および業界固有のコンプライアンス基準に
適合しています。米国防総省、英国政府での採用、日本の FISC などの国ごとの基準も満たしています。
 Azure DC は、ネットワーク レイヤに人工知能を用いた DDoS / DOS / IDS 防御機能を標準で備え、不正な
トラフィックを自動検知・遮断することができます。
 マイクロソフトは、サイバークライム センターを運営しています。サイバークライムセンターでは、24 時間
の監視体制で、1日5億件以上のトラフィックを分析し、マルウェアの情報/状況を把握するとともに、攻撃元
の特定を行い、セキュリティ関連団体、インターポールや各国の警察機関に情報を提供しています。
 サイバークライム センターは、米国本社の他、日本を含む世界5都市に拠点を展開しています。
世界最高レベルの安全性
日本初のクラウド セキュリティ ゴールドマークを取得
Microsoft Azure、Office 365が
情報セキュリティ監査の認定を取得
その他の第三者認証・監査
透明性
お客様データ・プライバシー保護
準拠法・裁判管轄
 準拠法は日本法
 合意管轄裁判所は東京地方裁判所
 日本データセンター開設
東西拠点により災害対策環境も
含めて日本DCを利用可能
 セキュリティセンターによる情報公開
 ISO/IEC 27018の準拠
• 事業者は、カスタマーの同意なしに個人情報をマーケティングや広告には使って
はいけない
• 事業者は、データの保管場所(国)及び、取扱事業者を公開しなければならない
 EU のデータ保護指令の要件を満たすと認定
(世界で最初に認定を受けた企業)
 その他対応規格/認証
 セキュリティ監査協会(JASA)クラウドセキュリティ推進協議会が制定した
「クラウド情報セキュリティ監査制度」において、日本で初めて
「クラウド セキュリティ(CS)ゴールドマーク」を取得
 「クラウド情報セキュリティ監査制度」:クラウドサービスを提供する事業者の
サービスのセキュリティが、国際的な基準(ISO/IEC 27017)で求められる 水
準であることを示すことを目的とし、サービス提供の実態が、情報セキュリティ
マネジメントの基本的な要件を満たしているか評価する仕組みとして制定
 CS ゴールドマークは国際的な基準とされる Service Organization Controls
(SOC)2 にならぶ、日本で初めての第三者認定制度であり、クラウドサービス
の利用者は、CSゴールドマークを導入時や年次の利用者自身の監査結果として
利用することができます。
 政府調達基準(http://www.nisc.go.jp/active/general/kijun2016.html)に
おいても、セキュリティ監査制度の活用示唆されている
 日本マイクロソフトには、JIS クラウド セキュリティ コントロール標準化専門
委員会幹事や ISO/IEC JTC 1/SC 27 WG1 および WG4 委員も在籍
西日本 東日本
EU Model Clauses , Data Processing Agreement, ISO 27001, SAS 70, SSAE 16/ISAE 3402,
HIPAA BAA, FISMA, FERPA
 原則
お客様データはお客様のものでありクラウドサービスをお客様に提供する目的に
のみ使用
 委託先の管理
• 社員と同等のセキュリティレベル、プライバシー基準を維持
• 下請業者の一覧を公開
 閉域網接続サービスの提供
• Azure :提供中
• Office 365 :提供中
クラウドセキュリティ(CS)ゴールドマーク取得により、Microsoft Azure、Office 365を、日本のお客様が、客観的な基準により安全性・信頼性が確認
されたサービスとして、選択できるようになりました。当社の CSP プログラムなどを活用し Azure や Office 365を活用したクラウドビジネスを推進する
パートナー各社にとっても、サプライチェーンとして利用サービスの安全性・信頼性を客観的にお客様へと証明することが可能となります。
http://jcispa.jasa.jp/cs_mark_co/cs_gold_mark_co/
https://blogs.technet.microsoft.com/mssvrpmj/2017/09/25/introducing-azure-confidential-computing/
PFN 製品不良検査システム
ディープラーニング技術を活用してキズ・異物を検知
 汎用カメラ等で撮影した画像を使用
 0.1mm以下の微細なキズも検知
 キズ・汚れの詳細な教示が不要
キズ 異物 汚れ
自動車や携帯端末等の外装
検知ソフトウェア 学習ソフトウェア
必須条件: 十分条件:
目的 人工知能や深層学習の実社会での活用を推進
(Preferred Networks, Inc. と Microsoft Corp.のアライアンス発祥)
概要
ディープラーニングに関連する技術とビジネスの
両面に精通したプロフェッショナルたちが開発事例や最新
技術動向を情報発信する
機能
深層学習に関連する多種多様な検証結果やユースケース
情報の提供し、お客様と深層学習コンサル企業とのマッチ
ングの場を提供する。
Microsoft AI Solution Update / DLL community Update
Microsoft AI Solution Update / DLL community Update
Microsoft AI Solution Update / DLL community Update

Microsoft AI Solution Update / DLL community Update

  • 2.
  • 8.
  • 9.
  • 11.
    11 Amazon Azure GoogleIDCF Sakura Gen Kepler Volta Kepler Pascal Volta Kepler Pascal Pascal Pascal GPU K80 x 1 V100 x 1 K80 x 1 P40 x 1 P100 x 1 V100 x 1 K80 x 1 P100 x 1 P100 x 1 P100 x 1 CPU Core 4 8 6 6 12/1- *** *** 56 8 RAM 61GB 61GB 56GB 112GB 12/1- *** *** 256GB 128GB Cost / Hour $0.9 $3.06 $0.9 $2.07 12/1- $0.45 $1.46 $3.94 $3.19 https://azure.microsoft.com/ja-jp/pricing/details/batch/
  • 12.
    • InfiniBand を活用し 128GPU で 約 100 倍 の高速化の実現 • XTREME DESIGN 社と 連携。即座にMNが使える 環境を10月から提供予定 1 10 100 1 2 4 8 16 32 64 128 理論値 Azure 実測値 (倍) (GPU数)
  • 13.
    Azure DSVMとは? • 機械学習、深層学習に必要 なツール群をすでに同梱し たVM •無料(仮想マシン料金の み) • 深層学習的には、NVIDIA Libraryを同梱しているのが とてもうれしい。 今回実現したこと: • Chainer 3.0.0rc1 / Cupy 2.0.0rc1 のDSVMへの同梱完了 • ChainerCV/ChainerRLも同梱 • Ubuntu/Windows版も同梱 • レクチャー用のJupyter notebookも同梱 https://azuremarketplace.microsoft.com/en-us/marketplace/apps/microsoft-ads.dsvm-deep-learning
  • 14.
    https://azure.microsoft.com/ja-jp/services/batch-ai/ Clusters • Provision GPUs • Installdrivers and software • Interactive use Scheduling • Queue work • Prioritize jobs • Start MPI • Monitor • Handle failures Data • Scale access to training data • Output logs & models • Secure & compliant Cost • Scale up and down • Share reserved instances • Low priority Workflow • Choose efficient hardware • Tooling integration • Laptop to cloud
  • 15.
    Apps + insights Social LOB Graph IoT Image CRMINGEST STORE PREP & TRAIN MODEL & SERVE Data orchestration and monitoring Data lake and storage Hadoop/Spark/SQL and ML . IoT Azure Machine Learning
  • 16.
    Azure Machine Learning Workbench VM (CPU/GPU) Spark ContainerServices SQL Server ML Server ON-PREMISES EDGE Azure IoT Edge 学習とデプロイの選択肢 AZURE 学習履歴& モデル管理 サービス
  • 17.
    Azure Machine Learningと統合するためのVS Code のエクステンション 新しいニューラルネットワーク開発プロジェクトの、構築と 学習までをサポート リモートのトレーニングをサポート ジョブの管理 Python, Jupyter Notbook, Git など VS Code の既存 機能との連携
  • 18.
     Azure は、日本初のクラウドセキュリティ ゴールドマークの取得 (外部監査人による ISO 27017 認定)を始め、 ISO 27018、HIPAA、FedRAMP、SOC 1、SOC 2 などの、幅広い国際的および業界固有のコンプライアンス基準に 適合しています。米国防総省、英国政府での採用、日本の FISC などの国ごとの基準も満たしています。  Azure DC は、ネットワーク レイヤに人工知能を用いた DDoS / DOS / IDS 防御機能を標準で備え、不正な トラフィックを自動検知・遮断することができます。  マイクロソフトは、サイバークライム センターを運営しています。サイバークライムセンターでは、24 時間 の監視体制で、1日5億件以上のトラフィックを分析し、マルウェアの情報/状況を把握するとともに、攻撃元 の特定を行い、セキュリティ関連団体、インターポールや各国の警察機関に情報を提供しています。  サイバークライム センターは、米国本社の他、日本を含む世界5都市に拠点を展開しています。 世界最高レベルの安全性
  • 19.
    日本初のクラウド セキュリティ ゴールドマークを取得 MicrosoftAzure、Office 365が 情報セキュリティ監査の認定を取得 その他の第三者認証・監査 透明性 お客様データ・プライバシー保護 準拠法・裁判管轄  準拠法は日本法  合意管轄裁判所は東京地方裁判所  日本データセンター開設 東西拠点により災害対策環境も 含めて日本DCを利用可能  セキュリティセンターによる情報公開  ISO/IEC 27018の準拠 • 事業者は、カスタマーの同意なしに個人情報をマーケティングや広告には使って はいけない • 事業者は、データの保管場所(国)及び、取扱事業者を公開しなければならない  EU のデータ保護指令の要件を満たすと認定 (世界で最初に認定を受けた企業)  その他対応規格/認証  セキュリティ監査協会(JASA)クラウドセキュリティ推進協議会が制定した 「クラウド情報セキュリティ監査制度」において、日本で初めて 「クラウド セキュリティ(CS)ゴールドマーク」を取得  「クラウド情報セキュリティ監査制度」:クラウドサービスを提供する事業者の サービスのセキュリティが、国際的な基準(ISO/IEC 27017)で求められる 水 準であることを示すことを目的とし、サービス提供の実態が、情報セキュリティ マネジメントの基本的な要件を満たしているか評価する仕組みとして制定  CS ゴールドマークは国際的な基準とされる Service Organization Controls (SOC)2 にならぶ、日本で初めての第三者認定制度であり、クラウドサービス の利用者は、CSゴールドマークを導入時や年次の利用者自身の監査結果として 利用することができます。  政府調達基準(http://www.nisc.go.jp/active/general/kijun2016.html)に おいても、セキュリティ監査制度の活用示唆されている  日本マイクロソフトには、JIS クラウド セキュリティ コントロール標準化専門 委員会幹事や ISO/IEC JTC 1/SC 27 WG1 および WG4 委員も在籍 西日本 東日本 EU Model Clauses , Data Processing Agreement, ISO 27001, SAS 70, SSAE 16/ISAE 3402, HIPAA BAA, FISMA, FERPA  原則 お客様データはお客様のものでありクラウドサービスをお客様に提供する目的に のみ使用  委託先の管理 • 社員と同等のセキュリティレベル、プライバシー基準を維持 • 下請業者の一覧を公開  閉域網接続サービスの提供 • Azure :提供中 • Office 365 :提供中 クラウドセキュリティ(CS)ゴールドマーク取得により、Microsoft Azure、Office 365を、日本のお客様が、客観的な基準により安全性・信頼性が確認 されたサービスとして、選択できるようになりました。当社の CSP プログラムなどを活用し Azure や Office 365を活用したクラウドビジネスを推進する パートナー各社にとっても、サプライチェーンとして利用サービスの安全性・信頼性を客観的にお客様へと証明することが可能となります。 http://jcispa.jasa.jp/cs_mark_co/cs_gold_mark_co/
  • 21.
  • 22.
    PFN 製品不良検査システム ディープラーニング技術を活用してキズ・異物を検知  汎用カメラ等で撮影した画像を使用 0.1mm以下の微細なキズも検知  キズ・汚れの詳細な教示が不要 キズ 異物 汚れ 自動車や携帯端末等の外装 検知ソフトウェア 学習ソフトウェア
  • 23.
  • 24.
    目的 人工知能や深層学習の実社会での活用を推進 (Preferred Networks,Inc. と Microsoft Corp.のアライアンス発祥) 概要 ディープラーニングに関連する技術とビジネスの 両面に精通したプロフェッショナルたちが開発事例や最新 技術動向を情報発信する 機能 深層学習に関連する多種多様な検証結果やユースケース 情報の提供し、お客様と深層学習コンサル企業とのマッチ ングの場を提供する。