▼発表内容はこちら。 Azure AI （Cognitive Services, Azure Machine Learning, Applied AI Service）アップデートに関して。 今回のUpdateにより、GPT-3をAzureで使える「Azure OpenAI Service」や、言語処理系サービスを統合し、新機能が追加された「Azure Cognitive Service for Language」等が発表されました。それらを中心にAzure Synapse AnalyticsとのAI/ML連携やその他の最新Updateも絡めて、最新情報をお伝えします！ ▼イベントページはこちら https://dllab.connpass.com/event/232219/

1. Azure AI Update
Ignite Fall 2021を振り返ろう！
小川 航平 | Kohei Ogawa | @shisyu_gaku
Microsoft Japan Co., Ltd.
Cloud Solution Architect (Data & Cloud AI)
2021年12月16日
#DLL #MSIgnite

2.  高専→筑波大編入→大学院卒
• 3Dセンシング/入力インターフェース/IoT/App(win/ios)/ML
• 3D Printing / フェムト秒レーザー / 遠隔コミュニケーション
 MS(CSA)
 Data＆AI領域を中心に最新技術を必要とするお客様への支援
 エンジニアコミュニティへの技術的な支援
 MS Technologyを中心としたソリューション開発
 具体的なビジネス活用の議論・検証・提案
 最近の関心技術
 Azure Kinect DK (RGBDセンサー)
 Azure Percept DK (EdgeAIデバイス)
#DLL #MSIgnite
About me 小川 航平 | Kohei Ogawa | @shisyu_gaku
Microsoft Japan Co., Ltd.
Cloud Solution Architect
(Data & Cloud AI)

3. 想定オーディエンス
1. AzureのAIサービスを使ったことがある方
2. Ignite2021や最近のAI/ML系でどんなアップデートがあったのか概要レベルで知りたい方
#DLL #MSIgnite

4. ビジネス
ユーザー
Applications
Partner Solutions
(AppSource)
Power Platform
Power BI Power Apps Power Automate Power Virtual Agents
開発者 &
データサイエン
ティスト
Applied AI Services
業務シナリオに特化したサービス群
Bot Service Cognitive Search Metrics Advisor Form
Recognizer
Video Analyzer Immersive Reader
視覚 スピーチ 言語 意思決定
Azure Machine Learning
Azure Cognitive Services
カスタム可能な学習済みAIモデル
Machine Learning Platform
エンドツーエンドの機械学習サービス

5. ビジネス
ユーザー
Applications
Partner Solutions
(AppSource)
Power Platform
Power BI Power Apps Power Automate Power Virtual Agents
開発者 &
データサイエン
ティスト
Applied AI Services
業務シナリオに特化したサービス群
Bot Service Cognitive Search Metrics Advisor Form
Recognizer
Video Analyzer Immersive Reader
視覚 スピーチ 言語 意思決定
Azure Machine Learning
Azure Cognitive Services
カスタム可能な学習済みAIモデル
Machine Learning Platform
エンドツーエンドの機械学習サービス

6. Azure AI
• Speech to Text
• Text to Speech
• Speech Translation
• Speaker
Recognition
• Computer Vision
• Custom Vision
• Face API
• Entity recognition
• Sentiment analysis
• QnA Maker
• Conversational language
understanding
• Translator
• Anomaly Detector
• Content Moderator
• Personalizer
業務シナリオに特化したサービス群
カスタム可能な学習済みAIモデル
エンドツーエンドの機械学習サービス

7. Azure AI
• Speech to Text
• Text to Speech
• Speech Translation
• Speaker
Recognition
• Computer Vision
• Custom Vision
• Face API
• Entity recognition
• Sentiment analysis
• QnA Maker
• Conversational language
understanding
• Translator
• Anomaly Detector
• Content Moderator
• Personalizer
業務シナリオに特化したサービス群
カスタム可能な学習済みAIモデル
エンドツーエンドの機械学習サービス
1
1
1 1
1

8. #BigDataLounge
Azure AI Ignite Fall 2021 主なUpdate内容
1 1
ストリームビデオをキャプチャ、録画、視聴するための
新しいクラウドベースの機能をプレビューで提供。
使用可能な言語とリージョンの拡大
1 1
既存の言語系Cognitive Serviceが１つに統合、
新機能の発表 Azure上でOpenAIが使用可能に
1
• AML上でテキスト分類マルチクラスのラベル付けプロジェクトの作成・管理・監視が可能に

9. Azure AI Ignite Fall 2021 主なUpdate内容
1 1
ストリームビデオをキャプチャ、録画、視聴するための
新しいクラウドベースの機能をプレビューで提供。
使用可能な言語とリージョンの拡大
1 1
既存の言語系Cognitive Serviceが１つに統合、
新機能の発表 Azure上でOpenAIが使用可能に
1
• AML上でテキスト分類マルチクラスのラベル付けプロジェクトの作成・管理・監視が可能に

10. クイックな映像分析ソリューション
AIスキルで映像から
実用的なインサイトを抽出
ビジネスニーズに合わせたカスタマイズ
ユ ー ス ケ ー ス
プロセスの最適化 ワークプレイスの安全 ディジタルアセット管理

12. Azure Video Analyzer
• クラウドに直接、またはゲートウェイ装置を介して接続されたカメラからの
ストリームビデオをキャプチャ、録画、視聴するための新しいクラウドベー
スの機能がプレビュー
• 録画した映像の一部をエクスポートしてダウンロードすることも可能

13. 低価格でスタート、メンテナンス、
スケールアップが可能
統合AIによる検索可能な
コンテンツの作成
キーワードだけでなく、
ユーザーの意図を汲んだ検索
U S E C A S E S
コンテンツ検索 プロダクト探索の
最適化
ディジタルアセット管理

14. BU S IN E S S LO G I C

15. Azure Cognitive Search テキスト
(1) Validate enrichment pipeline
タグ
“throwing”, “ball”, “girl”, “grass”,
“basketball”
キャプション
“A girl throwing a ball”
エンティティ抽出
人物
“Anita Christiansen”,
“Conrad Nuber”,
場所
“Bothell”, “Woodinville”
組織
“Litware Insurance
Corp.”

16. Semantic Search
従来の検索技術 :
検索キーワードの出現頻度をもとにした結果
セマンティック検索:
ウェブ検索のようにユーザーの意図をくんだ検索結果
質問に対する最適な回答を含むドキュメントを提示
人類はいつ月に降り立ったの？
月の土地を買う方法
月着陸の物語り
いつから土地が高騰したのか
新月が劇場にやってきた
人類はいつ月に降り立ったの？
アポロ11号 1969年7月21日人類を
月に導く
アポロ11号：人類最初の月面着陸
Neil Armstrong：人類最初の到達
アポロ11号の着陸地点

17. Semantic Search
• 使用可能な言語とリージョンが増加。
• 特に、セマンティック検索は、50以上の言語サポートを追加。
• 新たに、オーストラリア東部、アメリカ東部、アメリカ南
中部リージョン対応。

18. Azure AI Ignite Fall 2021 主なUpdate内容
1 1
ストリームビデオをキャプチャ、録画、視聴するための
新しいクラウドベースの機能をプレビューで提供。
使用可能な言語とリージョンの拡大
1 1
既存の言語系Cognitive Serviceが１つに統合と
新機能の発表 Azure上でOpenAIが使用可能に
1
• AML上でテキスト分類マルチクラスのラベル付けプロジェクトの作成・管理・監視が可能に

19. Cognitive Service for Language
• 従来のサービスがグルーピングされ、新機能が追加
• Azure のリソースが １つに統合
• 課金の予測可能性が向上
• UXが1つに統合
• サービスの発見と使用が容易に
• ビルド済みのNLPとカスタムトレーニングされたNLPの間のシーム
レス化
• 再利用が可能
• 多言語対応し、最先端NLPモデルへのアクセス可能に
• SDK/API が 1 つにまとまる
• ドキュメント、サンプルの一貫性を保ち、より簡単に使いやすく
新機能(プレビュー)
• カスタムテキスト分類
• カスタム固有表現認識(NER)
• 会話言語理解
Introducing Azure Cognitive Service for Language (microsoft.com)

20. カスタムテキスト分類
Introducing Azure Cognitive Service for Language (microsoft.com)
Cognitive Service for Language
ユーザーは、事前に定義したカスタム カテゴリにテキストを分類する
カスタム AI モデルを構築
• タグ付けをこのポータルから可能
• 事前にタグ付けした.json読み込み可能
• タグ付けしたデータから学習を行い、テストデータを与えることで自動で
テキストを分類
• モデルをデプロイするとAPIから呼ぶことが可能

21. カスタム固有表現認識(NER)
Introducing Azure Cognitive Service for Language (microsoft.com)
Cognitive Service for Language
ユーザーはカスタム AI モデルを作成して、コントラクトや財務ドキュメントなどの
非構造化テキストからドメイン固有のエンティティを抽出可能
• タグ付けをこのポータルから可能
• 事前にタグ付けした.json読み込み可能
• タグ付けしたデータから学習を行い、テストデータを与えることで自動で
テキストからエンティティを抽出
• モデルをデプロイするとAPIから呼ぶことが可能

22. 会話言語理解
Introducing Azure Cognitive Service for Language (microsoft.com)
Cognitive Service for Language
カスタムの機械学習インテリジェンスをユーザーの自然言語での会話に適用して、
全体の意味を予測し、関連性のある詳細な情報を引き出すことが可能
• タグ付けをこのポータルから可能
• タグ付けしたデータから学習を行い、テストデータを与えることで自動で
テキストから意味の解釈を行う
“これをごみ箱に入れて”という文を
削除してと解釈

23. Azure OpenAI Service
New
• AzureサービスとしてOpenAIのGPT-3モデルにアクセス可能に
• Azureで利用可能なため、セキュリティ、コンプライアンス、regionの
可用性などの機能をもつ
OPENAI
AND
MICROSOFT
• July 2019 – 汎用人工知能 (Artificial General Intelligence: “AGI”) の
開発を支援するため投資
• September 2020 – マイクロソフトは OpenAI の
GPT-3 AI モデルを独占的にライセンス契約
• November 2021 –マイクロソフトが Ignite で
Azure OpenAI Service を発表

24. OpenAI models
• アプリケーション生成

25. davinci による要約

26. 要約（Bing 翻訳）
 中性子星は、巨大な超巨大星の崩壊したコアであり、恒星が特に金属が豊
富であれば、10~25個の太陽質量の総質量を持っていた。中性子星は、ブ
ラックホールや白い穴、クォーク星、奇妙な星を除く、最小かつ最も密度の高い
恒星である。中性子星は半径が10キロメートル(6.2mi)、質量は約1.4個の太
陽質量を有する。彼らは、過去の白色矮星密度を原子核の核に圧縮する、
重力崩壊と相まって、巨大な恒星の超新星爆発に起因する。
 それは白色矮星と同じことです。星は死んで、白くなるまで縮みます。その後、
それは小さな白いボールになるまで縮小します。その後、それは本当に小さな白
いボールになるまで縮小します。その後、それは非常に小さいボールになるまで縮
小し、より小さいです

28. Azure AI Ignite Fall 2021 主なUpdate内容
1 1
ストリームビデオをキャプチャ、録画、視聴するための
新しいクラウドベースの機能をプレビューで提供。
使用可能な言語とリージョンの拡大
1 1
既存の言語系Cognitive Serviceが１つに統合と
新機能の発表 Azure上でOpenAIが使用可能に
1
• AML上でテキスト分類マルチクラスのラベル付けプロジェクトの作成・管理・監視が可能に

29.  機械学習プロセスをエンドツーエンドでサポートするマネージドサービス
• 必要なシステムモジュールをあらかじめビルトインしている
 自動機械学習による効率的なモデル開発
 継続的なモデルのデプロイ & 運用管理をサポート
 スケーラブルな計算環境による並列分散処理 etc
クラウド
CPU、GPU
データセット
プロファイル、ドリフト検知、
ラベリング
推論
バッチ、リアルタイム
MLOps
再現性、自動化、GitHub、CLI、REST
機械学習の実験
Python SDK & CLI 、Notebook、ドラック & ドロップ UI、ウィザード形式
エッジ
CPU、GPU、ONNX
IoT Edge
セキュリティ、管理、展開
計算環境
ジョブ管理、マネージドなワークステーション & クラスター
モデル登録
モデル登録、
イメージ化
モデル学習
実験管理、実行 (Runs)
Azure Machine Learning コンポーネント
Azure Machine Learning 一連の流れ

30. Azure Machine Learning
• テキスト ラベル付けプロジェクトを作成してラベルをエクスポートする (プレビュー)

31. Machine Learning + Analytics
Azure Synapse Analytics
Azure
Machine Learning
Azure Data Lake Storage
Cloud data
SaaS data
On-premises data
Devices data
Batch
Data Sources
Data and Compute
Models

32. PREDICT in Synapse Spark Public Preview
 T-SQLのPredict構文で学習済みモデルから推論することはできていた
 ADLSまたはAMLに登録されたMLモデルを取り込み Synapse のセキュリティコンテキスト内でスコアリングを行
うことができる（スコアリングプロセス簡素化＆セキュア構成）
チュートリアル: サーバーレス Apache Spark プールで PREDICT を使用して機械学習モデルをスコア付けする - Azure Synapse Analytics | Microsoft Docs

33. SynapseML(旧 Microsoft Machine Learning for Apache Spark)
 SynapseML は、Python、R、Scala、および Java で使用できる単一のスケーラブルな API
 大きなラベル付きのトレーニングデータセットを必要とせずに、APIでAzure AIサービスを呼ぶことができ、Spark
上で並列処理が可能
 大量データを高速で処理可能
microsoft/SynapseML: Simple and Distributed Machine Learning (github.com)

34. Cognitive Services Linked service for Synapse

35. Update Info Link
AI/ML
1. Azure Cognitive Service for Language now generally available | Azure の更新情報 | Microsoft Azure
2. Azure Machine Learning public preview announcement Ignite, November 2021 | Azure の更新情報 | Microsoft Azure
3. Azure Applied AI Services | Azure Video Analyzer updates in public preview | Azure の更新情報 | Microsoft Azure
4. Azure Applied AI Services | Azure Cognitive Search updates now generally available | Azure の更新情報 | Microsoft Azure
5. Private preview: Azure OpenAI Service combines access to powerful GPT-3 language models with Azure’s enterprise
capabilities | Azure の更新情報 | Microsoft Azure
AI/ML×Synapse
1. The Synapse ML library
2. Getting started with state-of-the-art pre-built intelligent models
3. Building responsible AI systems with the Synapse ML library
4. PREDICT is now GA for Synapse Dedicated SQL pools
5. Simple & scalable scoring with PREDICT and MLFlow for Apache Spark for Synapse
6. Retail AI solutions
#DLL #MSIgnite

36. ありがとうございました！🙏🙏