Cosmos DB PerformanceTips

1. Azure Cosmos DB Performance Tips
井上 大輔
日本マイクロソフト株式会社
Commercial Software Engineering
Software Engineer Manager
DA13

2. Big Data、 Serverless、ML等、新しい技術を採用するお客様の
サービスを、エンジニアの皆様と共同で開発(Code with)
する新設グローバル部隊

3. Azure Cosmos DB
SQL
MongoDB
Table API
ターンキー
グローバル分散
ストレージ、スループットの
エラスティック スケール アウト
99 パーセンタイルでの
低レイテンシ保証
包括的な SLA
5 つの明確に定義された
整合性モデル
ドキュメント列ファミリ
キー/値 グラフ

4. Performance

6. リソース
Account
DatabaseDatabaseDatabase
DatabaseDatabaseContainer
Item ConflictSproc Trigger UDF
=
Collection Graph Table
SQL, MongoDB Gremlin Azure Table
keyspace
Cassandra

7. 要求ユニット (RU)
% IOPS% CPU% メモリ

8. 要求ユニット (RU)
最小 RU/秒
最大 RU/秒
入力リクエスト
レプリカが
休止状態
レート制限
レート制限なし

9. Demo

10. 要求ユニット計算ツール
https://www.documentdb.com/capacityplanner

11. オペレーションタイプ 処理あたりの平均 RU 1秒あたりの
平均処理数
1秒あたりに必要な
平均 RU
ドキュメント A の Read 1.1 50 55
ドキュメント B の Read 1.3 75 97.5
ドキュメント A の Create 5.2 100 520
ドキュメント B の Create 6.5 350 845
ドキュメント A の Update 10 20 200
ドキュメント B の Delete 4 30 120
クエリ - type 1 35 1 35
クエリ - type 2 .. .. ..

12. RU の自動リコメンデーション

14. コンテナは論理リソースで1 つ以上の物
理パーティション/サーバーにまたがること
が可能
物理パーティションの数は指定した RU
とデータ容量、スループット、パーティショ
ンキーに基づいて、Cosmos DB によっ
て決定
コンテナー

15. • データを分散配置する際の境界
（論理パーティション）
• １コンテナに１つだけパーティション
キーを指定可能
• 同一のパーティションキーは同一の
物理パーティションに保存
• 同一パーティションキーのデータにお
いてのみトランザクション処理が可
能
コンテナー

16. Demo

17. Fixed vs Unlimited
Dharma
Shireesh
Karthik
Rimma
Alice
Carol
…
Dharma
Shireesh
…
BOB
最大容量
10 GB
最大 RU
10,000
……
Fixed(なし） Unlimited (あり)
Karthik
Rimma
Alice
Carol
…
…
…
物理
パーティション1
物理
パーティション2
物理
パーティションN
物理
パーティション
最大容量
10 GB
最大 RU
設定した RU / N
最大容量：10GB × 物理パーティションの数
最大 RU ： 設定したRU
UserIdをパーティションキーに指定

18. パーティション
…
Hash(UserID)
ハッシュ値の範囲にわたる疑似ランダムなデータ分散
Andrew
Mike
…
Bob
Dharma
Shireesh
Karthik
Rimma
Alice
Carol
…
物理
パーティション1
物理
パーティション2
物理
パーティションN
物理パーティションの最大 10GB に到達しそうなとき・・・

19. パーティション
+
Rimma
Karthik
…
Dharma
Shireesh
Karthik
Rimma
…
Dharma
Shireesh
…
容量の上限
(10GB) に・・

20. パーティション
+ BobBob Bob
容量の上限
(10GB) に・・
同一のパーティションキーは同一の物理パーティションに保存
パーティションキーの見直しが必要

21. Azure Portal で物理パーティションの監視
均等に物理パーティションで分散されている物理パーティションで偏りがある

22. コンテナ
パーティションキーをフィルター条件に指定すればダイレクトにデータを取得
UserId = “Dharma”

23. 次の JSONド キュメントの検索を考えてみる

24. LastName のみを条件に検索
コンテナ
LastName = “Doe”

25. マッピング用のコレクションを増やす
UserLastName

26. マッピング用のコレクションを増やす
アプリ
コレクション
(LastName)
コレクション
(User)
LastName
UserID
UserID
User

27. LastName では不均等になる可能性あり
（佐藤さんは多いが久手堅さんは少ない）
コレクション

28. 複合パーティションキーで均等に分散
（LastName + CityOfOrigin）
コレクション

29. ご参考：追加、更新、削除を複数コレクションで扱う方法
UserLastName

30. パーティションキーの選択（コネクテッドカー ）
CURRENT MONTH
Storage Throughput Storage Throughput
Storage Throughput Storage Throughput
Device ID + Time

31. 1)全体のリクエストとストレージのボリュームを分散
• カーディナリティが高いパーティションキーを指定してホットパーティション
を避ける。
2)効率的なクエリとトランザクションのスコープ
• クエリがパーティションキーで適切にルートされる
• ファンアウトクエリが出来るだけ発生しないようにする。
パーティションキーのベストプラクティス

32. 参考：パーティションキーを変更したくなったら
Data Migration Tool Azure Data Factory

34. RDB のインデックスは？

35. https://docs.microsoft.com/ja-jp/azure/cosmos-db/indexing-policies

36. JSON ドキュメントのインデックス作成
{
"locations": [
{
"country": "Germany",
"city": "Berlin"
},
{
"country": "France",
"city": "Paris"
}
],
"headquarter": "Belgium",
"exports": [
{ "city": "Moscow" },
{ "city": "Athens" }
]
}
locations headquarter exports
0
country city
Germany Berlin
1
country city
France Paris
0 1
city
Athens
city
Moscow
Belgium

37. On-Disk Index overhead in DocumentDB
http://www.vldb.org/pvldb/vol8/p1668-shukla.pdf
Schema-Agnostic Indexing with Azure DocumentDB:

38. インデックス作成ポリシーのカスタマイズ
{
"automatic": true,
"indexingMode": "Consistent",
"includedPaths": [{
"path": "/*",
"indexes": [{
"kind": "Hash",
"dataType": "String",
"precision": -1
}, {
"kind": "Range",
"dataType": "Number",
"precision": -1
}, {
"kind": "Spatial",
"dataType": "Point"
}]
}],
"excludedPaths": [{
"path": "/nonIndexedContent/*"
}]
}

39. Demo

41. Strong Bounded-staleness Session Consistent prefix Eventual
5 つの明確に定義された整合性モデル
パフォーマンス整合性
Choose the right consistency level for your application
https://docs.microsoft.com/ja-jp/azure/cosmos-db/consistency-levels-choosing

43. • SDKは並列スレッドで各パーティションにクエリを発行する
クロスパーティションクエリの並列度（MaxDegreeOfParallelism）
Query
ThreadDOP = 1
Primary Thread
Concurrent Thread
Concurrent Thread
Concurrent Thread
DOP = 4

44. クライアント レスポンス バッファ（MaxBufferedItemCount）
1 3
2
4
5
6

45. SDK クエリオプション

46. SDK クエリオプション
セッティング 値 影響
MaxDegreeofParallelism
-1
システムが自動的にスレッドの数を決めて動作する
(Default)
0 １スレッド（Primary スレッド）のみ動作する
>= 1 指定した数のconcurrent threadsで動作する
MaxBufferedItemCount
-1
システムが自動的にバッファサイズを決めて動作する
(Default)
0 クライアントサイドのバッファを持たない
>= 1 指定したサイズのclient-side bufferを保持する。

47. Bulk Executor Library
Azure Cosmos DB Bulk Executor ライブラリ
https://docs.microsoft.com/ja-jp/azure/cosmos-db/bulk-executor-overview

49. Azure Portal でのモニタリング
HTTP429 が発生した回数
単位時間あたりのリクエスト回数
ストレージ利用量
物理パーティション毎のRU/S
など

51. Demo

52. Alerts

53. Performance

54. Information
「Ask The Speaker」
各ブレイクアウトセッション終了後の休憩時間に、
登壇したスピーカーに直接ご質問いただけるコーナーを
B2F 「Ask The Speaker」 Room に用意
しています。セッション内容のより深い理解のため、
ぜひお役立てください。
（※ハンズオンラーニング、シアターセッション、ビジネストラック
及び 一部のセッションを除きます）
EXPO
AREA 1
EXPO
AREA 2
Room
B

55. セッションアンケートにご協力ください。
公式イベントアプリで、「Microsoft Tech Summit 2018 参加者アンケート（必須）」と
「各セッションアンケート（ 5 つ以上）」、合わせて 6 つ以上のアンケートにご回答ください。
もれなくオリジナルグッズを贈呈いたします。
Information
Twitter のご案内
本セッションに関するご質問やご感想は、 #mstsjp18 と セッション ID の
ハッシュタグで、ご投稿をお願いします。
#mstsjp18

57. 要求ユニット (RU)
GET
POST
PUT
Query
…
=
=
=
=

58. New 一連のコンテナーに対するRU/秒のプロビジョニング
コンテナー レベルで
スループットを
プロビジョニング
データベース レベルで
スループットを
プロビジョニング
テナント
テーブル コンテナー グラフ
コンテナー
データベース内の
一連のコンテナー
リソース パーティション リソース パーティション
データベース レベルでのスループットのプロビジョニング

59. システム トポロジ
Resource
Manager
Language
Runtime(s)
Hosts
Query
Processor
RSM
Index Manager
Bw-tree++/LLAMA++
Log Manager
IO Manager
Resource Governor
Transport
Database engine
Admission control
…
…
地球 Azureリージョン データセンター スタンプ 障害ドメイン
クラスター マシン レプリカ データベース エンジン
Container
Various agents

60. リソース階層
コンテナー
リソース パーティション
コレクションテーブル グラフ
テナント

61. Storage Distribution Throughput Distribution
DEVICE ID
各車体はユニークな Device IDを持っている。こ
れをPartition Keyに用いることで良い多くの
Partition Keyで均等に分散することが出来る。
場合によってはストレージのリミットに到達する
可能性がある。
複合キー
(Device ID + Time)
Device IDとTimeによりさらに粒
度を増やすことができる。
Storage Distribution Throughput Distribution
Example – Contoso Connected Car

62. VEHICLE MODEL
通常モデルの数自体は少ないので
Granularは低い。Storageとスループッ
トが HOT になる可能性がある
CURRENT MONTH
ストレージのバランスはよいかもしれ
ないがトランザクションは最新のデー
タに集中することが多いため HOT パー
ティションになりやすい。
Storage Distribution Throughput
Distribution
Storage Distribution Throughput Distribution
Example – Contoso Connected Car

63. 優れたパーティションキーを選択することが重要
パーティションキーは効率的なクエリのルーティング
やトランザクション処理の境界線として動作
キーとなるモチベーション
• 分散リスエスト
• 分散ストレージ
• 効率的なクエリルーティング

64. EXAMPLE SCENARIO
Contoso Connected Car は車載からあがってくる
大量のテレメトリーデータを Cosmos DBに保存して
メンテナンスやリスク分析に役立てることにしました。
PARTITION KEYに何を指定するべきでしょうか？
• Vehicle Model
• Current Time
• Device Id
• 複合キー – Device ID + Current Time
Example – Contoso Connected Car

65. Storage Distribution Throughput Distribution
DEVICE ID
各車体はユニークな Device IDを持っている。こ
れをPartition Keyに用いることで良い多くの
Partition Keyで均等に分散することが出来る。
場合によってはストレージのリミットに到達する
可能性がある。
複合キー
(Device ID + Time)
Device IDとTimeによりさらに粒
度を増やすことができる。
Storage Distribution Throughput Distribution
Example – Contoso Connected Car

66. Partition の粒度
Partitions は最も頻繁に実行されるクエリやトランザクションの
ニーズに従って選択されるべき。ゴールは粒度を最大にして、
cross-partitionリクエストを最小にすることです。.
Example – Contoso Connected Car

67. Partition の粒度
最適なレベルの粒度をパーティションに指定
Example – Contoso Connected Car

68. Partition の粒度
クロスパーティションクエリが常に単純なファンアウトクエリなわけではない
Example – Contoso Connected Car

69. パーティション

70. パーティション

71. http://www.vldb.org/pvldb/vol8/p1668-shukla.pdf
Query Performance vs. Index Size
Schema-Agnostic Indexing with Azure DocumentDB:
On-Disk Index overhead

72. スキーマなし、インデックス作成なしで、あらゆるデータを処理
Item Color
Microwave
safe
Liquid
capacity
CPU Memory Storage
Geek
mug
Graphite Yes 16ox ??? ??? ???
Coffee
Bean
mug
Tan No 12oz ??? ??? ???
Surface
book
Gray ??? ??? 3.4 GHz
Intel
Skylake
Core i7-
6600U
16GB 1 TB SSD
GEEK

73. JSON ドキュメントのインデックス作成
{
"locations": [
{
"country": "Germany",
"city": "Bonn",
"revenue": 200
}
],
"headquarter": "Italy",
"exports": [
{
"city": "Berlin",
"dealers": [
{ "name": "Hans" }
]
},
{ "city": "Athens" }
]
}
locations headquarter exports
0
country city
Germany Bonn
revenue
200
0 1
citycity
Berlin
Italy
dealers
0
name
Hans

74. JSON ドキュメントのインデックス作成
Athens
locations headquarter exports
0
country city
Germany Bonn
revenue
200
0 1
citycity
Berlin
Italy
dealers
0
name
Hans
locations headquarter exports
0
country city
Germany Berlin
1
country city
France Paris
0 1
city
Athens
city
Moscow
Belgium

75. 転置インデックス
locations headquarter exports
0
country city
Germany
Berlin
revenue
200
0 1
city
Athens
city
Berlin
Italy
dealers
0
name
Hans
Bonn
1
country city
France Paris
Belgium
Moscow

76. インデックス 作成ポリシーのカスタマイズ
{
"automatic": true,
"indexingMode": "Consistent",
"includedPaths": [{
"path": "/*",
"indexes": [{
"kind": "Hash",
"dataType": "String",
"precision": -1
}, {
"kind": "Range",
"dataType": "Number",
"precision": -1
}, {
"kind": "Spatial",
"dataType": "Point"
}]
}],
"excludedPaths": [{
"path": "/nonIndexedContent/*"
}]
}

77. Azure Cosmos DB の整合性レベル

79. Alerts

80. Task<BulkImportResponse> BulkImportAsync(
IEnumerable<string> documents,
bool enableUpsert = false,
bool disableAutomaticIdGeneration = true,
int? maxConcurrencyPerPartitionKeyRange = null,
int? maxInMemorySortingBatchSize = null,
CancellationToken cancellationToken =
default(CancellationToken));
Sample Code
https://github.com/Azure/azure-cosmosdb-bulkexecutor-dotnet-getting-started

82. SDK クエリオプション