[db analytics showcase Sapporo 2017] B27:世界最速のAnalytic DBはHadoopの夢を見るか by 株式会社インサイトテクノロジー平間大輔

* 記載されている会社名、サービス名、製品名は、株式会社インサイトテクノロジーおよび各社の商標または登録商標です。 Copyright 2017 Insight Technology, Inc. All Rights Reserved.
世界最速のAnalytic DBは
Hadoopの夢を⾒るか
平間⼤輔
株式会社インサイトテクノロジービッグデータ・ソリューション事業部

⾃⼰紹介
• 道産⼦です！
• Apple II発売の⽇に⽣まれた40歳
• 前職...肩書はDBA、実態は何でも屋
• 現在...DBコンサルタントとして⼊社、現状は何でも屋

脈絡がないように⾒えますが...

今⽇はこっち寄りの話をします

つい忘れがちになりますが...
世の中の⼤半の⼈は
プログラムを
書けません。

DWH向けDBはRed Ocean

Actian Vectorとは何者か？
Copyright © 2013 Insight Technology, Inc. All Rights
Reserved.
SQL Parser
Ingres Rewriter
Ingres Optimizer
Ingres Storage &
Executor
SQL Parser
Ingres Rewriter
Ingres Optimizer
Classic
Ingres
Storage
&
Executor
X Compiler
Vector
Rewriter
Vector
Executor
Compresse
d PAX/DSM
Modify
Heavy
Modify
Add
Ingres Vector
x100

Actian Vectorの実⼒は？
Price/Performance
US$/QphH@3TB
0
Performance
(QphH@3TB)
Source: www.tpc.org / Jul 7, 2016
※Jun 27, 2017平間確認。Top5は結果変わらず。
500,000
1,500,000
2,000,000
1,000,000
Sybase IQ
30 Dec 2013
$1.29 US
230,119
32 cores
Microsoft
SQL Server
2016
31 Jul 2016
$0.72 US
969,504
72 cores
$0.38 US
2,140,307
96 cores
Actian
Vector 5.0
31 Jul 2016
Microsoft
SQL Server
2016
01 Jun 2016
$0.60 US
1,071,018
72 cores
Microsoft
SQL Server
2014
14 Sep 2015
$1.08 US
725,686
72 cores
Microsoft
SQL Server
2014
26 May 2015
$0.99 US
700,392
72 cores
Microsoft
SQL Server
2014
16 Apr 2014
$2.04 US
461,837
60 cores
3TB RAM3TB RAM
3TB RAM
3TB RAM
3TB RAM
3TB RAM1TB RAM
Top 7 Non-Clustered Database
System
TPC-H 3TB Scale Factor

速さの秘密を探る
ベクター演算
カラムナー
データ⾃動圧縮CPUキャッシュ
マルチコア並列処理…
ストレージインデックス
Time/CyclestoProcess
Data Processed
DISK
RAM
CHIP
10GB2-3GB40-400MB
2-20150-250Millions

DWH向けDBの基本のき – カラムナー
Prod ID Prod Name
Prod ID Prod Name
Prod ID Prod Name
Prod ID Prod Name
Prod ID Prod Name
Date
Date
Date
Date
Date
Prod ID Prod Name
Prod ID Prod Name
Prod ID Prod Name
Prod ID Prod Name
Prod ID Prod Name
Date
Date
Date
Date
Date
1ブロックには様々な
タイプのデータが格納
されているので圧縮効
率を上げにくい
1ブロックには同様の
タイプのデータが格納
されているので圧縮効
率を上げやすい
通常のDB（⾏指向）分析⽤DB（列指向）

でも、みんなやってるんだよね？
DWH⽤ベンチマークのTPC-HでmonetDBと⽐較してみよう
実⾏環境
• AWS EC2のi3.4xlargeを使⽤
16vCPU, 122GB Memory, NVMe SSD
• データベースのサイズ：1TB（Scale Factor=1000)
VS
monetDBとは
• オープンソースカラムナーDBのパイオニア
• 実はVectorはmonetDBを100倍速くするプロ
ジェクトとしてスタートした

同じカラムナーなのに、この差は？
0
2000
4000
6000
8000
10000
12000
14000
16000
18000
20000
Vector monetdb
秒
TPC-H(SF=1000) クエリ実⾏時間
839秒
16,936秒
※monetdbが処理中にリソース不⾜でエラーとなったQ1, Q10, Q14を除いた実⾏時間

Vectorの肝は、CPUの使い⽅にあり
SIMD (Single Instruction Multiple Data)
Pentium ⅢよりSSE(Streaming SIMD Extensions)として搭載され、
Sandy BridgeよりIntel AVX(Advanced Vector eXtensions)へ
・・・
・・・
・・・
・・・
・・・
Instruction
Data
Output

実⾏命令数の⽐較
27412968251
2.3858E+11
1.9685E+11
7.82182E+11
1.88149E+12 1.87184E+12
1
9 7
29
69
68
0
10
20
30
40
50
60
70
80
0.0E+00
1.0E+12
2.0E+12
Columnar DB
A
Columnar DB
B
In Memory DB
A
Rt = Instructions / (IPC * Hz * Parallelism)
Row Store DB
A
Row Store DB
B
CPUInstructions(count)
ComparisonvsVector
select
sum(l_extendedprice * l_discount) as revenue
from
lineitem -- 6億件, 80GB のデータ
where l_shipdate >= date '1996-01-01'
and l_shipdate < date '1996-01-01' + interval '1' year
and l_discount between 0.02 - 0.01 and 0.02 + 0.01
and l_quantity < 24
SIMD効果により、少ない命令数で済む
TPC-H Q6

ブランチミス数の⽐較
1.8E+07
1.1E+09
3.0E+08
1.1E+09
1.6E+09
7.7E+08
1
64
17
62
88
43
0
10
20
30
40
50
60
70
80
90
100
0.0E+00
1.0E+09
2.0E+09
Columnar DB
A
Columnar DB
B
In Memory DB
A
Row Store DB
A
Row Store DB
B
CPUBranch-Misses(count)
ComparisonvsVector
そもそも分岐命令数が１〜２桁少ない。よってブランチミスのペナルティも少なくて済む。

その結果がクエリの⾼速実⾏に
0.48 3.44
35.58
209.45
467.36
332.56
1
7
74
434
968
689
0
200
400
600
800
1000
1200
0
50
100
150
200
250
300
350
400
450
500
Columnar DB
A
Columnar DB
B
In Memory DB
A
Row Store DB
A
Row Store DB
B
QueryElapsedTime(sec)
ComparisonvsVector
実⾏時間の⽐較

Vectorの弱点：スケールアウトできない
多くのDWH向けDBでは
スケールアウトで性能向上
これまでのVectorは
スケールアップのみ！

Hadoopの⼒を借りてクラスタ化！
- Vector in Hadoop (VectorH)
DataNode DataNode DataNode DataNode DataNode
NameNode
Vector
x100 x100 x100 x100 x100

HadoopだけでもSQLは実⾏できるんじゃ...

じゃあ⽐べてみよう
select
100.00 * sum(case
when p_type like 'PROMO%’
then l_extendedprice * (1 - l_discount)
else 0
end) / sum(l_extendedprice * (1 - l_discount)) as promo_revenue
from
lineitem,
part
where
l_partkey = p_partkey
and l_shipdate >= date '1996-01-01’
and l_shipdate < date '1996-01-01' + interval '1' month
; 9 DataNodes
NameNode
onVS
Q14（TPC-Hの中では極悪度かなり低め）
i3.4xlarge
16vCPU, 122GB Memory,
NVMe SSD, 10Gbit Ethernet

複雑な分析SQLに耐えられるか
1.477118
136.996
521.968
1490.442
1
93
353
1,009
0
200
400
600
800
1000
1200
0
200
400
600
800
1000
1200
1400
1600
VectorH Hive on Tez HIve MapReduce Spark SQL (2.0)
倍
秒
TPC-H (SF=1000) Q14 実⾏時間
VectorH Hive Spark SQL 2.0
Q1 ○ × ×
Q2 ○ × ○
Q3 ○ ○ ○
Q4 ○ × ー
Q5 ○ ○ ー
Q6 ○ ○ ○
Q7 ○ × ×
Q8 ○ × ×
Q9 ○ × ×
Q10 ○ ○ ー
Q11 ○ × ○
Q12 ○ ○ ○
Q13 ○ × ×
Q14 ○ ○ ○
Q15 ○ × ○
Q16 ○ × ×
Q17 ○ × ー
Q18 ○ × ー
Q19 ○ ー ○
Q20 ○ × ー
Q21 ○ × ー
Q22 ○ × ×
SQLを書き換えずに実⾏できた
TPC-Hクエリ (9 datanodes)
○：実⾏可 ×：実⾏不可ー：リソース不⾜でエラーなど
• Hive, SparkのストレージはORC + snappy
• 各プロダクトの設定はインストール時のデフォルトから変更なし
速い！
MapReduce
よりは速く
なったが...
リソース
不⾜？

で、スケールアウトはできたの？
1
2
4
6
0
1
2
3
4
5
6
7
8
9
10
0
100
200
300
400
500
600
700
800
900
1000
Single 3 datanodes 6 datanodes 9 datanodes
実⾏速度（倍）
秒
TPC−H (SF=1000) クエリ実⾏時間

もう⼀つの弱点はつないで解決
Vectorの弱点：機能が少ない！
• ユーザー定義関数(UDF)がない
• RDBMS以外の機能は最⼩限
→できないことは他でやらせる！
sqlContext.sql("""CREATE TEMPORARY TABLE vector_table
USING com.actian.spark_vector.sql.DefaultSource
OPTIONS (
host "172.31.2.228",
instance "VH",
database "tpch",
user "actian",
password "actian",
table "supplier”
)""")
val result=sqlContext.sql("select count(*) from vector_table")
result.show()
Spark-Vector Connectorの使⽤例

「性能」に特化して⽣き残れ！

[db analytics showcase Sapporo 2017] B27:世界最速のAnalytic DBはHadoopの夢を見るか by 株式会社インサイトテクノロジー平間大輔

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to [db analytics showcase Sapporo 2017] B27:世界最速のAnalytic DBはHadoopの夢を見るか by 株式会社インサイトテクノロジー平間大輔

Similar to [db analytics showcase Sapporo 2017] B27:世界最速のAnalytic DBはHadoopの夢を見るか by 株式会社インサイトテクノロジー平間大輔 (20)

More from Insight Technology, Inc.

More from Insight Technology, Inc. (20)

Recently uploaded

Recently uploaded (10)