大量データ処理とDate store handler

本書類の内容に関する一切の権利につきましては当社に帰属し、本書
類の全部または一部を当社の事前承諾なしに公表または第三者に開
示することはできませんので、貴社限りとしてお取扱いください。 11 July 2018Copyright © , ValueCommerce Co., Ltd.
一般
バリューコマース株式会社
技術開発本部技術開発2部
松本有生
大量データ処理と
DateStore Handler

11 July 2018Copyright © , ValueCommerce Co., Ltd.
-1-
本書類の内容に関する一切の権利につきましては当社に帰属し、本書類の全部または一部
を当社の事前承諾なしに公表または第三者に開示することはできませんので、貴社限りとして
お取扱いください。
一般
STORE’s R∞ サービス概要
 Yahoo!ショッピングに出店しているストア向けCRM
 顧客をセグメントしてYahoo!ショッピング上に掲載するクーポンやお知らせを出
しわけできる

-2-
一般
STORE’s R∞ サービス概要

-3-
一般
STORE’s R∞ システム全体構成
FTP
Amazon EMR
Amazon
S3
Amazon
RDS
KVS (Redis)API
Batch
LOG Amazon
Kinesis
App
ユーザ
ストア
ヤフー
バリューコマース

-4-
一般
STORE’s R∞ システム全体構成
FTP
Amazon EMR
Amazon
S3
Amazon
RDS
KVS (Redis)API
Batch
LOG Amazon
Kinesis
App
ユーザ
ストア
ヤフー
集計処理
配信・DataStore処理

-5-
一般
STORE’s R∞ 集計処理概要
FTP
Amazon EMR
Amazon
S3
Amazon
RDS
KVS (Redis)API
Batch
LOG Amazon
Kinesis
App
ユーザ
ストア
ヤフー
集計処理

-6-
一般
 購買情報を元にした集計
 顧客ランク

-7-
一般
 顧客ランクの算出方法
 現在からさかのぼって、離反期間を含む過去の購買金額・購買回数・購買間隔によって顧客をランク付
け
 計算対象期間はストア毎に設定 (最大3年)

-8-
一般
 顧客 × ストア × 時間軸でウインドウ集計
Aストア
商品A-1
Aストア
商品A-2
Bストア
商品B-1
Cストア
商品C-1
NOW
Bストア
商品B-2
Aストア: 直近24カ月
Bストア: 直近12カ月
Cストア: 直近18カ月

-9-
一般

-10-
一般
STORE’s R∞ Apache Spark
 Apache Spark
 高速かつ汎用的であることを目標に設計されたクラスタコンピューティングフレームワーク
 Hadoop MapReduceのモデルを拡張しインタラクティブなクエリやストリーム処理を含
む多くの演算処理をオンメモリで行う
Apache Spark™ is a unified analytics engine for large-scale data processing.
出典: https://spark.apache.org/
出典: https://ja.wikipedia.org/wiki/Apache_Spark

-11-
一般
STORE’s R∞ Spark on EMR
 Spark Core / Spark SQL
 基本的にはDataFrameを使用
 細かい制御に直接RDDを使用
 データ量
 顧客: 数千万ユーザ
 ストア: 数千店舗
 時間: Max 3年分
 EMR構成
 r3.4xlarge (32 vCore、122 GiB メモリ、320 SSD GB)
 3 Nodes
 2～4時間で処理

-12-
一般
STORE’s R∞ 配信処理概要
FTP
Amazon EMR
Amazon
S3
Amazon
RDS
KVS (Redis)API
Batch
LOG Amazon
Kinesis
App
ユーザ
ストア
ヤフー
配信・DataStore処理

-13-
一般
 配信処理フロー
KVS (Redis)API (Apache)ユーザ
UID + Store ID
お知らせ・クーポン情報
UID
ユーザ情報
(ストア毎)Yahoo!ショッピング

-14-
一般
STORE’s R∞ Redis Module
 Redis Module
 Redis 4.xから導入
 外部モジュールとしてRedis機能を拡張し、独自のRedisコマンドをコアな部分とは分
離したレイヤで実装可能
 動的にロード/アンロード可能
 データ型(文字列型やハッシュ型など)も独自に追加可能
出典: https://redis.io/topics/modules-intro
出典: https://redis.io/topics/modules-api-ref

-15-
一般
 Example
 有効期間10秒間でセット
 有効期間 2018/12/31 23:59:59でセット

-16-
一般
 Example
 VCCORE.SETEXAT

-17-
一般
 Example
 有効期間10秒間でセット
 有効期間 2018/12/31 23:59:59でセット
出典: https://redis.io/topics/modules-intro
出典: https://redis.io/topics/modules-api-ref

-18-
一般
KVS (Redis)API (Apache)ユーザ
UID + Store ID
お知らせ・クーポン情報
 配信処理フロー
UID
ユーザ情報
(ストア毎)Yahoo!ショッピング

-19-
一般
STORE’s R∞ ユーザデータ
 Redis データ構造

-20-
一般
 Redis Module 独自コマンド

-21-
一般
 Redis構成
 r4.2xlarge (8 vCore、61GiB メモリ)
 Master 3台 x Slave 3台 (Cluster)
 メモリ使用量: 25%
 API(Apache)構成
 m4.xlarge (4 vCore、16GiB メモリ)
 4台
 Max QPS: 3,000 QPS/台

-22-
一般
STORE’s R∞ まとめ
 集計処理
 Apache Spark ≠ 簡単にビックデータ集計できる
 簡単な集計であればいいが、複雑な集計をするには内部構造まで知らないとダメ
 配信処理
 レイテンシが求めらる箇所でRDBMSはボトルネックになる
 KVSや共有メモリで代用
 特にRedis Moduleは細かいことがいろいろできるので可能性無限大

大量データ処理とDate store handler

大量データ処理とDate store handler

Recommended

Recommended

More Related Content

Featured

Featured (20)

大量データ処理とDate store handler