2017年05月18日に開催されたRCO Study Night #6 - RLS,RCOにおける機械学習応用事例共有会にて発表した資料です。 リクルートライフスタイルのサービスを横断したデータ収集・分析・機械学習を行っているデータエンジニアリングチームにおける機械学習バッチ運用についてになります。

1. 株式会社リクルートライフスタイル
NB本部ディベロップデザインユニットデータエンジニアリンググループ
高柳慎一
2017年5月18日
RCO Study Night #6
RLS,RCOにおける機械学習応用事例共有会
GCPを活用した機械学習バッチ運用環境

2. お題
• 話すこと
– 機械学習バッチ周りのアレコレ
1. マシンイメージ
2. Dockerコンテナ
3. コード管理
4. バッチ(作成|運用)
• 話さないこと
– 本日既に話されている重複箇所
– 具体的な機械学習手法の話（XXX法を使って云々等）
– 細かい担当サービスの話（ ○ 領域で売上X億円UP！等）
2(C) Recruit Lifestyle Co., Ltd. All rights reserved.

3. •全体像🐘
3(C) Recruit Lifestyle Co., Ltd. All rights reserved.

4. 全体像 (GCPを活用した機械学習バッチ運用環境(2016) より)
4(C) Recruit Lifestyle Co., Ltd. All rights reserved.

5. •マシンイメージ
5(C) Recruit Lifestyle Co., Ltd. All rights reserved.

6. マシンイメージについて
6(C) Recruit Lifestyle Co., Ltd. All rights reserved.

7. • Ansibleで構築
• Compute Engineに保存
• BigqueryやRedShift、S3などへのアクセスを担保
• よく使うデータリソースへの接続担保
• 機械学習計算はDockerコンテナを用いる
• バッチ処理時にマシンを動的に生成
マシンイメージについて
7(C) Recruit Lifestyle Co., Ltd. All rights reserved.

8. •Dockerコンテナ
8(C) Recruit Lifestyle Co., Ltd. All rights reserved.

9. Dockerコンテナについて
9(C) Recruit Lifestyle Co., Ltd. All rights reserved.

10. • (かなり)やっつけで作成
– 直したい…
– 手元でビルドしたものをContainer RegistryにPush…
• 下記をベースに適当に追加でライブラリなどを導入
– R: rocker/hadleyverse
– Python: jupyter/scipy-notebook
• バッチ処理時前にインスタンスにdocker pullしてくる
Dockerコンテナについて
10(C) Recruit Lifestyle Co., Ltd. All rights reserved.

11. •コード管理
11(C) Recruit Lifestyle Co., Ltd. All rights reserved.

12. コード管理について
12(C) Recruit Lifestyle Co., Ltd. All rights reserved.

13. コード管理について
• gh:eで管理
• 本番(タグ打ち済) コードはCloud Storageに保存
– gh:eがメンテで止まった場合の対策
• ちょっとだけ内製ライブラリもある(Python, R)
– DBへの接続
– API用のデータをアップロード
13(C) Recruit Lifestyle Co., Ltd. All rights reserved.

14. •バッチ(作成|運用)
14(C) Recruit Lifestyle Co., Ltd. All rights reserved.

15. バッチ(作成|運用)について
15(C) Recruit □□□□□□□□ Co., Ltd. All rights reserved.

16. バッチ(作成|運用)について
• バッチ処理自体の作成・管理にはRundeck
– (近い)将来的にはAirflow…
• 実行の流れ
1.機械学習バッチ処理マシンイメージを用いてインスタンス生成
2.Google Storageからコード取得
3.Container RegistryからR・PythonなどのDockerコンテナを取得
4.処理実行
5.結果をGoogle StorageやS3、Bigtableなどに格納
6.Rundeckから、バッチ処理マシンを破棄
7.Slackなどに通知
16(C) Recruit Lifestyle Co., Ltd. All rights reserved.

17. バッチの作成・管理（Rundeck画面）
17(C) Recruit Lifestyle Co., Ltd. All rights reserved.

18. まとめ
• 機械学習バッチ周りのアレコレ
– マシンイメージ
• Ansible＆Packerでイメージ作成
• GCEに保存
– Dockerコンテナ
• データ分析系（R / Python）のコンテナを用意
– コード管理
• gh:e + GCSで管理
– バッチ(作成|運用)
• Runeck（Airflow in the near future)
18(C) Recruit Lifestyle Co., Ltd. All rights reserved.