Machine Learning Production Pitch #5 の登壇資料です。 小売業向けに展開している Insight for Retail というプロダクトの機械学習基盤に求められる要件と、それに対する設計思想・実装の概観を書いています。

1. 中川 裕太
@僕らの遊び場ABEJA
楽しむために
楽するアーキテクチャ

2. 中川 裕太
Research Engineer @ ABEJA

7. Agenda
機械学習エンジニアとしてのミッション
楽するアーキテクチャ
次なる楽しい仕事

8. 機械学習エンジニアとしてのミッション
楽するアーキテクチャ
次なる楽しい仕事

9. まずは、かるーく事業紹介

10. プロダクトビジョン
顧客行動データを基軸にして、
新しい小売流通業のかたちを創造する

12. ダッシュボードに結果を表示する

13. 200,000,000人
Number of Visitors

14. 700+
Shops

15. 機械学習エンジニアは
何をやっているのか？

16. リサーチャーと協力して
最新論文のキャッチアップ

17. 社内研究環境を整備

18. アーキテクチャの設計と実装

19. 日々の運用と改善

20. とても楽しくやりがい満載

21. でも

22. 裏を返せば多忙…

23. 楽しく気持ちのよい仕事を
するために楽しよう

24. 機械学習エンジニアとしてのミッション
楽するアーキテクチャ
次なる楽しい仕事

25. 楽をするためには
まずは相手を知ることから

26. 動画解析のワークフロー

27. Stateless と Statefull の両方が混在する
stateless
statefull

28. 導入後、約8か月間の負荷状況

29. 周期的な影響や
土日
平日

30. シーズナルな影響
GW
お盆

31. そして、サービス成長

32. コアに求められる要件も
ちょいちょい変わる

33. カメラが変わったり

34. 画角が変わったり

35. 楽をするためのポイント
サービスの形態に応じて変更を容易にする
負荷に対してエラスティックにスケールさせる
障害が起きても勝手に回復する

36. ぶっちゃけ当たり前

37. Insight for Retail での実装方法

38. 動画解析をマイクロサービスの DAG として実装
camera
camera
queue
model A
model B
model C
model D
aggregator dashboard
analysis DAG

39. DAG を組み替えるで容易に変更が可能
39
queue
model A
model B
model E
model D
model F

40. 各サービスはインプット量と負荷に応じて勝手にスケール
queue
model A
model B
model C
model D
model A
model B
model D
model D

41. 処理は失敗する前提で冪等性を保ってリトライしまくり
41
queue
model A
model B
model C
model D

42. stateless だけなら
これだけで十分

43. でも、statefull な子も
いるから厄介

44. ロジック層とデータ層を分けて API でつなぐ
Similarity Search

45. さらに API も極力しぼってデータ層のシンプルさを保つ
Similarity Search
Search/Update
のみ

46. 時間がないので詳細は他登壇資料を参照

47. 続きは懇親会で

48. 結果として

49. ICCV 2019 会期中の障害 0 件

50. 会議に集中できました

51. 機械学習エンジニアとしてのミッション
楽するアーキテクチャ
次なる楽しい仕事

52. 楽に運用できるようになったからこそ

53. 楽しい仕事にフォーカスすべき

54. 次なる楽しい仕事は2つ
原価削減
スケール限界の更なる向上

55. 原価削減
スケール限界の更なる向上

56. 120社700店舗以上への導入実績 (2019年3月時点)

57. 原価削減の効果はすごく大きい

58. エンジニア冥利に尽きる
とても楽しい仕事

59. 原価削減
スケール限界の更なる向上

60. お客様のニーズは確実に見えている

61. 売りまくってくるという
営業の声にも応えたい

62. でも、技術的ハードルもめちゃ高い

63. インフラもロジックも研究が必須な
とても楽しい仕事

64. 楽しい仕事をしてお客様に還元したい

65. まとめ
機械学習エンジニアはやりがい満載で楽しい仕事だけど
忙しさに忙殺されがち
自分たちのサービス特性を正しく知った上で
とにかく自分が楽できるアーキテクチャを設計・実装すべき
運用で楽をすることによって
お客様の価値の源泉となる次なる楽しい仕事ができる

66. 楽しむために
楽しよう