SlideShare a Scribd company logo
1 of 97
Download to read offline
최규민 카카오 추천팀
유저가 좋은 작품(웹툰)을 만났을때
1
CONTENTS
1. 추천 시스템의 목적
2. 픽코마(웹툰) 추천 시스템
3. 픽코마 사용자 Engagement 탐색
4. 결론
2
추천 시스템의
목적은 무엇일까요?
3
인터넷 검색해 봤습니다.
4
인터넷 검색해 봤습니다.
요약하자면
사용자가 좋아할만 한
아이템을 추천해 주는것
5
인터넷 검색해 봤습니다.
요약하자면
사용자가 좋아할만 한
아이템을 추천해 주는것
아이템 추천으로 달성코자하는
서비스 목적은 무엇일까요?
6
소비자와 공급자 관점에서 추천 시스템의 목적
RecSys '16 : Recommendations with a Purpose 발췌
https://web-ainf.aau.at/pub/jannach/files/Conference_RecSys2016.pdf
7
소비자와 공급자 관점에서 추천 시스템의 목적
RecSys '16 : Recommendations with a Purpose 발췌
https://web-ainf.aau.at/pub/jannach/files/Conference_RecSys2016.pdf
영화에 만족함
(Consumer에게 좋음)
영화를 많이봄
(Provider에게 좋음)?
8
다른 서비스의 추천 시스템 목표 알아 봤습니다.
영화 음악 동영상
9
Netflix 추천 시스템 목표는?
- Netflix : Member
satisfaction and retention
RecSys 2020’ : Recent Trends in Personalization at Netflix
https://www.slideshare.net/justinbasilico/recent-trends-in-personalization-at-netflix 10
Spotify 추천 시스템 목표는?
- Netflix : Member
satisfaction and retention
- Spotify : Match fans and
artist, Enjoy listening
https://www.slideshare.net/mounialalmas/personalizing-the-listening-experience
11
Youtube 추천 시스템 목표는?
- Netflix : Member
satisfaction and retention
- Spotify : Match fans and
artist, Enjoy listening
- Youtube : Keep Users
Entertained and Engaged
https://www.inf.unibz.it/~ricci/ISR/papers/p293-davidson.pdf
12
다른 서비스의 추천 시스템 목표는?
help members find
content
to watch and enjoy
match
fan and artist
help users find
high quality video
13
다른 서비스의 추천 시스템 목표는?
help members find
content
to watch and enjoy
match
fan and artist
help users find
high quality video
member
satisfaction &
retention
enjoy listening
keep Users
Entertained and
Engaged
14
다른 서비스의 추천 시스템 목표는?
help members find
content
to watch and enjoy
match
fan and artist
help users find
high quality video
소비자 관점의 추천 시스템 목표
15
카카오 서비스의 추천 시스템 목표는 무엇일까요?
뉴스 음악
선물하기, 스타일, 쇼핑하기, …
상품 웹툰
픽코마
16
카카오 서비스의 추천 시스템 목표는 무엇일까요?
뉴스 음악
선물하기, 스타일, 쇼핑하기, …
상품 웹툰
픽코마
체류시간
재방문율
스트리밍수
재방문율
매출,
상품클릭
작품 첫 에피소드
열람수
작품
열람수
대부분이 소비자 관점의 추천 시스템 목표
17
카카오 서비스의 추천 시스템 목표는 무엇일까요?
뉴스 음악
선물하기, 스타일, 쇼핑하기, …
상품
픽코마
체류시간
재방문율
스트리밍수
재방문율
매출,
상품클릭
작품 첫 에피소드
열람수
작품
열람수
대부분이 소비자 관점의 추천 시스템 목표
웹툰
왜? 이런 추천 목표를 정했을까요?
이제부터 알아 보겠습니다.
18
유저가 좋은 작품을 만났을때
이제 답을 찾는 데이터 탐색 여정을 시작하겠습니다.
19
픽코마 추천 시스템
20
픽코마 서비스
카카오재팬에서 서비스하는 만화 플랫폼
- 출시: 2016년 4월
21
추천 솔루션이 적용된 곳은?
기프트콘 푸시 크로스팝업
개인화 추천 개인화 추천 연관 추천 타켓팅 푸시 타켓팅 팝업
서비스홈>Top슬롯 추천슬롯들(서비스홈, 망가홈, 노벨홈 등) 뷰어 엔드
22
추천 솔루션이 적용된 곳은?
기프티콘 푸시 크로스팝업
개인화 추천 개인화 추천 연관 추천 타켓팅 푸시 타켓팅 팝업
서비스홈>Top슬롯 추천슬롯들(서비스홈, 망가홈, 노벨홈 등) 뷰어 엔드
픽코마 UX 전반에 걸쳐 개인화 추천 활용됨
23
추천 솔루션의 목표
서비스홈>Top슬롯 추천슬롯들(서비스홈, 망가홈, 노벨홈 등) 뷰어 엔드 기프트콘 푸시 크로스팝업
작품 첫 에피소드
열람수
타켓작품
매출 전환
신작
열람 전환
24
기프트콘 푸시 크로스팝업
추천 솔루션의 목표
서비스홈>Top슬롯 추천슬롯들(서비스홈, 망가홈, 노벨홈 등) 뷰어 엔드
작품 첫 에피소드
열람수
타켓작품
매출 전환
신작
열람 전환
소비자 관점의
추천시스템 목표
공급자 관점의
추천시스템 목표
25
기프트콘 푸시 크로스팝업
추천 솔루션의 목표
서비스홈>Top슬롯 추천슬롯들(서비스홈, 망가홈, 노벨홈 등) 뷰어 엔드
작품 첫 에피소드
열람수
타켓작품
매출 전환
신작
열람 전환
소비자 관점의
추천시스템 목표
공급자 관점의
추천시스템 목표
사용자 만족도와 리텐션 늘리기 매출 늘리기=
=
26
픽코마 사용자
Engagement 탐색하기
27
픽코마 퍼널 정의
지속 열람 작품이
많아짐
관심 작품의
발견
작품 컨텐츠에
만족
제목, 썸네일의 

만족
작품 설명의
만족
작품
노출
작품
클릭
작품
1 화 열람
작품
다음 화 열람
지속열람
(Session)
자주방문
(Day)
이탈
(1) (2) (3) (4) (5)
Intra-Session Inter-Session
사용자 만족도 높음사용자 만족도 낮음
28
픽코마 퍼널 정의
작품
노출
작품
클릭
작품
1 화 열람
작품
다음 화 열람
지속열람
(Session)
자주방문
(Day)
(1) (2) (3) (4) (5)
사용자 만족도는 높아지고
사용자 수는 감소합니다.
여기까지 사용자를
많이 남기는것이
소비자 관점에서
추천 시스템의 목적
29
픽코마 퍼널 정의
작품
노출
작품
클릭
작품
1 화 열람
작품
다음 화 열람
지속열람
(Session)
자주방문
(Day)
(1) (2) (3) (4) (5)
여기까지 사용자를
많이 남기는것이
고객 관점에서
추천 시스템의 목적
Short-Term 선호도
Intra-Session
30
픽코마 퍼널 정의
작품
노출
작품
클릭
작품
1 화 열람
작품
다음 화 열람
지속열람
(Session)
자주방문
(Day)
(1) (2) (3) (4) (5)
여기까지 사용자를
많이 남기는것이
고객 관점에서
추천 시스템의 목적
Long-Term 선호도Short-Term 선호도
Intra-Session Inter-Session
31
픽코마 퍼널 정의
작품
노출
작품
클릭
작품
1 화 열람
작품
다음 화 열람
지속열람
(Session)
자주방문
(Day)
(1) (2) (3) (4) (5)
여기까지 사용자를
많이 남기는것이
고객 관점에서
추천 시스템의 목적
Long-Term 선호도Short-Term 선호도
추천시스템 목표인 Long-Term
목표 지표를 직접 최대화 하기 어려움
(Retention Rate, Active Days, Total spent time 등)
32
픽코마 퍼널 정의
작품
노출
작품
클릭
작품
1 화 열람
작품
다음 화 열람
지속열람
(Session)
자주방문
(Day)
(1) (2) (3) (4) (5)
여기까지 사용자를
많이 남기는것이
고객 관점에서
추천 시스템의 목적
Long-Term 선호도Short-Term 선호도
33
작품
노출
추천하는
시점 추천시스템 목표인 Long-Term
목표 지표를 직접 최대화 하기 어려움
(Retention Rate, Active Days, Total spent time 등)
픽코마 퍼널 정의
작품
노출
작품
클릭
작품
1 화 열람
작품
다음 화 열람
지속열람
(Session)
자주방문
(Day)
(1) (2) (3) (4) (5)
여기까지 사용자를
많이 남기는것이
고객 관점에서
추천 시스템의 목적
Long-Term 선호도Short-Term 선호도
현실적으로 많은 추천 시스템이
Short-Term 목표지표를 선택
(CTR, long-CTRs, dwell time, take-rate)
34
픽코마 퍼널 정의
작품
노출
작품
클릭
작품
1 화 열람
작품
다음 화 열람
지속열람
(Session)
자주방문
(Day)
(1) (2) (3) (4) (5)
여기까지 사용자를
많이 남기는것이
고객 관점에서
추천 시스템의 목적
Long-Term 선호도Short-Term 선호도
현실적으로 많은 추천 시스템이
Short-Term 목표지표로 선택
(CTR, long-CTRs, dwell time, take-rate) Long Term Proxy 지표를 찾아보자
cause/correlation
35
사용자 리텐션(열람일수)이 낮은 집단과 높은 집단의 지표 탐색
- 하루에 얼마나 열람할까? 매일 열람할까? 얼마나 다양한 작품을 열람할까? 등등
Long Term Proxy 지표 탐색
1일열람일수
(Days)
2일 3일 30일… 29일28일
목적은 리텐션과 가장 상관관계가 높은 지표를 찾자
36
Long Term Proxy 지표 탐색
픽코마 사용자를 랜덤 샘플링하여
균등(2%)하게 열람 일수(days)로 Segmentation 하고 지표 탐색
리텐션이 높은 집단리텐션이 낮은 집단
37
Long Term Proxy 지표 탐색
활동성이 높은 사용자
한달 작품 열람수는 증가한다.
(1)한달 열람수는 높게 증가한다.열
람
수
자주 방문하는 사용자 일수록
전체 열람수
38
Long Term Proxy 지표 탐색
활동성이 높은 사용자
하루 평균 6~9개 에피소드를 열람한다.(~TP.70까지)
열
람
수
자주 방문 할수록
(1)한달 열람수는 높게 증가한다.
(2)고 활성 유저가 되기 전까지는 하루 열람
수는 일정하다.
일일 열람수
39
Long Term Proxy 지표 탐색
활동성이 높은 사용자
하루에 작품당 약 1.5개 에피소드를 열람한다.
열
람
수
자주 방문 할수록
(1)한달 열람수는 높게 증가한다.
(2)고 활성 유저가 되기 전까지는 하루 열
람수는 일정하다.
(3)일일 작품당 열람 에피소드수도 감소 &
수렴한다.(작품당 1.5 에피소드 열람)작품당 일일 열람수
40
Long Term Proxy 지표 탐색
활동성이 높은 사용자
하루에 열람하는 작품수는 증가한다.
열
람
수
자주 방문 할수록
(1)한달 열람수는 높게 증가한다.
(2)고 활성 유저가 되기 전까지는 하루 열
람수의 증가되지 않는다
(3)일일 작품당 열람 에피소드수도 감소 &
수렴한다.(작품당 1.5 에피소드 열람)
(4)하루 열람 작품수 증가한다.
일일 열람 작품수(unique)
41
Long Term Proxy 지표 탐색
활동성이 높은 사용자
Unique 열람 작품수 증가한다.
열
람
수
자주 방문 할수록
(1)한달 열람수는 높게 증가한다.
(2)고 활성 유저가 되기 전까지는 하루 열
람수의 증가되지 않는다
(3)일일 작품당 열람 에피소드수도 감소 &
수렴한다.(작품당 1.5 에피소드 열람)
(4)하루 열람 작품수 증가한다.
(5)Unique 열람 작품수도 증가한다.
전체 열람 작품수(unique)
42
Long Term Proxy 지표 탐색
열람 일수(리텐션지표)와 상관 계수가 가장 높은것은?
열람일수(Day)
전체 열람수 일일 열람수
전체 열람
작품수(Unique)
일일 열람
작품수(Unique)
일일 작품당
열람수
43
Long Term Proxy 지표 탐색
열람 일수(리텐션지표)와 상관 계수가 가장 높은것은?
열람일수(Day)
+0.9076 +0.8141
+0.9564+0.9204
-0.9037
전체 열람수 일일 열람수
전체 열람
작품수(Unique)
일일 열람
작품수(Unique)
일일 작품당
열람수
44
Long Term Proxy 지표 탐색 요약
- 일일 열람수와 작품당 열람수는 리텐션과 상관없이 일정하다

- 자주 방문하도록 하는 리텐션을 높이기 위해서는
전체 열람수보다는 사용자의 선호 작품 수를 늘려야한다.
45
Long Term Proxy 지표 탐색 요약
- 일일 열람수와 작품당 열람수는 리텐션과 상관없이 일정하다

- 자주 방문하도록 하는 리텐션을 높이기 위해서는
전체 열람수보다는 사용자의 선호 작품 수사용자의 선호 작품 수 어떻게 늘릴수 있을까요?
46
Long Term Proxy 지표 탐색 요약
- 일일 열람수와 작품당 열람수는 리텐션과 상관없이 일정하다

- 자주 방문하도록 하는 리텐션을 높이기 위해서는
전체 열람수보다는 사용자의 선호 작품 수사용자의 선호 작품 수 어떻게 늘릴수 있을까요?
사용자는 어떻게 선호하는 작품을 탐색하고 발견할까요?
47
사용자의 작품 탐색과 발견에 대하여
Engagement Life Cycle 관점에서 사용자 군집 분석
48
사용자의 Engagement Life Cycle
https://www.hongliangjie.com/talks/WWW2019_Tutorial.pdf
이탈
49
사용자의 Engagement Life Cycle 패턴
0
30
60
90
120
+0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 +8월 +9월 +10월 +11월 +12월
열
람
수 신규 -> 활성 사용자
50
사용자의 Engagement Life Cycle 패턴
0
30
60
90
120
+0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 +8월 +9월 +10월 +11월 +12월
열
람
수 신규 -> 활성 사용자
활성 -> 이탈 사용자
51
사용자의 Engagement Life Cycle 패턴
0
30
60
90
120
+0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 +8월 +9월 +10월 +11월 +12월
열
람
수 신규 -> 활성 사용자
활성 -> 이탈 사용자
활성 -> 활성 사용자
52
사용자의 Engagement Life Cycle 패턴
0
30
60
90
120
+0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 +8월 +9월 +10월 +11월 +12월
열
람
수 신규 -> 활성 사용자
활성 -> 이탈 사용자
활성 -> 활성 사용자
신규 -> 이탈 사용자
53
사용자의 Engagement Life Cycle
0
30
60
90
120
+0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 +8월 +9월 +10월 +11월 +12월
열
람
수 신규 -> 활성 사용자
활성 -> 이탈 사용자
활성 -> 활성 사용자
신규 -> 이탈 사용자
사용자의 월별 열람 이력으로 군집화 후
활성 사용자의 작품 탐색과 발견을 분석했습니다.
54
사용자 군집화 by unsupervised learning
https://www.hongliangjie.com/talks/WWW2019_Tutorial.pdf
8개월(19’ 05 ~ 21’ 01)의 사용자 작품 열람수
k-means 

clustering(k=15)
15개 사용자 그룹으로 군집화
55
사용자 군집화 결과 - 클러스터별 작품 열람수
56
사용자 군집화 결과 - 비슷한 패턴 끼리 정렬
57
사용자 군집화 결과 - 비슷한 패턴 끼리 정렬
1. 열람 지속형 클러스터

작품 열람수의 차이는 있음
Engagement 유지
58
사용자 군집화 결과 - 비슷한 패턴 끼리 정렬
2. 열람 감소형 클러스터
감소의 속도 차이와 이탈여부가 다름
Engagement 감소(-)
59
사용자 군집화 결과 - 비슷한 패턴 끼리 정렬
3. 열람 증가형 클러스터
증가의 속도와 소비 수준이 다름
Engagement 증가(+)
60
탐색하기에 앞서 - Exploration/Exploitation 용어 정의
1 2 3 4
…
99 100
작품
무료 에피소드로
작품 탐색을하고
재미있으면
지속 열람 작품이 됩니다.
작품 노출
61
탐색하기에 앞서 - Exploration/Exploitation 용어 정의
1 2 3 4
…
99 100
작품
작품 노출
1, 2화만 열람한 작품을
Exploration(탐색) 작품으로 정의
지속하는 작품을
Exploitation(활용) 작품으로 정의
62
탐색하기에 앞서 - 분석 관점
열람 감소할때 Exploration 작품수는 어떻게 변화하는가?
열람 증가할때 Exploration 작품수는 어떻게 변화하는가?
즉 사용자의 탐색적 활동와 Long Term 선호도 관계를 탐색하고자한다.
63
사용자는 얼마나 탐색하는가?
한달 열람하는 작품 중 18%(4.7개)는 Exploration 작품이다.
Exploitation 작품수
21.7(82%)
Exploration 작품수
4.7(18%)
Exploration Rate = 0.18
64
사용자 군집화 결과 - 비슷한 패턴 끼리 정렬
Engagement 증가(+)
Engagement 감소(-)
Engagement 유지
65
Engagement 유지 - 월 평균 작품수가 일정한 집단
신규 사용자 중급 사용자 중급 사용자 고급 사용자 로얄 사용자
66
Engagement 유지 - 월 평균 작품수가 일정한 집단
신규 사용자 중급 사용자 중급 사용자 고급 사용자 로얄 사용자
Exploration 작품수
Exploitation 작품수
Exploration Rate
67
Engagement 유지 - 월 평균 작품수가 일정한 집단
신규 사용자 중급 사용자 중급 사용자 고급 사용자 로얄 사용자
Exploration Rate
Exploration Rate은 완만하게 감소 & 유지 합니다.
68
Engagement 유지 - 월 평균 작품수가 일정한 집단
신규 사용자 중급 사용자 중급 사용자 고급 사용자 로얄 사용자
Exploration Rate
Exploration Rate은 완만하게 감소 & 유지 합니다.
활성 사용자가 될수록 평균 Exploration Rate은 높아집니다.
69
Engagement 감소 - 열람 작품수가 감소 후 이탈 집단
신규 사용자 이탈 중급 사용자 이탈 중/상급 사용자 이탈
중/상급 사용자
활동성 증가 후 이탈
70
Engagement 감소 - 열람 작품수가 감소 후 이탈 집단
신규 사용자 이탈 중급 사용자 이탈 중/상급 사용자 이탈
중/상급 사용자
활동성 증가 후 이탈
Exploration Rate이 높다가 급락 또는 감소한다.
즉 작품 탐색 경험이 나빠져서 전혀 작품 탐색을 하지 않게된것으로 추청
71
Engagement 증가 - 열람 작품수가 증가하는 집단
신규 사용자 중급 사용자 고급 사용자 고급 사용자
72
Engagement 증가 - 열람 작품수가 증가하는 집단
신규 사용자 중급 사용자 고급 사용자 고급 사용자
Exploration Rate을 일정하게 유지한다.
73
Exploration Rate에 대하여 정리하면
Exploration Rate을 유지하면 

- 작품 열람을 유지하거나 작품 열람을 증가 시킨다. 

Exploration Rate이 감소하면

- 좋은 작품을 발견할수 없다는 경험을 얻는다. 

- 현재 열람하는 작품만 보다가 이탈한다. 

Exploration Rate을 유지 할때 

- 높게 유지하면 높은 열람수를 유지/상승 한다.

- 중간 유지하면 중간 열람수를 유지/상승 한다.

- 낮게 유지하면 낮은 열람수를 유지/상승 한다.

Exploration Rate이 높다 -> 작품 탐색에 만족 -> 열람 작품 늘어남 -> 서비스에 만족
74
Exploration Rate 대표값(평균)은
믿을만 한가?
그래서 대표값이 아닌 분포를 보자
75
탐색할 클러스터
Engagement 유지 사용자 집단 

- 10번 : 고급 유저
Engagement 감소 사용자 군집 

- 11번 : 초급 유저의 이탈

- 13번 : 중급 유저의 이탈


Engagement 증가 사용자 군집

- 2번 : 중급 유저의 열람 증가
76
군집의 월별 이변량 분포 변화를 보자
77
Engagement 유지 - 월평균 작품수가 일정한 (10번 군집)
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
78
Engagement 유지 - 월평균 작품수가 일정한 (10번 군집)
시간이 지나도 분포 중심이 크게 변하지 않음
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
79
Engagement 감소 - 신규 유저가 이탈 (11번 군집)
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
80
Engagement 감소 - 신규 유저가 이탈 (11번 군집)
분포가 Exploration수(x축 0으로 이동)가 낮아 지고
Exploitation 수가 감소하는 방향으로 변화함
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
81
Engagement 감소 - 신규 유저가 이탈 (11번 군집)
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
82
Engagement 감소 - 신규 유저가 이탈 (11번 군집)
Exploration을 안하는 방향으로 변화됨
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
83
Engagement 감소 - 중급 유저가 이탈 (13번 군집)
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
84
Engagement 감소 - 중급 유저가 이탈 (13번 군집)
분포 중심이 (0,0) 점으로 이동한다.
열람수도 감소하고 Exploration도 하지 않는다.
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
85
Engagement 감소 - 중급 유저가 이탈 (13번 군집)
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
86
Engagement 감소 - 중급 유저가 이탈 (13번 군집)
분포 중심이 (0,0) 점으로 이동하면서
분포의 중심 축도 아래쪽으로 눕는다.

(Exploration을 하지 않고 Exploitation만 한다.)
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
87
Engagement 증가 - 중급 유저의 열람 증가(2번 군집)
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
88
Engagement 증가 - 중급 유저의 열람 증가(2번 군집)
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
중간 이하에 있는 중심부가 상승한다.
그리고 오른쪽으로 분포가 퍼지면서 이동한다.
(Exploration을 늘리면서 열람수를 증가 시킨다.)
89
Engagement 증가 - 중급 유저의 열람 증가(2번 군집)
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
90
Engagement 증가 - 중급 유저의 열람 증가(2번 군집)
+0월 +1월 +2월 +3월
+4월 +5월 +6월 +7월
아래로 누워있던 중심축이 상승한다.
-> Exploration 작품수를 늘려서 Exploration Rate 증가 시킨다.
분포도 넓게 퍼져 나간다.
91
결론 : 좋은 Exploration 경험은 유저를 만족시킨다.
Exploration Rate을 유지한다는 것은 -> 탐색을 통해 작품의 발견하는것
- 유저가 작품 탐색에 대한 만족을 하는 것이다.
- 유저의 만족은 탐색의 결과로써 관심 작품을 잘 발견 했다는 것이다.
- 그래서 관심 작품이 늘어나면 열람수가 증가된다. 

Exploration Rate이 감소한다는 것은 -> 탐색 후 좋은 작품을 발견하지 못한것
- 유저가 작품 탐색을 하고 만족을 못했다는것이다.
- 그래서 작품 탐색을 하지 않는다
- 관심 작품이 늘지 않아서 열람수가 감소하고 이탈한다. 

탐색을 통한 발견 즉 좋은 Exploration 경험을 주는것은 매우 중요하다.
그래서 좋은 Exploration 경험을 위해서는 좋은 추천 시스템이 필수이다.
92
.
93
최규민 카카오 추천팀
유저가 좋은 작품(웹툰)을 만났을때
94
유저가 좋은 작품(웹툰)을 만났을때
95
픽코마처럼 성장하는 서비스가 된다
Q & A
goodvc78@gmail.com
96
Thank You
97

More Related Content

What's hot

데이터가 흐르는 조직 만들기 - 마이리얼트립
데이터가 흐르는 조직 만들기 - 마이리얼트립데이터가 흐르는 조직 만들기 - 마이리얼트립
데이터가 흐르는 조직 만들기 - 마이리얼트립승화 양
 
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유Hyojun Jeon
 
로그 기깔나게 잘 디자인하는 법
로그 기깔나게 잘 디자인하는 법로그 기깔나게 잘 디자인하는 법
로그 기깔나게 잘 디자인하는 법Jeongsang Baek
 
눈으로 듣는 음악 추천 시스템
눈으로 듣는 음악 추천 시스템눈으로 듣는 음악 추천 시스템
눈으로 듣는 음악 추천 시스템if kakao
 
[PYCON Korea 2018] Python Application Server for Recommender System
[PYCON Korea 2018] Python Application Server for Recommender System [PYCON Korea 2018] Python Application Server for Recommender System
[PYCON Korea 2018] Python Application Server for Recommender System Kwangseob Kim
 
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다승화 양
 
그로스 해킹 & 데이터 프로덕트 (Growth Hacking & Data Product) - 고넥터 고영혁 (Gonnector Dylan Ko)
그로스 해킹 & 데이터 프로덕트 (Growth Hacking & Data Product) - 고넥터 고영혁 (Gonnector Dylan Ko)그로스 해킹 & 데이터 프로덕트 (Growth Hacking & Data Product) - 고넥터 고영혁 (Gonnector Dylan Ko)
그로스 해킹 & 데이터 프로덕트 (Growth Hacking & Data Product) - 고넥터 고영혁 (Gonnector Dylan Ko)Dylan Ko
 
[데이터야놀자2107] 강남 출근길에 판교/정자역에 내릴 사람 예측하기
[데이터야놀자2107] 강남 출근길에 판교/정자역에 내릴 사람 예측하기 [데이터야놀자2107] 강남 출근길에 판교/정자역에 내릴 사람 예측하기
[데이터야놀자2107] 강남 출근길에 판교/정자역에 내릴 사람 예측하기 choi kyumin
 
그래프에서 대시보드까지, 서비스를 위한 데이터 시각화
그래프에서 대시보드까지, 서비스를 위한 데이터 시각화그래프에서 대시보드까지, 서비스를 위한 데이터 시각화
그래프에서 대시보드까지, 서비스를 위한 데이터 시각화Minho Lee
 
Little Big Data #1. 바닥부터 시작하는 데이터 인프라
Little Big Data #1. 바닥부터 시작하는 데이터 인프라Little Big Data #1. 바닥부터 시작하는 데이터 인프라
Little Big Data #1. 바닥부터 시작하는 데이터 인프라Seongyun Byeon
 
실무에서 활용하는 A/B테스트
실무에서 활용하는 A/B테스트실무에서 활용하는 A/B테스트
실무에서 활용하는 A/B테스트JeongMin Kwon
 
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유 (2부)
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유 (2부)[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유 (2부)
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유 (2부)Hyojun Jeon
 
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장Dylan Ko
 
데이터 분석가는 어떤 SKILLSET을 가져야 하는가? - 데이터 분석가 되기
데이터 분석가는 어떤 SKILLSET을 가져야 하는가?  - 데이터 분석가 되기데이터 분석가는 어떤 SKILLSET을 가져야 하는가?  - 데이터 분석가 되기
데이터 분석가는 어떤 SKILLSET을 가져야 하는가? - 데이터 분석가 되기Hui Seo
 
스타트업은 데이터를 어떻게 바라봐야 할까? (개정판)
스타트업은 데이터를 어떻게 바라봐야 할까? (개정판)스타트업은 데이터를 어떻게 바라봐야 할까? (개정판)
스타트업은 데이터를 어떻게 바라봐야 할까? (개정판)Yongho Ha
 
네이버서치ABT: 신뢰할 수 있는 A/B 테스트 플랫폼 개발 및 정착기
네이버서치ABT: 신뢰할 수 있는 A/B 테스트 플랫폼 개발 및 정착기네이버서치ABT: 신뢰할 수 있는 A/B 테스트 플랫폼 개발 및 정착기
네이버서치ABT: 신뢰할 수 있는 A/B 테스트 플랫폼 개발 및 정착기Jin Young Kim
 
BigQuery의 모든 것(기획자, 마케터, 신입 데이터 분석가를 위한) 입문편
BigQuery의 모든 것(기획자, 마케터, 신입 데이터 분석가를 위한) 입문편BigQuery의 모든 것(기획자, 마케터, 신입 데이터 분석가를 위한) 입문편
BigQuery의 모든 것(기획자, 마케터, 신입 데이터 분석가를 위한) 입문편Seongyun Byeon
 
오늘 밤부터 쓰는 google analytics (구글 애널리틱스, GA)
오늘 밤부터 쓰는 google analytics (구글 애널리틱스, GA) 오늘 밤부터 쓰는 google analytics (구글 애널리틱스, GA)
오늘 밤부터 쓰는 google analytics (구글 애널리틱스, GA) Yongho Ha
 
그로스해킹 기초
그로스해킹 기초그로스해킹 기초
그로스해킹 기초keunbong kwak
 
데이터 기반 성장을 위한 선결 조건: Product-Market Fit, Instrumentation, 그리고 프로세스
데이터 기반 성장을 위한 선결 조건: Product-Market Fit, Instrumentation, 그리고 프로세스데이터 기반 성장을 위한 선결 조건: Product-Market Fit, Instrumentation, 그리고 프로세스
데이터 기반 성장을 위한 선결 조건: Product-Market Fit, Instrumentation, 그리고 프로세스Minwoo Kim
 

What's hot (20)

데이터가 흐르는 조직 만들기 - 마이리얼트립
데이터가 흐르는 조직 만들기 - 마이리얼트립데이터가 흐르는 조직 만들기 - 마이리얼트립
데이터가 흐르는 조직 만들기 - 마이리얼트립
 
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유
 
로그 기깔나게 잘 디자인하는 법
로그 기깔나게 잘 디자인하는 법로그 기깔나게 잘 디자인하는 법
로그 기깔나게 잘 디자인하는 법
 
눈으로 듣는 음악 추천 시스템
눈으로 듣는 음악 추천 시스템눈으로 듣는 음악 추천 시스템
눈으로 듣는 음악 추천 시스템
 
[PYCON Korea 2018] Python Application Server for Recommender System
[PYCON Korea 2018] Python Application Server for Recommender System [PYCON Korea 2018] Python Application Server for Recommender System
[PYCON Korea 2018] Python Application Server for Recommender System
 
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다
실전 스타트업 데이터분석: 소셜데이팅 이음은 이렇게 한다
 
그로스 해킹 & 데이터 프로덕트 (Growth Hacking & Data Product) - 고넥터 고영혁 (Gonnector Dylan Ko)
그로스 해킹 & 데이터 프로덕트 (Growth Hacking & Data Product) - 고넥터 고영혁 (Gonnector Dylan Ko)그로스 해킹 & 데이터 프로덕트 (Growth Hacking & Data Product) - 고넥터 고영혁 (Gonnector Dylan Ko)
그로스 해킹 & 데이터 프로덕트 (Growth Hacking & Data Product) - 고넥터 고영혁 (Gonnector Dylan Ko)
 
[데이터야놀자2107] 강남 출근길에 판교/정자역에 내릴 사람 예측하기
[데이터야놀자2107] 강남 출근길에 판교/정자역에 내릴 사람 예측하기 [데이터야놀자2107] 강남 출근길에 판교/정자역에 내릴 사람 예측하기
[데이터야놀자2107] 강남 출근길에 판교/정자역에 내릴 사람 예측하기
 
그래프에서 대시보드까지, 서비스를 위한 데이터 시각화
그래프에서 대시보드까지, 서비스를 위한 데이터 시각화그래프에서 대시보드까지, 서비스를 위한 데이터 시각화
그래프에서 대시보드까지, 서비스를 위한 데이터 시각화
 
Little Big Data #1. 바닥부터 시작하는 데이터 인프라
Little Big Data #1. 바닥부터 시작하는 데이터 인프라Little Big Data #1. 바닥부터 시작하는 데이터 인프라
Little Big Data #1. 바닥부터 시작하는 데이터 인프라
 
실무에서 활용하는 A/B테스트
실무에서 활용하는 A/B테스트실무에서 활용하는 A/B테스트
실무에서 활용하는 A/B테스트
 
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유 (2부)
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유 (2부)[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유 (2부)
[NDC18] 야생의 땅 듀랑고의 데이터 엔지니어링 이야기: 로그 시스템 구축 경험 공유 (2부)
 
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장
[우리가 데이터를 쓰는 법] 모바일 게임 로그 데이터 분석 이야기 - 엔터메이트 공신배 팀장
 
데이터 분석가는 어떤 SKILLSET을 가져야 하는가? - 데이터 분석가 되기
데이터 분석가는 어떤 SKILLSET을 가져야 하는가?  - 데이터 분석가 되기데이터 분석가는 어떤 SKILLSET을 가져야 하는가?  - 데이터 분석가 되기
데이터 분석가는 어떤 SKILLSET을 가져야 하는가? - 데이터 분석가 되기
 
스타트업은 데이터를 어떻게 바라봐야 할까? (개정판)
스타트업은 데이터를 어떻게 바라봐야 할까? (개정판)스타트업은 데이터를 어떻게 바라봐야 할까? (개정판)
스타트업은 데이터를 어떻게 바라봐야 할까? (개정판)
 
네이버서치ABT: 신뢰할 수 있는 A/B 테스트 플랫폼 개발 및 정착기
네이버서치ABT: 신뢰할 수 있는 A/B 테스트 플랫폼 개발 및 정착기네이버서치ABT: 신뢰할 수 있는 A/B 테스트 플랫폼 개발 및 정착기
네이버서치ABT: 신뢰할 수 있는 A/B 테스트 플랫폼 개발 및 정착기
 
BigQuery의 모든 것(기획자, 마케터, 신입 데이터 분석가를 위한) 입문편
BigQuery의 모든 것(기획자, 마케터, 신입 데이터 분석가를 위한) 입문편BigQuery의 모든 것(기획자, 마케터, 신입 데이터 분석가를 위한) 입문편
BigQuery의 모든 것(기획자, 마케터, 신입 데이터 분석가를 위한) 입문편
 
오늘 밤부터 쓰는 google analytics (구글 애널리틱스, GA)
오늘 밤부터 쓰는 google analytics (구글 애널리틱스, GA) 오늘 밤부터 쓰는 google analytics (구글 애널리틱스, GA)
오늘 밤부터 쓰는 google analytics (구글 애널리틱스, GA)
 
그로스해킹 기초
그로스해킹 기초그로스해킹 기초
그로스해킹 기초
 
데이터 기반 성장을 위한 선결 조건: Product-Market Fit, Instrumentation, 그리고 프로세스
데이터 기반 성장을 위한 선결 조건: Product-Market Fit, Instrumentation, 그리고 프로세스데이터 기반 성장을 위한 선결 조건: Product-Market Fit, Instrumentation, 그리고 프로세스
데이터 기반 성장을 위한 선결 조건: Product-Market Fit, Instrumentation, 그리고 프로세스
 

Similar to Deview2020 유저가 좋은 작품(웹툰)을 만났을때

사용자분석 @코더스하이세미나
사용자분석 @코더스하이세미나사용자분석 @코더스하이세미나
사용자분석 @코더스하이세미나Mikyung Kang
 
스타트업처럼 토이프로젝트하기
스타트업처럼 토이프로젝트하기스타트업처럼 토이프로젝트하기
스타트업처럼 토이프로젝트하기Sunyoung Shin
 
If (kakao) _ 다음(DAUM)모바일 개선 이야기
If (kakao) _ 다음(DAUM)모바일 개선 이야기If (kakao) _ 다음(DAUM)모바일 개선 이야기
If (kakao) _ 다음(DAUM)모바일 개선 이야기광영 김
 
다음 모바일 첫 화면 개선기
다음 모바일 첫 화면 개선기다음 모바일 첫 화면 개선기
다음 모바일 첫 화면 개선기if kakao
 
[비즈스프링] 웹로그분석은 무엇인가?
[비즈스프링] 웹로그분석은 무엇인가?[비즈스프링] 웹로그분석은 무엇인가?
[비즈스프링] 웹로그분석은 무엇인가?BizSpring Inc.
 
책 "제품의 탄생" 소개
책 "제품의 탄생" 소개책 "제품의 탄생" 소개
책 "제품의 탄생" 소개SANGHEE SHIN
 
APPSURFING Project Portfolio
APPSURFING Project PortfolioAPPSURFING Project Portfolio
APPSURFING Project PortfolioChloe Park
 
8th.Lecture.Step3.Analysis.pdf
8th.Lecture.Step3.Analysis.pdf8th.Lecture.Step3.Analysis.pdf
8th.Lecture.Step3.Analysis.pdfJeongeun Kwon
 
유사 이미지 검색 기술 동향 - Pinterest 사례
유사 이미지 검색 기술 동향 - Pinterest 사례유사 이미지 검색 기술 동향 - Pinterest 사례
유사 이미지 검색 기술 동향 - Pinterest 사례Geunhee Cho
 
Web analytics 2.0 study ch.4-4.5
Web analytics 2.0 study ch.4-4.5Web analytics 2.0 study ch.4-4.5
Web analytics 2.0 study ch.4-4.5Eunyoung Kim
 
출연연의 공개소프트웨어 연구개발 프로젝트 관리
출연연의 공개소프트웨어 연구개발 프로젝트 관리출연연의 공개소프트웨어 연구개발 프로젝트 관리
출연연의 공개소프트웨어 연구개발 프로젝트 관리Kevin Kim
 
더 나은 사용자 경험과 비즈니스를 만들기 위한 프로덕트 매니저로 일하기
더 나은 사용자 경험과 비즈니스를 만들기 위한 프로덕트 매니저로 일하기더 나은 사용자 경험과 비즈니스를 만들기 위한 프로덕트 매니저로 일하기
더 나은 사용자 경험과 비즈니스를 만들기 위한 프로덕트 매니저로 일하기Hyunjung Kim
 
AI 유저리서치를 할 수 있을까?
AI 유저리서치를 할 수 있을까?AI 유저리서치를 할 수 있을까?
AI 유저리서치를 할 수 있을까?Myuserable
 
레코픽 설명회 15회-개인화 추천(with DMC미디어)
레코픽 설명회 15회-개인화 추천(with DMC미디어)레코픽 설명회 15회-개인화 추천(with DMC미디어)
레코픽 설명회 15회-개인화 추천(with DMC미디어)recopick
 
스타트업의 전략적 사고
스타트업의 전략적 사고스타트업의 전략적 사고
스타트업의 전략적 사고Hyunjong Wi
 
Web analytics 2.0 study ch.9
Web analytics 2.0 study ch.9Web analytics 2.0 study ch.9
Web analytics 2.0 study ch.9Eunyoung Kim
 
8th.Lecture.Step3.Analysis.pdf
8th.Lecture.Step3.Analysis.pdf8th.Lecture.Step3.Analysis.pdf
8th.Lecture.Step3.Analysis.pdfJeongeun Kwon
 
Apache Mahout 맛보기 - 30분만에 추천시스템 만들기 for 네이버 TV 서비스
Apache Mahout 맛보기 - 30분만에 추천시스템 만들기 for 네이버 TV 서비스Apache Mahout 맛보기 - 30분만에 추천시스템 만들기 for 네이버 TV 서비스
Apache Mahout 맛보기 - 30분만에 추천시스템 만들기 for 네이버 TV 서비스Minkyu Cho
 

Similar to Deview2020 유저가 좋은 작품(웹툰)을 만났을때 (20)

사용자분석 @코더스하이세미나
사용자분석 @코더스하이세미나사용자분석 @코더스하이세미나
사용자분석 @코더스하이세미나
 
스타트업처럼 토이프로젝트하기
스타트업처럼 토이프로젝트하기스타트업처럼 토이프로젝트하기
스타트업처럼 토이프로젝트하기
 
If (kakao) _ 다음(DAUM)모바일 개선 이야기
If (kakao) _ 다음(DAUM)모바일 개선 이야기If (kakao) _ 다음(DAUM)모바일 개선 이야기
If (kakao) _ 다음(DAUM)모바일 개선 이야기
 
다음 모바일 첫 화면 개선기
다음 모바일 첫 화면 개선기다음 모바일 첫 화면 개선기
다음 모바일 첫 화면 개선기
 
[비즈스프링] 웹로그분석은 무엇인가?
[비즈스프링] 웹로그분석은 무엇인가?[비즈스프링] 웹로그분석은 무엇인가?
[비즈스프링] 웹로그분석은 무엇인가?
 
책 "제품의 탄생" 소개
책 "제품의 탄생" 소개책 "제품의 탄생" 소개
책 "제품의 탄생" 소개
 
APPSURFING Project Portfolio
APPSURFING Project PortfolioAPPSURFING Project Portfolio
APPSURFING Project Portfolio
 
8th.Lecture.Step3.Analysis.pdf
8th.Lecture.Step3.Analysis.pdf8th.Lecture.Step3.Analysis.pdf
8th.Lecture.Step3.Analysis.pdf
 
유사 이미지 검색 기술 동향 - Pinterest 사례
유사 이미지 검색 기술 동향 - Pinterest 사례유사 이미지 검색 기술 동향 - Pinterest 사례
유사 이미지 검색 기술 동향 - Pinterest 사례
 
Web analytics 2.0 study ch.4-4.5
Web analytics 2.0 study ch.4-4.5Web analytics 2.0 study ch.4-4.5
Web analytics 2.0 study ch.4-4.5
 
출연연의 공개소프트웨어 연구개발 프로젝트 관리
출연연의 공개소프트웨어 연구개발 프로젝트 관리출연연의 공개소프트웨어 연구개발 프로젝트 관리
출연연의 공개소프트웨어 연구개발 프로젝트 관리
 
더 나은 사용자 경험과 비즈니스를 만들기 위한 프로덕트 매니저로 일하기
더 나은 사용자 경험과 비즈니스를 만들기 위한 프로덕트 매니저로 일하기더 나은 사용자 경험과 비즈니스를 만들기 위한 프로덕트 매니저로 일하기
더 나은 사용자 경험과 비즈니스를 만들기 위한 프로덕트 매니저로 일하기
 
AI 유저리서치를 할 수 있을까?
AI 유저리서치를 할 수 있을까?AI 유저리서치를 할 수 있을까?
AI 유저리서치를 할 수 있을까?
 
레코픽 설명회 15회-개인화 추천(with DMC미디어)
레코픽 설명회 15회-개인화 추천(with DMC미디어)레코픽 설명회 15회-개인화 추천(with DMC미디어)
레코픽 설명회 15회-개인화 추천(with DMC미디어)
 
스타트업의 전략적 사고
스타트업의 전략적 사고스타트업의 전략적 사고
스타트업의 전략적 사고
 
분석5기 4조
분석5기 4조분석5기 4조
분석5기 4조
 
ITCT 사용자 중심 디자인 특강 - spoqa 남유정 UX designer
ITCT 사용자 중심 디자인 특강 - spoqa 남유정 UX designerITCT 사용자 중심 디자인 특강 - spoqa 남유정 UX designer
ITCT 사용자 중심 디자인 특강 - spoqa 남유정 UX designer
 
Web analytics 2.0 study ch.9
Web analytics 2.0 study ch.9Web analytics 2.0 study ch.9
Web analytics 2.0 study ch.9
 
8th.Lecture.Step3.Analysis.pdf
8th.Lecture.Step3.Analysis.pdf8th.Lecture.Step3.Analysis.pdf
8th.Lecture.Step3.Analysis.pdf
 
Apache Mahout 맛보기 - 30분만에 추천시스템 만들기 for 네이버 TV 서비스
Apache Mahout 맛보기 - 30분만에 추천시스템 만들기 for 네이버 TV 서비스Apache Mahout 맛보기 - 30분만에 추천시스템 만들기 for 네이버 TV 서비스
Apache Mahout 맛보기 - 30분만에 추천시스템 만들기 for 네이버 TV 서비스
 

More from choi kyumin

Song Feature 조금더
Song Feature 조금더 Song Feature 조금더
Song Feature 조금더 choi kyumin
 
눈으로 듣는 음악 추천 시스템-2018 if-kakao
눈으로 듣는 음악 추천 시스템-2018 if-kakao눈으로 듣는 음악 추천 시스템-2018 if-kakao
눈으로 듣는 음악 추천 시스템-2018 if-kakaochoi kyumin
 
Python 오픈소스의 네이밍 특징들-파이콘격월세미나
Python 오픈소스의 네이밍 특징들-파이콘격월세미나Python 오픈소스의 네이밍 특징들-파이콘격월세미나
Python 오픈소스의 네이밍 특징들-파이콘격월세미나choi kyumin
 
2016 PyCon APAC - 너의 사진은 내가 지난 과거에 한일을 알고 있다.
2016 PyCon APAC - 너의 사진은 내가 지난 과거에 한일을 알고 있다.2016 PyCon APAC - 너의 사진은 내가 지난 과거에 한일을 알고 있다.
2016 PyCon APAC - 너의 사진은 내가 지난 과거에 한일을 알고 있다.choi kyumin
 
2015 py con word2vec이 추천시스템을 만났을때
2015 py con word2vec이 추천시스템을 만났을때 2015 py con word2vec이 추천시스템을 만났을때
2015 py con word2vec이 추천시스템을 만났을때 choi kyumin
 
추놀 5회 무엇이든 분류해 보기
추놀 5회 무엇이든 분류해 보기추놀 5회 무엇이든 분류해 보기
추놀 5회 무엇이든 분류해 보기choi kyumin
 
추놀 4회 영화 분류하기
추놀 4회 영화 분류하기추놀 4회 영화 분류하기
추놀 4회 영화 분류하기choi kyumin
 
추놀 3회 유사도 측정(우리아기는 누구와 더 닮았는가?)
추놀 3회 유사도 측정(우리아기는 누구와 더 닮았는가?)추놀 3회 유사도 측정(우리아기는 누구와 더 닮았는가?)
추놀 3회 유사도 측정(우리아기는 누구와 더 닮았는가?)choi kyumin
 
제1화 추천 시스템 이란.ppt
제1화 추천 시스템 이란.ppt제1화 추천 시스템 이란.ppt
제1화 추천 시스템 이란.pptchoi kyumin
 
플랫폼데이2013 workflow기반 실시간 스트리밍데이터 수집 및 분석 플랫폼 발표자료
플랫폼데이2013 workflow기반 실시간 스트리밍데이터 수집 및 분석 플랫폼 발표자료플랫폼데이2013 workflow기반 실시간 스트리밍데이터 수집 및 분석 플랫폼 발표자료
플랫폼데이2013 workflow기반 실시간 스트리밍데이터 수집 및 분석 플랫폼 발표자료choi kyumin
 

More from choi kyumin (10)

Song Feature 조금더
Song Feature 조금더 Song Feature 조금더
Song Feature 조금더
 
눈으로 듣는 음악 추천 시스템-2018 if-kakao
눈으로 듣는 음악 추천 시스템-2018 if-kakao눈으로 듣는 음악 추천 시스템-2018 if-kakao
눈으로 듣는 음악 추천 시스템-2018 if-kakao
 
Python 오픈소스의 네이밍 특징들-파이콘격월세미나
Python 오픈소스의 네이밍 특징들-파이콘격월세미나Python 오픈소스의 네이밍 특징들-파이콘격월세미나
Python 오픈소스의 네이밍 특징들-파이콘격월세미나
 
2016 PyCon APAC - 너의 사진은 내가 지난 과거에 한일을 알고 있다.
2016 PyCon APAC - 너의 사진은 내가 지난 과거에 한일을 알고 있다.2016 PyCon APAC - 너의 사진은 내가 지난 과거에 한일을 알고 있다.
2016 PyCon APAC - 너의 사진은 내가 지난 과거에 한일을 알고 있다.
 
2015 py con word2vec이 추천시스템을 만났을때
2015 py con word2vec이 추천시스템을 만났을때 2015 py con word2vec이 추천시스템을 만났을때
2015 py con word2vec이 추천시스템을 만났을때
 
추놀 5회 무엇이든 분류해 보기
추놀 5회 무엇이든 분류해 보기추놀 5회 무엇이든 분류해 보기
추놀 5회 무엇이든 분류해 보기
 
추놀 4회 영화 분류하기
추놀 4회 영화 분류하기추놀 4회 영화 분류하기
추놀 4회 영화 분류하기
 
추놀 3회 유사도 측정(우리아기는 누구와 더 닮았는가?)
추놀 3회 유사도 측정(우리아기는 누구와 더 닮았는가?)추놀 3회 유사도 측정(우리아기는 누구와 더 닮았는가?)
추놀 3회 유사도 측정(우리아기는 누구와 더 닮았는가?)
 
제1화 추천 시스템 이란.ppt
제1화 추천 시스템 이란.ppt제1화 추천 시스템 이란.ppt
제1화 추천 시스템 이란.ppt
 
플랫폼데이2013 workflow기반 실시간 스트리밍데이터 수집 및 분석 플랫폼 발표자료
플랫폼데이2013 workflow기반 실시간 스트리밍데이터 수집 및 분석 플랫폼 발표자료플랫폼데이2013 workflow기반 실시간 스트리밍데이터 수집 및 분석 플랫폼 발표자료
플랫폼데이2013 workflow기반 실시간 스트리밍데이터 수집 및 분석 플랫폼 발표자료
 

Deview2020 유저가 좋은 작품(웹툰)을 만났을때

  • 1. 최규민 카카오 추천팀 유저가 좋은 작품(웹툰)을 만났을때 1
  • 2. CONTENTS 1. 추천 시스템의 목적 2. 픽코마(웹툰) 추천 시스템 3. 픽코마 사용자 Engagement 탐색 4. 결론 2
  • 5. 인터넷 검색해 봤습니다. 요약하자면 사용자가 좋아할만 한 아이템을 추천해 주는것 5
  • 6. 인터넷 검색해 봤습니다. 요약하자면 사용자가 좋아할만 한 아이템을 추천해 주는것 아이템 추천으로 달성코자하는 서비스 목적은 무엇일까요? 6
  • 7. 소비자와 공급자 관점에서 추천 시스템의 목적 RecSys '16 : Recommendations with a Purpose 발췌 https://web-ainf.aau.at/pub/jannach/files/Conference_RecSys2016.pdf 7
  • 8. 소비자와 공급자 관점에서 추천 시스템의 목적 RecSys '16 : Recommendations with a Purpose 발췌 https://web-ainf.aau.at/pub/jannach/files/Conference_RecSys2016.pdf 영화에 만족함 (Consumer에게 좋음) 영화를 많이봄 (Provider에게 좋음)? 8
  • 9. 다른 서비스의 추천 시스템 목표 알아 봤습니다. 영화 음악 동영상 9
  • 10. Netflix 추천 시스템 목표는? - Netflix : Member satisfaction and retention RecSys 2020’ : Recent Trends in Personalization at Netflix https://www.slideshare.net/justinbasilico/recent-trends-in-personalization-at-netflix 10
  • 11. Spotify 추천 시스템 목표는? - Netflix : Member satisfaction and retention - Spotify : Match fans and artist, Enjoy listening https://www.slideshare.net/mounialalmas/personalizing-the-listening-experience 11
  • 12. Youtube 추천 시스템 목표는? - Netflix : Member satisfaction and retention - Spotify : Match fans and artist, Enjoy listening - Youtube : Keep Users Entertained and Engaged https://www.inf.unibz.it/~ricci/ISR/papers/p293-davidson.pdf 12
  • 13. 다른 서비스의 추천 시스템 목표는? help members find content to watch and enjoy match fan and artist help users find high quality video 13
  • 14. 다른 서비스의 추천 시스템 목표는? help members find content to watch and enjoy match fan and artist help users find high quality video member satisfaction & retention enjoy listening keep Users Entertained and Engaged 14
  • 15. 다른 서비스의 추천 시스템 목표는? help members find content to watch and enjoy match fan and artist help users find high quality video 소비자 관점의 추천 시스템 목표 15
  • 16. 카카오 서비스의 추천 시스템 목표는 무엇일까요? 뉴스 음악 선물하기, 스타일, 쇼핑하기, … 상품 웹툰 픽코마 16
  • 17. 카카오 서비스의 추천 시스템 목표는 무엇일까요? 뉴스 음악 선물하기, 스타일, 쇼핑하기, … 상품 웹툰 픽코마 체류시간 재방문율 스트리밍수 재방문율 매출, 상품클릭 작품 첫 에피소드 열람수 작품 열람수 대부분이 소비자 관점의 추천 시스템 목표 17
  • 18. 카카오 서비스의 추천 시스템 목표는 무엇일까요? 뉴스 음악 선물하기, 스타일, 쇼핑하기, … 상품 픽코마 체류시간 재방문율 스트리밍수 재방문율 매출, 상품클릭 작품 첫 에피소드 열람수 작품 열람수 대부분이 소비자 관점의 추천 시스템 목표 웹툰 왜? 이런 추천 목표를 정했을까요? 이제부터 알아 보겠습니다. 18
  • 19. 유저가 좋은 작품을 만났을때 이제 답을 찾는 데이터 탐색 여정을 시작하겠습니다. 19
  • 21. 픽코마 서비스 카카오재팬에서 서비스하는 만화 플랫폼 - 출시: 2016년 4월 21
  • 22. 추천 솔루션이 적용된 곳은? 기프트콘 푸시 크로스팝업 개인화 추천 개인화 추천 연관 추천 타켓팅 푸시 타켓팅 팝업 서비스홈>Top슬롯 추천슬롯들(서비스홈, 망가홈, 노벨홈 등) 뷰어 엔드 22
  • 23. 추천 솔루션이 적용된 곳은? 기프티콘 푸시 크로스팝업 개인화 추천 개인화 추천 연관 추천 타켓팅 푸시 타켓팅 팝업 서비스홈>Top슬롯 추천슬롯들(서비스홈, 망가홈, 노벨홈 등) 뷰어 엔드 픽코마 UX 전반에 걸쳐 개인화 추천 활용됨 23
  • 24. 추천 솔루션의 목표 서비스홈>Top슬롯 추천슬롯들(서비스홈, 망가홈, 노벨홈 등) 뷰어 엔드 기프트콘 푸시 크로스팝업 작품 첫 에피소드 열람수 타켓작품 매출 전환 신작 열람 전환 24
  • 25. 기프트콘 푸시 크로스팝업 추천 솔루션의 목표 서비스홈>Top슬롯 추천슬롯들(서비스홈, 망가홈, 노벨홈 등) 뷰어 엔드 작품 첫 에피소드 열람수 타켓작품 매출 전환 신작 열람 전환 소비자 관점의 추천시스템 목표 공급자 관점의 추천시스템 목표 25
  • 26. 기프트콘 푸시 크로스팝업 추천 솔루션의 목표 서비스홈>Top슬롯 추천슬롯들(서비스홈, 망가홈, 노벨홈 등) 뷰어 엔드 작품 첫 에피소드 열람수 타켓작품 매출 전환 신작 열람 전환 소비자 관점의 추천시스템 목표 공급자 관점의 추천시스템 목표 사용자 만족도와 리텐션 늘리기 매출 늘리기= = 26
  • 28. 픽코마 퍼널 정의 지속 열람 작품이 많아짐 관심 작품의 발견 작품 컨텐츠에 만족 제목, 썸네일의 
 만족 작품 설명의 만족 작품 노출 작품 클릭 작품 1 화 열람 작품 다음 화 열람 지속열람 (Session) 자주방문 (Day) 이탈 (1) (2) (3) (4) (5) Intra-Session Inter-Session 사용자 만족도 높음사용자 만족도 낮음 28
  • 29. 픽코마 퍼널 정의 작품 노출 작품 클릭 작품 1 화 열람 작품 다음 화 열람 지속열람 (Session) 자주방문 (Day) (1) (2) (3) (4) (5) 사용자 만족도는 높아지고 사용자 수는 감소합니다. 여기까지 사용자를 많이 남기는것이 소비자 관점에서 추천 시스템의 목적 29
  • 30. 픽코마 퍼널 정의 작품 노출 작품 클릭 작품 1 화 열람 작품 다음 화 열람 지속열람 (Session) 자주방문 (Day) (1) (2) (3) (4) (5) 여기까지 사용자를 많이 남기는것이 고객 관점에서 추천 시스템의 목적 Short-Term 선호도 Intra-Session 30
  • 31. 픽코마 퍼널 정의 작품 노출 작품 클릭 작품 1 화 열람 작품 다음 화 열람 지속열람 (Session) 자주방문 (Day) (1) (2) (3) (4) (5) 여기까지 사용자를 많이 남기는것이 고객 관점에서 추천 시스템의 목적 Long-Term 선호도Short-Term 선호도 Intra-Session Inter-Session 31
  • 32. 픽코마 퍼널 정의 작품 노출 작품 클릭 작품 1 화 열람 작품 다음 화 열람 지속열람 (Session) 자주방문 (Day) (1) (2) (3) (4) (5) 여기까지 사용자를 많이 남기는것이 고객 관점에서 추천 시스템의 목적 Long-Term 선호도Short-Term 선호도 추천시스템 목표인 Long-Term 목표 지표를 직접 최대화 하기 어려움 (Retention Rate, Active Days, Total spent time 등) 32
  • 33. 픽코마 퍼널 정의 작품 노출 작품 클릭 작품 1 화 열람 작품 다음 화 열람 지속열람 (Session) 자주방문 (Day) (1) (2) (3) (4) (5) 여기까지 사용자를 많이 남기는것이 고객 관점에서 추천 시스템의 목적 Long-Term 선호도Short-Term 선호도 33 작품 노출 추천하는 시점 추천시스템 목표인 Long-Term 목표 지표를 직접 최대화 하기 어려움 (Retention Rate, Active Days, Total spent time 등)
  • 34. 픽코마 퍼널 정의 작품 노출 작품 클릭 작품 1 화 열람 작품 다음 화 열람 지속열람 (Session) 자주방문 (Day) (1) (2) (3) (4) (5) 여기까지 사용자를 많이 남기는것이 고객 관점에서 추천 시스템의 목적 Long-Term 선호도Short-Term 선호도 현실적으로 많은 추천 시스템이 Short-Term 목표지표를 선택 (CTR, long-CTRs, dwell time, take-rate) 34
  • 35. 픽코마 퍼널 정의 작품 노출 작품 클릭 작품 1 화 열람 작품 다음 화 열람 지속열람 (Session) 자주방문 (Day) (1) (2) (3) (4) (5) 여기까지 사용자를 많이 남기는것이 고객 관점에서 추천 시스템의 목적 Long-Term 선호도Short-Term 선호도 현실적으로 많은 추천 시스템이 Short-Term 목표지표로 선택 (CTR, long-CTRs, dwell time, take-rate) Long Term Proxy 지표를 찾아보자 cause/correlation 35
  • 36. 사용자 리텐션(열람일수)이 낮은 집단과 높은 집단의 지표 탐색 - 하루에 얼마나 열람할까? 매일 열람할까? 얼마나 다양한 작품을 열람할까? 등등 Long Term Proxy 지표 탐색 1일열람일수 (Days) 2일 3일 30일… 29일28일 목적은 리텐션과 가장 상관관계가 높은 지표를 찾자 36
  • 37. Long Term Proxy 지표 탐색 픽코마 사용자를 랜덤 샘플링하여 균등(2%)하게 열람 일수(days)로 Segmentation 하고 지표 탐색 리텐션이 높은 집단리텐션이 낮은 집단 37
  • 38. Long Term Proxy 지표 탐색 활동성이 높은 사용자 한달 작품 열람수는 증가한다. (1)한달 열람수는 높게 증가한다.열 람 수 자주 방문하는 사용자 일수록 전체 열람수 38
  • 39. Long Term Proxy 지표 탐색 활동성이 높은 사용자 하루 평균 6~9개 에피소드를 열람한다.(~TP.70까지) 열 람 수 자주 방문 할수록 (1)한달 열람수는 높게 증가한다. (2)고 활성 유저가 되기 전까지는 하루 열람 수는 일정하다. 일일 열람수 39
  • 40. Long Term Proxy 지표 탐색 활동성이 높은 사용자 하루에 작품당 약 1.5개 에피소드를 열람한다. 열 람 수 자주 방문 할수록 (1)한달 열람수는 높게 증가한다. (2)고 활성 유저가 되기 전까지는 하루 열 람수는 일정하다. (3)일일 작품당 열람 에피소드수도 감소 & 수렴한다.(작품당 1.5 에피소드 열람)작품당 일일 열람수 40
  • 41. Long Term Proxy 지표 탐색 활동성이 높은 사용자 하루에 열람하는 작품수는 증가한다. 열 람 수 자주 방문 할수록 (1)한달 열람수는 높게 증가한다. (2)고 활성 유저가 되기 전까지는 하루 열 람수의 증가되지 않는다 (3)일일 작품당 열람 에피소드수도 감소 & 수렴한다.(작품당 1.5 에피소드 열람) (4)하루 열람 작품수 증가한다. 일일 열람 작품수(unique) 41
  • 42. Long Term Proxy 지표 탐색 활동성이 높은 사용자 Unique 열람 작품수 증가한다. 열 람 수 자주 방문 할수록 (1)한달 열람수는 높게 증가한다. (2)고 활성 유저가 되기 전까지는 하루 열 람수의 증가되지 않는다 (3)일일 작품당 열람 에피소드수도 감소 & 수렴한다.(작품당 1.5 에피소드 열람) (4)하루 열람 작품수 증가한다. (5)Unique 열람 작품수도 증가한다. 전체 열람 작품수(unique) 42
  • 43. Long Term Proxy 지표 탐색 열람 일수(리텐션지표)와 상관 계수가 가장 높은것은? 열람일수(Day) 전체 열람수 일일 열람수 전체 열람 작품수(Unique) 일일 열람 작품수(Unique) 일일 작품당 열람수 43
  • 44. Long Term Proxy 지표 탐색 열람 일수(리텐션지표)와 상관 계수가 가장 높은것은? 열람일수(Day) +0.9076 +0.8141 +0.9564+0.9204 -0.9037 전체 열람수 일일 열람수 전체 열람 작품수(Unique) 일일 열람 작품수(Unique) 일일 작품당 열람수 44
  • 45. Long Term Proxy 지표 탐색 요약 - 일일 열람수와 작품당 열람수는 리텐션과 상관없이 일정하다
 - 자주 방문하도록 하는 리텐션을 높이기 위해서는 전체 열람수보다는 사용자의 선호 작품 수를 늘려야한다. 45
  • 46. Long Term Proxy 지표 탐색 요약 - 일일 열람수와 작품당 열람수는 리텐션과 상관없이 일정하다
 - 자주 방문하도록 하는 리텐션을 높이기 위해서는 전체 열람수보다는 사용자의 선호 작품 수사용자의 선호 작품 수 어떻게 늘릴수 있을까요? 46
  • 47. Long Term Proxy 지표 탐색 요약 - 일일 열람수와 작품당 열람수는 리텐션과 상관없이 일정하다
 - 자주 방문하도록 하는 리텐션을 높이기 위해서는 전체 열람수보다는 사용자의 선호 작품 수사용자의 선호 작품 수 어떻게 늘릴수 있을까요? 사용자는 어떻게 선호하는 작품을 탐색하고 발견할까요? 47
  • 48. 사용자의 작품 탐색과 발견에 대하여 Engagement Life Cycle 관점에서 사용자 군집 분석 48
  • 49. 사용자의 Engagement Life Cycle https://www.hongliangjie.com/talks/WWW2019_Tutorial.pdf 이탈 49
  • 50. 사용자의 Engagement Life Cycle 패턴 0 30 60 90 120 +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 +8월 +9월 +10월 +11월 +12월 열 람 수 신규 -> 활성 사용자 50
  • 51. 사용자의 Engagement Life Cycle 패턴 0 30 60 90 120 +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 +8월 +9월 +10월 +11월 +12월 열 람 수 신규 -> 활성 사용자 활성 -> 이탈 사용자 51
  • 52. 사용자의 Engagement Life Cycle 패턴 0 30 60 90 120 +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 +8월 +9월 +10월 +11월 +12월 열 람 수 신규 -> 활성 사용자 활성 -> 이탈 사용자 활성 -> 활성 사용자 52
  • 53. 사용자의 Engagement Life Cycle 패턴 0 30 60 90 120 +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 +8월 +9월 +10월 +11월 +12월 열 람 수 신규 -> 활성 사용자 활성 -> 이탈 사용자 활성 -> 활성 사용자 신규 -> 이탈 사용자 53
  • 54. 사용자의 Engagement Life Cycle 0 30 60 90 120 +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 +8월 +9월 +10월 +11월 +12월 열 람 수 신규 -> 활성 사용자 활성 -> 이탈 사용자 활성 -> 활성 사용자 신규 -> 이탈 사용자 사용자의 월별 열람 이력으로 군집화 후 활성 사용자의 작품 탐색과 발견을 분석했습니다. 54
  • 55. 사용자 군집화 by unsupervised learning https://www.hongliangjie.com/talks/WWW2019_Tutorial.pdf 8개월(19’ 05 ~ 21’ 01)의 사용자 작품 열람수 k-means 
 clustering(k=15) 15개 사용자 그룹으로 군집화 55
  • 56. 사용자 군집화 결과 - 클러스터별 작품 열람수 56
  • 57. 사용자 군집화 결과 - 비슷한 패턴 끼리 정렬 57
  • 58. 사용자 군집화 결과 - 비슷한 패턴 끼리 정렬 1. 열람 지속형 클러스터
 작품 열람수의 차이는 있음 Engagement 유지 58
  • 59. 사용자 군집화 결과 - 비슷한 패턴 끼리 정렬 2. 열람 감소형 클러스터 감소의 속도 차이와 이탈여부가 다름 Engagement 감소(-) 59
  • 60. 사용자 군집화 결과 - 비슷한 패턴 끼리 정렬 3. 열람 증가형 클러스터 증가의 속도와 소비 수준이 다름 Engagement 증가(+) 60
  • 61. 탐색하기에 앞서 - Exploration/Exploitation 용어 정의 1 2 3 4 … 99 100 작품 무료 에피소드로 작품 탐색을하고 재미있으면 지속 열람 작품이 됩니다. 작품 노출 61
  • 62. 탐색하기에 앞서 - Exploration/Exploitation 용어 정의 1 2 3 4 … 99 100 작품 작품 노출 1, 2화만 열람한 작품을 Exploration(탐색) 작품으로 정의 지속하는 작품을 Exploitation(활용) 작품으로 정의 62
  • 63. 탐색하기에 앞서 - 분석 관점 열람 감소할때 Exploration 작품수는 어떻게 변화하는가? 열람 증가할때 Exploration 작품수는 어떻게 변화하는가? 즉 사용자의 탐색적 활동와 Long Term 선호도 관계를 탐색하고자한다. 63
  • 64. 사용자는 얼마나 탐색하는가? 한달 열람하는 작품 중 18%(4.7개)는 Exploration 작품이다. Exploitation 작품수 21.7(82%) Exploration 작품수 4.7(18%) Exploration Rate = 0.18 64
  • 65. 사용자 군집화 결과 - 비슷한 패턴 끼리 정렬 Engagement 증가(+) Engagement 감소(-) Engagement 유지 65
  • 66. Engagement 유지 - 월 평균 작품수가 일정한 집단 신규 사용자 중급 사용자 중급 사용자 고급 사용자 로얄 사용자 66
  • 67. Engagement 유지 - 월 평균 작품수가 일정한 집단 신규 사용자 중급 사용자 중급 사용자 고급 사용자 로얄 사용자 Exploration 작품수 Exploitation 작품수 Exploration Rate 67
  • 68. Engagement 유지 - 월 평균 작품수가 일정한 집단 신규 사용자 중급 사용자 중급 사용자 고급 사용자 로얄 사용자 Exploration Rate Exploration Rate은 완만하게 감소 & 유지 합니다. 68
  • 69. Engagement 유지 - 월 평균 작품수가 일정한 집단 신규 사용자 중급 사용자 중급 사용자 고급 사용자 로얄 사용자 Exploration Rate Exploration Rate은 완만하게 감소 & 유지 합니다. 활성 사용자가 될수록 평균 Exploration Rate은 높아집니다. 69
  • 70. Engagement 감소 - 열람 작품수가 감소 후 이탈 집단 신규 사용자 이탈 중급 사용자 이탈 중/상급 사용자 이탈 중/상급 사용자 활동성 증가 후 이탈 70
  • 71. Engagement 감소 - 열람 작품수가 감소 후 이탈 집단 신규 사용자 이탈 중급 사용자 이탈 중/상급 사용자 이탈 중/상급 사용자 활동성 증가 후 이탈 Exploration Rate이 높다가 급락 또는 감소한다. 즉 작품 탐색 경험이 나빠져서 전혀 작품 탐색을 하지 않게된것으로 추청 71
  • 72. Engagement 증가 - 열람 작품수가 증가하는 집단 신규 사용자 중급 사용자 고급 사용자 고급 사용자 72
  • 73. Engagement 증가 - 열람 작품수가 증가하는 집단 신규 사용자 중급 사용자 고급 사용자 고급 사용자 Exploration Rate을 일정하게 유지한다. 73
  • 74. Exploration Rate에 대하여 정리하면 Exploration Rate을 유지하면 
 - 작품 열람을 유지하거나 작품 열람을 증가 시킨다. 
 Exploration Rate이 감소하면
 - 좋은 작품을 발견할수 없다는 경험을 얻는다. 
 - 현재 열람하는 작품만 보다가 이탈한다. 
 Exploration Rate을 유지 할때 
 - 높게 유지하면 높은 열람수를 유지/상승 한다.
 - 중간 유지하면 중간 열람수를 유지/상승 한다.
 - 낮게 유지하면 낮은 열람수를 유지/상승 한다.
 Exploration Rate이 높다 -> 작품 탐색에 만족 -> 열람 작품 늘어남 -> 서비스에 만족 74
  • 75. Exploration Rate 대표값(평균)은 믿을만 한가? 그래서 대표값이 아닌 분포를 보자 75
  • 76. 탐색할 클러스터 Engagement 유지 사용자 집단 
 - 10번 : 고급 유저 Engagement 감소 사용자 군집 
 - 11번 : 초급 유저의 이탈
 - 13번 : 중급 유저의 이탈 
 Engagement 증가 사용자 군집
 - 2번 : 중급 유저의 열람 증가 76
  • 77. 군집의 월별 이변량 분포 변화를 보자 77
  • 78. Engagement 유지 - 월평균 작품수가 일정한 (10번 군집) +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 78
  • 79. Engagement 유지 - 월평균 작품수가 일정한 (10번 군집) 시간이 지나도 분포 중심이 크게 변하지 않음 +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 79
  • 80. Engagement 감소 - 신규 유저가 이탈 (11번 군집) +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 80
  • 81. Engagement 감소 - 신규 유저가 이탈 (11번 군집) 분포가 Exploration수(x축 0으로 이동)가 낮아 지고 Exploitation 수가 감소하는 방향으로 변화함 +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 81
  • 82. Engagement 감소 - 신규 유저가 이탈 (11번 군집) +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 82
  • 83. Engagement 감소 - 신규 유저가 이탈 (11번 군집) Exploration을 안하는 방향으로 변화됨 +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 83
  • 84. Engagement 감소 - 중급 유저가 이탈 (13번 군집) +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 84
  • 85. Engagement 감소 - 중급 유저가 이탈 (13번 군집) 분포 중심이 (0,0) 점으로 이동한다. 열람수도 감소하고 Exploration도 하지 않는다. +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 85
  • 86. Engagement 감소 - 중급 유저가 이탈 (13번 군집) +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 86
  • 87. Engagement 감소 - 중급 유저가 이탈 (13번 군집) 분포 중심이 (0,0) 점으로 이동하면서 분포의 중심 축도 아래쪽으로 눕는다.
 (Exploration을 하지 않고 Exploitation만 한다.) +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 87
  • 88. Engagement 증가 - 중급 유저의 열람 증가(2번 군집) +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 88
  • 89. Engagement 증가 - 중급 유저의 열람 증가(2번 군집) +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 중간 이하에 있는 중심부가 상승한다. 그리고 오른쪽으로 분포가 퍼지면서 이동한다. (Exploration을 늘리면서 열람수를 증가 시킨다.) 89
  • 90. Engagement 증가 - 중급 유저의 열람 증가(2번 군집) +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 90
  • 91. Engagement 증가 - 중급 유저의 열람 증가(2번 군집) +0월 +1월 +2월 +3월 +4월 +5월 +6월 +7월 아래로 누워있던 중심축이 상승한다. -> Exploration 작품수를 늘려서 Exploration Rate 증가 시킨다. 분포도 넓게 퍼져 나간다. 91
  • 92. 결론 : 좋은 Exploration 경험은 유저를 만족시킨다. Exploration Rate을 유지한다는 것은 -> 탐색을 통해 작품의 발견하는것 - 유저가 작품 탐색에 대한 만족을 하는 것이다. - 유저의 만족은 탐색의 결과로써 관심 작품을 잘 발견 했다는 것이다. - 그래서 관심 작품이 늘어나면 열람수가 증가된다. 
 Exploration Rate이 감소한다는 것은 -> 탐색 후 좋은 작품을 발견하지 못한것 - 유저가 작품 탐색을 하고 만족을 못했다는것이다. - 그래서 작품 탐색을 하지 않는다 - 관심 작품이 늘지 않아서 열람수가 감소하고 이탈한다. 
 탐색을 통한 발견 즉 좋은 Exploration 경험을 주는것은 매우 중요하다. 그래서 좋은 Exploration 경험을 위해서는 좋은 추천 시스템이 필수이다. 92
  • 93. . 93
  • 94. 최규민 카카오 추천팀 유저가 좋은 작품(웹툰)을 만났을때 94
  • 95. 유저가 좋은 작품(웹툰)을 만났을때 95 픽코마처럼 성장하는 서비스가 된다