Диско: рекомендательная система Яндекса

2. Диско —
Рекомендательная система
Яндекса
Михаил Ройзнер

3. Яндекс.Музыка и Яндекс.Радио
Музыка Радио
music.yandex.ru, radio.yandex.ru 3

4. Яндекс.Маркет
market.yandex.ru 4

5. Яндекс.Дзен
Персональный журнал
› Знает, что вы любите
› Собирает статьи по всему Интернету
› Рекомендует лучшее для вас
zen.yandex.ru 5

6. Простая схема взаимодействия
6

7. Простая схема взаимодействия
6
Яндекс.Сервис

8. Простая схема взаимодействия
6
Яндекс.Сервис Диско

9. Простая схема взаимодействия
6
Яндекс.Сервис Диско
Информация о пользователе
Информация об объектах

10. Простая схема взаимодействия
6
Яндекс.Сервис Диско
Информация о пользователе
Информация об объектах

11. Рекомендации на основе содержания
7
Вася

12. Рекомендации на основе содержания
7
Вася
Большой куш
Поймай меня,
если сможешь
Счастливое
число Слевина
Лучшее
предложение
Нравится

13. Рекомендации на основе содержания
7
Игра на
понижение
Карты, деньги,
два ствола
Волк с
Уолл-стрит
11 друзей Оушена
Рекомендации
Вася
Большой куш
Поймай меня,
если сможешь
Счастливое
число Слевина
Лучшее
предложение
Нравится

14. Netflix Prize
› 2006–2009
› 100 млн оценок
› Задача: улучшить качество
предсказания оценки пользователя
на 10%
› $1 000 000
netflixprize.com 8

15. Коллаборативная
фильтрация

16. Похожим пользователям — похожие объекты
10

17. Похожим пользователям — похожие объекты
10
Дэдпул
?Вася

18. Похожим пользователям — похожие объекты
10
Дэдпул
?
Катя
Люди
Икс
Человек
паук
Железный
человек
Капитан
Америка
Света
Маша
Петя
4
3
5
5
4
4
5
4
5
4
4
4
4
4
5
5
5
4
3 5Вася

19. Похожим пользователям — похожие объекты
10
Дэдпул
Катя
Люди
Икс
Человек
паук
Железный
человек
Капитан
Америка
Света
Маша
Петя
4
3
5
5
4
4
5
4
5
4
4
4
4
4
5
5
5
4
3 5 4.6Вася

20. Недостатки коллаборативной фильтрации
› Проблема холодный старта
11

21. Недостатки коллаборативной фильтрации
› Проблема холодный старта
› Особенности предметной области
11

22. Недостатки коллаборативной фильтрации
› Проблема холодный старта
› Особенности предметной области
› Контекст действий пользователя
11

23. Гибридная система

24. Матрикснет
› Мощный алгоритм машинного обучения
› Основан на градиентном бустинге
деревьев решений (GBDT)
› Поддерживает различные типы задач
машинного обучения (регрессия,
классификация, ранжирование)
› Устойчив к переобучению
› Хорошо работает даже без настройки
yandex.ru/company/technologies/matrixnet 13

25. Матрикснет
› Мощный алгоритм машинного обучения
› Основан на градиентном бустинге
деревьев решений (GBDT)
› Поддерживает различные типы задач
машинного обучения (регрессия,
классификация, ранжирование)
› Устойчив к переобучению
› Хорошо работает даже без настройки
yandex.ru/company/technologies/matrixnet 13

26. Матрикснет
› Мощный алгоритм машинного обучения
› Основан на градиентном бустинге
деревьев решений (GBDT)
› Поддерживает различные типы задач
машинного обучения (регрессия,
классификация, ранжирование)
› Устойчив к переобучению
› Хорошо работает даже без настройки
yandex.ru/company/technologies/matrixnet 13
пол
возраст
времясуток
…
геолокация
признаки

27. Матрикснет
› Мощный алгоритм машинного обучения
› Основан на градиентном бустинге
деревьев решений (GBDT)
› Поддерживает различные типы задач
машинного обучения (регрессия,
классификация, ранжирование)
› Устойчив к переобучению
› Хорошо работает даже без настройки
yandex.ru/company/technologies/matrixnet 13
пол
возраст
времясуток
…
геолокация
признаки
like
dislike
like
like
like
dislike

28. Матрикснет
› Мощный алгоритм машинного обучения
› Основан на градиентном бустинге
деревьев решений (GBDT)
› Поддерживает различные типы задач
машинного обучения (регрессия,
классификация, ранжирование)
› Устойчив к переобучению
› Хорошо работает даже без настройки
yandex.ru/company/technologies/matrixnet 13
пол
возраст
времясуток
…
геолокация
признаки
like
dislike
like
like
like
dislike

29. Матрикснет
› Мощный алгоритм машинного обучения
› Основан на градиентном бустинге
деревьев решений (GBDT)
› Поддерживает различные типы задач
машинного обучения (регрессия,
классификация, ранжирование)
› Устойчив к переобучению
› Хорошо работает даже без настройки
yandex.ru/company/technologies/matrixnet 13
пол
возраст
времясуток
…
геолокация
признаки
like
dislike
like
like
like
dislike
like

30. 14
Матрикснет

31. 15
Матрикснет
Пользователь
Крипта (предсказанные
возраст, пол, доход,
интересы)
Поисковый запросы
Посещенные сайты

32. 16
Матрикснет
Пользователь
Крипта (предсказанные
возраст, пол, доход,
интересы)
Поисковый запросы
Посещенные сайты
Объект
Метаинформация
Признаки контента
(жанры, категории, теги)

33. Совместные факторы
17
Матрикснет
Статистика (различные
исторические агрегаты)
Пользователь
Крипта (предсказанные
возраст, пол, доход,
интересы)
Поисковый запросы
Посещенные сайты
Объект
Метаинформация
Признаки контента
(жанры, категории, теги)

34. › Вместо явных идентификаторов
можно использовать агрегат по
истории
Статистические агрегаты

35. › Вместо явных идентификаторов
можно использовать агрегат по
истории
Статистические агрегаты
– CTR документа

36. › Вместо явных идентификаторов
можно использовать агрегат по
истории
Статистические агрегаты
– CTR документа
– Доля лайков среди всех
прослушиваний трека

37. › Вместо явных идентификаторов
можно использовать агрегат по
истории
› Можно использовать всю историю
действий с объектом или только
персональную
Статистические агрегаты
– CTR документа
– Доля лайков среди всех
прослушиваний трека

38. › Вместо явных идентификаторов
можно использовать агрегат по
истории
› Можно использовать всю историю
действий с объектом или только
персональную
Статистические агрегаты
– CTR документа
– Доля лайков среди всех
прослушиваний трека
– Сколько раз данный
пользователь слушал данный
трек

39. › Вместо явных идентификаторов
можно использовать агрегат по
истории
› Можно использовать всю историю
действий с объектом или только
персональную
› Можно использовать связи
объектов
Статистические агрегаты
– CTR документа
– Доля лайков среди всех
прослушиваний трека
– Сколько раз данный
пользователь слушал данный
трек

40. › Вместо явных идентификаторов
можно использовать агрегат по
истории
› Можно использовать всю историю
действий с объектом или только
персональную
› Можно использовать связи
объектов
Статистические агрегаты
– CTR документа
– Доля лайков среди всех
прослушиваний трека
– Сколько раз данный
пользователь слушал данный
трек
– Когда пользователь
в последний раз покупал товар
той же категории

41. › Среднее значение какого-то
признака объектов, с которыми
взаимодействовал пользователь
Статистические агрегаты

42. › Среднее значение какого-то
признака объектов, с которыми
взаимодействовал пользователь
Статистические агрегаты
– Средняя цена просмотренных
пользователей товаров

43. › Среднее значение какого-то
признака объектов, с которыми
взаимодействовал пользователь
› Среднее значение какого-то
признака пользователей, которые
взаимодействовали с объектом
Статистические агрегаты
– Средняя цена просмотренных
пользователей товаров

44. › Среднее значение какого-то
признака объектов, с которыми
взаимодействовал пользователь
› Среднее значение какого-то
признака пользователей, которые
взаимодействовали с объектом
Статистические агрегаты
– Средняя цена просмотренных
пользователей товаров
– Средний возраст пользователей,
покупающих этот товар

45. Совместные факторы
20
Матрикснет
Статистика (различные
исторические агрегаты)
Пользователь
Крипта (предсказанные
возраст, пол, доход,
интересы)
Поисковый запросы
Посещенные сайты
Объект
Метаинформация
Признаки контента
(жанры, категории, теги)

46. Совместные факторы
21
Матрикснет
Матричная факторизация
Статистика (различные
исторические агрегаты)
Пользователь
Крипта (предсказанные
возраст, пол, доход,
интересы)
Поисковый запросы
Посещенные сайты
Объект
Метаинформация
Признаки контента
(жанры, категории, теги)

47. Матричная факторизация (SVD)
22
≈
Users
Items
×
Users
Items
d
d
R P Q
brui = hpu, qii =
dX
k=1
p(k)
u q
(k)
i

48. Обучение модели — оптимизация функционала
23
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

49. Обучение модели — оптимизация функционала
24
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

50. Обучение модели — оптимизация функционала
25
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

51. Обучение модели — оптимизация функционала
26
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

52. Градиентный спуск
27
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

53. Градиентный спуск
27
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

54. Градиентный спуск
27
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

55. Градиентный спуск
27
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

56. Градиентный спуск
27
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

57. Градиентный спуск
27
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

58. Градиентный спуск
27
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

59. Градиентный спуск
27
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

60. Градиентный спуск
27
Обновление параметров
на каждой итерации:
pNEW
u = pu 2⌘
⇣ X
i2Du
hpu, qii rui qi + pu
⌘
qNEW
i = qi 2⌘
⇣ X
u2Di
hpu, qii rui pu + qi
⌘
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min
pNEW
u = pu 2⌘
⇣ X
i2Du
hpu, qii rui qi + pu
⌘
qNEW
i = qi 2⌘
⇣ X
u2Di
hpu, qii rui pu + qi
⌘
pNEW
u = pu 2⌘
⇣ X
i2Du
hpu, qii rui qi + pu
⌘
qNEW
i = qi 2⌘
⇣ X
u2Di
hpu, qii rui pu + qi
⌘

61. Градиентный спуск
27
Обновление параметров
на каждой итерации:
pNEW
u = pu 2⌘
⇣ X
i2Du
hpu, qii rui qi + pu
⌘
qNEW
i = qi 2⌘
⇣ X
u2Di
hpu, qii rui pu + qi
⌘
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min
pNEW
u = pu 2⌘
⇣ X
i2Du
hpu, qii rui qi + pu
⌘
qNEW
i = qi 2⌘
⇣ X
u2Di
hpu, qii rui pu + qi
⌘
pNEW
u = pu 2⌘
⇣ X
i2Du
hpu, qii rui qi + pu
⌘
qNEW
i = qi 2⌘
⇣ X
u2Di
hpu, qii rui pu + qi
⌘

62. Стохастический градиентный спуск
28
Обновление параметров
на каждой итерации:
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min
pNEW
u = pu 2⌘
⇣ X
i2Du
hpu, qii rui qi + pu
⌘
qNEW
i = qi 2⌘
⇣ X
u2Di
hpu, qii rui pu + qi
⌘
pNEW
u = pu 2⌘
⇣ X
i2Du
hpu, qii rui qi + pu
⌘
NEW
i = qi 2⌘
⇣ X
u2Di
hpu, qii rui pu + qi
⌘

63. Стохастический градиентный спуск
28
Обновление параметров
на каждой итерации:
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min
pNEW
u = pu 2⌘
⇣ X
i2Du
hpu, qii rui qi + pu
⌘
qNEW
i = qi 2⌘
⇣ X
u2Di
hpu, qii rui pu + qi
⌘
pNEW
u = pu 2⌘
⇣ X
i2Du
hpu, qii rui qi + pu
⌘
NEW
i = qi 2⌘
⇣ X
u2Di
hpu, qii rui pu + qi
⌘

64. Alternating Least Squares (ALS)
29
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

65. Обновление параметров на каждой итерации с помощью
метода наименьших квадратов:
Alternating Least Squares (ALS)
29
pNEW
u = argmin
pu
⇣ X
i2Du
hpu, qii rui
2
+ kpuk2
⌘
= (QT
u Qu + I) 1
QuRu
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min

66. Обновление параметров на каждой итерации с помощью
метода наименьших квадратов:
Alternating Least Squares (ALS)
29
pNEW
u = argmin
pu
⇣ X
i2Du
hpu, qii rui
2
+ kpuk2
⌘
= (QT
u Qu + I) 1
QuRu
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min
pNEW
u = argmin
pu
⇣ X
i2Du
hpu, qii rui
2
+ kpuk2
⌘
= (QT
u Qu + I) 1
QuRu

67. Обновление параметров на каждой итерации с помощью
метода наименьших квадратов:
Alternating Least Squares (ALS)
29
pNEW
u = argmin
pu
⇣ X
i2Du
hpu, qii rui
2
+ kpuk2
⌘
= (QT
u Qu + I) 1
QuRu
X
(u,i)2D
hpu, qii rui
2
+
X
u2U
kpuk2
+
X
i2I
kqik2
! min
qNEW
i = argmin
qi
⇣ X
u2Di
hpu, qii rui
2
+ kqik2
⌘
= (PT
i Pi + I) 1
PiRiqNEW
i = argmin
qi
⇣ X
u2Di
hpu, qii rui
2
+ kqik2
⌘
= (PT
i Pi + I) 1
PiRi
pNEW
u = argmin
pu
⇣ X
i2Du
hpu, qii rui
2
+ kpuk2
⌘
= (QT
u Qu + I) 1
QuRu

68. Особенности реализации и модификации
› Обучение в реальном времени
30

69. Особенности реализации и модификации
› Обучение в реальном времени
› Учёт неявных предпочтений пользователей (алгоритм IALS)
30

70. Особенности реализации и модификации
› Обучение в реальном времени
› Учёт неявных предпочтений пользователей (алгоритм IALS)
› Учёт связей между объектами
30

71. Особенности реализации и модификации
› Обучение в реальном времени
› Учёт неявных предпочтений пользователей (алгоритм IALS)
› Учёт связей между объектами
› Подбор гиперпараметров
30

72. Полная схема рекомендаций

73. 32

74. 32
Диско

75. 32
Обновление
параметров
пользователя
Диско
История
пользователя

76. 32
Обновление
параметров
пользователя
Диско
Отбор
кандидатов
История
пользователя

77. 32
Обновление
параметров
пользователя
Диско
Отбор
кандидатов
Обученная
модель
История
пользователя

78. 32
Обновление
параметров
пользователя
Диско
Отбор
кандидатов
Обученная
модель
История
пользователя
Подсчет
факторов

79. 32
Обновление
параметров
пользователя
Диско
Отбор
кандидатов
Оценка
релевантности
Обученная
модель
История
пользователя
Подсчет
факторов

80. 33

81. 34

82. 35
Диско
Оценка
релевантности
Подсчет
факторов
Отбор
кандидатов
Обновление
параметров
пользователя
История
пользователя
Обученная
модель

83. 35
Диско
Оценка
релевантности
Подсчет
факторов
Отбор
кандидатов
Обновление
параметров
пользователя
История
пользователя
Обученная
модель
Составление
рекомендаций

84. 35
Диско
Оценка
релевантности
Подсчет
факторов
Отбор
кандидатов
Обновление
параметров
пользователя
История
пользователя
Обученная
модель
Составление
рекомендаций

85. Ключевые особенности системы Диско
36

86. Ключевые особенности системы Диско
› Обучается в реальном времени
36

87. Ключевые особенности системы Диско
› Обучается в реальном времени
› Сочетает коллаборативную фильтрацию
и рекомендации на основании контента
36

88. Ключевые особенности системы Диско
› Обучается в реальном времени
› Сочетает коллаборативную фильтрацию
и рекомендации на основании контента
› Использует как внутреннюю, так и внешнюю историю
пользовательских действий
36

89. Ключевые особенности системы Диско
› Обучается в реальном времени
› Сочетает коллаборативную фильтрацию
и рекомендации на основании контента
› Использует как внутреннюю, так и внешнюю историю
пользовательских действий
› Поддерживает оптимизацию различных целевых метрик,
интересных для сервиса
36

90. Ключевые особенности системы Диско
› Обучается в реальном времени
› Сочетает коллаборативную фильтрацию
и рекомендации на основании контента
› Использует как внутреннюю, так и внешнюю историю
пользовательских действий
› Поддерживает оптимизацию различных целевых метрик,
интересных для сервиса
› Увеличивает DISCOvery
36

91. Результаты использования системы Диско
Музыка и Радио
› Среднее время прослушивания на пользователя: +50%
› Возвращаемость пользователей: +100%
Маркет
› Переходы в магазины: +146%
› Доход через блоки рекомендаций: +110%
Дзен
› Запущен новый сервис. CTR после запуска: +220%
37

92. Полезные ссылки
› IALS: Pilászy, Zibriczky, Tikk. Fast ALS-based Matrix Factorization
for Explicit and Implicit Feedback Datasets. RecSys-2010.
› Spark: spark.apache.org
› Oryx: github.com/cloudera/oryx
› Hyperopt: github.com/hyperopt/hyperopt
› XGBoost: github.com/dmlc/xgboost
38

93. 39
Михаил Ройзнер
Ведущий разработчик
Контакты
@MRoizner
MRoizner
+7 (916) 131 57 69
roizner@yandex-team.ru