HighLoad++ 2017 Зал «Найроби+Касабланка», 7 ноября, 13:00 Тезисы: http://www.highload.ru/2017/abstracts/2902.html Badoo — социальная сеть знакомств и очень привлекательное место для спамеров и мошенников, нигерийских принцев и разносчиков adult-контента. В докладе будет рассказ о том, почему вы не найдете этих персонажей на нашем сервисе, как классифицировать миллиарды действий пользователей и выявлять спам в реальном времени, как мы используем модели машинного обучения и избавляемся от ложных срабатываний. ...

1. Вычисляем по IP: как
бороться со спамом в
социальной сети
Михаил Овчинников
7/11

2. 360 000 000 Пользователей

3. 360 000 000 Пользователей
3 Программиста в отделе Антиспама

4. ПЛАН
— Типы спама
— Анализ пользователей,
текста, картинок, IP-адресов
— Защита от ложных срабатываний

5. С кем приходится сражаться

6. Спамеры
Привет красавчик!
Хочешь поглядеть на мои
откровенные фотки?
http://nasty-photos.com

7. Спамеры
Я — настоящая! Та самая 3d Тян,
которую ты искал,
Пойдем в скайп: Ole4ka1997

8. Спамеры
Я успешная и самостоятельная
девушка, заработала на новый
ковер с помощью МММ

9. Мошенники
Donald, 70
Успешный бизнесмен

10. Мошенники
Sacha, 45
Генерал-Адмирал
вооруженных сил

11. Мошенники
Diana, 18
Телезвезда

12. Как боролись со спамом
в Мезозойскую эру

13. Как боролись со спамом в Мезозойскую эру
/(https?://)(.*)/i

14. Как боролись со спамом в Мезозойскую эру
order deny, allow
deny from 182.99.13.44

15. Как боролись со спамом в Мезозойскую эру
cat access.log | grep -E
'User-Agent: .*curl'

16. ь
Простейшие способы борьбы

17. ь
Ручная модерация

19. ь
Собрать статистику

20. IP Address: 18.239.10.54
Сбор Статистики
Иннокентий, user_id: 9219022

21. IP Address: 18.239.10.54
Сбор Статистики
Иннокентий, user_id: 9219022
Прямой
+
Обратный
Индекс

22. IP Address: 18.239.10.54
DeviceID: ABCDEF
Photo:
Phone: 44752301239
… other attributes
Сбор Статистики
Иннокентий, user_id: 9219022

23. Сбор Статистики
Total: 129 Blocked: 14 Normal: 5
IP Address: 18.239.10.54
DeviceID: ABCDEF
Photo:
Phone: 44752301239
… other attributes

24. Сбор Статистики
Total: 129 Blocked: 14 Normal: 5
Total: 1 Blocked: 0 Normal: 0
Total: 1 Blocked: 0 Normal: 0
Total: 1 Blocked: 0 Normal: 0
IP Address: 18.239.10.54
DeviceID: ABCDEF
Photo:
Phone: 44752301239
… other attributes

25. IP Address: 66.20.93.10
Сбор Статистики
Total: 200 Blocked: 160 Normal: 5 80% of spammers
IP Address: 8.8.8.8 Total: 100 Blocked: 1 Normal: 31 1% of spammers

26. IP Address: 66.20.93.10
Сбор Статистики
Total: 200 Blocked: 160 Normal: 5 80% of spammers
IP Address: 8.8.8.8 Total: 100 Blocked: 1 Normal: 31 1% of spammers
( Blocked > Total * 0.8 ) && ( Normal < Total * 0.05 )

27. «Пиши в Whatsapp , мой номер 7 916 223 01 33 , почта fakeaccount@gmail.com »
«Заходи на мою страничку http:// online-show.ru /Liza1991/ »
Сбор Статистики из текста

28. Сбор Статистики из текста
«Пиши в Whatsapp , мой номер 7 916 223 01 33 , почта fakeaccount@gmail.com »
«Заходи на мою страничку http:// online-show.ru /Liza1991/ »

29. Сбор Статистики из текста
«Пиши в Whatsapp , мой номер 7 916 223 01 33 , почта fakeaccount@gmail.com »
«Заходи на мою страничку http:// online-show.ru /Liza1991/ »
● Email’ы
● Телефоны
● Никнеймы
● Мессенджеры
● Ссылки, домены

30. Стоп-слова

31. Стоп-Слова
«There are too much fakes on this site»

32. Стоп-Слова
«I’m looking for a serious relationship»

33. Поиск похожих аккаунтов

34. Поиск аккаунтов
Garold #31738913

35. IP Address: 201.22.95.8
DeviceID: ABCDEF
Photo:
StopWord: MMM
Facebook: Harold Pain
Garold #31738913
Поиск аккаунтов

36. IP Address: 201.22.95.8
DeviceID: ABCDEF
Photo:
StopWord: MMM
Facebook: Harold Pain
Garold #31738913
Garold #83749293
Garold #83749293
Garold #83749293
Поиск аккаунтов

37. IP Address: 201.22.95.8
DeviceID: ABCDEF
Photo:
StopWord: MMM
Facebook: Harold Pain
Garold #31738913
Garold #83749293
Garold #83749293
Garold #83749293
Blocked
Поиск аккаунтов

38. IP Address: 201.22.95.8
DeviceID: ABCDEF
Photo:
StopWord: MMM
Facebook: Harold Pain
Garold #31738913
Garold #83749293
Garold #83749293
Garold #83749293
Blocked
Blocked
Blocked
Blocked
Поиск аккаунтов

39. 50%

40. Как усложнить жизнь спамерам

46. Верификация

48. Угадай кто спамер
Amelia, 20 Ava, 41 Alice, 32 Abigail, 24

49. Угадай кто спамер
Amelia, 20 Ava, 41 Alice, 32 Abigail, 24

50. Угадай кто спамер
Amelia, 20 Ava, 41 Alice, 32 Abigail, 24

51. Угадай кто спамер
Amelia, 20 Ava, 41 Alice, 32 Abigail, 24

52. Угадай кто спамер
Amelia, 20 Ava, 41 Alice, 32 Abigail, 24

53. Фото-верификация

54. Фото-верификация

55. Нет времени!

56. Кластеризация пользователей

57. Кластеризация пользователей
— Пол
— Возраст
— Страна регистрации,
— Страна и Провайдер IP
— Email-домен
— Оператор телефона (если есть)
— Данные из FB (если есть)

58. Кластеризация

59. Кластеризация

60. Кластеризация

61. Кластеризация
Алгоритм быстро находит кластера
У пользователей много
одинаковых свойств

62. Паттерны

63. Паттерны
Страна: USA
Провайдер: “Privax LTD”
Email-Domain: [mail.ru, list.ru, bk.ru, inbox.ru]
Я найду тебя, и забаню

64. Кластеризация текстов

65. Кластеризация текстов: n-gram
Привет как дела?

66. Кластеризация текстов: n-gram
{
"пр" => 1,
}
Привет как дела?

67. Кластеризация текстов: n-gram
{
"пр" => 1,
"ри" => 1,
}
Привет как дела?

68. Кластеризация текстов: n-gram
{
"пр" => 1,
"ри" => 1,
"ив" => 1,
}
Привет как дела?

69. Кластеризация текстов: n-gram
Длина алфавита2

70. Кластеризация текстов: биграммы
Сообщение
Сообщение
Сообщение
Сообщение

71. Кластеризация текстов: n-gram
Сообщение
Сообщение
Сообщение
Сообщение
Фильтр:
Stemming
Bag of words Кластер

72. VPN, TOR, Proxy, Анонимайзеры

73. *

74. VPN—классификатор
1. База данных ISP

75. VPN—классификатор
1. База данных ISP
2. Whois

76. VPN—классификатор
1. База данных ISP
2. Whois
3. GeoIP

77. VPN—классификатор
1. База данных ISP
2. Whois
3. GeoIP
4. Статистика пользователей

78. VPN—классификатор
1. База данных ISP
2. Whois
3. GeoIP
4. Статистика пользователей

79. VPN—классификатор
1. База данных ISP
2. Whois
3. GeoIP
4. Статистика пользователей
Decision Tree
Classifier

80. VPN—классификатор
1. База данных ISP
2. Whois
3. GeoIP
4. Статистика пользователей
Сетевые проверки
Decision Tree
Classifier

81. VPN—классификатор
1. База данных ISP
2. Whois
3. GeoIP
4. Статистика пользователей
Сетевые проверки + p0f
Decision Tree
Classifier

82. Наиболее подозрительное действие

83. А не забанить ли нам всех
сразу после регистрации?

85. Длина диалогов
Давность регистрации
Отсутствие жалоб
Пройденные верификации
Совершал ли покупки
Хорошее поведение

86. Logistic Regression
Длина диалогов
Давность регистрации
Отсутствие жалоб
Пройденные верификации
Совершал ли покупки
Хорошее поведение

87. Длина диалогов
Давность регистрации
Отсутствие жалоб
Пройденные верификации
Совершал ли покупки
Хорошее поведение
Коэффициент
“Честности”
0.0 ~ 1.0
???

88. Длина диалогов
Давность регистрации
Отсутствие жалоб
Пройденные верификации
Совершал ли покупки
Хорошее поведение
Коэффициент
“Честности”
0.0 ~ 1.0
Юзер не спамер???

90. Займемся поиском аномалий

91. Аномалии
StopWord: Pornhub
Lisa #22981029
Maria #92801273
Anna #93102391
Users:
Kate #3812323
Lana #7382824

92. Lisa #22981029
Maria #92801273
Anna #93102391
Patrick #3930182
Users:
Kate #3812323
Lana #7382824
Аномалии
StopWord: Pornhub

93. Lisa #22981029
Maria #92801273
Anna #93102391
Patrick #3930182
Users:
Kate #3812323
Lana #7382824
Отличается
● Пол
● Возраст
● Провайдер
● Приложение
● Страна
● etc...
Аномалии
StopWord: Pornhub

94. Lisa #22981029
Maria #92801273
Anna #93102391
Patrick #3930182
Users:
Kate #3812323
Lana #7382824
Отличается
● Пол
● Возраст
● Провайдер
● Приложение
● Страна
● etc...
Этот юзер не спамер,
Мы не будем его банить
Аномалии
StopWord: Pornhub

95. Универсальный мега-классификатор

96. Универсальный мега-классификатор
Linear Regression
Gradient Boosted
Decision Trees
Recurrent
Neural Networks
Чтоб работало

97. Спасибо
Mikhail Ovchinnikov, Badoo
Email: mikhail.ovchinnikov@corp.badoo.com