SlideShare a Scribd company logo
SEO-инсайты из логов сервера:
от WP-блога
до международного проекта
Всем привет :)
● SEO-team lead ЛУН & Flatfy
● Куратор курса Product SEO в PRJCTR
● SEO-консультант
Это я
Логи сервера
Section
1
Логи
Файл с записями о запросах (hit`ах), которые получил
сервер
Как это работает?
http://flatfy.com/example-page.html
1. Protocol
2. Server name -> ip:80
3. File name -> HTTP GET request
Структура
1. Server IP
2. Timestamp (date & time)
3. Method (GET / POST)
4. Request URI (aka: URI stem + URI query)
5. HTTP status code
6. User-agent
Доп.:
1. Host name
2. Request/Client IP
3. Bytes downloaded
4. Time taken
Зависит от конфигурации веб-сервера
Пример
192.168.1.11 - [03/Sep/2019:00:00:00 -0400] - "GET
/calendar/next HTTP/1.1" 200 - "Mozilla/5.0 (compatible;
Googlebot/2.1; +http://www.google.com/bot.html)"
Примеры
● Apache - bit.ly/2QnpB5s
● NGINX - bit.ly/2x75pf5
● IIS - bit.ly/2O64QcJ
Важно
● User Agent Googlebot (bit.ly/2x2Jire)
● Google IP Validate
Зачем?
● Разработка и quality assurance (QA)
● Проблемы с сетью
● Customer service
● Проблемы с безопасностью
● Compliance matters (запросы от …)
● Техническое SEO
Какие данные?
Section
2
Crawl volume
Bot crawl volume - number of requests
Вопросы
1. Эффективно ли расходуется краулинговый бюджет?
a. Где идет утечка краулингового бюджета? (дубли, параметры
и т.п.)
b. Были ли ошибки во время краулинга?
c. Какие есть области с недостатком краулинга?
2. Дата последнего краулинга?
Важно
Сколько прокрауленых страниц “non-compliant“?
(не подлежат попаданию в поиск)
Важно
1. Определить частоту сканирования страниц
2. Какие страницы не обходились ни разу за месяц?
3. Когда страницы прокраулены впервые после создания?
4. За какое время сканируются все страницы?
5. Какой тип файлов? %
6. Редиректы цепочки, ошибочные редиректы + кол-во
7. Количество заходов на не канонические страницы
8. Заходы на закрытые страницы в meta robots
9. Дублированный контент? (например, по тайтлам)
10. Сканирование нового контента
11. Миграция на HTTPS и работа с AMP
Дополнить данными
1. Google Analytics
2. Данные с сайта (canonical, robots, кол-во слов ...)
3. Google Search Console
4. и другие
Excel, etc
Section
3
Как использовать?
● Переименовать .log -> .csv
● Открывать файлы до 120к строк
● Разбить по столбцам
● Убрать лишние колонки
● Использовать сводные таблицы и графики
Частота и user agent
Что больше краулят
GoAccess
bit.ly/2HtAi4p
GoAccess
● UNIQUE VISITORS PER DAY - INCLUDING SPIDERS
● REQUESTED FILES (URLS)
● STATIC REQUESTS
● NOT FOUND URLS (404S)
● VISITOR HOSTNAMES AND IPS
● OPERATING SYSTEMS
● BROWSERS
● TIME DISTRIBUTION
● VIRTUAL HOSTS
● REFERRERS URLS
● REFERRING SITES
● KEYPHRASES FROM GOOGLE'S SEARCH ENGINE
● HTTP STATUS CODES
● GEO LOCATION
ELK
Section
4
ELK stack
Digitalocean Install
Заказать дроплет:
m.do.co/c/de8a01e96450
(Docker -> ELK)
Мануал:
do.co/2x8stub
Logz
bit.ly/2TP3HfK
Примеры
Section
5
Общий вид
SC
SC
Kibana
SC
Сканирование закрытых
страниц
Различные боты
Dashboards
Спасибо
за внимание!
Владислав Моргун
SEO Team-lead ЛУН & Flatfy
facebook.com/vladislav.morgun.3
t.me/m0r9un
vlad.morgun@lun.ua
instagram.com/m0r9un
slideshare.net/ssuser12bc85
О нас: team.lun.ua

More Related Content

What's hot

Основные принципы индексирования сайта, Александр Смирнов, лекция в Школе веб...
Основные принципы индексирования сайта, Александр Смирнов, лекция в Школе веб...Основные принципы индексирования сайта, Александр Смирнов, лекция в Школе веб...
Основные принципы индексирования сайта, Александр Смирнов, лекция в Школе веб...
Yandex
 
Трудов Алексей. Как поисковые системы учитывают и оценивают возраст страницы
Трудов Алексей. Как поисковые системы учитывают и оценивают возраст страницыТрудов Алексей. Как поисковые системы учитывают и оценивают возраст страницы
Трудов Алексей. Как поисковые системы учитывают и оценивают возраст страницы
Дмитрий Шахов
 
Как запускаться в конкурентных нишах в 2021 году с ограниченным бюджетом
Как запускаться в конкурентных нишах в 2021 году с ограниченным бюджетомКак запускаться в конкурентных нишах в 2021 году с ограниченным бюджетом
Как запускаться в конкурентных нишах в 2021 году с ограниченным бюджетом
NaZapad
 
Как защитить свой сайт, Пётр Волков, лекция в Школе вебмастеров
Как защитить свой сайт, Пётр Волков, лекция в Школе вебмастеровКак защитить свой сайт, Пётр Волков, лекция в Школе вебмастеров
Как защитить свой сайт, Пётр Волков, лекция в Школе вебмастеров
Yandex
 

What's hot (20)

SEMPRO 2018 - Олег Искевич и Владислав Моргун - Тех-оптимизация и внутренние ...
SEMPRO 2018 - Олег Искевич и Владислав Моргун - Тех-оптимизация и внутренние ...SEMPRO 2018 - Олег Искевич и Владислав Моргун - Тех-оптимизация и внутренние ...
SEMPRO 2018 - Олег Искевич и Владислав Моргун - Тех-оптимизация и внутренние ...
 
Дмитрий Петренко. SEO трафик в конкурентных нишах под БУРЖ. Инструменты, мето...
Дмитрий Петренко. SEO трафик в конкурентных нишах под БУРЖ. Инструменты, мето...Дмитрий Петренко. SEO трафик в конкурентных нишах под БУРЖ. Инструменты, мето...
Дмитрий Петренко. SEO трафик в конкурентных нишах под БУРЖ. Инструменты, мето...
 
Дмитрий Шахов. Эксперименты на тему распространённых методов в SEO
Дмитрий Шахов. Эксперименты на тему распространённых методов в SEOДмитрий Шахов. Эксперименты на тему распространённых методов в SEO
Дмитрий Шахов. Эксперименты на тему распространённых методов в SEO
 
Никулин Павел. Machine learning для текстового анализа
Никулин Павел. Machine learning для текстового анализаНикулин Павел. Machine learning для текстового анализа
Никулин Павел. Machine learning для текстового анализа
 
Дмитрий Мазурян. Пять методик нестандартного анализа и поиска новых ниш
Дмитрий Мазурян. Пять методик нестандартного анализа и поиска новых нишДмитрий Мазурян. Пять методик нестандартного анализа и поиска новых ниш
Дмитрий Мазурян. Пять методик нестандартного анализа и поиска новых ниш
 
Как выйти из-под Google Panda. Симптомы, причины, кейсы.
Как выйти из-под Google Panda. Симптомы, причины, кейсы.Как выйти из-под Google Panda. Симптомы, причины, кейсы.
Как выйти из-под Google Panda. Симптомы, причины, кейсы.
 
Data Driven SEO на западных рынках - Виктор Карпенко
Data Driven SEO на западных рынках - Виктор КарпенкоData Driven SEO на западных рынках - Виктор Карпенко
Data Driven SEO на западных рынках - Виктор Карпенко
 
Как с помощью правильных PBN, получать ТОП 1 в самых высоко конкурентных ниша...
Как с помощью правильных PBN, получать ТОП 1 в самых высоко конкурентных ниша...Как с помощью правильных PBN, получать ТОП 1 в самых высоко конкурентных ниша...
Как с помощью правильных PBN, получать ТОП 1 в самых высоко конкурентных ниша...
 
Рутинные операции в SEO, о которых забывают и спрашивают снова и снова
Рутинные операции в SEO, о которых забывают и спрашивают снова и сноваРутинные операции в SEO, о которых забывают и спрашивают снова и снова
Рутинные операции в SEO, о которых забывают и спрашивают снова и снова
 
Основные принципы индексирования сайта, Александр Смирнов, лекция в Школе веб...
Основные принципы индексирования сайта, Александр Смирнов, лекция в Школе веб...Основные принципы индексирования сайта, Александр Смирнов, лекция в Школе веб...
Основные принципы индексирования сайта, Александр Смирнов, лекция в Школе веб...
 
Трудов Алексей. Как поисковые системы учитывают и оценивают возраст страницы
Трудов Алексей. Как поисковые системы учитывают и оценивают возраст страницыТрудов Алексей. Как поисковые системы учитывают и оценивают возраст страницы
Трудов Алексей. Как поисковые системы учитывают и оценивают возраст страницы
 
Текстовый анализ - теория и практика
Текстовый анализ - теория и практикаТекстовый анализ - теория и практика
Текстовый анализ - теория и практика
 
Q/A по PBN и западное SEO
Q/A по PBN и западное SEOQ/A по PBN и западное SEO
Q/A по PBN и западное SEO
 
Фильтры и изменения в ранжировании Яндекса в 2017 году
Фильтры и изменения в ранжировании Яндекса в 2017 годуФильтры и изменения в ранжировании Яндекса в 2017 году
Фильтры и изменения в ранжировании Яндекса в 2017 году
 
Как запускаться в конкурентных нишах в 2021 году с ограниченным бюджетом
Как запускаться в конкурентных нишах в 2021 году с ограниченным бюджетомКак запускаться в конкурентных нишах в 2021 году с ограниченным бюджетом
Как запускаться в конкурентных нишах в 2021 году с ограниченным бюджетом
 
Артефакты эффективных SEOшников
Артефакты эффективных SEOшниковАртефакты эффективных SEOшников
Артефакты эффективных SEOшников
 
НОРМ ссылки 2018 - доклад на SEO Day 2018, Виктор Карпенко
НОРМ ссылки 2018 - доклад на SEO Day 2018, Виктор КарпенкоНОРМ ссылки 2018 - доклад на SEO Day 2018, Виктор Карпенко
НОРМ ссылки 2018 - доклад на SEO Day 2018, Виктор Карпенко
 
Как защитить свой сайт, Пётр Волков, лекция в Школе вебмастеров
Как защитить свой сайт, Пётр Волков, лекция в Школе вебмастеровКак защитить свой сайт, Пётр Волков, лекция в Школе вебмастеров
Как защитить свой сайт, Пётр Волков, лекция в Школе вебмастеров
 
Гайд по текстовому антиспаму
Гайд по текстовому антиспамуГайд по текстовому антиспаму
Гайд по текстовому антиспаму
 
Практика SEO: выпуск 10. Поисковые операторы в Яндексе и Google / 404-ошибка
Практика SEO: выпуск 10. Поисковые операторы в Яндексе и Google / 404-ошибкаПрактика SEO: выпуск 10. Поисковые операторы в Яндексе и Google / 404-ошибка
Практика SEO: выпуск 10. Поисковые операторы в Яндексе и Google / 404-ошибка
 

Similar to 15.03.19 WebPromo SEOday SEO-инсайты из логов: от WP блога до международного проекта

Алексей Рылко, iProspect — «SEO-инсайды, которые вы можете достать из логов ...
Алексей Рылко, iProspect  — «SEO-инсайды, которые вы можете достать из логов ...Алексей Рылко, iProspect  — «SEO-инсайды, которые вы можете достать из логов ...
Алексей Рылко, iProspect — «SEO-инсайды, которые вы можете достать из логов ...
shevchuk_conf
 
Хорошо поддерживаемое в продакшне приложение / Николай Сивко (okmeter.io)
Хорошо поддерживаемое в продакшне приложение / Николай Сивко (okmeter.io)Хорошо поддерживаемое в продакшне приложение / Николай Сивко (okmeter.io)
Хорошо поддерживаемое в продакшне приложение / Николай Сивко (okmeter.io)
Ontico
 
Web весна 2013 лекция 1
Web весна 2013 лекция 1Web весна 2013 лекция 1
Web весна 2013 лекция 1
Technopark
 
Спецкурс "Современные практики разработки ПО", 2013-2014 уч. год, занятие 6
Спецкурс "Современные практики разработки ПО", 2013-2014 уч. год, занятие 6Спецкурс "Современные практики разработки ПО", 2013-2014 уч. год, занятие 6
Спецкурс "Современные практики разработки ПО", 2013-2014 уч. год, занятие 6
7bits
 
Pavel Dovbush Toster
Pavel Dovbush Toster Pavel Dovbush Toster
Pavel Dovbush Toster
Pavel Dovbush
 
Стажировка-2013, разработчики, занятие 7. Web, HTTP
Стажировка-2013, разработчики, занятие 7. Web, HTTPСтажировка-2013, разработчики, занятие 7. Web, HTTP
Стажировка-2013, разработчики, занятие 7. Web, HTTP
7bits
 
Стажировка 2016-07-12 02 Денис Нелюбин. Web, HTTP, TCP/IP
Стажировка 2016-07-12 02 Денис Нелюбин. Web, HTTP, TCP/IPСтажировка 2016-07-12 02 Денис Нелюбин. Web, HTTP, TCP/IP
Стажировка 2016-07-12 02 Денис Нелюбин. Web, HTTP, TCP/IP
SmartTools
 
Извлечение информации из веб-страниц - Михаил Коробов, PyCon RU 2014
Извлечение информации из веб-страниц - Михаил Коробов, PyCon RU 2014Извлечение информации из веб-страниц - Михаил Коробов, PyCon RU 2014
Извлечение информации из веб-страниц - Михаил Коробов, PyCon RU 2014
it-people
 

Similar to 15.03.19 WebPromo SEOday SEO-инсайты из логов: от WP блога до международного проекта (20)

Алексей Рылко, iProspect — «SEO-инсайды, которые вы можете достать из логов ...
Алексей Рылко, iProspect  — «SEO-инсайды, которые вы можете достать из логов ...Алексей Рылко, iProspect  — «SEO-инсайды, которые вы можете достать из логов ...
Алексей Рылко, iProspect — «SEO-инсайды, которые вы можете достать из логов ...
 
Lesson1
Lesson1Lesson1
Lesson1
 
Хорошо поддерживаемое в продакшне приложение / Николай Сивко (okmeter.io)
Хорошо поддерживаемое в продакшне приложение / Николай Сивко (okmeter.io)Хорошо поддерживаемое в продакшне приложение / Николай Сивко (okmeter.io)
Хорошо поддерживаемое в продакшне приложение / Николай Сивко (okmeter.io)
 
Web весна 2013 лекция 1
Web весна 2013 лекция 1Web весна 2013 лекция 1
Web весна 2013 лекция 1
 
Sivko
SivkoSivko
Sivko
 
C# Web. Занятие 01.
C# Web. Занятие 01.C# Web. Занятие 01.
C# Web. Занятие 01.
 
Неочевидные возможности ускорения работы сайта
Неочевидные возможности ускорения работы сайтаНеочевидные возможности ускорения работы сайта
Неочевидные возможности ускорения работы сайта
 
Спецкурс "Современные практики разработки ПО", 2013-2014 уч. год, занятие 6
Спецкурс "Современные практики разработки ПО", 2013-2014 уч. год, занятие 6Спецкурс "Современные практики разработки ПО", 2013-2014 уч. год, занятие 6
Спецкурс "Современные практики разработки ПО", 2013-2014 уч. год, занятие 6
 
Аудит сайта Teploteka.com.ua
Аудит сайта Teploteka.com.uaАудит сайта Teploteka.com.ua
Аудит сайта Teploteka.com.ua
 
Техническая внутренняя оптимизация больших сайтов
Техническая внутренняя оптимизация больших сайтовТехническая внутренняя оптимизация больших сайтов
Техническая внутренняя оптимизация больших сайтов
 
Как работают поисковые системы
Как работают поисковые системыКак работают поисковые системы
Как работают поисковые системы
 
Аудит сайта Moviespictures.net
Аудит сайта Moviespictures.netАудит сайта Moviespictures.net
Аудит сайта Moviespictures.net
 
Pavel Dovbush Toster
Pavel Dovbush Toster Pavel Dovbush Toster
Pavel Dovbush Toster
 
«Индексация сайтов в Яндексе» 17 лекция, александр смирнов
«Индексация сайтов в Яндексе» 17 лекция, александр смирнов«Индексация сайтов в Яндексе» 17 лекция, александр смирнов
«Индексация сайтов в Яндексе» 17 лекция, александр смирнов
 
Стажировка-2013, разработчики, занятие 7. Web, HTTP
Стажировка-2013, разработчики, занятие 7. Web, HTTPСтажировка-2013, разработчики, занятие 7. Web, HTTP
Стажировка-2013, разработчики, занятие 7. Web, HTTP
 
Стажировка 2016-07-12 02 Денис Нелюбин. Web, HTTP, TCP/IP
Стажировка 2016-07-12 02 Денис Нелюбин. Web, HTTP, TCP/IPСтажировка 2016-07-12 02 Денис Нелюбин. Web, HTTP, TCP/IP
Стажировка 2016-07-12 02 Денис Нелюбин. Web, HTTP, TCP/IP
 
Извлечение информации из веб-страниц - Михаил Коробов, PyCon RU 2014
Извлечение информации из веб-страниц - Михаил Коробов, PyCon RU 2014Извлечение информации из веб-страниц - Михаил Коробов, PyCon RU 2014
Извлечение информации из веб-страниц - Михаил Коробов, PyCon RU 2014
 
Аудит Tury.mk.ua
Аудит Tury.mk.uaАудит Tury.mk.ua
Аудит Tury.mk.ua
 
Техническая оптимизация сайтов
Техническая оптимизация сайтовТехническая оптимизация сайтов
Техническая оптимизация сайтов
 
Аудит сайта Aster.ua
Аудит сайта Aster.uaАудит сайта Aster.ua
Аудит сайта Aster.ua
 

More from Vladislav Morgun

More from Vladislav Morgun (10)

02.03.21 Collaborator.pro Webinar Решение 10 главных задач технической оптими...
02.03.21 Collaborator.pro Webinar Решение 10 главных задач технической оптими...02.03.21 Collaborator.pro Webinar Решение 10 главных задач технической оптими...
02.03.21 Collaborator.pro Webinar Решение 10 главных задач технической оптими...
 
13.03.2020 - NaZapad - SEO-Шива: продвижение 1 продукта на 30 стран
13.03.2020 - NaZapad - SEO-Шива: продвижение 1 продукта на 30 стран13.03.2020 - NaZapad - SEO-Шива: продвижение 1 продукта на 30 стран
13.03.2020 - NaZapad - SEO-Шива: продвижение 1 продукта на 30 стран
 
21.02.2020 - WebPromo SEO Day - О чем мы постоянно забываем при работе с сема...
21.02.2020 - WebPromo SEO Day - О чем мы постоянно забываем при работе с сема...21.02.2020 - WebPromo SEO Day - О чем мы постоянно забываем при работе с сема...
21.02.2020 - WebPromo SEO Day - О чем мы постоянно забываем при работе с сема...
 
30.08.19 - DVOMA.pro - Фреймворки для выбора и анализа новых ниш
30.08.19 - DVOMA.pro - Фреймворки для выбора и анализа новых ниш30.08.19 - DVOMA.pro - Фреймворки для выбора и анализа новых ниш
30.08.19 - DVOMA.pro - Фреймворки для выбора и анализа новых ниш
 
19.06.19 - MAD SEO Conf v.2.0 by Govitall - SEO-адаптация продуктов для выход...
19.06.19 - MAD SEO Conf v.2.0 by Govitall - SEO-адаптация продуктов для выход...19.06.19 - MAD SEO Conf v.2.0 by Govitall - SEO-адаптация продуктов для выход...
19.06.19 - MAD SEO Conf v.2.0 by Govitall - SEO-адаптация продуктов для выход...
 
14.06.19 GuruConf 2019 - Human-centered Link building
14.06.19 GuruConf 2019 - Human-centered  Link building14.06.19 GuruConf 2019 - Human-centered  Link building
14.06.19 GuruConf 2019 - Human-centered Link building
 
SEO Battle #2: 26.01 SEOclub & EVO
SEO Battle #2: 26.01 SEOclub & EVOSEO Battle #2: 26.01 SEOclub & EVO
SEO Battle #2: 26.01 SEOclub & EVO
 
19.10 - WebPromo SEO Day - "SEO-автоматизатор: кто он?" - Владислав Моргун
19.10 - WebPromo SEO Day - "SEO-автоматизатор: кто он?" - Владислав Моргун19.10 - WebPromo SEO Day - "SEO-автоматизатор: кто он?" - Владислав Моргун
19.10 - WebPromo SEO Day - "SEO-автоматизатор: кто он?" - Владислав Моргун
 
WebPromo Experts Day - Олег Искевич и Владислав Моргун - Продвижение в высоко...
WebPromo Experts Day - Олег Искевич и Владислав Моргун - Продвижение в высоко...WebPromo Experts Day - Олег Искевич и Владислав Моргун - Продвижение в высоко...
WebPromo Experts Day - Олег Искевич и Владислав Моргун - Продвижение в высоко...
 
NaZapad 6 - Владислав Моргун - Семантическое ядро для 24 языков и 36 стран
NaZapad 6 - Владислав Моргун - Семантическое ядро для 24 языков и 36 странNaZapad 6 - Владислав Моргун - Семантическое ядро для 24 языков и 36 стран
NaZapad 6 - Владислав Моргун - Семантическое ядро для 24 языков и 36 стран
 

15.03.19 WebPromo SEOday SEO-инсайты из логов: от WP блога до международного проекта