HL++2013 Leskin

•Download as PPTX, PDF•

1 like•1,456 views

Andrey Leskin

DNS tests on Highload2013. What's this all about? DNS server stress-tests and all the things you may encounter!

Technology

Тестирование
производительности
DNS-серверов
Андрей Лескин
QratorLabs/HLL

Что такое DNS?
• Коротко:
highloadlab.com  178.248.233.7

Что такое DNS?
• Коротко:
highloadlab.com  178.248.233.7
• Длинно:
(список
неполон)

DNS-серверы
• minidns dns server
https://code.google.com/p/minidns/source/browse/minidns
“wc -l minidns”
107 (!!!)

DNS-серверы
• minidns dns server
https://code.google.com/p/minidns/source/browse/minidns
“wc -l minidns”
107 (!!!)

• Authoritative.
There can be only one!

• Caching.
The cache is out there...

А что мы хотим?
• Скорость
• Устойчивость
• Производительность

А что мы хотим?
• Скорость
• Устойчивость
• Производительность

SUPER
Authoritative
Server

SLOW
Authoritative
Server

SUPER
Caching
Server

QUERIES
QUERIES

DNS test. А что уже было сломано
до нас?

DNS test. А что уже было сломано
до нас?

• dnsperf & resperf?

DNS test. А что уже было сломано
до нас?

• dnsperf & resperf? NO
• tcpreplay?

DNS test. А что уже было сломано
до нас?

• dnsperf & resperf? NO
• tcpreplay? NO
• Ideal/real world data? NOOO!!!

DNS test. Measurements

• QPS, RPS = PPS
• Traffic: Mbit/s
• CPU load avg
• Поведение при повышении нагрузки
• А еще есть крутилки и включалки!

DNS test. А на что будем смотреть?
• Knot (1.2.0 & 1.3.0-RC5)
• Yadifa (1.0.2)
• NSD3 (3.2.15)
• NSD4 (4.0.0b4)
• PowerDNS (3.3)
• TinyDNS (1.05)
• Unbound (1.4.16)
• Pdnsd (1.2.8)

• Server:
Dual Xeon E5-2670
32Gb RAM DDR3 1333Mhz
Intel X520-DA2 10Gbit
• Generator:
Single Xeon E5-2670
32Gb RAM DDR3 1333Mhz
Intel X520-DA2 10Gbit
• Gentoo Linux 3.7.9

DNS test. Setup
• Максимально ванильно!
• Authoritative:
300 сформированных зон
• Caching:
Прогреваем кэш на такой же объем
данных

Results. Выбираем победителя
крутилок.
Knot-1.2.0, queries=1

Results. Queries in flow: 01
Knot
NSD
Unbound
Yadifa

PowerDNS
Pdnsd
TinyDNS

Results. Queries in flow: 02
Knot
NSD
Unbound
PowerDNS

Pdnsd
Yadifa
TinyDNS

Results. Queries in flow: 20
Knot
NSD
Unbound
PowerDNS

Pdnsd
Yadifa
TinyDNS

Подводные камни.

IT HAPPENS.
BE PREPARED

Подводные камни. Local.

• Knot-1.2.0
Победитель может все... Или не все?

Подводные камни. Local.

• Knot-1.2.0
Победитель может все... Или не все?

• Yadifa-1.0.2
Нужно больше золота!

Подводные камни. Local.

• Knot-1.2.0
Победитель может все... Или не все?

• Yadifa-1.0.2
Нужно больше золота!

• Pdnsd
Приз за оригинальность.

Подводные камни. Global.
Камень

Контр-камень

• UDP

• BCP38

Мне кажется, пакет пришел оттуда... Но я не
гарантирую это!

Когда случится счастье – нам не ведомо!

Подводные камни. Global.
Камень

Контр-камень

• UDP

• BCP38

Мне кажется, пакет пришел оттуда... Но я не
гарантирую это!

• DNS cache poisoning (Kaminsky)
Адрес поменялся! Иди сюда!

Когда случится счастье – нам не ведомо!

• DNSSec

Это счастье есть, но мало кто пользуется 

Подводные камни. Global.
Камень

Контр-камень

• UDP

• BCP38

Мне кажется, пакет пришел оттуда... Но я не
гарантирую это!

• DNS cache poisoning (Kaminsky)

Когда случится счастье – нам не ведомо!

• DNSSec

Адрес поменялся! Иди сюда!

Это счастье есть, но мало кто пользуется 

• Стать DNS Amplifier

• Можно самостоятельно:
- закрыть рекурсию извне
- RRL (DROP, SLIP)
- DROP пакетов с src_port 53

Чтобы не быть жертвой - надо не быть жертвой

- dig isoc.org ANY (26 vs 2435)
- открытая рекурсия

Спасибо!
Андрей Лескин
serenheit@highloadlab.com

«Мир изменился… Я чувствую это в воде… Я чувствую это в земле…» Галадриэль «Какой-то отсталый у неё мониторинг» Сева Поляков В этом докладе я хочу рассказать вам историю о современном мониторинге, на примере выбора для моего текущего проекта. Когда нужен prometheus, когда нужен SaaS и почему графит не умрёт. Также я постараюсь пройтись по всем новинкам и важным изменениям в современном мире мониторинга.

Игнат Корчагин "Как Cloudflare помогает справиться с крупнейшими атаками в Сети"

Fwdays

В докладе отражены общая архитектура сети Cloudflare и обзор технических решений, которые помогают справиться с самыми крупными на сегодняшний день атаками. В частности: - общий обзор сети Cloudflare - Anycast и BGP и управление трафиком - внутри датацентра Cloudflare: програмный стек - эффективная фильтрация пакетов в Linux в обход ядра ОС - автоматическая система управления состоянием firewall на серверах Cloudflare

Tech Talks @NSU: Что такое Highload? Секреты высокой нагрузки.

Tech Talks @NSU

http://techtalks.nsu.ru Видеозапись: http://www.youtube.com/watch?v=6PDtlAzFRlE 11 ноября 2014. Что такое Highload? Секреты высокой нагрузки. (Олег Федосеев, НГС) «Если вы интересуетесь веб-разработкой, то вы наверняка слышали слово "highload". Это модно, это интересно, все хотят это попробовать на себе. Но мало кто знает, что на самом деле значит "highload" или "высокие нагрузки" и что нужно знать, чтобы правильно "готовить" высоконагруженный проект. Мы поговорим о том, что же такое highload, узнаем, с какими проблемами может сталкнуться условный веб-проект при росте нагрузки и попробуем решить эти проблемы. Также мы обсудим, какие подходы и инструменты должен знать веб-разработчик, чтобы успешно справиться с любыми нагрузками.» Лекция прочитана в рамках проекта Tech Talks @NSU – серии открытых лекций о разработке ПО и карьере в IT, проводимых в Новосибирском государственном университете. Подробности: http://techtalks.nsu.ru

Cautious: IPv6 is here / Александр Азимов (Qrator Labs)

Ontico

Многим известна проблема исчерпания адресного пространства IPv4, из года в год делаются доклады о том, что адреса кончаются, кончаются, да никак не кончатся. На этом фоне польза от внедрения IPv6 кажется абсолютно неочевидной. В докладе пойдет речь о причинах неизбежности прихода и массового внедрения IPv6 вне зависимости от судьбы адресного пространства IPv4, с описанием как пользы от использования Dual Stack, так и возникающих рисков.

Опыт разработки модуля межсетевого экранирования для MySQL / Олег Брославский...

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 15:00 Тезисы: http://www.highload.ru/2017/abstracts/2957.html Расскажем о нашем опыте разработки модуля межсетевого экрана для MySQL с использованием генератора парсеров ANTLR и языка Kotlin. Подробно рассмотрим следующие вопросы: — когда и почему целесообразно использовать ANTLR; — особенности разработки ANTLR-грамматики для MySQL; — сравнение производительности рантаймов для ANTLR в рамках задачи синтаксического анализа MySQL (C#, Java, Kotlin, Go, Python, PyPy, C++); — вспомогательные DSL; — микросервисная архитектура модуля экранирования SQL; — полученные результаты.

In this talk, I will tell you about Vapor and will share our successful experience of moving from regular AWS EC2 servers to AWS Lambda and how everything changed after the appearance of Lambda on our project. - When serverless architecture is the best choice. - Overview Vapor - a platform for deploying and managing Laravel applications in AWS Lambda from Laravel. - Our experience of migrating to Lambda, difficulties, best practices. - How we predicted the cost and how much we pay in fact. - Ways to optimize costs.

Выбираем СУБД для хранения временных рядов / Павел Филонов (Лаборатория Каспе...

Ontico

Проблема мониторинга целостности технологических процессов на индустриальных объектах связана с обработкой большого объема показаний различных датчиков (температура, давление, управляющие сигналы и т.д.). Каждый из таких сенсоров порождает временной ряд, который может быть использован как для потоковой обработки, так и для проведения исторического анализа и расследования инцидентов. Здесь возникает задача хранения показаний за некоторый период времени. При этом потоки данных могут достигать десятков тысяч показаний в секунду, а период хранения достигать нескольких месяцев или даже лет. При таких условиях необходимо предельно аккуратно выбирать СУБД для хранения временных рядов, которая правильно впишется в нефункциональные требования. В качестве конкурсантов выступят: OpenTSDB, InfluxDB, MongoDB, PostgreSQL и еще несколько "чёрных лошадок". В докладе будет рассмотрен многокритериальный подход к выбору с учетом таких показателей как: * зависимость пропускной способности на запись от различных параметров; * время исполнения запроса на чтение; * степень сжатия данных; * пропускная способность при нагрузочном тестировании. В докладе предлагается не только привести получившиеся числа, но и обсудить почему они получились именно такими.

RTB DSP на языке Go укрощение buzzwords / Даниил Подольский (Qmobi.Com)

Ontico

RTB и его проблематика должны быть знакомы участникам конференции — мало кто сегодня не слышал об этом способе получить много krps с жесткими ограничениями на время генерации ответа. Вот и компания Qmobi решила поучаствовать в этой гонке и отхватить свой кусок пирога под названием “рынок мобильной рекламы”. Анализ имеющихся вариантов показал, что Go должен прекрасно подойти для этой задачи. О том, на основании каких соображений мы сделали такой вывод, и какие из этих соображений прошли проверку практикой, а какие — нет, будет рассказано в докладе.

smart balancing with nginx+lua / Андрей Кононов (IPONWEB)

Ontico

В этом докладе я планирую осветить следующие проблемы: - Почему стандартных механизмов балансировки бывает недостаточно. - Как выбирать фундамент для решения, и какие принципы проектирования использовались. - Как формировались требования для решения, которое работает сейчас в продакшне и пропускает через себя ощутимое количество. Расскажу, как без помощи сторонних сессионных хранилищ и довольно за дёшево организовать "sticky balancing", и как это работает с точки зрения науки. Покажу пример отказоустойчивой геораспределённой системы, расскажу, что мониторить и как правильно это делать при помощи специального расширения для nginx и не только. Расскажу о том, как было организовано нагрузочное и функциональное тестирование конечного продукта. Также расскажу про полный жизненный цикл этого весьма критичного для инфраструктуры приложения. Поскольку мы живём в публичных облаках, я по ходу доклада расскажу, как мы тестировали и сравнивали AWS и GCP, а также про некоторые сугубо практические особенности организации in-house балансировки внутри публичного облака.

Tempesta FW: challenges, internals, use cases / Александр Крижановский (Tempe...

Ontico

Tempesta FW — это Open Source гибрид Web-акселератора и файервола, специально разработанный для высокопроизводительной доставки контента вне зависимости от DDoS или наплыва посетителей. В докладе будет рассказано про задачи, которые ставились при разработке проекта и пути их решения. Рассмотрим проблемы современных операционных систем в приложении к Web-стеку (система фильтрации, Web-сервер, application слой, БД), и как они решаются в Tempesta — некоторые уже решены, некоторые еще в процессе работы. И самое главное — у нас появился рабочий прототип, и я расскажу про типовые примеры инсталляции, фичи и конфигурацию, а также покажу бенчмарки.

Дмитрий Меньшиков "Топ-10 фейлов на реальном highload проекте"

Fwdays

- как ошибка выбора идентификатора пользователя, обнаруженная после запуска проекта, чуть не стоила 2 лет разработки - как мы боролись с перегруженным mysql когда даже включение binlog убивает сервер - почистил партицию mysql под нагрузкой - получи мертвый сервер - как верстальщик поменял верстку серча и уложил продукт на 4 часа - ошибка в ядре php которая привела даунтайм на несколько часов - как незнание особенностей работы GC у redis обошлось в $50к чистой прибыли - добавлением или удалением серверов из пула memcached инвалидировали весь кэш (кривые настройки php клиента Memcache/Memcached) - как поправив тест потерять 2 миллиона пользовательских писем - как релиз одного проекта крэшил хелсчеки соседнего проекта - самый большой фейл с системами очередей и статистикой: ивенты терялись годами

BigПочта: как мы строили DataLake в Почте России / Алексей Вовченко (Luxoft)

Ontico

HighLoad++ 2017 Зал «Москва», 8 ноября, 13:00 Тезисы: http://www.highload.ru/2017/abstracts/3014.html Мы планируем поделиться с аудиторией примером SuccessStory создания BigData-инфраструктуры (Hadoop) в Почте России. Мы расскажем про выбранные решения, мотивацию их выбора, а также про то, куда развивается продукт в Почте. Доклад будет интересен всем проектам и компаниям, где только задумываются о развитии BigData-технологий, а также всем, кому интересно узнать, как устроена "внутри" современная Почта. ...

Ускоряем и разгружаем веб-сервер, прозрачно кэшируя на SSD, Станислав Николов...

Ontico

Балансировка нагрузки и отказоустойчивость в Одноклассниках

Ontico

Главная → Тезисы и презентации Балансировка нагрузки и отказоустойчивость в Одноклассниках Системное администрирование Доклад принят в Программу конференции Никита Духовный Одноклассники Ведущий системный администратор в Одноклассниках. Начинал IT-карьеру разработчиком, занимался релиз инженерией, выбрал системное администрирование. Возглавляет одну из команд. Занимается задачами, обеспечивающими работу портала - автоматизацией, запуском новых решений, поддержкой инфраструктуры. Ведёт несколько хардкорных проектов, в том числе - по повышению отказоустойчивости портала. Тезисы Проект Одноклассники начинал свою жизнь в одном датацентре. С ростом популярности растёт и нагрузка. С ростом нагрузки открываются проблемы: - Ни один, даже самый мощный, сервер больше не справляется в одиночку. - Нагрузка растёт, а в датацентре нет места для нового оборудования. - Падение датацентра безоговорочно приводит к даунтайму. - Сетевой сбой выводит портал из строя. - Пользователи в удалённых регионах страдают от низкой скорости. Я без прикрас расскажу вам, как мы в Одноклассниках решаем эти проблемы. Поговорим о следующем: - CDN - каким пользователям важен, его архитектура, устройство наших CDN-приложений, что происходит при авариях. - Датацентры - почему мы используем три основных датацентра, где они расположены (и почему именно там), распределение пользовательского трафика между ними. - Сеть - как и до чего мы балансируем трафик. - Балансировщики - как мы используем LVS, почему (и в каких случаях) используем и другие решения. Что делаем с приложениями, которые нельзя ставить за балансировщик. - Модули портала - о балансировке в нашем RPC протоколе, о том, что происходит с Одноклассниками при падении датацентра.

Тестирование через мониторинг или холакратия на практике / Максим Чистяков (U...

Ontico

Чтобы быстро двигаться, надо быстро двигаться :-) Скоростная разработка продукта невозможна без непрекращающегося выкатывания свежих изменений в боевое окружение. Именно это позволяет Ultimate-Guitar оставаться #1 world's guitar service. Когда-то давным-давно мы приняли для себя, что "мы движемся очень быстро и иногда из-за этого что-то ломаем. Недоставленный пользователям продукт/непроверенная гипотеза хуже, чем временная неработоспособность части сервиса. Поэтому мы убираем преграды между новым кодом и продакшном: не тратим время ни на тестирование, ни на строгий релиз-менеджмент". Многие возникающие проблемы касаются только обслуживания (датацентр, OS, каналы) и мониторинг, естественно, необходим. Ну, а раз уж у нас есть мониторинг, то давайте считать систему единым целым, которая может выходить из строя по различным причинам, одной из которых является ошибка в коде. Это привело нас к идее использовать мониторинг вместо тестирования. К чему это привело, почему мы любим Anturis, Graylog, Grafana, что главное в деплое - это быстрый откат и другие прелести управления звездолётом Ultimate-Guitar с дневным населением больше Москвы на скорости 10 деплоев/час - обо всё этом пойдёт речь в этом докладе: - Про скорость и цену быстрого развития (Innovation Costs). - Холакратия в бранчах, "сам себе релиз-инженер", ответственность и честность. - Скорость отката > скорость деплоя. - Как умер QA или демоны с tail и Graylog. - Когда не нужны микросервисы: успеть за 30 секунд, медленный Mercurial и шустрое комбо Git + Capistrano + Ansible. - Бесполезные фичи, бритва Оккама и пользователи, которые на самом деле любят изменения :-)

Брокер сообщений Kafka в условиях повышенной нагрузки / Артём Выборнов (Rambl...

Ontico

РИТ++ 2017, Backend Conf Зал Кейптаун, 6 июня, 18:00 Тезисы: http://backendconf.ru/2017/abstracts/2542.html Kafka - распределённый брокер сообщений, нашедший широкое применение как универсальная шина для больших данных. Kafka позволяет как реализовать realtime-обработку большого числа событий, так и построить батчевый pipeline по доставке логов. Почему мы используем Kafka? Если коротко - унификация. А если чуть подробнее - десятки поставщиков, терабайты логов каждый день, онлайн- и офлайн-pipeline'ы - без единой высокопроизводительной шины данных с этим крайне сложно совладать. Из доклада вы узнаете о том, почему мы перешли на Kafka, и как она вписалась в наш pipeline. Поймёте, как обеспечить exactly once доставку данных. Узнаете о том, как из-за одной опечатки в несколько раз выросла нагрузка на Kafka, и что мы из этого выяснили. Выясните, какие метрики Kafka стоит мониторить и как по ним понять, что что-то идёт не так.

Docker в работе: взгляд на использование в Badoo через год

Badoo Development

Мы в Badoo используем Docker больше года и на нашем примере попробуем поговорить о возможных моделях его применения. - 85% наших сервисов работают в контейнерах: для чего и почему мы перенесли свои сервисы в контейнеры. - Как мы подходим к сборке образов? Базовый образ: используем слои, следим за системными обновлениями. - Автоматизация процесса сборки образов с нашими сервисами: Jira flow, Teamcity и другие страшные для админа слова. - Лучшее ли место для тестирования production? Путь образа от сборки до Production. - baDocker: webUI своими руками: зачем и почему? - Как дать возможность управлять запущенными сервисами и их версиями разработчику. - Docker: мониторинг и анализ работающих контейнеров. Доклад Антона Турецкого на Highload 2015. https://youtu.be/UgUuF_qZmWc

Архитектура поиска в Booking.com / Иван Круглов (Booking.com)

Ontico

Booking.com - популярный сервис по онлайн-бронированию отелей. Поиск отеля, отвечающего заданным характеристикам - это неотъемлемая часть бизнес-модели и основной инструмент для клиента. При постоянном росте компании вопросу производительности и масштабируемости поиска уделяется много внимания. В результате за время своего существования архитектура поиска претерпела несколько глобальных переделок, начиная от простой базы в MySQL до многокомпонентного распределенного сервиса. В своей текущей реинкарнации поиск в Booking.com состоит их трех подсистем: 1) сервис auto-complete и устранения неоднозначности (disambiguation) в геопозиции; 2) сервис поиска по отелям и проверки их доступности (availability); 3) система предрасчета цен. Первые две системы - это высокопроизводительные приложения, написанные на Java. Сервис поиска хранит свои индексы в in-memory хранилище, а данные - во встраиваемой базе данных RocksDB. Логика системы предрасчета цен написана на Perl, а в качестве хранилища используется MySQL. Приходите на мой доклад, и я расскажу вам, как эволюционировал поиск вместе с ростом компании. Мы подробно рассмотрим текущую архитектуру, и почему мы решили ее сделать именно такой. Ну и, конечно, с какими проблемами нам пришлось бороться и как мы это делали.

Сегментируем 600 млн. пользователей в режиме реального времени каждый день. H...

Ontico

Каждый день пользователи совершают миллионы действий в Интернете. Нам в FACETz DMP необходимо структурировать эти данные и проводить сегментацию для выявления предпочтений пользователей. Хочу рассказать, как мы: - Сегментируем в реальном времени 600 миллионов пользователей ежедневно; - Поставляем данные партнерам, DSP, Google с минимальной задержкой; - Храним статистику по количеству уникальных пользователей в сегменте при потоковой обработке; - Отслеживаем влияние изменения параметров сегментации; - Ведем подсчет аффинитивности домена к сегменту для аналитики аудиторий.

NVMf: 5 млн IOPS по сети своими руками / Андрей Николаенко (IBS)

Ontico

В выпуске 4.8 ядра Linux появилась поддержка NVMf (NVM Express over Fabrics) — стандартизованной возможности присоединять по сети как блочные устройства твердотельные накопители, установленные в разъёмы PCI Express. NVMf лишён многих недостатков iSCSI, повторяющего по сети SCSI-команды со всеми их издержками времён дисковых накопителей, и главное — позволяет по полной использовать возможности сетей с прямым доступом к оперативной памяти (RDMA). Таким образом, можно под управлением одного узла собрать сверхбыстрый и сверхотзывчивый пул блочных устройств, не прибегая к покупке дорогого флэш-массива. Но как воспользоваться этим пулом, не загубив теоретические показатели программными обёртками? В докладе будут рассмотрены варианты применения NVMf для различных конфигураций PostgreSQL, Oracle Database, Hadoop, файловых хранилищ, о разработках в направлении «программно-определяемой памяти» с применением NVMe-устройств, доступных по сети, обсуждены текущие проблемы, ограничения и перспективы. Особое внимание будет уделено практическим способам измерения производительности ввода-вывода с учётом задачи, решаемой подсистемой хранения.

My talk on monitoring systems at RootConf 2016

Alex Chistyakov

Lambda architecture для realtime-аналитики — риски и преимущества / Николай Г...

Ontico

HighLoad++ 2017 Зал «Сингапур», 8 ноября, 17:00 Тезисы: http://www.highload.ru/2017/abstracts/2912.html В 2017 построить аналитику на больших данных - это уже не достижение. Витрины, отстающие на день - уже старые. Отставание на час - неплохо. Достижением для 2017 является realtime BigData - доступные для широкого круга аналитические данные, отстающие от реальности на секунды (миллисекунды!). ...

Android Cloud... точнее Cloud из Android / Охрименко Алексей (Acronis)

Ontico

Вы когда-нибудь плакали, открывая Amazon EC2 калькулятор? Мучились ли вы над тем, куда поставить сервер — на балкон или в кладовку? Готовились ли вы морально платить по 100-200 тысяч рублей за самый примитивный вариант сервера? Из этой ситуации есть выход и это — Android-планшеты :) Как установить Linux на ваш Android-планшет, как развернуть LAMP, MEAN stack, сколько RPS могут выдать Android-планшеты, как хорошо они масштабируются, map/reduce, готовы ли Android-планшеты для production? Все это и многое другое вы узнаете из этого доклада.

Релиз инжиниринг Mail.ru, взгляд изнутри / Максим Глеков (Mail.Ru Group)

Ontico

В нашей большой компании мы столкнулись с задачей выкладывания релизов наших проектов на несколько групп серверов по нескольким сотням машин. Мы решили разработать свой софт для удобного деплоя, поскольку задача, на мой взгляд, достаточно сложная, потому что каждая секунда при выкатке решает очень многое. Почему именно разработать что-то свое, а не использовать что-то готовое, например, Fabric или Capistrano? Все просто: 1. Система должна быть написана на языке, на котором принято разрабатывать в компании. 2. Все возникающие трудности и проблемы должны быть решены в кратчайшие сроки, нет времени ждать пока чья-то техподдержка прилетит на помощь на голубом вертолете :) 3. Система должна быть безопасна, полностью с открытыми кодами для безопасников. 4. Минимизированы зависимости от внешних модулей. Вкратце расскажу о том, как мы раскладываем front-end для наших проектов в Mail.ru Group в продакшн и на тестовые сервера. В частности, расскажу, как мы собираем версточный релиз. Расскажу о том, как его запаковать и как аккуратно раздать на несколько сотен серверов. Расскажу об архитектуре мониторинга системы обновлений, а также покажу, как выглядит наш дашборд, по которому мы понимаем, что все хорошо. Отвечу на все интересующие вас вопросы и дам несколько рекомендаций, которые помогут вам обойти подводные грабли, на которые наступали мы.

Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...

Anton Baranov

Выбор системы мониторинга - это практически holy-war-ная тема среди администраторов и разработчиков. Какая система лучше? Что удобнее? Какая система сможет выдержать большое количество статистики, а какая - лучше собрать и представить данные? В своем докладе мы попробуем предельно непредвзято рассмотреть существующие решения и понять, что и когда можно использовать. Прежде всего, мы постараемся сделать доклад не сравнением feature-листов, а рассмотреть особенности практического применения разных систем для конкретной задачи - для сайта, который не должен падать (а точнее - для возможности оперативно отреагировать на аварию, понять что к ней привело, и как можно ее исправить).

A popular DNS security overview

Philipp Kulin

Борьба с DDoS в хостинге - по обе стороны баррикад / Константин Новаковский (...

Ontico

Доклад будет полезен тем, кто планирует организовывать защиту от DDoS-атак собственными силами. Отдельный акцент будет сделан на использовании open-source продуктов для обнаружения и блокирования внешних сетевых атак. Кроме этого, я поделюсь опытом организации автоматического обнаружения и предотвращения атак изнутри инфраструктуры (взломанные клиентские серверы, недобросовестные клиенты).

What's hot

2021.09.04 PHP FWDays. Our experience of transferring Laravel microservices t...

Yehor Herasymchuk

Выбираем СУБД для хранения временных рядов / Павел Филонов (Лаборатория Каспе...

Ontico

RTB DSP на языке Go укрощение buzzwords / Даниил Подольский (Qmobi.Com)

Ontico

smart balancing with nginx+lua / Андрей Кононов (IPONWEB)

Ontico

Tempesta FW: challenges, internals, use cases / Александр Крижановский (Tempe...

Ontico

Дмитрий Меньшиков "Топ-10 фейлов на реальном highload проекте"

Fwdays

BigПочта: как мы строили DataLake в Почте России / Алексей Вовченко (Luxoft)

Ontico

Ускоряем и разгружаем веб-сервер, прозрачно кэшируя на SSD, Станислав Николов...

Ontico

Балансировка нагрузки и отказоустойчивость в Одноклассниках

Ontico

Тестирование через мониторинг или холакратия на практике / Максим Чистяков (U...

Ontico

Брокер сообщений Kafka в условиях повышенной нагрузки / Артём Выборнов (Rambl...

Ontico

Docker в работе: взгляд на использование в Badoo через год

Badoo Development

Архитектура поиска в Booking.com / Иван Круглов (Booking.com)

Ontico

Сегментируем 600 млн. пользователей в режиме реального времени каждый день. H...

Ontico

NVMf: 5 млн IOPS по сети своими руками / Андрей Николаенко (IBS)

Ontico

My talk on monitoring systems at RootConf 2016

Alex Chistyakov

Lambda architecture для realtime-аналитики — риски и преимущества / Николай Г...

Ontico

Android Cloud... точнее Cloud из Android / Охрименко Алексей (Acronis)

Ontico

Релиз инжиниринг Mail.ru, взгляд изнутри / Максим Глеков (Mail.Ru Group)

Ontico

Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...

Anton Baranov

What's hot (20)

2021.09.04 PHP FWDays. Our experience of transferring Laravel microservices t...

Выбираем СУБД для хранения временных рядов / Павел Филонов (Лаборатория Каспе...

RTB DSP на языке Go укрощение buzzwords / Даниил Подольский (Qmobi.Com)

smart balancing with nginx+lua / Андрей Кононов (IPONWEB)

Tempesta FW: challenges, internals, use cases / Александр Крижановский (Tempe...

Дмитрий Меньшиков "Топ-10 фейлов на реальном highload проекте"

BigПочта: как мы строили DataLake в Почте России / Алексей Вовченко (Luxoft)

Ускоряем и разгружаем веб-сервер, прозрачно кэшируя на SSD, Станислав Николов...

Балансировка нагрузки и отказоустойчивость в Одноклассниках

Тестирование через мониторинг или холакратия на практике / Максим Чистяков (U...

Брокер сообщений Kafka в условиях повышенной нагрузки / Артём Выборнов (Rambl...

Docker в работе: взгляд на использование в Badoo через год

Архитектура поиска в Booking.com / Иван Круглов (Booking.com)

Сегментируем 600 млн. пользователей в режиме реального времени каждый день. H...

NVMf: 5 млн IOPS по сети своими руками / Андрей Николаенко (IBS)

My talk on monitoring systems at RootConf 2016

Lambda architecture для realtime-аналитики — риски и преимущества / Николай Г...

Android Cloud... точнее Cloud из Android / Охрименко Алексей (Acronis)

Релиз инжиниринг Mail.ru, взгляд изнутри / Максим Глеков (Mail.Ru Group)

Мониторинг в высоконагруженных (и не только) проектах: сравнительный анализ с...

Similar to HL++2013 Leskin

A popular DNS security overview

Philipp Kulin

Борьба с DDoS в хостинге - по обе стороны баррикад / Константин Новаковский (...

Ontico

Service Discovery. More that it seems

Aleksandr Tarasov

There is a problem of finding the best instance of a service in distributed systems with dynamic configuration. Nowadays, there are many products for the configuration storage and service discovery. It should be mentioned at least Netflix Eureka, Consul, etc or good old Zookeeper. These products can keep and give configuration, manage service instances lifecycle and some of them even can be as dynamic DNS service. But main question is not about what instance may be called at the certain time. It is about what instance is better for call? This means that smart load balancing top on service discovery is required. Spring Cloud project allows to integrate these products to your project and provides powerful solutions for typical problems, that make cloud native services developing easier. This talk will review the internal structure of SpringCloud implementation of Client-Side Service Discovery and Client Load Balancing patterns. It also will include specific details of concrete implementations with examples from official libraries and the author’s own library.

Rootconf2016 nginx-lua-balancing

Andrey Kononov

Метаданные для кластера: гонка key-value-героев / Руслан Рагимов, Светлана Ла...

Ontico

HighLoad++ 2017 Зал Дели + Калькутта, 7 ноября, 10:00 Тезисы: http://www.highload.ru/2017/abstracts/2974.html Обзоры и сравнения key-value баз данных, коих сегодня огромное количество, пестрят обещаниями миллионов операций в секунду с менее чем миллисекундными задержками. Мы строим высокопроизводительный кластер хранения, и нам нужно где-то хранить метаданные. Одним из вариантов стали хвалёные key-value-решения. Справятся ли они с такой нагрузкой? ...

WapStart: Как показывать 200 миллионов баннеров ежедневно и быть готовым пока...Procontent.Ru Magazine

Как показывать 200 миллионов баннеров ежедневно и быть готовым показать милли...Evgeny Kokovikhin

Что такое Highload? Секреты высокой нагрузки

Tech Talks @NSU

http://techtalks.nsu.ru Видеозапись: http://www.youtube.com/watch?v=6PDtlAzFRlE 11 ноября 2014. Олег Федосеев (НГС) рассказывает про высоконагруженные сайты. «Если вы интересуетесь веб-разработкой, то вы наверняка слышали слово "highload". Это модно, это интересно, все хотят это попробовать на себе. Но мало кто знает, что на самом деле значит "highload" или "высокие нагрузки" и что нужно знать, чтобы правильно "готовить" высоконагруженный проект. Мы поговорим о том, что же такое highload, узнаем, с какими проблемами может столкнуться условный веб-проект при росте нагрузки, и попробуем решить эти проблемы. Также мы обсудим, какие подходы и инструменты должен знать веб-разработчик, чтобы успешно справиться с любыми нагрузками» Лекция прочитана в рамках проекта Tech Talks @NSU – серии открытых лекций о разработке ПО и карьере в IT, проводимых в Новосибирском государственном университете. Подробности: http://techtalks.nsu.ru

Спасение 6 млн файлов в условиях полного хецнера (Даниил Подольский, Дмитрий ...Ontico

Алексей Зозуленко - "Использование Selenium Grid 2 для ускорения выполнения т...

QA Dnepropetrovsk Community (Ukraine)

Последовательное выполнение функциональных тестов занимает очень долгое время. Особенно если нужно тестировать со многими конфигурациями. Необходимо уменьшать время прохождения тестов. Этого можно достигнуть при помощи уменьшения количества тестов, их оптимизации и атомизирования. Второй путь - запускать тесты параллельно. Хотя оптимизация не помеха запускать тесты параллельно, чтобы получать Для того, чтобы получать действительно классные результаты тестируя при помощи Selenium2, служит еще один дополнительных инструмент - SeleniumGrid 2. В моем докладе вы также ознакомитесь с тем, как: Конфигурировать тесты для работы с хабом Разворачивать SeleniumGrid 2 Настраивать запуск тестов

Как построить кластер для расчета сотен тысяч high-CPU/high-MEM-задач и не ра...

Ontico

HighLoad++ 2017 Зал «Найроби + Касабланка», 8 ноября, 16:00 Тезисы: http://www.highload.ru/2017/abstracts/2996.html Наш проект – это облачный CI-сервис, на котором пользователи запускают тесты разрабатываемых проектов. В этом году система автозакупки нашего проекта приобрела 37218 машин (Amazon Instances). Это позволило обработать 189488 "задач" (прогонов тестов) наших клиентов. Тесты – это всегда ресурсоемкие задачи с максимальным потреблением процессорных мощностей и памяти. Мы не можем прогнозировать, сколько параллельных вычислений и в какой момент времени будет. Перед нами стояла задача построения архитектуры системы, которая умеет очень быстро увеличивать, а также быстро уменьшать мощности кластера.

Евгений Потапов, АйТиСумма

Ontico

Технические аспекты знакоства с девушкой в Интернете

Alexey Nayden

HighLoad весна 2014 лекция 2Technopark

Реклама со скоростью света (DMP-платформа), Сергей Жемжицкий (Clever Data)

Ontico

Считаем Рунет или миллион pps в секунду / Дмитрий Смирнов (TNS Russia)Ontico

apache cassandra и подруга её scylla

Daniel Podolsky

Wi-Fi Audit Workshop

Kirill Murzin

Презентация с бесплатного воркшопа по аудиту беспроводных сетей Wi-Fi. Данное мероприятие проводилось в г.Алматы и г.Астана. Речь шла о фундаментальных основах работы сетей Wi-Fi, чипсетах, антеннах и, конечно, атаках на точку и клиентов. Был продемонстрирован арсенал инструментов атакующей стороны, а также разновидности средств защиты.

{ab}use their cloudsqqlan

История одной картинки

Andrey Rodionov

Similar to HL++2013 Leskin (20)

A popular DNS security overview

Борьба с DDoS в хостинге - по обе стороны баррикад / Константин Новаковский (...

Service Discovery. More that it seems

Rootconf2016 nginx-lua-balancing

Метаданные для кластера: гонка key-value-героев / Руслан Рагимов, Светлана Ла...

WapStart: Как показывать 200 миллионов баннеров ежедневно и быть готовым пока...

Как показывать 200 миллионов баннеров ежедневно и быть готовым показать милли...

Что такое Highload? Секреты высокой нагрузки

Спасение 6 млн файлов в условиях полного хецнера (Даниил Подольский, Дмитрий ...

Алексей Зозуленко - "Использование Selenium Grid 2 для ускорения выполнения т...

Как построить кластер для расчета сотен тысяч high-CPU/high-MEM-задач и не ра...

Евгений Потапов, АйТиСумма

Технические аспекты знакоства с девушкой в Интернете

HighLoad весна 2014 лекция 2

Реклама со скоростью света (DMP-платформа), Сергей Жемжицкий (Clever Data)

Считаем Рунет или миллион pps в секунду / Дмитрий Смирнов (TNS Russia)

apache cassandra и подруга её scylla

Wi-Fi Audit Workshop

{ab}use their clouds

История одной картинки

HL++2013 Leskin

1. Тестирование производительности DNS-серверов Андрей Лескин QratorLabs/HLL

2. Что такое DNS?

3. Что такое DNS? • Коротко: highloadlab.com  178.248.233.7

4. Что такое DNS? • Коротко: highloadlab.com  178.248.233.7 • Длинно: (список неполон)

5. DNS-серверы • minidns dns server https://code.google.com/p/minidns/source/browse/minidns “wc -l minidns” 107 (!!!)

6. DNS-серверы • minidns dns server https://code.google.com/p/minidns/source/browse/minidns “wc -l minidns” 107 (!!!)

7. DNS-серверы • minidns dns server https://code.google.com/p/minidns/source/browse/minidns “wc -l minidns” 107 (!!!) • Authoritative. There can be only one! • Caching. The cache is out there...

8. А что мы хотим? • Скорость • Устойчивость • Производительность

9. А что мы хотим? • Скорость • Устойчивость • Производительность SUPER Authoritative Server SLOW Authoritative Server SUPER Caching Server QUERIES QUERIES

10. А что мы хотим? • Скорость • Устойчивость • Производительность SUPER Authoritative Server SLOW Authoritative Server SUPER Caching Server QUERIES • Доменов: МАЛО • Запросов: МНОГО QUERIES

11. DNS test. А что уже было сломано до нас?

12. DNS test. А что уже было сломано до нас? • dnsperf & resperf?

13. DNS test. А что уже было сломано до нас? • dnsperf & resperf? NO • tcpreplay?

14. DNS test. А что уже было сломано до нас? • dnsperf & resperf? NO • tcpreplay? NO • Ideal/real world data? NOOO!!!

15. DNS test. How?

16. DNS test. How?

17. DNS test. Measurements • QPS, RPS = PPS • Traffic: Mbit/s • CPU load avg • Поведение при повышении нагрузки • А еще есть крутилки и включалки!

18. DNS test. А на что будем смотреть? • Knot (1.2.0 & 1.3.0-RC5) • Yadifa (1.0.2) • NSD3 (3.2.15) • NSD4 (4.0.0b4) • PowerDNS (3.3) • TinyDNS (1.05) • Unbound (1.4.16) • Pdnsd (1.2.8) • Server: Dual Xeon E5-2670 32Gb RAM DDR3 1333Mhz Intel X520-DA2 10Gbit • Generator: Single Xeon E5-2670 32Gb RAM DDR3 1333Mhz Intel X520-DA2 10Gbit • Gentoo Linux 3.7.9

19. DNS test. Setup • Максимально ванильно! • Authoritative: 300 сформированных зон • Caching: Прогреваем кэш на такой же объем данных

20. Results. Выбираем победителя крутилок. Knot-1.2.0, queries=1

21. Results. Выбираем победителя крутилок. Knot-1.2.0, queries=1

22. Results. Queries in flow: 01 Knot NSD Unbound Yadifa PowerDNS Pdnsd TinyDNS

23. Results. Queries in flow: 01 Knot NSD Unbound Yadifa PowerDNS Pdnsd TinyDNS

24. Results. Queries in flow: 02 Knot NSD Unbound PowerDNS Pdnsd Yadifa TinyDNS

25. Results. Queries in flow: 02 Knot NSD Unbound PowerDNS Pdnsd Yadifa TinyDNS

26. Results. Queries in flow: 02 Knot NSD Unbound PowerDNS Pdnsd Yadifa TinyDNS

27. Results. Queries in flow: 20 Knot NSD Unbound PowerDNS Pdnsd Yadifa TinyDNS

28. Подводные камни. IT HAPPENS. BE PREPARED

29. Подводные камни. Local. • Knot-1.2.0 Победитель может все... Или не все?

30. Подводные камни. Local. • Knot-1.2.0 Победитель может все... Или не все? • Yadifa-1.0.2 Нужно больше золота!

31. Подводные камни. Local. • Knot-1.2.0 Победитель может все... Или не все? • Yadifa-1.0.2 Нужно больше золота! • Pdnsd Приз за оригинальность.

32. Подводные камни. Global. Камень Контр-камень • UDP • BCP38 Мне кажется, пакет пришел оттуда... Но я не гарантирую это! Когда случится счастье – нам не ведомо!

33. Подводные камни. Global. Камень Контр-камень • UDP • BCP38 Мне кажется, пакет пришел оттуда... Но я не гарантирую это! • DNS cache poisoning (Kaminsky) Адрес поменялся! Иди сюда! Когда случится счастье – нам не ведомо! • DNSSec Это счастье есть, но мало кто пользуется 

34. Подводные камни. Global. Камень Контр-камень • UDP • BCP38 Мне кажется, пакет пришел оттуда... Но я не гарантирую это! • DNS cache poisoning (Kaminsky) Когда случится счастье – нам не ведомо! • DNSSec Адрес поменялся! Иди сюда! Это счастье есть, но мало кто пользуется  • Стать DNS Amplifier • Можно самостоятельно: - закрыть рекурсию извне - RRL (DROP, SLIP) - DROP пакетов с src_port 53 Чтобы не быть жертвой - надо не быть жертвой - dig isoc.org ANY (26 vs 2435) - открытая рекурсия

35. Подводные камни. Сам не выжил.

36. Подводные камни. Сам не выжил.

37. Подводные камни. Сам не выжил.

38. Спасибо! Андрей Лескин serenheit@highloadlab.com

HL++2013 Leskin

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to HL++2013 Leskin

Similar to HL++2013 Leskin (20)

HL++2013 Leskin