DNS в условиях хостинг-провайдера / Константин Новаковский (Selectel)

•Download as PPTX, PDF•

0 likes•1,157 views

DNS — это одна из основополагающих служб и протоколов современного интернета, сервис, который должен всегда работать. Каждый раз, когда конечный пользователь обращается к какому-либо ресурсу глобальной паутины, он использует DNS, и чтобы этот самый первый шаг к проектам у наших клиентов не занимал много времени, мы построили свой DNS-хостинг с использованием Anycast-балансировки. Чуть позже мы применили этот метод для балансировки и повышения доступности рекурсивных серверов внутри наших дата-центров. В своём докладе я расскажу о способах обеспечения непрерывного обслуживания DNS-запросов, подводных камнях использования anycast’а, постараюсь раскрыть актуальные проблемы обслуживания DNS-серверов и поведаю о современных тенденциях в мире DNS.

Engineering

DNS в условиях
хостинга
Константин
Новаковский
Selectel

Selectel
• 6 датацентров (6,5к м2)
• Аренда серверов / стоек
• Виртуальное приватное облако
• Облачное хранилище / CDN
• Мониторинг
• Tehnodom.com
• Vscale.io

Коротко о DNS
• Авторитетные серверы
• Кеширующие рекурсивные
• UDP

Корневые серверы
• 13 корневых серверов;
• 12 разных организаций;
• 513 узлов;

Классический хостинг
• 2 IP-адреса
• 2 авторитетных сервера
• Один ДЦ
• Физически это может быть
даже один сервер

Anycast DNS
• Своя автономная система
• 2 подсети /24 (класса C)
• Серверы в разных ДЦ
• Готовность оператора
поднять BGP-сессию

Анонс префиксов
• В каждой точке
присутствия анонсируем
только одну сеть /24
• Маршруты в глобальной
сети регулярно меняются
• Регуляция prepend’ами

Репликация
• Родной механизм DNS
AXFR, IXFR
• На стороне базы данных

Мониторинг
• Zabbix/Nagios/Icinga/etc
• Не забываем мониторить
BGP-сессию
• Cообщения о потере
пакетов до узлов

VPN между узлами
• Поднимаем оверлейную
сеть
• Tinc VPN / OpenVPN / etc
• Служебный трафик через
VPN

Статистика
• Логи DNS-сервера
• dnstap
• Зеркалирование/pcap

Храним статистику
• OpenTSDB
• Graphite
• etc..
• InfluxDB

Проверка делегации
• Whois – не работает
• NS-записи – не работает
• Дерево делегации
(ежедневно)

Рекурсоры в ДЦ
Проблемы:
• Legacy-адрес прописан на
всех машинах клиентов
• Неудобство обновления
• «Неудобные» запросы
клиентов

Рекурсоры в ДЦ
• Переводим на anycast
внутри автономной
системы
• Маршрутизация – OSPF
• Делим запросы на пулы
dnsdist

Инфраструктура
• Ansible
• Тестовый пул в приватном
облаке
• Миграция базы
«восстановлением»
(Спасибо, barman!)

Тестирование
• Дамп трафика
• Прогоняем дамп на новой
конфигурации
• Утилиты из состава
PowerDNS Tools

DDoS Amplification
• ANY-запросы по TCP
• Последовательный опрос
всех доменов на основе
публичных источников
• Фильтр по особенностям
udp-пакетов

DDoS Amplification
• Random subdomains
(wxctkzubkb.liebiao.800fy.com)
• Нагружает рекурсивные
• Нагружает авторитетные

Тренды, веяния
• IPv6
• DNSSEC
• DANE
• Query minimisation
• edns-client-subnet
• Yeti project

Что читать?
• BCP
• RFC
• DNS Operations IETF
Datatracker

Вопросы?
• twitter: clickfreakbit
• novakovsky@selectel.ru
• blog.selectel.ru

Мы проговорим про связь приложения и ОС, какие компоненты есть в современной ОС на примере Linux, как настройки этих компонент могут повлиять на приложение. Я расскажу про планировщик процессов, дисковый и сетевой ввод-вывод и соответствующие планировщики, управление памятью - как это все в общих чертах работает и как его потюнить.

Максим Дунин, Nginx, Inc.

Ontico

Мониторинг ожиданий в PostgreSQL / Курбангалиев Ильдус (Postgres Professional)

Ontico

В многоядерных высоконагруженных системах с высокой конкурентностью часто бывает сложно определить, чем занят отдельный процесс PostgreSQL. Он может находиться в ожидании локов высокого уровня, таких как локи таблиц, внутренних локов, используемых для синхронизации процессов, ввода-вывода и многих других. В настоящий момент среди всех событий ожидания мониторить можно только локи высокого уровня с помощью представлений PostgreSQL. Другие типы ожиданий требуют использования низкоуровневых утилит типа perf, systemtap и других. Эти утилиты требуют специальных знаний и могут быть платформозависимыми. В то же время другие enterprise базы данных уже включают в себя инструменты для мониторинга ожиданий. Мы разработали патч, который реализует мониторинг ожиданий в PostgreSQL. С минимальной настройкой (несколько конфигурационных параметров) этот патч показывает полную информацию о текущих ожиданиях в режиме реального времени и с небольшим оверхедом на всю систему. Этот патч уже работает на продакшен серверах Яндекса и показал свою полезность.

Flashcache в mamba.ru / Яковлев Александр Юрьевич (ЗАО Мамба)

Ontico

Некоторое время назад, когда в очередной раз встал вопрос о производительности большого парка mysql sharding серверов, мы не захотели покупать новые сервера и производить resharding. Мы обнаружили, что компания facebook выпустила в opensource большое количество своих разработок, в том числе и модуль ядра flashcache. Flashcache — модуль для кэширования блоков блочного устройства, предоставляющий 4 разных режима кэширования. В данном докладе я расскажу, как мы тестировали, поэтапно проверяя под нагрузкой, 3 из 4 режимов кэширования, сравнивая и выбирая оптимальный. Итогом данной работы стало внедрение данного модуля в нашу архитектуру (фотосервера, сервера БД).

Реализация восстановления после аварий / Сергей Бурладян (Avito)

Ontico

Базы данных PostgreSQL занимают одно из центральных мест в Авито. Они являются разделяемой платформой, вокруг которой построено множество дополнительных сервисов. Одной из основных задач при их администрировании является задача восстановления после аварий как самих баз, так и связанной с ними инфраструктуры. В своём докладе я постараюсь рассказать про: + общую схему связей баз данных между собой и с другими компонентами; + точки отказа и виды аварий, затрагиваемые связи; + бинарную репликацию и архив; + логическую репликацию, pgq, londiste, UNDO (REDO), пересоздание репки; + скрипт и процедуру переключения при аварии; + планы: развитие «восстановлений» по всем связям, автоматика на основе системы zookeeper (etcd и т.п.).

Тюним память и сетевой стек в Linux: история перевода высоконагруженных серве...

Ontico

В процессе обновления высоконагруженных серверов раздачи видео (40Gbit/s с каждого сервера) со старого OpenSuSE 10.2 на новый CentOS 7 (время между релизами — 7 лет) мы столкнулись с рядом проблем — необъяснимый свопинг и запуски OOM killer, неравномерное распределение нагрузки по ядрам, обрывы соединений, скачки системной нагрузки на CPU. В докладе будет рассказано о том, как мы боролись с этими проблемами и какие технологии для этого использовали.

Механика DDoS (Александр Крижановский)Ontico

Что нового появилось в nginx за последнее время и для чего всё это нужно? В докладе - рассказ про основные новые функции в nginx 1.9.x (1.10.x) и 1.11.x. HTTP/2, модуль stream, динамическая загрузка модулей и так далее - зачем всё это нужно и как это использовать. Читаем CHANGES вместе и разбираем на примерах.

Кластеры баз данных делаем сложные вещи просто / Андрей Тихонов (Avito)

Ontico

Порой в процессе развития высоконагруженного проекта наступает момент, когда необходимо масштабирование. Возможно, ваш проект впервые упёрся в производительность железа (и таким образом перешёл в разряд высоконагруженных); возможно, это уже не первое масштабирование — не важно. Какие же проблемы могут возникнуть? Во-первых, если вы увеличиваете количество бэкенд-серверов, и, соответственно, количество рабочих процессов, то с ростом количества одновременных клиентских подключений вырастают и накладные расходы на базах данных. Во-вторых, достаточно быстро может кончиться ресурс in-memory баз данных. Потребуется создать (либо увеличить) кластер, а это каждый раз влечёт за собой необходимость модифицировать логику приложения. В-третьих, чем больше серверов, тем больше вероятность, что один из них выйдет из строя. Поэтому неплохо задуматься о том, как обеспечить отказоустойчивость, а это, опять же, потребует модифицировать логику приложения. В этом докладе я расскажу, как и какими инструментами можно легко решить все вышеперечисленные проблемы: уменьшить накладные расходы от большого количества подключений к базам данных, создать/модифицировать кластер БД прозрачно для приложения, а также прозрачно добавить устойчивость к падениям серверов БД. План доклада: - Введение. Методы масштабирования БД: репликация, шардирование. - Создаём шардированные кластеры in-memory БД прозрачно для приложений: Twemproxy, Redis-proxy, Mcrouter. - Уменьшаем накладные расходы от большого количества одновременных подключений на PostgreSQL с помощью PgBouncer. - Создаём шардированный кластер PostgreSQL с помощью PL/Proxy. - Добавляем прозрачную для приложения отказо�

Что особенного в СУБД для данных в оперативной памяти / Константин Осипов (Ta...

Ontico

Оперативная память становится всё более дешёвой и производительной, что позволяет использовать её для хранения рабочего набора данных всё большего числа приложений. Хранение всех данных в оперативной памяти позволяет сделать их высоко доступными, а алгоритмы для работы с данными либо существенно упростить, либо ускорить, а иногда — и то, и другое. Тезисы - http://www.highload.ru/2015/abstracts/1964.html

Chronicle Map — key-value хранилище для трейдинга на Java / Левентов Роман (C...

Ontico

Сфера финансовых приложений и трейдинга выдвигает особые требования к системам обработки данных: ультракороткие задержки, конкурентные обновления (в т.ч. из разных процессов), репликация высокочастотных обновлений. Существовавшие открытые key-value хранилища не справлялись, поэтому мы сделали свое — Chronicle Map. В докладе я отвечу на вопросы: + Почему бывает эффективнее разбить систему, работающую с общим состоянием, на несколько отдельных процессов? + Зачем вам может захотеться распилить JVM на несколько частей? + Как добиться от key-value хранилища медианной latency меньше 1 микросекунды? + Как сделать репликацию, если она упирается в пропускную способность сети из-за слишком частых обновлений? Развею миф о том, что Java — это медленно :) Также, в докладе будет сравнение Chronicle Map с redis, one-nio и ConcurrentHashMap.

DPDK в виртуальном коммутаторе Open vSwitch / Александр Джуринский (Selectel)

Ontico

Intel DPDK (Data Plane Development Kit) — набор драйверов и библиотек, позволяющих приложениям взаимодействовать с сетевым устройством напрямую, минуя сетевой стек Linux. Это значительно увеличивает скорость обработки пакетов. DPDK интегрируется с рядом популярных программных решений, например, c виртуальным коммутатором Open vSwitch. Возможностям и перспективам использования связи Open vSwitch + DPDK в облачных проектах и будет посвящен наш доклад. Мы подробно остановимся на проведённых тестах производительности и интерпретируем их результаты. Отдельное внимание будет уделено анализу трудностей и ограничений, с которыми пришлось столкнуться в ходе экспериментов.

Защита данных и датацентров от катастроф. Подход Nutanix / Максим Шапошников ...

Ontico

+ Защита данных — это не "одна кнопка", нет годного любому единого решения. Задача всегда диктует выбор средств и решений. + RTO — Recovery Time Objective — максимальное время, за которое все ваши бизнес-задачи должны полностью быть восстановлены в работоспособное состояние после полной катастрофы ДЦ. + RPO — Recovery Point Objective — максимально приемлемый для ваших задач промежуток времени, за который вы готовы потерять данные. + Защита на уровне приложений. Приложение лучше всех знает, как защищать и реплицировать свои данные. + Асинхронная репликация — наилучший выход с точки зрения производительности, единственно возможный вариант в случае значительного географического разнесения дата-центров (сотни и более километров). Работает на уровне виртуальных машин. + Метро / "растянутые" кластеры и синхронная репликация — нулевой RPO, минимальный RTO, большие потери производительности и множество ограничений. Но иногда — единственный выход, если уровень приложения не умеет реплицировать данные. + Лучший подход — комбинация из репликации на уровне приложений, асинхронной и синхронной репликации средствами хранилища. + Что есть у Nutanix для решения подобных задач: DR (Async replication), Metro availability cluster, Timestream Backup. + Реализация решения с использованием Nutanix на примере FBI: крупнейший VDI в США. Защищенная, mission-critical инфраструктура на 70 тысяч виртуальных десктопов. Асинхронная репликация дата-центров на 1500 миль, защита данных от катастроф.

MySQL 5.7 - NoSQL - JSON, Protocol X, Document Store / Петр Зайцев (Percona)

Ontico

В MySQL 5.7 появился целый ряд новых возможностей, позволяющих использовать MySQL в приложениях и как хранилище JSON-документов, и как реляционную базу данных. В этом докладе мы расскажем о поддержке JSON в MySQL 5.7, а также поговорим о том, когда имеет смысл её использовать, и насколько хорошо она работает. Кроме того, мы остановимся на новом протоколе доступа к MySQL, поддерживающем SQL. Помимо этого, мы рассмотрим CRUD-операции и такие дополнительные функции, как асинхронная коммуникация и пайплайнинг (pipelining). В заключительной части доклада мы расскажем о возможностях MySQL 5.7 в качестве хранилища документов.

Разработка высокопроизводительных серверных приложений для Linux/Unix (Алекса...Ontico

5 способов деплоя PHP-кода в условиях хайлоада / Юрий Насретдинов (Badoo)

Ontico

В дата-центрах нашей компании несколько тысяч серверов, и примерно на половине из них нужно выкладывать PHP-код 2 раза в день. Помимо раскладки на production также не стоит забывать о том, что код нужен на стейджинге, и в стейджинг-кластер у нас входит около 50 машин, код на которых обновляется раз в несколько минут. Также есть «хотфиксы» — небольшие (1-5) наборы файлов, которые выкладываются во внеочередном порядке на все или на выделенную часть серверов, чтобы устранить существующие проблемы на продакшне, не дожидаясь полной выкладки. В этом докладе я расскажу о том, как мы деплоились в течение 10 лет, о том, какую новую систему для деплоя PHP-кода мы разработали и внедрили в production, а также проведу обзор решений для масштабного деплоя кода на PHP и анализ их производительности. План доклада: — Наша старая система деплоя, достоинства и недостатки. — Существующие решения: * "svn up" / "git pull". * rsync. * phar, hhbc (HHVM-specific), "loop". * rsync + 2 директории + realpath_root (Rasmus-style). — Требования для новой системы деплоя. * быстрый деплой на стейджинг (5-10 секунд на 50 серверов). * возможность атомарно патчить несколько файлов и быстро их выкладывать (10 секунд на весь кластер). * совместимость с docker. * поддержка «долгоиграющих» CLI-скриптов (несколько часов). * низкое потребление ресурсов на принимающей стороне. * отсутствие необходимости сбрасывать opcache. * высокая скорость деплоя на продакшн (1-2 минуты на 1500 серверов). — MDK — multiversion deployment kit. — Анализ применимости и производительности способов деплоя. — Выводы.

Чем заняться вечером, если я знаю сколько будет ++i + ++i / Андрей Бородин (Y...

Ontico

HighLoad++ 2017 Зал «Пекин + Шанхай», 8 ноября, 18:00 Тезисы: http://www.highload.ru/2017/abstracts/2960.html При изучении алгоритмов и структур данных я предлагаю студентам закрепить знания и попытаться сделать мир лучше, выполнив небольшие проекты по внедрению эффективных алгоритмов в свободное программное обеспечение. В этом докладе я расскажу несколько идей для таких проектов. Мы рассмотрим существующие фрагменты исходного кода, поговорим о том, что в нём можно допилить, и обсудим, сколько баллов за это надо давать. Реализацией идей могут заняться, разумеется, все желающие.

Отказоустойчивый микрокластер своими руками, Виталий Гаврилов (Ленвендо)

Ontico

Mysql vs postgresql

Daniel Podolsky

RootConf 2015

Evgeny Uskov

Сетевые аномалии – рано или поздно с ними сталкиваются все, кто так или иначе связан с созданием и эксплуатацией сетевых сервисов. Природа сетевых аномалий и их проявления могут значительно варьироваться: потери пакетов, увеличение задержек, разрывы TCP-соединений. Но вне зависимости от своей природы сетевые аномалии требуют корректной и зачастую крайне оперативной диагностики. В рамках доклада будут рассмотрены стандартные утилиты, такие как ping, traceroute, mtr, hping, а также области их применения. Самым значительным ограничением при использовании данных утилит является невозможность определения обратного пути пакета, что может значительно усложнить диагностику. Также в докладе будут рассмотрены активные методы диагностики сетевых аномалий (Looking glass, RIPE Atlas, NLNOG RING, PlanetLab) и разработанный командой Qrator механизм определения обратного маршрута от любой заданной сети с использованием математического моделирования.

Последние новости постгреса с PGCon / О.Бартунов, А.Коротков, Ф.Сигаев (Postg...

Ontico

Как быстро развивается сейчас PostgreSQL — общеизвестно. За несколько дней до РИТ++ заканчивается главный мировой форум разработчиков этой СУБД — конференция PGCon в Канаде. Большая команда разработчиков Postgres Professional принимает участие в этой конференции и готова рассказать все последние новости прямо с PGCon. Параллельное исполнение запросов, новые стораджи, неутихающая тема Postgres vs key-value storage, распределенный Postgres, высокая доступность, многочисленные улучшения производительности, планы и интриги разработчиков — вот основные темы этой конференции. Я остановлюсь подробнее на нашем вкладе в ожидаемый релиз 9.6 и планах на, возможно, релиз 10.0.

Франкенштейнизация Voldemort или key-value данные в Одноклассниках. Роман Ан...

odnoklassniki.ru

A talk from jokerconf.com conference. "Frankenstaining of Voldemort" or "key-value storage evolution at Odnoklassniki" В докладе освещены Java-технологии хранения данных, обслуживающие десятки миллионов пользователей и работающие на сотнях серверов. На примере социальной сети "Одноклассники" мы рассмотрим эволюцию хранилищ данных с высоким уровнем конкурентного доступа и с соблюдением требования постоянной доступности. Мы разберём сильные и слабые стороны каждого из решений, начиная от технологии master-slave репликации на основе Berkeley DB и заканчивая симбиозом распределенных хранилищ Voldemort и Cassandra.

Архитектура хранения фотографий в Badoo

Badoo Development

В этом докладе я в подробностях расскажу о том, как устроено хранение фотографий в нашей компании (всего около ~1 Пб). Наша система была устроена достаточно просто — сами фотографии хранятся на SAN Storages, которые подключены через Fiber Channel к отдельной группе серверов, "*photos". На photos-серверах смонтированы разделы на соответствующих сетевых блочных устройствах, которые с точки зрения пользователя выглядят, как обычная файловая система. Мы не используем никакие «хитрые» системы для хранения фотографий и не храним всё в одном файле — каждый размер каждой фотографии представляет из себя обычный файл на файловой системе ext3/4. Фотографии отдаются через nginx напрямую из файловой системы. Такой способ хранения больших объемов данных весьма дешев, но приводил к проблемам, когда соответствующие SAN «падали», вплоть до повреждения файловой системы с потерей части данных пользователей. Поэтому, для решения этой проблемы, а также проблем с производительностью, мы решили сделать «софтверную репликацию» фотографий с кешированием данных на SSD. Также, в качестве эксперимента, мы решили попробовать ещё один способ — хранение на локальных дисках вместо использования SAN. По стоимости решение значительно дороже, но зато надежнее и проще в поддержке. Также, для обеспечения устойчивости к выходу из строя любой машины из такого кластера, мы решили сделать возможной балансировку всех поступающих запросов на весь кластер, то есть, в современных терминах, сделать «распределенное, отказоустойчивое, высокодоступное облачное хранилище».

Внутреннее устройство PostgreSQL: временные таблицы и фрагментация памяти / Г...

Ontico

Всем известно о существовании временных таблиц в PostgreSQL, но как они устроены, и чем грозит их некорректное использование - не столь очевидно. На примере одного известного приложения, активно и некорректно использующего временные таблицы, мы расскажем о создаваемой ими проблеме фрагментации памяти. Что такое фрагментация памяти, по каким признакам можно определить ее наличие, чем она грозит, почему она возникает при активном использовании временных таблиц, и как мы пропатчили PostgreSQL, чтобы ее избежать - обо всем этом можно узнать из нашего доклада.

Эволюция программно-аппаратного обеспечения хранения фотографий в Badoo / Дми...

Ontico

На примере нашей системы хранения фотографий мы хотим рассказать о проблемах, с которыми столкнулись в течение прошедших семи лет, связанных с ее программными и аппаратными компонентами, и о путях их решений. В данном докладе речь пойдет о том, как сохранить независимость от поставщика и построить масштабируемую систему хранения с длительным сроком эксплуатации и способностью к оперативному внесению изменений в конфигурацию. Как сделать изменения на аппаратном уровне прозрачными для разработчиков, а также о том, как упростить развертывание и обслуживание. В общих чертах изложен опыт и проблемы, которые мы получили в ходе эксплуатации классических мультиконтроллерных СХД. Основная тема - построение собственных хранилищ на базе общедоступных компонентов (полки, адаптеры, экспандеры, интерпозеры, диски, ЦПУ и т.д.) с потенциальной возможностью замены любого из выше перечисленного на другую модель. Дублирование критически важных узлов в рамках одной СХД. Обзор используемых транспортов - SRP, FC, iSCSI и описание того, каким образом можно быстро адаптировать такое хранилище под один или несколько транспортов, с минимальными вложениями. Обзор ПО для реализации СХД (SCST/LIO или проприетарные решения в области Software Defined Storage ). Автоматизация развертывания (инсталляция/управление с помощью Puppet). Тестирование перед вводом в эксплуатацию. Multipath I/O и упрощение именования экспортируемых блочных устройств. Политика составления наборов firmware для стабильной работы. Мониторинг. Расследование сбоев (Order of failure и т.п.).

Строим сервисы на базе Nginx и Tarantool / Василий Сошников, Андрей Дроздов (...

Ontico

Слушатели этого доклада получат представление о том, как построить отказоустойчивое, быстрое, простое и легко масштабируемое решение на базе Nginx и Tarantool. Коротко о главном: + Обзор внутреннего устройства шардинга в Tarantool. + Обзор Tarantool upstream модуля для Nginx. + Результаты нагрузочного тестирования Tarantool шардинга в связке с Nginx модулем. + Live-demo: распределенное отображение графа категорий Wikipedia в СУБД Tarantool с единой точкой входа и возможностью реалтайм поиска по категориям.

Архитектура растущего проекта на примере ВКонтакте / Алексей Акулович (ВКонт...

Ontico

В докладе я расскажу о проблемах роста, с которыми сталкивался проект как в плане доступа к БД, так и в целом. Как решали, что получалось, как (общетеоретически или практически) можно решать подобные проблемы в других проектах. Разберем несколько реальных случаев, когда что-то шло не так. Доклад можно рассматривать и как небольшой экскурс в развитие технической платформы ВК, и как собрание нескольких практических способов для проекта вырасти и стать надежнее.

A popular DNS security overview

Philipp Kulin

Isilapp — Extreme Cloud Storage on FreeBSDAndrew Pantyukhin

What's hot

Что нового в nginx? / Максим Дунин (Nginx, Inc.)

Ontico

Кластеры баз данных делаем сложные вещи просто / Андрей Тихонов (Avito)

Ontico

Что особенного в СУБД для данных в оперативной памяти / Константин Осипов (Ta...

Ontico

Chronicle Map — key-value хранилище для трейдинга на Java / Левентов Роман (C...

Ontico

DPDK в виртуальном коммутаторе Open vSwitch / Александр Джуринский (Selectel)

Ontico

Защита данных и датацентров от катастроф. Подход Nutanix / Максим Шапошников ...

Ontico

MySQL 5.7 - NoSQL - JSON, Protocol X, Document Store / Петр Зайцев (Percona)

Ontico

Разработка высокопроизводительных серверных приложений для Linux/Unix (Алекса...Ontico

5 способов деплоя PHP-кода в условиях хайлоада / Юрий Насретдинов (Badoo)

Ontico

Чем заняться вечером, если я знаю сколько будет ++i + ++i / Андрей Бородин (Y...

Ontico

Отказоустойчивый микрокластер своими руками, Виталий Гаврилов (Ленвендо)

Ontico

Mysql vs postgresql

Daniel Podolsky

RootConf 2015

Evgeny Uskov

Последние новости постгреса с PGCon / О.Бартунов, А.Коротков, Ф.Сигаев (Postg...

Ontico

Франкенштейнизация Voldemort или key-value данные в Одноклассниках. Роман Ан...

odnoklassniki.ru

Архитектура хранения фотографий в Badoo

Badoo Development

Внутреннее устройство PostgreSQL: временные таблицы и фрагментация памяти / Г...

Ontico

Эволюция программно-аппаратного обеспечения хранения фотографий в Badoo / Дми...

Ontico

Строим сервисы на базе Nginx и Tarantool / Василий Сошников, Андрей Дроздов (...

Ontico

Архитектура растущего проекта на примере ВКонтакте / Алексей Акулович (ВКонт...

Ontico

What's hot (20)

Что нового в nginx? / Максим Дунин (Nginx, Inc.)

Кластеры баз данных делаем сложные вещи просто / Андрей Тихонов (Avito)

Что особенного в СУБД для данных в оперативной памяти / Константин Осипов (Ta...

Chronicle Map — key-value хранилище для трейдинга на Java / Левентов Роман (C...

DPDK в виртуальном коммутаторе Open vSwitch / Александр Джуринский (Selectel)

Защита данных и датацентров от катастроф. Подход Nutanix / Максим Шапошников ...

MySQL 5.7 - NoSQL - JSON, Protocol X, Document Store / Петр Зайцев (Percona)

Разработка высокопроизводительных серверных приложений для Linux/Unix (Алекса...

5 способов деплоя PHP-кода в условиях хайлоада / Юрий Насретдинов (Badoo)

Чем заняться вечером, если я знаю сколько будет ++i + ++i / Андрей Бородин (Y...

Отказоустойчивый микрокластер своими руками, Виталий Гаврилов (Ленвендо)

Mysql vs postgresql

RootConf 2015

Последние новости постгреса с PGCon / О.Бартунов, А.Коротков, Ф.Сигаев (Postg...

Франкенштейнизация Voldemort или key-value данные в Одноклассниках. Роман Ан...

Архитектура хранения фотографий в Badoo

Внутреннее устройство PostgreSQL: временные таблицы и фрагментация памяти / Г...

Эволюция программно-аппаратного обеспечения хранения фотографий в Badoo / Дми...

Строим сервисы на базе Nginx и Tarantool / Василий Сошников, Андрей Дроздов (...

Архитектура растущего проекта на примере ВКонтакте / Алексей Акулович (ВКонт...

Similar to DNS в условиях хостинг-провайдера / Константин Новаковский (Selectel)

A popular DNS security overview

Philipp Kulin

Isilapp — Extreme Cloud Storage on FreeBSDAndrew Pantyukhin

Балансировка нагрузки и отказоустойчивость в Одноклассниках

Ontico

Главная → Тезисы и презентации Балансировка нагрузки и отказоустойчивость в Одноклассниках Системное администрирование Доклад принят в Программу конференции Никита Духовный Одноклассники Ведущий системный администратор в Одноклассниках. Начинал IT-карьеру разработчиком, занимался релиз инженерией, выбрал системное администрирование. Возглавляет одну из команд. Занимается задачами, обеспечивающими работу портала - автоматизацией, запуском новых решений, поддержкой инфраструктуры. Ведёт несколько хардкорных проектов, в том числе - по повышению отказоустойчивости портала. Тезисы Проект Одноклассники начинал свою жизнь в одном датацентре. С ростом популярности растёт и нагрузка. С ростом нагрузки открываются проблемы: - Ни один, даже самый мощный, сервер больше не справляется в одиночку. - Нагрузка растёт, а в датацентре нет места для нового оборудования. - Падение датацентра безоговорочно приводит к даунтайму. - Сетевой сбой выводит портал из строя. - Пользователи в удалённых регионах страдают от низкой скорости. Я без прикрас расскажу вам, как мы в Одноклассниках решаем эти проблемы. Поговорим о следующем: - CDN - каким пользователям важен, его архитектура, устройство наших CDN-приложений, что происходит при авариях. - Датацентры - почему мы используем три основных датацентра, где они расположены (и почему именно там), распределение пользовательского трафика между ними. - Сеть - как и до чего мы балансируем трафик. - Балансировщики - как мы используем LVS, почему (и в каких случаях) используем и другие решения. Что делаем с приложениями, которые нельзя ставить за балансировщик. - Модули портала - о балансировке в нашем RPC протоколе, о том, что происходит с Одноклассниками при падении датацентра.

Docker Containers orchestrators: Kubernetes vs. Swarm

Dmitry Lazarenko

Инфраструктура от IBM Cloud: Как создать собственное частное облако на VMware...

Dinar Garipov

Эффективное управление ПО под *nixAndrew Pantyukhin

По Вашей просьбе, продукты Atlassian в Docker

Gonchik Tsymzhitov

Привет! Очень много было сообщений о том, что мы, вопреки плану на год, не обсудили Docker. Исправляемся - предлагаем проводить уходящий год митапом про Atlassian и Docker. Сергей Чугай с Центра Информационных проектов поделится докладом «Jira за пять минут». Он опишет свой опыт установки, запуска контейнера с Jira, какие ошибки были с переездом проекта и плюсы в сравнение с классической схемой развертывания платформы Jira. Далее Владимир Василькин (ALM Works, Санкт-Петербург) выступит с докладом «Pocker: играем с Jira и не только» - о том, как разработчики плагинов используют Docker. Он расскажет, как с помощью инструмента Pocker можно просто и быстро поднимать разные конфигурации Jira и Confluence, выбирая разные СУБД, версии, плагины, базы, а затем управлять ими – запускать/выключать, просматривать логи и так далее. Ждем-с, Вас на митапе. P.S. Пицца будет:) С уважением, Atlassian User Group

Технологии хранения для больших проектов / Сергей Платонов (RAIDIX)

Ontico

HighLoad++ 2017 Зал «Пекин+Шанхай», 7 ноября, 18:00 Тезисы: http://www.highload.ru/2017/abstracts/2990.html Мы ежедневно сталкиваемся с тем, что даже работающие более 15 лет в индустрии специалисты, путаются в понятиях и преимуществах и недостатках тех или иных архитектур больших СХД. В своем докладе мы расскажем о разнице между distributed (распределенными), shared (общими) и параллельными файловыми системами, покажем, в каких задачах Scale In-системы превосходят Scale Out и наоборот. ...

Frontera обход испанского интернета

Alexander Sibiryakov

Frontera: распределенный робот для обхода интернета в больших объемах - Алекс...

it-people

Инфраструктура хранения для KADME Whereoil

Vsevolod Shabad

Опыт внедрения DNSSEC

Philipp Kulin

VMUG Moscow 2014 Проблемы с дисками?Anton Zhbankov

Cеминар: Работа с технологиями - Основы хостинга сайтовMDIF

Hosting for forbes.ru_drupalconf

Dnssec in UA - Talk at UAdom 2011Dmitry Kohmanyuk

Опыт внедрения OpenStack

Yandex

Сейчас OpenStack на слуху, но детальных отзывов и описаний дизайна инфраструктуры все еще не много. Постараемся немного упростить задачу для тех, кто еще только планирует развертывание инфраструктуры виртуализации, и расскажем, как это делали мы в некоторых наших проектах: погрузимся в нюансы реализации окружения OpenStack в боевой среде; поговорим об отказоустойчивости; рассмотрим варианты организации резервного копирования; обратим внимание на конфигурацию «железок»: СХД и сети.

Оптимизация резервного копирования средствами дедупликации. Symantec netbacku...

КРОК

Как мы переносим миллионы пользователей Badoo между дата-центрами

Badoo Development

В докладе речь идет про перенос пользовательских данных в пределах датацентра, а также – между датацентрами. Большинство крупных проектов живут более чем в одном датацентре. Очевидно, что это происходит из соображений отказоустойчивости инфраструктуры и обеспечения минимального времени доступа для пользователя. В случае, если пользователь переезжает в страну, для которой выгоден другой датацентр, необходимо произвести перенос данных. В докладе рассказывается про: - особенности переноса баз данных с пользовательской информацией, фотографий и обновления сервисов; - обеспечение целостности переносимых данных; - программную реализацию процесса переноса; - аппаратную инфраструктуру, обеспечивающую этот процесс. Доклад ориентирован на разработчиков, интересующихся вопросами масштабирования web-проектов, в частности – аспектами решардинга данных. https://www.youtube.com/watch?v=H_-QF5AFVKc&feature=youtu.be

Как мы переносим миллионы пользователей Badoo между дата-центрами

Yulia Kotova

Similar to DNS в условиях хостинг-провайдера / Константин Новаковский (Selectel) (20)

A popular DNS security overview

Isilapp — Extreme Cloud Storage on FreeBSD

Балансировка нагрузки и отказоустойчивость в Одноклассниках

Docker Containers orchestrators: Kubernetes vs. Swarm

Инфраструктура от IBM Cloud: Как создать собственное частное облако на VMware...

Эффективное управление ПО под *nix

По Вашей просьбе, продукты Atlassian в Docker

Технологии хранения для больших проектов / Сергей Платонов (RAIDIX)

Frontera обход испанского интернета

Frontera: распределенный робот для обхода интернета в больших объемах - Алекс...

Инфраструктура хранения для KADME Whereoil

Опыт внедрения DNSSEC

VMUG Moscow 2014 Проблемы с дисками?

Cеминар: Работа с технологиями - Основы хостинга сайтов

Hosting for forbes.ru_

Dnssec in UA - Talk at UAdom 2011

Опыт внедрения OpenStack

Оптимизация резервного копирования средствами дедупликации. Symantec netbacku...

Как мы переносим миллионы пользователей Badoo между дата-центрами

More from Ontico

One-cloud — система управления дата-центром в Одноклассниках / Олег Анастасье...

Ontico

HighLoad++ 2017 Зал «Калининград», 8 ноября, 15:00 Тезисы: http://www.highload.ru/2017/abstracts/2964.html Одноклассники состоят из более чем восьми тысяч железных серверов, расположенных в нескольких дата-центрах. Каждая из этих машин была специализированной под конкретную задачу - как для обеспечения изоляции отказов, так и для обеспечения автоматизированного управления инфраструктурой. ...

Масштабируя DNS / Артем Гавриченков (Qrator Labs)

Ontico

HighLoad++ 2017 Зал «Калининград», 8 ноября, 16:00 Тезисы: http://www.highload.ru/2017/abstracts/3032.html Протокол DNS на семь лет старше, чем Всемирная паутина. Стандарты RFC 882 и 883, определяющие основную функциональность системы доменных имён, появились в конце 1983 года, а первая реализация последовала уже годом позже. Естественно, что у технологии столь старой и при этом по сей день активнейшим образом используемой просто не могли не накопиться особенности, неочевидные обыкновенным пользователям. ...

Создание BigData-платформы для ФГУП Почта России / Андрей Бащенко (Luxoft)

Ontico

HighLoad++ 2017 Зал «Калининград», 8 ноября, 13:00 Тезисы: http://www.highload.ru/2017/abstracts/3010.html В этом докладе я расскажу, как BigData-платформа помогает трансформировать Почту России, как мы управляем построением и развитием платформы. Расскажу про найденные удачные решения, например, как разбиение на продукты с понятными SLA и интерфейсами между ними помогло нам сохранять управляемость с ростом масштабов проекта. ...

Готовим тестовое окружение, или сколько тестовых инстансов вам нужно / Алекса...

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 10:00 Тезисы: http://www.highload.ru/2017/abstracts/2914.html Казалось бы, что нужно для организации тестового окружения? Тестовая железка и копия боевого окружения - и тестовый сервер готов. Но как быть, когда проект сложный? А когда большой? А если нужно тестировать одновременно много версий? А если все это вместе? Организация тестирования большого развивающегося проекта, где одновременно в разработке и тестировании около полусотни фич - достаточно непростая задача. Ситуация обычно осложняется тем, что иногда есть желание потрогать еще не полностью готовый функционал. В таких ситуациях часто возникает вопрос: "А куда это можно накатить и где покликать?" ...

Новые технологии репликации данных в PostgreSQL / Александр Алексеев (Postgre...

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 18:00 Тезисы: http://www.highload.ru/2017/abstracts/2854.html Из этого доклада вы узнаете о возможностях репликации и автофейловера PostgreSQL, в том числе о возможностях, ставших доступных в PostgreSQL 10. Среди прочих, будет затронуты следующие темы: * Виды репликации и решаемые с ее помощью проблемы. * Настройка потоковой репликации. * Настройка логической репликации. * Настройка автофейловера / HA средствами Stolon и Consul. После прослушивания доклада вы сможете самостоятельно настраивать репликацию и автофейловер PostgreSQL.

PostgreSQL Configuration for Humans / Alvaro Hernandez (OnGres)

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 17:00 Тезисы: http://www.highload.ru/2017/abstracts/3096.html PostgreSQL is the world’s most advanced open source database. Indeed! With around 270 configuration parameters in postgresql.conf, plus all the knobs in pg_hba.conf, it is definitely ADVANCED! How many parameters do you tune? 1? 8? 32? Anyone ever tuned more than 64? No tuning means below par performance. But how to start? Which parameters to tune? What are the appropriate values? Is there a tool --not just an editor like vim or emacs-- to help users manage the 700-line postgresql.conf file? Join this talk to understand the performance advantages of appropriately tuning your postgresql.conf file, showcase a new free tool to make PostgreSQL configuration possible for HUMANS, and learn the best practices for tuning several relevant postgresql.conf parameters.

Inexpensive Datamasking for MySQL with ProxySQL — Data Anonymization for Deve...

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 16:00 Тезисы: http://www.highload.ru/2017/abstracts/3115.html During this session we will cover the last development in ProxySQL to support regular expressions (RE2 and PCRE) and how we can use this strong technique in correlation with ProxySQL's query rules to anonymize live data quickly and transparently. We will explain the mechanism and how to generate these rules quickly. We show live demo with all challenges we got from the Community and we finish the session by an interactive brainstorm testing queries from the audience.

Опыт разработки модуля межсетевого экранирования для MySQL / Олег Брославский...

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 15:00 Тезисы: http://www.highload.ru/2017/abstracts/2957.html Расскажем о нашем опыте разработки модуля межсетевого экрана для MySQL с использованием генератора парсеров ANTLR и языка Kotlin. Подробно рассмотрим следующие вопросы: — когда и почему целесообразно использовать ANTLR; — особенности разработки ANTLR-грамматики для MySQL; — сравнение производительности рантаймов для ANTLR в рамках задачи синтаксического анализа MySQL (C#, Java, Kotlin, Go, Python, PyPy, C++); — вспомогательные DSL; — микросервисная архитектура модуля экранирования SQL; — полученные результаты.

ProxySQL Use Case Scenarios / Alkin Tezuysal (Percona)

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 14:00 Тезисы: http://www.highload.ru/2017/abstracts/3114.html ProxySQL aims to be the most powerful proxy in the MySQL ecosystem. It is protocol-aware and able to provide high availability (HA) and high performance with no changes in the application, using several built-in features and integration with clustering software. During this session we will quickly introduce its main features, so to better understand how it works. We will then describe multiple use case scenarios in which ProxySQL empowers large MySQL installations to provide HA with zero downtime, read/write split, query rewrite, sharding, query caching, and multiplexing using SSL across data centers.

MySQL Replication — Advanced Features / Петр Зайцев (Percona)

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 13:00 Тезисы: http://www.highload.ru/2017/abstracts/2954.html MySQL Replication is powerful and has added a lot of advanced features through the years. In this presentation we will look into replication technology in MySQL 5.7 and variants focusing on advanced features, what do they mean, when to use them and when not, Including. When should you use STATEMENT, ROW or MIXED binary log format? What is GTID in MySQL and MariaDB and why do you want to use them? What is semi-sync replication and how is it different from lossless semi-sync? ...

Внутренний open-source. Как разрабатывать мобильное приложение большим количе...

Ontico

HighLoad++ 2017 Зал «Кейптаун», 8 ноября, 12:00 Тезисы: http://www.highload.ru/2017/abstracts/3120.html Количество разработчиков мобильных приложений Сбербанк Онлайн с начала 2016 года выросло на порядок. Для того чтобы продолжать выпускать качественный продукт, мы кардинально перестраиваем процесс разработки. Количество внутренних заказчиков тех или иных доработок в какой-то момент выросло настолько, что разработчики стали узким местом. Мы внедрили культуру разработки, которую можно условно назвать "внутренним open-source", сохранив за собой контроль над архитектурой и качеством проекта, но позволив разрабатывать новые фичи всем желающим. ...

Подробно о том, как Causal Consistency реализовано в MongoDB / Михаил Тюленев...

Ontico

HighLoad++ 2017 Зал «Мумбай», 8 ноября, 18:00 Тезисы: http://www.highload.ru/2017/abstracts/2836.html При использовании Eventually Consistent распределенных баз данных нет гарантий, что чтение возвращает результаты последних изменений данных, если чтение и запись производятся на разных узлах. Это ограничивает пропускную способность системы. Поддержка свойства Causal Consistency снимает это ограничение, что позволяет улучшить масштабируемость, не требуя изменений в коде приложения. ...

Балансировка на скорости проводов. Без ASIC, без ограничений. Решения NFWare ...

Ontico

HighLoad++ 2017 Зал «Мумбай», 8 ноября, 16:00 Тезисы: http://www.highload.ru/2017/abstracts/2858.html Аудитория Одноклассников превышает 73 миллиона человек в России, СНГ и странах дальнего зарубежья. При этом ОК.ru - первая социальная сеть по просмотрам видео в рунете и крупнейшая сервисная платформа. Качественный и количественный рост DDoS-атак за последние годы превращает их в одну из первоочередных проблем для крупнейших интернет-ресурсов. В зависимости от вектора атаки “узким” местом становится та или иная часть инфраструктуры. В частности, при SYN-flood первый удар приходится на систему балансировки трафика. От ее производительности зависит успех в противостоянии атаке. ...

Перехват трафика — мифы и реальность / Евгений Усков (Qrator Labs)

Ontico

HighLoad++ 2017 Зал «Мумбай», 8 ноября, 15:00 Тезисы: http://www.highload.ru/2017/abstracts/3008.html Никогда не было и вот снова случилось! Компания Google в результате перенаправления трафика сделала недостпуными в Японии несколько тысяч различных сервисов, большинство из которых никак не связано с самой компанией Google. Однако, подобные инциденты происходят с завидной регулярностью, вот только не всегда попадают в большие СМИ. У таких инцидентов могут быть разные причины, начиная от ошибок сетевых инженеров и заканчивая государственным регулированием. ...

И тогда наверняка вдруг запляшут облака! / Алексей Сушков (ПЕТЕР-СЕРВИС)

Ontico

HighLoad++ 2017 Зал «Мумбай», 8 ноября, 14:00 Тезисы: http://www.highload.ru/2017/abstracts/2925.html Облака и виртуализация – современные тренды развития IT-технологий. Операторы связи строят свои TelcoClouds на стандартах NFV (Network Functions Virtualization) и SDN (Software-Defined Networking). В докладе начнем с основ виртуализации, далее разберемся, для чего используются NFV и SDN, потом полетим к облакам и вернемся на землю для решения практических задач! ...

Как мы заставили Druid работать в Одноклассниках / Юрий Невиницин (OK.RU)

Ontico

HighLoad++ 2017 Зал «Мумбай», 8 ноября, 10:00 Тезисы: http://www.highload.ru/2017/abstracts/3045.html Как мы заставили Druid работать в Одноклассниках. «Druid is a high-performance, column-oriented, distributed data store» http://druid.io. Мы расскажем о том, как, внедрив Druid, мы справились с ситуацией, когда MSSQL-based система статистики на 50 терабайт стала: - медленной: средняя скорость ответа была в разы меньше требуемой (и увеличилась в 20 раз); - нестабильной: в час пик статистика отставала до получаса (теперь ничего не отстает); - дорогой: изменилась политика лицензирования Microsoft, расходы на лицензии могли составить миллионы долларов. ...

Разгоняем ASP.NET Core / Илья Вербицкий (WebStoating s.r.o.)

Ontico

HighLoad++ 2017 Зал «Рио-де-Жанейро», 8 ноября, 18:00 Тезисы: http://www.highload.ru/2017/abstracts/2905.html Прошло более года с того момента, как Microsoft выпустила первую версию своего нового фреймворка для разработки web-приложений ASP.NET Core, и с каждым днем он находит все больше поклонников. ASP.NET Core базируется на платформе .NET Core, кроссплатформенной версии платформы .NET c открытым исходным кодом. Теперь у С#-разработчиков появилась возможность использовать Mac в качестве среды разработки, и запускать приложения на Linux или внутри Docker-контейнеров. ...

100500 способов кэширования в Oracle Database или как достичь максимальной ск...

Ontico

HighLoad++ 2017 Зал «Рио-де-Жанейро», 8 ноября, 14:00 Тезисы: http://www.highload.ru/2017/abstracts/2913.html Изначально будут раскрыты базовые причины, которые заставили появиться такой части механизма СУБД, как кэш результатов, и почему в ряде СУБД он есть или отсутствует. Будут рассмотрены различные варианты кэширования результатов как sql-запросов, так и результатов хранимой в БД бизнес-логики. Произведено сравнение способов кэширования (программируемые вручную кэши, стандартный функционал) и даны рекомендации, когда и в каких случаях данные способы оптимальны, а порой опасны. ...

Apache Ignite Persistence: зачем Persistence для In-Memory, и как он работает...

Ontico

HighLoad++ 2017 Зал «Рио-де-Жанейро», 8 ноября, 13:00 Тезисы: http://www.highload.ru/2017/abstracts/2947.html Apache Ignite — Open Source платформа для высокопроизводительной распределенной работы с большими данными с применением SQL или Java/.NET/C++ API. Ignite используют в самых разных отраслях. Сбербанк, ING, RingCentral, Microsoft, e-Therapeutics — все эти компании применяют решения на основе Ignite. Размеры кластеров разнятся от всего одного узла до нескольких сотен, узлы могут быть расположены в одном ЦОД-е или в нескольких геораспределенных. ...

Механизмы мониторинга баз данных: взгляд изнутри / Дмитрий Еманов (Firebird P...

Ontico

HighLoad++ 2017 Зал «Рио-де-Жанейро», 8 ноября, 12:00 Тезисы: http://www.highload.ru/2017/abstracts/3005.html Когда мы говорим о нагруженных системах и базах данных с большим числом параллельных коннектов, особый интерес представляет практика эксплуатации и сопровождения таких проектов. В том числе инструменты и механизмы СУБД, которые могут быть использованы DBA и DevOps-инженерами для решения задач мониторинга жизнедеятельности базы данных и ранней диагностики возможных проблем. ...

More from Ontico (20)