Call of Postgres: Advanced Operations (part 5)

Slides from tutorial on PGDay 2017 St.Petersburg Russia.

Education

Call of Postgres:
Advanced Operations
Alexey Lesovsky
lesovsky@gmail.com

План05
dataegret.com
Обзор статистики.
Настройка логирования.
Удаление pg_xlog.
Вредные соединения.
Bloat таблиц и индексов.
Работа с запросами.
Неравномерная производительность.

Обзор статистики05
dataegret.com
# psql -c "dv pg_stat*"
# psql -c "df *xlog*"

Настройка логирования05
dataegret.com
По-умолчанию, логирование очень бедное.
Логирование запросов.
Логирование прочих событий.
Подробность логирования.

Настройка логирования05
dataegret.com
log_checkpoints = on
log_temp_files = on
log_lock_waits = on
track_io_timings = on
track_functions = pl
log_min_duration_statements = 1000
log_line_prefix = '%m %p %u@%d from %h [txid: %x vxid: %v] %i '
log_timezone = 'C'
log_autovacuum_min_duration = 10000

Удаление pg_xlog05
dataegret.com
Когда нет места на диске, в первую очередь удаляют логи!
Постгресовый лог – второе место куда следует смотреть если что-то не так.
Не следует выключать postgres после удаления.
pg_resetxlog – часть данных о транзакциях будет потеряна или повреждена.

Вредные соединения05
dataegret.com
pg_stat_activity – первое место куда стоит смотреть когда что-то не так.
Idle/waiting/long транзакции = плохо.
Waiting/long запросы = относительно плохо.
pg_locks – для разбора причин блокировок
pg_cancel_backend(), pg_terminate_backend() – и никогда KILL -9.

Bloat таблиц и индексов05
dataegret.com
MVCC это прекрасно, но есть и минусы.
UPDATE = DELETE + INSERT.
Вакуум призван наводить порядок – но есть нюансы.
Pgstattuple contrib.
Pgcompacttable/pg_reorg.

Работа с запросами05
dataegret.com
И снова pg_stat_activity.
pg_stat_statements contrib – следует включать всегда.
Используйте отчеты.
pg_stat_statements_reset().

Неравномерная производительность05
dataegret.com
Фоновые процессы могут мешать клиентским бэкендам.
Присматривайте за autovacuum и checkpointer – они любят диски.

Резюме05
dataegret.com
Важно знать про статистику и уметь ею пользоваться.
Пишите свои stats views и запросы.
Не пренебрегайте постгресовыми логами.

Спасибо за внимание
dataegret.com lesovsky@gmail.com

Потоковая репликация, которая появилась в 2010 году, стала одной из прорывных фич постгреса и в настоящее время практически ни одна инсталляция не обходится без использования потоковой репликации. Она надежна, легка в настройке, нетребовательна к ресурсам. Однако при всех своих положительных качествах, при её эксплуатации могут возникать различные проблемы и неприятные ситуации. Для диагностики и решения проблем, связанных с потоковой репликацией, есть множество инструментов, как встроенных в PostgreSQL, так и сторонних. В этом докладе я сделаю обзор доступных инструментов и расскажу, как с помощью этих средств диагностировать различные типы проблем и как устранять их. Рассматривая методы решения, мы также рассмотрим проблемы, которые возникают при эксплуатации потоковой репликации. Доклад будет полезен DBA и системным администраторам.

PostgreSQL Vacuum: Nine Circles of Hell

Разработка real-time приложений с RethinkDB / Илья Вербицкий (Независимый кон...

RethinkDB - это распределенное документо-ориентированное хранилище данных с открытым исходным кодом. Данная система ориентирована на разработку систем обработки данных реального времени, позволяя клиентскому приложению подписываться на изменение тех или иных данных. В данном докладе я бы хотел осветить не только вопросы разработки приложений на базе RethinkDB, но и поговорить о том, как все это работает. Мы поговорим о ReQL (язык запросов), “changefeeds”, индексах, шардинге, репликациях, а также затронем вопросы особенностей проектирования баз данных под данную платформу.

PostgreSQL: практические примеры оптимизации SQL-запросов / Иван Фролков (Po...

Довольно часто как адинистраторы, так и разработчики жалуются на низкую производительность приложений, работающих с базой данных, и нередко при этом ищут решения возникших проблем с помощью различных настроек как СУБД, так и операционной системы, пренебрегая при этом самым действенным способом - оптимизацией запросов к собственно БД. Тому, как понимать, где же узкие места, и как их можно попробовать избежать на примере PostgreSQL и посвящен этот доклад.

В многоядерных высоконагруженных системах с высокой конкурентностью часто бывает сложно определить, чем занят отдельный процесс PostgreSQL. Он может находиться в ожидании локов высокого уровня, таких как локи таблиц, внутренних локов, используемых для синхронизации процессов, ввода-вывода и многих других. В настоящий момент среди всех событий ожидания мониторить можно только локи высокого уровня с помощью представлений PostgreSQL. Другие типы ожиданий требуют использования низкоуровневых утилит типа perf, systemtap и других. Эти утилиты требуют специальных знаний и могут быть платформозависимыми. В то же время другие enterprise базы данных уже включают в себя инструменты для мониторинга ожиданий. Мы разработали патч, который реализует мониторинг ожиданий в PostgreSQL. С минимальной настройкой (несколько конфигурационных параметров) этот патч показывает полную информацию о текущих ожиданиях в режиме реального времени и с небольшим оверхедом на всю систему. Этот патч уже работает на продакшен серверах Яндекса и показал свою полезность.

Как читать и интерпретировать вывод команды EXPLAIN

Alexey Ermakov

Отказоустойчивая обработка 10M OAuth токенов на Tarantool / Владимир Перепели...

Многие современные высоконагруженные системы построены с использованием очередей. Не является исключением и внутренний сервис обработки OAuth токенов, который создала наша команда. Исключением является то, что и в качестве основного хранилища, и в качестве всех очередей используется один и тот же продукт - Tarantool. Более того, мы поставили себе амбициозную цель по отказоустойчивости - полную доступность сервиса, когда уходят любые два из трёх датацентров, и успешно её достигли. При решении мы столкнулись с массой интересных инженерных задач и в нашем докладе мы расскажем вам о том, какие технологии и подходы использовались. В частности, рассмотрим более детально такие вещи, как: - создание deadline очереди и проблемы, с ней связанные; - создание кольцевой очереди; - интеграция между собой шардинга, Raft и очередей; - как мы победили split brain ;)

Последние новости постгреса с PGCon / О.Бартунов, А.Коротков, Ф.Сигаев (Postg...

Как быстро развивается сейчас PostgreSQL — общеизвестно. За несколько дней до РИТ++ заканчивается главный мировой форум разработчиков этой СУБД — конференция PGCon в Канаде. Большая команда разработчиков Postgres Professional принимает участие в этой конференции и готова рассказать все последние новости прямо с PGCon. Параллельное исполнение запросов, новые стораджи, неутихающая тема Postgres vs key-value storage, распределенный Postgres, высокая доступность, многочисленные улучшения производительности, планы и интриги разработчиков — вот основные темы этой конференции. Я остановлюсь подробнее на нашем вкладе в ожидаемый релиз 9.6 и планах на, возможно, релиз 10.0.

PostgreSQL Streaming Replication

Hacking PostgreSQL. Разделяемая память и блокировки.

Структуры данных в разделяемой памяти, про алгоритмы замещения страниц в буфере и блокировки, которые используются на разных уровнях взаимодействия. А также средства мониторинга памяти, уже существующие и те, которые ещё только в процессе разработки.

Механизмы мониторинга баз данных: взгляд изнутри / Дмитрий Еманов (Firebird P...

HighLoad++ 2017 Зал «Рио-де-Жанейро», 8 ноября, 12:00 Тезисы: http://www.highload.ru/2017/abstracts/3005.html Когда мы говорим о нагруженных системах и базах данных с большим числом параллельных коннектов, особый интерес представляет практика эксплуатации и сопровождения таких проектов. В том числе инструменты и механизмы СУБД, которые могут быть использованы DBA и DevOps-инженерами для решения задач мониторинга жизнедеятельности базы данных и ранней диагностики возможных проблем. ...

nginx.CHANGES.2015 / Игорь Сысоев, Валентин Бартенев (Nginx)

Дмитрий Новиков - Tarantool в Badoo

Сага о кластере. Все что вы хотели знать про горизонтальное масштабирование в...

Популярность постгреса в мире и России растет, с каждым новым релизом появляется все новая и новая функциональность, постгрес становится реальной угрозой монополии Оракл, уже подвинул Монго на поле свободных NoSQL СУБД, однако мировое сообщество ждет решения для горизонтального масштабирования. Создание постгресового кластера является крайне трудной задачей, так как постгрес является базой данных, ориентированной на целостность данных, а используемый алгоритм обеспечения конкурентности транзакций ставит серьезные челленджи перед разработчиками алгоритмов распределенных транзакций. Оказывается, уже целых пять групп работает над этой задачей, и мы расскажем про их подходы, трудности, в том числе, и политические. Отдельно остановимся на российском опыте и нашем вкладе в решение этой задачи.

Основные кейсы использования in-memory СУБД на примере Тарантула и проектов M...

Основные кейсы использования Тарантула: 1. Когда нужна OLTP-система, позволяющая обрабатывать транзакции в режиме почти реального времени (с милисекундными задержками) и/или с огромной пропускной способностью (сотни тысяч запросов в секунду). Примеры — система сессий, система антибрутфорса, система противодействия атакам, система очередей и пуш-уведомлений, роутинг запросов между серверами. Далее - http://backendconf.ru/2016/abstracts/2096.html

Долгожданный релиз pg_pathman 1.0 / Александр Коротков, Дмитрий Иванов (Post...

Механизм секционирования в Postgres имеет ряд ограничений, которые не позволяют использовать концепцию секционирования в полной мере. Среди таких ограничений можно выделить неэффективность планирования запросов для секционированных таблиц (линейный рост времени планирования при увеличении количества секций), отсутствие HASH-секционирования, необходимость ручного управления секциями. В нашем докладе мы расскажем про расширение pg_pathman, которое позволяет обойти эти ограничения. pg_pathman реализует RANGE и HASH секционирования с логарифмическим и константным временами планирования соответственно. В pg_pathman поддерживается определение секции на этапе выполнения, конкурентное секционирование. pg_pathman долго находился в стадии beta-тестирования, но теперь мы рады, наконец, сообщить о релизе 1.0. В докладе мы расскажем как про детали внутреннего устройства, так и про приёмы практического использования.

Расширения для PostgreSQL

Использование очередей асинхронных сообщений с PostgreSQL (Илья Космодемьянский)Ontico

Streaming replication in practice

Open Source SQL-базы данных вступили в эру миллионов запросов в секунду / Фед...

Широко распространено мнение, что SQL СУБД обречены быть медлительными и неповоротливыми, поскольку несут груз совместимости с предыдущими версиями. Это расхожее мнение широко эксплуатируется маркетингом NoSQL СУБД. Однако, это не всегда действительно так. Разработка в Open Source сообществе позволяет продукту развиваться достаточно гибко, чтобы отвечать требованиям времени. В MySQL и PostgreSQL – самых популярных Open Source СУБД – недавно были проведены оптимизации для работы на больших серверах, что позволило им выполнять более миллиона SQL-запросов в секунду на одном экземпляре БД. В данном докладе будут рассмотрены конкретные оптимизации, которые позволили добиться таких результатов, которые раньше могли бы показаться фантастическими. И можно сказать, что Open Source СУБД вошли в эру миллионов запросов в секунду.

Hacking PostgreSQL. Физическое представление данных

Dennis Anikin - Tarantool Case Studies in Mail.Ru Group

Денис рассказал о трех кейсах использования Tarantool в Mail.Ru Group - это система аутентификации пользователей, система нотификаций для мобильных приложений и система показа рекламы. Во всех трех кейсах Tarantool является краеугольным камнем распределенной серверной инфраструктуры, которая обслуживает суммарно порядка 100 миллионов пользователей в месяц.

Hacking PostgreSQL. Обзор исходного кода

Anton Turetckii "What does it take to build a host?"

Fwdays

Real hardware in the data center: everything you wanted to know but didn’t know how to ask. 2020: how to build a server if you don’t use clouds How to get rid of or reduce problems when ordering, allocating, and mounting the hardware Yes, there are people working in your data center (If you have one)! What is hidden in between the server’s power button activation and its appearance in your internal system Automation and its role in the process: do exactly what is necessary and enough!

View как чистая функция от состояния базы данных - Илья Беда, bro.agency

it-people

#RuPostgresLive 4: как писать и читать сложные SQL-запросы

Онлайн-опросы неизменно показывают — всех нас очень интересуют две вещи: а) как писать наиболее эффективные SQL-запросы, б) как «читать» такие запросы, а точнее, как понимать, что именно делает или будет делать СУБД при их выполнении. Эти две неразрывно связанные друг с другом темы чрезвычайно обширны, SQL-искусству можно (и нужно) учиться годами. Во время нашей очередной встречи в прямом эфире мы затронем некоторые аспекты обеих. ЧАСТЬ 1: EXPLAIN Алексей Ермаков. Как читать и интерпретировать вывод команды EXPLAIN Команда EXPLAIN — основной инструмент анализа запросов, позволяющий разобраться, каким образом запрос будет выполняться и как можно его ускорить. Для сложных запросов вывод может быть довольно громоздким и его становится сложно читать. Я расскажу, из каких частей состоит план запроса, на какие «маркеры» в нём следует обращать внимание в первую очередь и как на это реагировать. ЧАСТЬ 2: ADVANCED SQL Николай Самохвалов. SQL современный и «продвинутый» «Я не волшебник, я только учусь». Продвинутому SQL нас постоянно учат такие видные гуру как Markus Winand и Макс Богук. Рекурсивные CTE, LATERAL JOIN, виртуозная работа с массивами и строками, window functions и прочие модные штучки, которые помогут вам в дрессировке вашего Постгреса, — я постараюсь сделать хороший обзор, а если вдруг тема покажется интересной, то в следующих сеансах группового Постгреса мы обязательно пригласим настоящих гуру :)

What's hot

Мониторинг ожиданий в PostgreSQL / Курбангалиев Ильдус (Postgres Professional)

Как читать и интерпретировать вывод команды EXPLAIN

Alexey Ermakov

Отказоустойчивая обработка 10M OAuth токенов на Tarantool / Владимир Перепели...

Последние новости постгреса с PGCon / О.Бартунов, А.Коротков, Ф.Сигаев (Postg...

PostgreSQL Streaming Replication

Hacking PostgreSQL. Разделяемая память и блокировки.

Механизмы мониторинга баз данных: взгляд изнутри / Дмитрий Еманов (Firebird P...

nginx.CHANGES.2015 / Игорь Сысоев, Валентин Бартенев (Nginx)

Дмитрий Новиков - Tarantool в Badoo

Сага о кластере. Все что вы хотели знать про горизонтальное масштабирование в...

Основные кейсы использования in-memory СУБД на примере Тарантула и проектов M...

Долгожданный релиз pg_pathman 1.0 / Александр Коротков, Дмитрий Иванов (Post...

Расширения для PostgreSQL

Использование очередей асинхронных сообщений с PostgreSQL (Илья Космодемьянский)Ontico

Streaming replication in practice

Open Source SQL-базы данных вступили в эру миллионов запросов в секунду / Фед...

Hacking PostgreSQL. Физическое представление данных

Dennis Anikin - Tarantool Case Studies in Mail.Ru Group

Hacking PostgreSQL. Обзор исходного кода

Anton Turetckii "What does it take to build a host?"

Fwdays

What's hot (20)

Мониторинг ожиданий в PostgreSQL / Курбангалиев Ильдус (Postgres Professional)

Как читать и интерпретировать вывод команды EXPLAIN

Отказоустойчивая обработка 10M OAuth токенов на Tarantool / Владимир Перепели...

Последние новости постгреса с PGCon / О.Бартунов, А.Коротков, Ф.Сигаев (Postg...

PostgreSQL Streaming Replication

Hacking PostgreSQL. Разделяемая память и блокировки.

Механизмы мониторинга баз данных: взгляд изнутри / Дмитрий Еманов (Firebird P...

nginx.CHANGES.2015 / Игорь Сысоев, Валентин Бартенев (Nginx)

Дмитрий Новиков - Tarantool в Badoo

Сага о кластере. Все что вы хотели знать про горизонтальное масштабирование в...

Основные кейсы использования in-memory СУБД на примере Тарантула и проектов M...

Долгожданный релиз pg_pathman 1.0 / Александр Коротков, Дмитрий Иванов (Post...

Расширения для PostgreSQL

Использование очередей асинхронных сообщений с PostgreSQL (Илья Космодемьянский)

Streaming replication in practice

Open Source SQL-базы данных вступили в эру миллионов запросов в секунду / Фед...

Hacking PostgreSQL. Физическое представление данных

Dennis Anikin - Tarantool Case Studies in Mail.Ru Group

Hacking PostgreSQL. Обзор исходного кода

Anton Turetckii "What does it take to build a host?"

Similar to Call of Postgres: Advanced Operations (part 5)

View как чистая функция от состояния базы данных - Илья Беда, bro.agency

it-people

#RuPostgresLive 4: как писать и читать сложные SQL-запросы

Профайлинг.

Nikita Romanov

Python Meetup

iQSpace

21 октября состоялась 1 встреча одесского сообщества Python-разработчиков - Python Meetup. Поговорили о новых технологиях, диалектах и инструментарии для создания графических интерфейсов. Докладчики: Александр Степанов (Python Team Lead at SteelKiwi Inc.) Тема: Шаблон проекта. Использование Vagrant, VirtualEnv и Ansible provisioner. Зачем это необходимо? Евгений Гетманский (Рython team lead at SteelKiwi Inc.) Тема: Оптимизация работы веб сервера с базой данных на примере Django.

19.10 - WebPromo SEO Day - "SEO-автоматизатор: кто он?" - Владислав Моргун

Vladislav Morgun

19 октября я выступил с докладом на онлайн-конференции SEO day, которую организовала Академия Интернет-маркетинга Webpromoexperts. В своем докладе я рассказал о том, кто такой SEO-автоматизатор и как им стать. Поговорили о том зачем он нужен в продуктовой команде, какие навыки нужны и как их получить. А также об идеях автоматизации и примерах их реализации.

Есть ли жизнь с ORM или типовая архитектура CRUD приложения

Nicolay Velizhanin

Фильтрация соцсетей и лишнего трафика: использование L7 возможностей в Mikrotik

mikrotik-training

Mikrotik — наверное, единственный из доступных для малого и среднего бизнеса роутеров, в котором можно залезать и фильтровать данные, находящиеся на уровне пользовательских приложений. Именно поэтому на Mikrotik можно настроить правила фильтрации, которые срабатывают на определенный контент и могут надежно заблокировать такой тип трафика как: — Skype — Torrent — VPN — ICQ и прочие IM и многое другое. Поэтому, если от руководства или службы безопасности вам поступают такие запросы, после вебинара вы будете знать, как это настраивается! P.S. Вообще, залезать в данные, находящиеся на L7 - это определенная магия. Но что делать, если данные идут по HTTPS, ведь внутрь туда не залезть, скажете вы и будете правы. Однако, и тут есть решение, о котором мы немного расскажем на вебинаре. А подробно и с демонстрацией - на другом вебинаре, по фильтрации HTTPS-трафика.

Промышленный подход к тюнингу PostgreSQL: эксперименты над базами данных

Shared_buffers = 25% – это много или мало? Или в самый раз? Как понять, подходит ли эта – довольно устаревшая – рекомендация в вашем конкретном случае? Пришло время подойти к вопросу подбора параметров postgresql.conf "по-взрослому". Не с помощью слепых "автотюнеров" или устаревших советов из статей и блогов, а на основе: строго выверенных экспериментов на БД, производимых автоматизированно, в больших количествах и в условиях, максимально приближенных к "боевым", глубокого понимания особенностей работы СУБД и ОС. Используя Nancy CLI (https://gitlab.com/postgres.ai/nancy), мы рассмотрим конкретный пример – пресловутые shared_buffers – в разных ситуациях, в разных проектах и попробуем разобраться, как же подобрать оптимальную настройку для нашей инфраструктуры, БД и нагрузки. https://pgconf.ru/2019/242809

Monitoring-driven эксплуатация (rootconf2015)

Nikolay Sivko

Monitoring driven эксплуатация / Николай Сивко (HeadHunter)

Огромная часть работы службы эксплуатации, так или иначе, связана с мониторингом существующей инфраструктуры. Если система мониторинга настроена хорошо, она позволяет сократить время простоя, какие-то проблемы показать на ранней стадии, формализовать рабочие процессы команды админов. То есть она является носителем знания о нашей инфраструктуре и о том, как именно работают админы. Можно ли извлечь дополнительную пользу из этого? В hh.ru мы используем систему мониторинга ещё и как check list для повседневных задач админов (алерты в данном случае являются задачами для человека: сделал задачу - триггер проверил результат и погас), идея взята из TDD. Также расскажу, как мы работаем с внештатными ситуациями: реагируем на алерты, чиним, разбираем и классифицируем. Еще на основе разобранных инцидентов мы считаем показатели работы службы эксплуатации, из этих показателей высчитываются наши премии (данный KPI получился удачным: с ним согласен и бизнес и админы).

SECON'2017, Лесовский Алексей, Потоковая репликация в PostgreSQL.

SECON

FrontTalks: Алексей Андросов (Яндекс), «Ошибки, которые мы любим»

Yandex

Мониторинг – важная часть работы хорошего сервиса. Мало просто протестировать релиз, надо также убедиться, что код работает у пользователей и работает правильно. В докладе я расскажу про логирование js-ошибок при разных способах загрузки js, подводных камнях, способах их обойти, а также почему это надо делать.

Реляционные базы данных

Levon Avakyan

История небольшого успеха с PostgreSQL

dev1ant

Kostja Root ConfLiudmila Li

Очередной скучный доклад про логгирование

Python Meetup

Стас Рудаков, компания СООО "Гейм Стрим"/Wargaming.net Значение логов очень часто недооценивается, а зря. Доклад с оживленным диспутом со всеми участниками митапа, чтобы разобраться: как, куда и зачем писать логи. Помимо этого затронут вопрос, как из логов выжать больше информации.

OpenSource SQL Databases Enter Millions Queries per Second Era

Sveta Smirnova

Сергей Чистович "Подходы к кешированию на UGC-сервисе"

Yandex

Сергей Чистович "Подходы к кешированию на UGC-сервисе" Я.Субботник в Санкт-Петербурге О докладе: Данные на UGC-сервисах очень быстро меняются, и у каждого пользователя они свои. Выборка этих данных – дорогостоящая операция, поскольку может определяться множеством параметров и сложными условиями. Что и как мы можем кешировать в этой непростой ситуации?

2014.12.23 Александр Андреев, Parallels

Доклад от Parallels: Методики тестировния производительности database-centric приложений Описание: При работе над сложными продуктами в database-centric приложениях изменения в коде и тем более в SQL запросах к базе данных могут приводить к неожиданным падениям производительности или же деградации производительности приложения с ростом размера базы данных. Поэтому важно уметь как можно быстрее отлавливать и исправлять причины таких деградаций. Доклад о том, как устроен процесс мониторинга производительности продукта автоматизации хостинга и облачных сервисов Parallels Automation, для которого определяющим фактором является производительность базы данных. Компания покажет, как анализирует планы исполнения SQL запросов внутри PostgreSQL, как проверяет насколько быстро и эффективно в целом работают SQL запросы, как определяет стратегию дальнейшей оптимизации.

20131112федорроманенко

Yandex

More from Alexey Lesovsky

Troubleshooting PostgreSQL with pgCenter

GitLab PostgresMortem: Lessons Learned

Troubleshooting PostgreSQL Streaming Replication

Tuning Linux for Databases.

Managing PostgreSQL with PgCenter

Nine Circles of Inferno or Explaining the PostgreSQL Vacuum

Deep dive into PostgreSQL statistics.

Streaming replication in practice

PostgreSQL Streaming Replication Cheatsheet

Deep dive into PostgreSQL statistics.

Deep dive into PostgreSQL statistics.

Pgcenter overview

Highload 2014. PostgreSQL: ups, DevOps.

PostgreSQL Troubleshoot On-line, (RITfest 2015 meetup at Moscow, Russia).

Linux tuning for PostgreSQL at Secon 2015