Как определить причины низкой производительности postgres?

Question

[Алексей]

прошу помочь разобраться с причиной низкой производительности бд, большого количества sharelock .
У нас высоко-нагруженная система с кол-вом активных пользователей около 5000.
И в часы пиковых нагрузок резко возрастает sharelock - обычно до 12k , сегодня до 21k и падает производительность системы. По мере снижения кол-ва пользователей - ситуация нормализуется. При кол-ве sharelock до 4k система работает стабильно.
Пытались воздействовать изменением параметра max_connections изначально было 500 , увеличивали до 700 с шагом 100, но изменений практически нет.

Вот график sharelocks

Comments

[Everything_is_bad]

1. что в лога постгреса?
2. надо разобраться какие именно запросы делают sharelock, и проводить оптимизацию относительно этой причины, а ты почему-то решил что тупое повышение кол-во коннектов чем-то тут поможет

[Alexey Dmitriev]

Есть специально обученные люди для таких вещей - Database Analyst.

Answer 1

[Melkij]

Вы смотрите на совершенно бесполезный график. Смотрите на полезные.

Если у вас табличка с 10 индексами и к ней select * from foo where id = ? - то это минимум 11 AccessShareLock. Совершенно логично, что чем больше параллельно нагрузки - тем больше вы увидите AccessShareLock. И дальше куда с этим? Вот и получается совершенно бесполезный график. А задирание max_connections сделает только хуже.

Посмотрите график CPU, есть ли в принципе CPU свободный (помним что у вас наверняка есть HT, значит 100% утилизации недостижимы, реальный потолок окажется где-то в районе 70-90%)
Посмотрите графики латентности IO. Если проседает латентность чтения или записи под нагрузкой - то это будет причина замедления. СУБД очень чувствительны к латентности.
Дальше графики pg_stat_activity с разбивкой по state. Если растут idle in transaction - проверять как дела на приложении, а так же сеть.
Конечно, графики по pg_stat_statements. top5 запросов по времени выполнения, для начала.
И проверить наличие корреляции с графиком длительности самой старой транзакции.

Comments

[Алексей]

спасибо за ответ. разбираюсь дальше..
график CPU


Как увидеть графики IO latency ? их явно не нашел

Есть график idle sessions


Графика pg_stat_activity нет. Видимо нужно запросить, чтобы настроили

[Melkij]

Начать снимать метрики io latency и рисовать их графики, раз их нет.
idle сессии не интересны.

[Алексей]

Melkij, вроде бы нашел в General Performance график Postgres la5


как его правильно анализировать? определить топ-5 запросов в период макс нагрузки и искать источник в бизнес-логике?

[Melkij]

а что этот график показывает?