Постоянно перезагружается сервер + mysql. В чем проблема? Мало ОЗУ?

Question

[Вова]

В последнее время замечаю проблему с сервером...
Нагрузка вроде держит нормально -= памяти 16 Гб ОЗУ.
Но не понимаю почему - но часто бывает что сервер перезагружается (заметил по веста панели, что перезагружается прежде всего mysql, видимо проблема в нем).
На графике видно, как скачет график. Скажите, в чем тут проблема?
Заметил связь (возможно - в том что когда нагрузка на процессор достигает 100% долгое время (секунд 30) - то тогда и обрубается сайт.
+ Там еще была настройка на хостинге OPcache (вроде) - и возможно из-за этого такие проблемы...

Подскажите, что это может быть? График прилагаю.



вот еще график за неделю:

Comments

[SagePtr]

Логи медленных запросов в mysql смотрите, вероятнее всего, имеется неоптимизированный запрос, который пожирает ресурсы и накапливается в больших количествах (новые приходят быстрее, чем сервер успевает обработать старые), в итоге mysql от них захлёбывается и прибивается oom-киллером. У меня такое бывало, когда индекс неправильно выставил, и время выполнения уходило в квадрат по мере роста числа записей (на малом количестве проблем не было, само собой).

[Вова]

SagePtr, а где посмотреть эти логи? у меня раньше было такое что скапливались запросы - сейчас такого нет - в веста по БД нагрузке не накапливаются запросы а все выполняются секунд за 5 максимум.

[SagePtr]

Евгений, https://ruhighload.com/%D0%9A%D0%B0%D0%BA+%D0%B2%D...
Ну и перед тем, как включить, посмотрите в конфигах, может быть они у вас и так включены уже.

[Дмитрий Свиридов]

Евгений, так 5 секунд на запрос - это крайне много. Даже 1 секунда - это очень много.

[Вова]

Дмитрий Свиридов, так если там боты смотрят по 30 страниц в секунду например - это плохо? и до 1 секунды не должно доходить в принципе? я просто не с таким большим опытом в этом плане..

[Дмитрий Свиридов]

Евгений, да без разницы, бот или нет. 30 запросов в секунду - это очень мало, а 1 с на запрос - это много. Я считаю, что даже 500 мс - это обычно тоже весьма много. Я ж молчу про то, что по-хорошему, для отрисовки большинства страниц запросы в базу вообще делаться не должны, потому что должно быть настроено кеширование. Оно у вас, надеюсь, включено?

[Вова]

Дмитрий Свиридов, что вы имеете в виду под кэшированием? если то, что все файлы вордпресс должны быть в html - то нет, не включал - т.к. у меня там не так много места свободного на сервере... всего 190 гб - и из них 100 уже занято (без кэширование) - но у меня в планах развитие сайта.

[Дмитрий Свиридов]

Евгений, нет, я про хранение страниц в memcached или redis с помощью, например, плагина W3 Total Cache. Чтобы при запросе страницы не всегда делались запросы в базу данных, а доставалась закешированная копия из кеша (по сути из оперативной памяти сервера). Тогда нагрузка на базу снизится в разы, а сам сайт будет работать ощутимо быстрее.

[Вова]

Дмитрий Свиридов, Спасибо, не знал про это... Скажите, а если у меня там стоит больше 100 вордпресс-сайтов (на каждом по 30-50 тыс записей) - то хватит ли на этот плагин ОЗУ которой на сервере 16 гб всего? или будет мало?

[d'Ivan]

А можно подробнее техническим языком описать что значит "обрубается сайт"?
Запросы перестают обслуживаться, понижение количества обработки запросов или что?

[Вова]

Дмитрий Свиридов, я просто обнаружил сегодня, что если начать загрузку массовую страниц с разных сайтов на сервере - то нагрузка 100% на сервер, но база данных работает и не "падает". А потом, когда нагрузка уже значительно ниже (на уровне 20% процессора) - сервер перестает работать. Не понимаю, в чем тут может бытиь еще причина?

[Вова]

Роман Мирр, когда я захожу в мониторинг mysql - то выдает такую ошибку:

https://imgur.com/4Slw16j

[d'Ivan]

Евгений, https://ruhighload.com/mysql+server+has+gone+away+...

[d'Ivan]

Евгений, на сайте с большим количеством посетителей и без специалиста?

[Вова]

Роман Мирр, у меня не такой большой проект, чтобы нанимать специалиста. уже сайту 2 года - там не посещаемость заоблачная - не больше 1000 человек в день (реальных посетителей) - большинство из них - боты типра яндекса, гугла и других.
Если я еще начну платить за специалистов по 500 руб. в месяц - то я тогда себе в убыток буду работать (или в небольшой плюс - что тоже не вариант).

[Вова]

Роман Мирр, https://i.imgur.com/PyBSnqG.png
вот что у меня сейчас (было wait_timeout = 1, я поставил 600 как по вашей инструкции.
Скажите, тут все правильно?

[Вова]

Роман Мирр, https://i.imgur.com/aLkoGub.png - проблема оказывается еще в том, что нельзя поставить в веста больше 1 сек получается?

[d'Ivan]

Евгений, пока нужна информация по количеству текущих соединений вообще и в периоды нагрузок, а не лимитам.
Журналы веб-сервера, ОС.

[Дмитрий Свиридов]

Евгений, у вас в кеше будут только актуальные страницы. Если выставите кеш, скажем, на час, то по истечении этого времени страница из кеша удалится - память освободится. Потом, допустим, пользователь откроет эту страницу - и она опять в кеш на час попадет. И так далее. Тут зависит еще не только от количества страниц, но и от того, насколько часто все они открываются. Но могу сказать точно, что при любом раскладе кешировать страницы необходимо. Возможно, кеш потребуется вам не для всех страниц, а для наиболее часто используемых и для тех, для отрисовки которых делаются тяжелые запросы в базу.

[Вова]

Дмитрий Свиридов, так в том то и проблема что там 90% страниц - это те страницы, которые посещают 1-2 раза в месяц, не чаще.

[Дмитрий Свиридов]

Евгений, ну так кешируйте оставшиеся 10

[Вова]

Дмитрий Свиридов, понимаете, у меня в день - я насчитал не меньше 20 обрывов - и причем я же тестировал на максимальной нагрузке (просто тупо открывал страницы сайта и процессор был по 100% в течение 10 минут - нет ни единого разрыва...
А как только нагрузка низкая допустим и ничего не предвещает проблем - то тут же обрыв... как так? просто не хотелось бы забивать все кэшированием, когда причина (истинная) в чем-то другом(

[Дмитрий Свиридов]

Евгений, ок, еще раз: логи MySQL смотрели?

[Вова]

Дмитрий Свиридов, я хочу это сделать - но пока не получается... в веста их нет, правильно? Надо подключиться по putty получается? а что дальше надо ввести ? могли бы вы помочь мне? Очень прошу, пожалуйста, помогите, что там дальше вводить в команндную строку...? чтобы ничего не испортить? и как вам потом весь этот лог прислать? я раньше туда никогда не заходил просто - все смотрел через веста панель.

[Дмитрий Свиридов]

Евгений, ну если вы боитесь на сервер заходить, чтобы что-то не поломать, то надо либо научиться с помощью Google, либо нанять кого-нибудь на фриланс-бирже. Просто если вы Линукс совсем не знаете, то самостоятельно будет тяжело, потому что надо знать консольные команды.
А так да, надо по ssh подключиться к серверу (можно и через Putty, если на Винде сидите), узнать, где лежит файл конфигурации MySQL, посмотреть в нем путь к логу ошибок и с помощью команды grep пройтись по логу в поиске ошибок.

Answer 1

[Дмитрий Свиридов]

Я бы сначала посмотрел логи MySQL. Также надо бы выявить, что создает такую нагрузку. Возможно, запросы какие-то тяжелые без индексов и т.п. Можно включить логирование медленных запросов, после чего проанализировать их с помощью EXPLAIN - создать индексы, если нужно.

Comments

[Вова]

скажите, а где посмотреть эти логи mysql?
у меня там просто много ссайтов на Wordpress - С миллионами страниц - поэтому и нагрузка такая большая (яндекс и гугл индексируют преждев сего, но ограничивать их - не вариант).
просто не понимаю с чем связано это - я готов и сервер новый может взять более мощный - но и так вроде мощный уже - куда мощнее.... сам не понимаю...

но уже это так давно продолжается (больше месяца). что просто нет сил больше..

[Дмитрий Свиридов]

Евгений, вот статья, где написано как включить лог медленных запросов. Включите их, рестартаните MySQL и ждите, когда там появятся записи. А если у вас проблемы именно из-за тяжелых запросов, то более мощный сервер не спасет - опять столкнетесь с теми же проблемами, когда данных в таблицах базы станет больше.

[Михаил Васильев]

Евгений, с такими запросами вам лучше сюда https://freelance.habr.com/

Answer 2

[d'Ivan]

У меня есть подозрение что проблема у хостинга связана либо с каким-то лимитами по продолжительности работы при перенагрузке CPU/IOPS) , а может сервер просто перенагревается и идет его перезагрузка.
Также возможны блокировки в программе (PHP) или веб-сервере как следствие замедленной работы СУБД.
Для того чтобы смочь выяснить, необходимо проанализировать журналы ОС, веб-сервера, Mysql и мониторинга по использованию ресурсов в проблемные промежутки времени.
Технической информации для точного ответа не представлено.

Comments

[Вова]

у меня vesta.
Скажите, где там посмотреть нужные логи - все предоставлю для полного ответа, потому что до сих пор проблема не решена...

[d'Ivan]

Евгений, не знаком с Веста. Знаю как смотреть самому.

[Вова]

Роман Мирр, скажите, как тогда посмотреть (и что) через putty например?

[d'Ivan]

Евгений, Linux?
Какой веб-сервер?
Нужны журналы ОС (kernel messages), веб-сервера, количества соединений MYSQL, нагрузки I/O. Больше не могу пока помочь. Гугл в помощь.

Answer 3

[metajiji]

Запустите mysqltuner.pl

Comments

[Вова]

а как это сделать??

[metajiji]

Евгений, https://github.com/major/MySQLTuner-perl/blob/mast...

Скачал:
wget http://mysqltuner.pl/ -O mysqltuner.pl
Запустил:
perl mysqltuner.pl --host 127.0.0.1