Почему подвисают веб сервера на линуксе?

Question

[Максим Грехов]

Здравствуйте. Провожу тестирование производительности веб серверов на ubuntu server запущенном в virtual box'е. Нагружаю сервера запросами и никак не могу добиться стабильной работы. Время от времени происходят подвисания. Система не встает - нет, наоборот загрузка процессора падает до 0 и сервер просто не обрабатывает запросы. Проходит секунд 5 и сервер в спешном режиме начинает обрабатывать все что накопилось. Это все видно на графике программы, которую я использую для создания нагрузки(LoadUI).

Сначала использовал apache2, сейчас провожу тестирование с nginx(виртуалка создана с 0 установкой еще одной копии ubuntu server) - результат тот же, нестабильная работа. В чем может быть проблема?
Виртуальным машинам выдаю 1 ядро(i7) и 1 гигабайт оперативной памяти(вся не используется).

Обновление 1:
В комментарии на первый ответ я пояснил, что "лаги" напрямую зависят от keepalive_timeout у nginx. Не понимаю, что вызывает такие накладные расходы.
Обновление 2:
Обнаружилось что проблема была в программе для тестирования, она плохо реагировала на keep alive. Установил JMeter, он хоть менее дружелюбен к пользователю, но работает стабильнее.

Answer 1

[Назар Мокринский]

Возможно у вас из-за keep-alive просто исчерпывается лимит активных подключений?
Можете попробовать применить советы из этой статьи: https://stackoverflow.com/questions/410616/increas...

Comments

[Максим Грехов]

Сейчас опять играл с параметрами и заметил, что время пиков напрямую зависит от выставленного keepalive_timeout у nginx. Если выставить этот параметр на 2 секунды - то провалы будут каждые 2 секунды, если выставить на 60 секунд - то каждую минуту. Как убрать это влияние?

[Назар Мокринский]

@Sterk Увеличить количество допустимых активных подключений, я дал ссылку где описано как это сделать.

[Назар Мокринский]

@Sterk Возможно, это нужно будет сделать и на машине, которая запускает тест, и на сервере.

[Максим Грехов]

Ответ я указал в обновление поста. Ваш ответ немного навел на него.

Answer 2

[Алексей Черемисин]

Может быть проблема в хосте, на котором виртуалки крутятся? Случайно это не виндовс?

Comments

[Максим Грехов]

хост система Windows 8.1

Answer 3

[Сергей Петриков]

Похоже проблема в гипервизоре, попробуйте то-же самое проделать на другом. Так-же интересно что именно происходит в этот момент на самой виртуалке, выводы atop, iotop в этот момент увидеть бы.

Comments

[Максим Грехов]

В момент подвисания ресурсы потребляет только top/atop.

Answer 4

[neol]

Предполагаю, что это происходит как-то так:
- клиент посылает HTTP1.1 запрос
- nginx открывает соединение с keep-alive и возвращает ответ
- клиент закрывает соединение
- nginx держит соединение открытым до истечения keepalive_timeout
- когда количество открытых соединений доходит до какого-то значения (можно посчитать с помощью netstat), nginx перестает обрабатывать запросы.

Проверьте значение worker_connections/worker_processes, возможно это они. Ну или что-то из системных лимитов.