Что может записывать nginx (логи отключены)?

Question

[yanchumak]

Драсте всем. Есть сервер linux/centos 6.5, программный 10 RAID 4xTB,32GB RAM, CPU Intel i5
Производительность серва начала упираться в винт и появился overhead. В atop-e busy прыгает порой до 70-80%,в среднем 30-40%, avio 4-8 ms. В iotop-е частенько мелькает nginx c записью на винт до 10 M/s.



error_log/access_log логи nginx-a идут в /dev/null

Все HTTP запросы ходят на apache через nginx, на php реализован REST API: вставку в базу некоторой инфы и аплоад файлов. Файлы записываются на винт(не в базу). Думал,что ноги растут отсюда и переделал на Java сервлете момент сохранения файлов на винт с очередью (2 потока на запись). Nginx-ом перенаправил на tomcat. Итог - не помогло. Очень буду рад любым советам,мозг кипит,спасибо.

Comments

[Андрей Мывреник]

Может кэш какой для контента?

[yanchumak]

fomistoklus: как он мне с nginx поможет?

[yanchumak]

gim0: например?

[yanchumak]

fomistoklus: была мысль,что апач долбит винт без очереди,решил проверить.

Answer 1

[Андрей Буров]

Включите error_log там написали бы что к чему.
а вообще проблема в proxy_buffering

ну и логи нужно отключать не направлением в /dev/null, а

access_log off;
error_log /dev/null crit;

Еще можно посмотреть куда пишет nginx (lsof в помощь)

Comments

[yanchumak]

отключение логов поменял на такое,без разницы. насчет proxy_buffering, по описанию - это размер буфера для отдачи сервером(apache) nginx-у ответа, затык может быть,если считывать много данных через php (readfile)?и по сути запись файлов на винт в приемной части (см. описание выше) тут не причем?

[Андрей Буров]

yanchumak: и аплоад файлов: nginx.org/ru/docs/http/ngx_http_core_module.html#c...

[yanchumak]

похоже вы правы, nginx постоянно долбит временные папки (за lsof огромное спасибо)
nginx 10063 nginx 50u REG 9,2 409600 333054472 /usr/local/nginx/proxy_temp/5/96/0000054965 (deleted)
nginx 10063 nginx 51u REG 9,2 1703711 331354715 /usr/local/nginx/client_body_temp/0000055119 (deleted)

Если эти папки перенести RAM, профит же будет?

[Андрей Буров]

yanchumak: будет, но лучше увеличить размеры буферов

[yanchumak]

Андрей Буров:

client_max_body_size 0;
client_body_buffer_size 128k;
proxy_buffering on;
proxy_connect_timeout 90;
proxy_send_timeout 600;
proxy_read_timeout 600;
proxy_buffer_size 4k;
proxy_buffers 4 32k;
proxy_busy_buffers_size 64k;

Текущие настройки, пробовал client_body_buffer_size поднять, только загрузука проца увеличивается,результата особо нет( Можете посоветовать,как правильно менять?

[Андрей Буров]

yanchumak: proxy_buffering можно вообще попробовать выключить. Нагрузка на CPU увеличивается т.к. ему приходится оперировать бОльшими объемами данных в RAM. Тут уж Вам нужно найти компромисс между IO и CPU/RAM

[yanchumak]

Андрей Буров: понял,будем пробовать, большое спасибо за помощь.

Answer 2

[Сергей Петриков]

Если запись логов записана как
access_log /dev/null;
замените на
access_log off;
и проверьте снова.

Comments

[yanchumak]

и так и так пробовал, недавно читал,что лучше указывать /dev/null а не off,но в моем случае одинаково(

[Сергей Петриков]

Тогда остается буферизация, попробуйте отключить.

Answer 3

[Борис Беньковский]

А может стоить включить дебаг лог и посмотреть, вдруг в кучи инфы вы все-таки увидите корень проблемы