Nginx as reverse proxy: 1% запросов падает по тайм-ауту (504). Что можно предпринять?

chupasaurus, Сорри, загрузили другими тасками. Сейчас опишу в двух предложения что сделал.

Nginx as reverse proxy: 1% запросов падает по тайм-ауту (504). Что можно предпринять?

Ребят, всем спасибо! Кажется, мы справились! Завтра проведём финальные нагрузочные тесты и я отпишусь. https://overload.yandex.net/188501

Nginx as reverse proxy: 1% запросов падает по тайм-ауту (504). Что можно предпринять?

Роман Мирр,

То есть проблема со стороны партнера: не успевает обрабатывать входящие запросы.

Но тогда почему при запросе напрямую они успевают принять коннекшен?
Хм, а nginx с одного порта все запросы проксирует? Может ли быть, что все порты заняты и ему неоткуда пулять новые запросы? (Сейчас проверю...)

Nginx as reverse proxy: 1% запросов падает по тайм-ауту (504). Что можно предпринять?

Вот график с выключенной буферизацией тела запроса. 504 возвращается в 15% запросв.

Nginx as reverse proxy: 1% запросов падает по тайм-ауту (504). Что можно предпринять?

Роман Мирр, Не константное значение... Обновление данных у партнера происходит примерно 1 раз в 2-10 сек. Автоматический запрос производится раз в 3 секунды. + юзер сам генерирует запросы, взаимодействуя с интерфейсом.

Nginx as reverse proxy: 1% запросов падает по тайм-ауту (504). Что можно предпринять?

...nginx по умолчанию получает все данные и только потом их отдает дальше

Да, читал это в документации. Отключать буферизацию тоже пробовали. Без неё - хуже. Сейчас еще раз отключу буферизацию, нагрузку дам и скину графики сюда.

А если напрямую конектится, то nginx'a нет, read timeout не срабатывает и все ок.

Так ведь если напрямую запрашивать - там и неоткуда взяться таймаутам. Потому что отвечает партнер за 200-500 мс (Всегда!). Да, при больших нагрузках может доходить и до 10 секунд, но это никак не 30 и 60 секунд, сейчас не об этом...

Nginx as reverse proxy: 1% запросов падает по тайм-ауту (504). Что можно предпринять?

Роман Мирр,

2019/06/01 08:57:33 [error] 22819#22819: *18000259 upstream timed out (110: Connection timed out) while connecting to upstream, client: 190.115.176.22, server: domain.com, request: "POST /api/remote/Action HTTP/2.0", upstream: "http://parter_ip:80/WebApiG/WebServices/BCService.asmx/Action", host: "www.domain.com", referrer: "https://www.domain.com/line/..."

Nginx as reverse proxy: 1% запросов падает по тайм-ауту (504). Что можно предпринять?

Текущая ситуация не так критична, т.к. фронт генерирует запрос раз в 3 секунды и данные на странице все таки обновляются.
Нет, ничего не настраивали, все по стандарту. Есть статейки по этой теме?