Как NGINX общается с проксируемым сервером?

Question

[wawa]

Допустим у меня есть http сервис, и я хочу выдать его наружу.
Повесить его на 0.0.0.0:80 наверное не лучшая идея (не совсем понимаю почему), нужно поставить впереди Nginx как прокси. Но не понятно как он будет взаимодействовать с сервисом-бекендом в условиях высокой нагрузки. Он же не будет перекидывать ВСЕ соединения сервису (наверное всё сломается, может памяти не хватит). Как это работает?
Просто куча конфигов Nginx в сети с упором на работу между клиентом и Nginx, но не объясняется что и как работает дальше.

Comments

[Lynn «Кофеман»]

Он же не будет перекидывать ВСЕ соединения сервис

Будет прокидывать всё что вы укажете. Обычно это всё кроме статичных файлов

[wawa]

Алексей Тен, я имею ввиду одновременно

[Виктор Таран]

не боись nginx для этого прекрасно подходит, мало того он снимает нагрузку на апачь.

Answer 1

[Wexter]

обычно работает немного иначе
2-3 сервера nginx как балансировщики и несколько серверов бэкендов

Answer 2

[Fixid]

При адекватной настройке в режиме проксирования:
Nginx принимает соединение, потом лезет в кэш, если может отвечает из кэша. Если данных нет/протухли, то лезет по proxy_pass на ваш сервис, максимально быстро забирает данные и закрывает соединение с вами. Далее отдает данные клиенту с нужной скоростью.
Главный смысл в том что медленные клиенты висят на Nginx, минимально потребляя ресурсы сервера

Comments

[wawa]

Но любой сервис имеет ограничения на кол-во соединений. Как это условие отражается во взаимодействии с Nginx?

[Fixid]

wawa, Естественно, но NGiNX без проблем решает проблему C10k. И сделает это по любому эффективнее вашего сервиса. Хочется больше коннектов? Надо уже думать над мультисерверностью. Опять же C10k в один момент времени. Если люда добавить HTTP2.0, то 1 клиент = 1 супер быстрый коннект

[wawa]

Так что же случится когда Nginx попытавшись обратиться к сервису получит отказ на соед-е? попробует позже или пробросит отказ до клиента?

[Fixid]

wawa, В реальности эти числа разгоняются только так, но надо иметь нужное оборудование и опыт. C10k можно получить по манам из интернета

[Fixid]

wawa, в зависимости от настройки. Может ждать, пробросить, перезапросить или просто отметить как временно сломанный и пойти в следующий upstream. Опять же можно сделать лимитированный пул запросов к сервису и новые запросы будут становиться в очередь

[wawa]

Например сервис считает данные 10 секунд на запрос (быстрее никак). Как бы вы настроили Nginx в данном случае?

[Fixid]

wawa, слишком обширный вопрос. Без знания специфики сложно ответить.
Но гипотетически парочку backend на разных серверах при большой нагрузке и парочку VPS в этом же ДЦ для Nginx как прокси, просто для снижения нагрузки на backend, балансировки и увеличения пула одновременных коннектов

Answer 3

[ky0]

Разумеется, в нагруженном проекте противопоказано, как вы выражаетесь, "перекидывать все соединения" вовнутрь. Для апстримов настраиваются настройки кипалайва и нгинкс держит некоторое количество постоянно поднятых коннектов, не тратя время и ресурсы на поднимание-закрывание при каждом новом запросе.

Читайте доки нгинкса, там нет ничего особенно сложного.