Как резервировать и балансировать балансеры?

Question

[raiboon]

Гипотетическая ситуация. Есть фронтэнд на который указывает домен. На нем только nginx, который проксирует запросы внутренним серверам-воркерам.
Тут возникает проблема - воркеров много и их кол-во продолжает расти. Еще далеко не уперлись в производительность nginxa, но еще один-два крупных партнера - и одна машина всё не переварит. Как балансировать нагрузку перед балансерами?

Еще. Благо хостер надежный и балансер ни разу не падал. Но как зарезервировать его? Ведь смена A-записи дело не быстрое, а некоторые кэши вообще могут неделями не обновляться?

Answer 1

[Дмитрий Энтелис]

По поводу первичной балансировки:
Мне лично кажется что на больших потоках, нагрузку на фронт можно балансировать простым round robin.
Мы используем amazon route53 + их же health check для исключения упавших серверов.

По поводу надежности, если фронтов мало:
У hetzner есть такая штука - failover ip wiki.hetzner.de/index.php/Failover/ru (у других хостеров тоже есть, может называться по другому)
Это ip который можно очень быстро переключить между физическими серверами.
Поднимаете 2й сервер, в случае падения основного - ip автоматом переключается на 2й сервер.

Answer 2

[Влад Животнев]

В Hetzner и OVH есть failover-ip-адреса.
Переключаются между машинами секунд за 10.

Ну а дальше - heartbeat и погнали.