Как репликация RabbitMQ согласуется с балансировкой нагрузки?

Question

[HAG]

Всем привет.
Покурил мануалы по настройке HA-кластера RabbitMQ и что-то не складывается в голове цельная картина.
Может быть кто-то сможет прояснить такие вопросы т.к. в мануалах они подробно не расписаны:
Если включить зеркалирование очередей между нодами, то получается что одна нода мастер, а другие зеркала, причем в мануалах указывается что все изменения сначала происходят на мастере и потом уже реплицируются на слейвы.
Отсюда вопросы:
- Мастер-слейв это уровень нод или очередей? В смысле что мы можем завести часть мастер очередей на одной ноде, а часть на другой или у нас все очереди на одном мастере, а на всех остальных нодах только реплики этих очередей?
- Если изменения сначала записываются на мастер, то можем ли мы например подключиться и запостить или получить сообщения со слейва? Если можем то как данные синхронизируются с мастером если изменения сначала должны произойти на мастере а потом уже на всех слейвах? Или слейв если видит что мастер очередь не у него, проксирует запрос на мастер? Или как? Как это все может работать за HAProxy балансировщиком, который тупо проксирует запросы на все ноды без разбору, то есть клиент может прицепиться и к мастеру, и к зеркалу?

Answer 1

[Сергей]

1) Уровень очередей, мастеры очередей могут быть на разных нодах, вот тут описано, как Вы можете повлиять на процесс выбора мастера.

2) Вы можете отправлять/получать сообщения с любой ноды, даже если на ней нет ни мастера, ни слейва этой очереди, RabbitMQ сам спроскирует куда нужно (соответственно внеся некие задержки в запрос). Для работы через HAProxy в последних версиях есть поддержка протокола PROXY, чтобы в менеджмент консоле можно было видеть реальные адреса клиентов, а не адреса прокси.

Comments

[HAG]

Спасибо, Сергей.
А еще такой вопрос по поводу восстановления после сетевых сбоев. Допустим у нас две ноды за балансировщиком и та на которой мастер очередь из-за сетевого сбоя исчезает. По идее, балансер ее убирает из апстрима, очередь на второй ноде становится мастером, балансер продолжает на эту вторую доступную ноду проксировать запросы. Потом сеть восстановливается и у нас получается две ноды с очередью мастер и с разным содержимым очередей. Как они решат между собой какая из них главнее? Причем в это время балансер продолжает кидать запросы уже на обе эти ноды притом что данные в них различны.

[Сергей]

Вопрос хороший, но скорей всего я не смогу ответить Вам на него точно, потому как разработчики могли уже изменить поведение в последних релизах, я бы рекомендовал задать его в их Гугл-группе. Но вообще, рекомендуют иметь как минимум 3 узла, чтобы решать проблемы сплит-брейна (в таком случае отвалившаяся нода может завершить обслуживание пользователей до ручного вмешательства).