Стоит ли при запуске RabbitMQ в кластере кубернетес использовать NFS для Persistent Volumes?

Question

[Вадим]

Привет,

стоит такая задача - поднять RabbitMQ кластер в кубернетесе, таким образом, чтобы не терялись сообщения при падении одной Availability Zone в AWS? Думаю поднять EFS и сконнектить туда Persistent Storage из Кубернетеса, используя EFS Provisioner... стоит ли так делать и поможет ли для создания кластера?

Ваше мнение !

всем добра,
Вадим

Answer 1

[Иван Шумов]

Это очень глупая идея по причинам:

• EFS это сетевое хранилище и оно медленнее EBS
  
• EFS нужно для шаринга данных между несколькими сетевыми ресурсами когда создание кластера предполагает изолированные инстансы
  
• Сообщения не потеряются если уже сохранены на EBS, но про бэкапы забывать не надо
  
• Использование RabbitMQ в AWS вообще дорогое и бесполезное занятие когда есть SQS, SNS, EventBridge, Kinesis, MSK, Amazon MQ, ...
  

Answer 2

[Вадим]

Я не согласен с вашим ответом!

EFS нужно для шаринга данных между несколькими сетевыми ресурсами когда создание кластера предполагает изолированные инстансы - именно это требуется, потому что все работает в Кубернетес и RabbitMQ pods будут в разных availability zones.

Сообщения не потеряются если уже сохранены на EBS, но про бэкапы забывать не надо... хорошо, а если зона упадет, что делать будем? Насколько хорошо вы знаете Rabbit - при потере storage сообщения теряются, или если mirroring есть, то он все равно будет продолжать работать?

Использование RabbitMQ в AWS вообще дорогое и бесполезное занятие когда есть SQS, SNS, EventBridge, Kinesis, MSK, Amazon MQ, ... - это согласен, но переписывать код никто не будет, много legacy накопилось

Answer 3

[Vitaly Karasik]

Я за использование Mirrored Queue и прочих встроенных вещей для HA (https://www.rabbitmq.com/ha.html).

Comments

[Вадим]

Виталий, а общее хранилище вы используете, для всех нодов?

[Vitaly Karasik]

Вадим - честно говоря, я не использовал RabbitMQ в HA mode, не было такого требования.
Так пишу не по личному опыту.
Насколько понимаю, самый простой способ достичь high availability (HA) это использовать репликацию.
То есть я бы почитал-поискал, как сделать кластер в нескольких AWS availability zones.
Вот тут https://www.rabbitmq.com/pacemaker.html, правда, пишут про DRDB что очень близко к shared storage, но сами же признаются что mirrored queue проще.
По моему опыту с разными системами, 99% попыток сделать самодельный HA только ухудшают надежность. Я за использование готовых решений.