Почему у rabbitmq такая низкая производительность?

Question

[Александр Иванов]

У нас на проекте микросервисная архитектура. Используем RPC паттерн (tornado + pika). На каждый результат создаётся queue с айдишником в rabbitmq. И при большом колличестве очередей(чем больше очередей тем сильнее) производительность падает, при чём колличество воркеров не имеет значения. Где-то на 50RPS rabbitmq встаёт колом, хотя воркеры команды выполняют. Тестили то же самое с Redis, просто результат клали в него с id команды, вывозит около 400RPS. Это мы неправильно готовим rabbitmq, или это такая спицифика? Может есть какие-то более удачные решения для реализации rpc в микросервисной архитектуре?

Comments

[Сергей Горностаев]

Сколько у вас очередей в тот момент, когда всё встаёт колом?

Answer 1

[Сергей]

В гугле по словам "rabbitmq" и "rpc" выдаётся ссылка на оф.документацию по Direct reply-to, Вы пробовали такой механизм? Создание/удаление очереди ради получения одного ответа это очень накладно. 50/400rpc это вообще не о чём, даже для RabbitMQ (конечно всё зависит от выделенных ресурсов, хранению на диске и т.д.).

Comments

[Александр Иванов]

Вы оказались правы. Переписал на работу через direct reply-to. Результаты впечатляют

Старый мессаджинг при 100 rps уже сыпался (ответы более 30 сек)

All virtual users finished
Summary report @ 18:05:54(+0700) 2018-12-13
Scenarios launched: 3000
Scenarios completed: 3000
Requests completed: 3000
RPS sent: 50.81
Request latency:
min: 90.6
max: 42299.2
median: 15247.8
p95: 30141.3
p99: 40876
Scenario counts:
0: 3000 (100%)
Codes:
200: 1755
400: 1245

Новый через директ без проблем вывозит 300+

All virtual users finished
Summary report @ 13:39:12(+0700) 2018-12-18
Scenarios launched: 3000
Scenarios completed: 3000
Requests completed: 3000
RPS sent: 98.36
Request latency:
min: 3.4
max: 46
median: 4.6
p95: 9.1
p99: 14.2
Scenario counts:
0: 3000 (100%)
Codes:
200: 3000

[Сергей]

Круто, рад слышать, что помогло! И спасибо за сравнение с цифрами.

Answer 2

[Андрей]

Что-то подсказывает, что у вас странная архитектура...

Answer 3

[asd111]

Тормозит из за того что для каждого ответа создается очередь. rabbitmq советует делать через direct reply to для повышения производительности https://pika.readthedocs.io/en/0.12.0/examples/dir...

Answer 4

[Артём Иннокентьев]

Можно попробовать кластеризацию для RabbitMQ и поиграться с настройками.
Еще есть вариант заюзать Apache Kafka - более мощное и высокопроизводительное решение.

Comments

[Сергей Горностаев]

Автор использует асинхронный Tornado, а у Кафки с асинхронностью беда.