Время rps зависит от ядер машинки?

Question

[PAJCH]

Привет, я не давно тестировал время одновременных запросов к серверу (сервер стоит на nodejs, использовал кластеризацию), на 4 ядерном компе с 8 гб оперативной памяти, он смог обработать 2.5k rps/sec, на 1 ядерном с 1 гб оперативной памяти только 0.5k rps/sec. У меня нету пока возможности протестировать на 20 ядерном компе с 64 гб оперативной памяти, хотел бы услышать ваш ответ, могу ли я предполагать что с таким компом, я смогу выдерживать примерно 20k rps/sec? Спасибо заранее

Answer 1

[Влад Животнев]

> могу ли я предполагать что с таким компом, я смогу выдерживать примерно 20k rps/sec?
Нет.

Накладные расходы на разбрасывание запросов после определенной цифры могут расти по экспоненте, в итоге вполне возможна ситуация, что вы не сможете выжать больше определенного числа, будь у вас даже 128 ядер и 1Т памяти в одну железку.
+ на цифрах в районе 10к+ запросов во что угодно уже нужно аккуратно настраивать систему под профиль нагрузки, так что при тех же настройках цифры в 20к вы не получите.

+ можете получите проблемы с IOPS (его на сервере будет не сильно больше, если только вы не тестили на sata, а сервер с ssd), с количеством дескрипторов и прочей мутью.

Такой подсчет в нагрузочном тестировании работает только в пределах 2-3 раз разницы в железе, но никак не тогда, когда разница выходит на 1.5 порядка.

Comments

[PAJCH]

А если использовать кластеризацию, если 20 ядерный комп, то у меня с помощью кластеризации включатся 20 процессов так почему не могу предполагать, или тогда зачем использовать кластеризацию?

[PAJCH]

PAJCH: А все понял

Answer 2

[Александр Вульф]

nodeJS вообще однопоточный, вы о чем?

Comments

[PAJCH]

Можно использовать кластеризацию

[Александр Вульф]

PAJCH: ну так и надо писать)

[HoHsi]

Александр Вульф: так и написано "использовал кластеризацию"

[Александр Вульф]

HoHsi: это, вроде, только что появилось.

[PAJCH]

HoHsi: Да только что

Answer 3

[HoHsi]

Зачем вам такие ухищрения? Поставьте load-balancer Nginx и несколько беков ноды. Так и скалировать легче, и должно выйти дешевле.

Comments

[PAJCH]

Конечно я это все сделаю таким образом, но в любом случае даже если я поставлю балансер и несколько беков ноды, если каждый сможет обслуживать только например 1k rps/sec в моем случае это не сработает, поэтому я спрашивал для себя, я тестировал следующим образом, у меня было nodejs приложении digitalocean.com 2 ядерный комп, 2 гб оперативки, и второе приложение которое отправляло 1000 запросов с помощью библиотеки async на первое приложение с помощью библиотеки request. как я понял на самом деле nodejs может обслуживать одновременные соединения на этом дряхлом компе больше чем 5k rps/sec разных клиентов и ни одного, это я узнал когда изменил интервал 1 сек на 1000 rps, на 0.1 сек на 100 rps

[HoHsi]

PAJCH: а разве система не режет request на x 100 одновременных соединений?