Как расчитать оптимальное количество воркеров для максимальнойой производительности при заданном железе?

Question

[Александр]

На 4х (или n — процессоров) процессорном железе крутится некоторое количество воркеров — демонов.


Нужно найти оптимальное количество воркеров, если воркер обслуживает за один промежуток времени только одно соединение ( однопоточный демон на блокируемых сокетах)


хочется понять подход,

Answer 1

[TrueDrago]

Судя по книге Джона Оллспоу Искусство планирования мощностей, нужно изначально задать n-е кол-во воркеров (напр. из какого-то гайда по настройке) и плавно попробовать их поувеличивать-поуменьшать, наблюдая за поведением основных метрик, напр. памяти, проца и дискового I\O.
Вообще очень советую эту книгу прочесть, подходы к планированию мощностей точно поймёте.

Comments

[Александр]

спасибо

Answer 2

[zuborg]

Если воркер из реального затраченного времени на обработку запроса использует в среднем только 25% cpu — значит воркеров стоит запускать в четыре раза больше чем кол-во ядер. Плюс-минус. Обычно ещё есть дополнительная нагрузка, типа баз данных, поэтому можно выставить немного меньшее значение.
Для воркеров, которые эффективно используют cpu, не блокируясь в процессе работы, соотв надо выставить просто кол-во ядер.

Comments

[zuborg]

Уточню.
Если выставить меньшее значение — при пиковой загрузке cpu будет простаивать, некому его будет нагрузить.
Если большее — при пиковой загрузке возникнет конкуренция за cpu, и воркер, вместо того чтобы доработать и закончить запрос, будет прерван, и вернется к работе после паузы — соотв возрастет среднее время выполнения запроса.

[Александр]

у меня воркер занимает 100% ЦПУ
значить по кол-ву процессоров

[Александр]

а если бы занимал 25% ЦПУ — то можно увеличить эту цифру на 4?

[zuborg]

Если один поток при постоянной загрузке (при бенчмарке например) кушает только 25% — то да, умножать на 4.

[Александр]

спасибо, будем мерить

Answer 3

[niko83]

экспериментируя с кол-вом uWSGI воркеров на Python(Django) приложении выяснил что оптимальное кол-во воркеров (для моего приложения) ранво кол-ву ядер.

Тестил через утилиту ab.
Еслиб в моём приложении были задачи которые ждут подолгу ответа и не напрягают при этом проц (парсим сайт, ждёт ответа от базы с другого сервера и т.д.) то кол-во воркеров навренео пришлось бы увеличить.

Другими словами мой подход — эксперимент. Берём что-то среднее рекомендуемое и плавно пробуем акуратно менять, наблюдам, анализируем делаем выводы, принимаем решение.

Comments

[Zmops]

>> выяснил что оптимальное кол-во воркеров (для моего приложения) ранво кол-ву ядер.
Для 8-ми ядерных и 16-ядерных машин смотрели? Там по идее должно быть близко к количество_ядер*2 (ибо у каждого ядра по паре конвейеров, при парочка задач от ОС не так влияет на точность эксперимента)

Answer 4

[Алексей Сундуков]

Помниться Сысоев в рассылки по nginx упоминал, что количество воркеров можно выставлять равным количеству ядер, но увлекаться этим не стоит, т.к. из-за перемещения в процессе работы по ядрам эффективность может падать. Поэтому в первом приближении стоит все же ориентироваться на количество ядер.

Comments

[Александр]

мне говорили, что лучше рассчитывать из: кол-во ядер х 1.5