Чем сравнить нагрузку и используемые ресурсы разных приложений?

Question

[Valeriy Solovyov]

Привет всем,
Есть система PaaS которая запускается на ESXi, KVM и bare-metal.
Внутри запущено приложение, которое является api для приложений внутри LXC/docker контейнеров.
Нужно выбрать оптимальное приложения для api и его конфигурацию.

Что нужно мониторить:

• Потребление ресурсов api-сервером: RAM/CPU/ disk io/ количество операций чтения+записи / скорость ответа / зависимость потребления этих ресурсов от количества клиентов.
  
• Потребление ресурсов api-клиентов: RAM/CPU/ disk io/ количество операций чтения+записи / скорость отправки запроса.
  

Answer 1

[Александр]

Если API по протоколу HTTP работает - можете в jmeter накидать тестплан, данные можно отгружать в influxdb и красиво визуализировать в Grafane. В Grafanу же можно пристегнуть данные мониторнга zabbix. Можете в метриках настроить трешхолды, при превышении которых на дашобрде они поменяют цвет. Есть форк графаны с возможностью делать алерты и нотификации - raintank.

Answer 2

[Кирилл]

Если в Docker'e то поставьте cAdvisor для CPU/RAM/DISK ( https://github.com/google/cadvisor ), если "по быстрому"

"количество операций чтения+записи" / скорость ответа /количества клиентов - чтения, записи, скорости чего, клиентов каких ?

Comments

[Valeriy Solovyov]

Мне нужно параметры приложения а не всего инстанса

[Кирилл]

Valeriy Solovyov: приложение на чем ?
PS: в /proc ( man7.org/linux/man-pages/man5/proc.5.html ) taskstats ( https://www.kernel.org/doc/Documentation/accountin... ) все есть

[Кирилл]

Valeriy Solovyov: PS2: если не охота самому что-то делать то есть https://www.vividcortex.com/, newrelic.com , etc ...

[Valeriy Solovyov]

Кирилл: Я готов вручную взять всё из прок/другое. Но может есть решение?

[Кирилл]

Valeriy Solovyov: да их "как грязи" начиная от Zabbix и чуть дальше, платные/бесплатные; у вас же там написанно "DevOps", неужели ничем до этого не пользовались ?

[Valeriy Solovyov]

Кирилл: неужели ничем до этого не пользовались? Всем чем пользовался - было для мониторинга. А здесь тестирование и сравнение.

[Кирилл]

Valeriy Solovyov: а разница в чем ? сделали тест, запомнили "цыферки", дропнули, сделали другой тест.
Вообще для сравнения: htop + iotop + iftop + siege/wrk/yandex-tank вполне себе ничего, yandex-tank предпочтительнее т.к. у него есть секция мониторинга и если понаписать скриптов, то он эти данные потом тоже просчитает и можно смотреть в какой момент времени чего было (либо html сгенерит, либо https://loadosophia.org/ можно подключить)

[Valeriy Solovyov]

Кирилл: "а разница в чем ?" Системы мониторинга - системы наблюдения в которых подключаешь метрики и следишь за параметрами нормированными по времени. Системы тестирования и сравнения - отдают информацию удобоваримую для сравнения: например HDD Monitor vs HDD Scan, HWMonitor vs 3DMark.

[Valeriy Solovyov]

Мне нужно понять как на количество подключений, на количество передаваемых данных и на скорость get/set данных реагирует сервер api. Что бы понять какие есть ограничения для одного экземпляра. При этом сервер api работает в рядом с гипервизором(на хосте), в то время как основную нагрузку делают контейнеры.

[Кирилл]

Valeriy Solovyov: возьмите yandex-tank и меряйте, из готового там: "стрелялка" и возможность снятия метрик с хостов, соответственно из готовых там "совсем ничего", так что ручками придется дописать, loadosophia может KPI по тестам посчитать