Как справиться с высокой нагрузкой на сервер?

Question

[EVOSandru6]

Добрый день,

Разрабатываю узкоспециализированную систему.
Часть для нее , где необходимы сокеты на NodeJs и Socket.io

Серверная часть на Yii2

Web Server - Apache2

Вот это немного смущает в ТЗ - Посещаемость онлайн чата от 300 авторизовавшихся пользователей. Посещаемость сайта от 5000 авторизовавшихся пользователей единовременно. За минусом индексов в таблицах, кэшированием статических и редкоизменяемых элементов - как еще можно оптимизировать производительность?

Подкиньте пожалуйста информации - куда копать?

Немного рассматривал такие понятия как Балансировка нагрузки и масштабирование серверов. Хотелось бы услышать от профессионалов - какие практики стоит использовать на сегодняшний день.

Comments

[Dave]

Задавал недавно похожий вопрос: Данные постоянно растут. Как быть?

[Night]

Для начала расскажите, какие текущие проблемы есть у Вашего решения?
Что происходит? Куда упираетесь? В каком месте задержки/лаги?
Есть ли какая-то система метрики аппки в целом?

Давать совет просто "как ускорить работу чата на сокетах" особо смысла не имеет.

[EVOSandru6]

Night: Благодарю, меня более интересует часть не про сокеты, а про серверную часть на Yii2. Интересует относительная конфигураци сервера, который выдержит до 5000 запросов одновременно условно. Пока определенной проблемы с производительностью нет, т.к. нет столько пользователей. Но если будет, нужно чтобы система работала более-менее стабильно.

Не очень понял по поводу *Есть ли какая-то система метрики аппки в целом? * - имеется ввиду нагрузочное тестирование? Если подскажите сервис, который делает такие вещи, буду очень благодарен!

[Night]

Метрика - имел ввиду система анализа работы приложения, типа pinba.

Нагрузочное тестирование можно сделать тут loader.io

Относительно 5к rps - если это сайт, который очень хорошо написан, в плане оптимизации, то думаю справится 3-5 нод средней конфигурации. На одном компе - маловероятно, если это, конечно, не hello world :)

Но, реальность такова, что сейчас даже для 200 rps порой ставят 7-8 нод...

[Night]

Тут много полезной инфа
Ruhigload.com

[EVOSandru6]

Night: Благодарю!

[EVOSandru6]

Night: Просветлите пожалуйста - что значит - 3-5 нод ?

[Night]

EVOSandru6: 3-5 серверов, которые будут параллельно обслуживать запросы посетителей.

[EVOSandru6]

Night: Благодарю. Подразумевается зеркалирование серверов с редиректом на Сервер Б с сервера А по определенной логике?

[Night]

Нет, почитайте про балансировку нагрузки (nginx + fpm).
Поднимается приложение сразу на нескольких серверах, и обслуживают запросы пользователей одновременно.
Естественно, БД, кэш, сессии, контент - все хранятся на отдельном компьютере.

[EVOSandru6]

Night: Огромное спасибо за советы. Двигаюсь в указанном направлении.

Answer 1

[mitaichik]

Во первых - забудь про Apache. Юзай nginx.
Во вторых - крайне советую проштудировать ruhighload.com, начать можно с https://ruhighload.com/post/%D0%90%D1%80%D1%85%D0%...

В третьих - цифры не говорящие. Важнее кол-во запросов одновременно (ибо 5000 юзеров * 2 запроса в час на каждого - это фигня) и время генерации ответа - вот это важно.

Если реально одновременно 5000 одновременных запросов - на одном сервере с php ты ну прям точно не вытянешь, нужно думать о нескольких бэкендах с балансом нагрузки. Лично я бы при таком варике о php вообще не думал.

А вообще - я бы начал писать как есть а уже в процессе занялся оптимизацеий - все заказчики мнят что у них одновременно в одночасье будет по 5000 юзеров одноврмененно, но жизнь жестока, пусть сначала хотя бы соточку наберут.

Comments

[EVOSandru6]

Благодарю за развернутый ответ,

Подскажите пожалуйста - будет ли Python или JavaEE адекватной альтернативой php при такой нагрузке? Или есть другая более подходящая альтернатива?

Подскажите пожалуйста - в какую сторону гуглить по поводу * нескольких бэкендах с балансом нагрузки*

Answer 2

[Илья Белобородов]

Посещаемость онлайн чата от 300

Чат на ajax?

Comments

[Павел Корнилов]

Я, конечно, ответа на вопрос толкового не знаю, но очевидно же, если используются сокеты, то какой может быть Ajax?

[Илья Белобородов]

KorniloFF: ну вы же не написали, что используются сокеты)) просто некоторые пилят на ajax, от этого и страдают

[EVOSandru6]

Чат на socket.io, интересует - как разнести серверную часть по разным серверам (файлы, бд и т.д.) Если я правильно понимаю, то простой вынос отдельных сервисов на сторонние сервера толку не даст, ибо пользователи будут одновременно тромбить и текукщий сервер и серера, где находятся доп. сервисы.

[Павел Корнилов]

Илья Белобородов:
Зато ТС написал:

Часть для нее , где необходимы сокеты на NodeJs и Socket.io

[Павел Корнилов]

EVOSandru6:
Увы, тут помочь не могу, не моя епархия. Просто постарался направить отвечающего в нужном направлении мысли =)

[EVOSandru6]

KorniloFF: Благодарю

Answer 3

[emp1re]

cluster если сервер не слабый, легко реализовать.
ну и скалирование, тут уже посложней.

Comments

[EVOSandru6]

Благодарю,

Подскажите - какая рекомендуемая конфигурация сервера должна быть для моего случая. Кластер в данном контексте делается на уровне кода, веб сервера или чего-то еще? В какую сторону гуглить?

[emp1re]

EVOSandru6: cluster это модуль nodejs, с вас только количество ядер на процесоре.
docs

Answer 4

[Виктор]

Для чата 300 человек это нагрузка совсем не большая. Из оптимизаций могу посоветовать статью https://habrahabr.ru/company/comet-server/blog/250719/ с помощью этого приёма можно устанавливать одно вебсокет соединение не на каждую открытую вкладку браузера, а сразу на все вкладки одно общее соединение. Соответственно если человек откроет чат на 5 вкладках в одном браузере то такое решение даст пятикратную экономию ресурсов вашего комет сервера.

Вот так я это реализовал в своём проекте кометсервера на C++ https://github.com/CppComet/comet-server/blob/mast...

Answer 5

[Максим Тимофеев]

Оптимизация имеет предел и рано или поздно Вы все таки увеличите серверные мощности. Я так понимаю Вы уже многое сделали для оптимизации. Поэтому Ваш вопрос, скорее "хотелось бы поиграться еще с чем-то". В реальном мире, я думаю Ваша проблема решается более мощным сервером, так как это будет проще и дешевле. Хотя "экономия копеек" не имеет предела и очень затягивает и для саморазвития занятие очень полезное, но практично ли это с точки зрения проекта? Не думаю.
Касательно самого вопроса - делаю жирный лайк mitaichik.

Comments

[EVOSandru6]

Благодарю за ответ!