Обычно используют пул потоков фисированного размера (или с ограничением на макс кол-во)
Можно масштабировать горизонтально, но обычно сначала вводят кеширование на разных уровнях приложения. Можно разделять данные на горячие/холодные и хранить первые целиком в оперативке. Все зависит от объемов данных и вариативности запросов к ним
Ответ написан
Комментировать
Комментировать
Оценили как «Нравится»
Войдите на сайт
Чтобы задать вопрос и получить на него квалифицированный ответ.