Как использовать максимум процессора для выполнения многопоточной задачи?

Question

[Олег Михайлов]

Есть сервис, который сейчас работает параллельно с ~2000 клиентов и соответственно потоки на них.
Раньше это реализовано было через:

@Configuration
@EnableAsync
public class AsyncConfig  implements AsyncConfigurer {

  @Bean(name = "threadPoolTaskExecutor")
  public Executor threadPoolTaskExecutor() {
    ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
    executor.setCorePoolSize(Runtime.getRuntime().availableProcessors());
    executor.initialize();
    return executor;
  }

И в контроллере метод помечен @Async("threadPoolTaskExecutor")

Но в тестовом режиме, загружая систему примерно на 100 000 запросов с 2000 потоков (через tomact: ab -n 1000000 -c 3000 ") проц всё ещё остаётся загружен всего на 36%.

Как увеличить использование процессора и ускорить выполнение таким образом?

Answer 1

[Александр]

Простой ресурсов сам по себе - не проблема, а счастье. Проблемой является простой ресурсов при заметной деградации сервиса.

Но в тестовом режиме, загружая систему примерно на 100 000 запросов с 2000 потоков (через tomact: ab -n 1000000 -c 3000 ") проц всё ещё остаётся загружен всего на 36%.

Ответ приходит за какое время? Сколько времени выполняется 1 запрос при нулевой загрузке? При каком количестве запросов происходит деградация сервиса?
увеличить использование процессора и ускорить выполнение не обязательно ходят вместе. Процессор может простаивать по причине ожидания ввода-вывода, но так же и потому, что он легко справляется с текущей нагрузкой.
В любом случае, спрашивать надо не на тостере, а у профилировщика: куда уходит время цпу, в каких ситуациях появляется простой цпу, какое соотношение простоя к полезной работе. Если сервис долго ждет ввод-вывод - нужно ускорять именно ввод-вывод, а не стараться нагрузить процессор.

Comments

[Олег Михайлов]

При той нагрузке у сервера производительность:

Connection Times (ms)
min mean[+/-sd] median max
Connect: 0 58 173.2 29 3072
Processing: 0 39 19.7 37 902
Waiting: 0 29 18.9 27 897
Total: 6 96 175.1 69 3125

Percentage of the requests served within a certain time (ms)
50% 69
66% 74
75% 78
80% 80
90% 86
95% 95
98% 1074
99% 1092
100% 3125 (longest request)

Один запрос за 2 мс прилетает

Я понял о чём ты, впринциеп, да, буду копать в другую сторону тогда

[Олег Михайлов]

А вопрос ещё, может что-то посоветуешь из литературы полезное в плане многопоточности и Java?

[Александр]

Олег Михайлов, нет, с явой я, к сожалению (или к счастью мб), не знаком.