Что лучше применить для мессенджера многопоточность или неблокирующий ввод/вывод?

Question

[Эрнэст Фарукшин]

Что лучше применить для мессенджера многопоточность или NIO.

Answer 1

[Сергей Горностаев]

Лучше применить ту технологию, которая больше подойдёт для решения конкретных задач в определённых условиях. А они в вашем вопросе не описаны.

Comments

[Эрнэст Фарукшин]

ну в том же мессенджере отправка сообщения не очень дорогая операция и как бы вроде можно использовать всё с NIO, но если допустим 10000 человек примерно одновременно отправят сообщения то ждать придётся относительно долго. Или как то нужно комбинировать?

[Сергей Горностаев]

Эрнэст Фарукшин, если 10 000 человек одновременно отправят сообщения, то они будут ожидать I/O одинаковое время как при использовании потоков, так и при использовании асинхронности.

[Эрнэст Фарукшин]

А то есть после того как selector.select() разблокировал поток мы потом новые потоки создаём и в этих потоках обрабатываем все запросы, да?

[Сергей Горностаев]

Эрнэст Фарукшин, я не вижу смысла использовать потоки вместе с мультиплексирвоанием, разве что ограниченный пул для неизбежно блокирующих операций. После того, как селектор разблокировался, нужно обработать все готовые сокеты и перейти к следующей итерации ожидания.

[Эрнэст Фарукшин]

Сергей Горностаев, Я не очень понимаю NIO = асинхронности? Или нет?

[Эрнэст Фарукшин]

Сергей Горностаев,
И да я не понимаю почему 10 000 человек будут ждать одинаково, если там будет что-то типа такого:
if(key.IsReadable()){
SocketChannel client = (SocketChannel) key.channel();
ByteBuffer output = (ByteBuffer) key.attachment();
//парсинг самого сообщения и кому отправлять
sendMessage(Who,message);
}
и так для всех кто отправил сообщения
в итоге то кто то всё равно ждёт дольше
Или я что то не правильно делаю, или не правильно понимаю?

[Сергей Горностаев]

Эрнэст Фарукшин,

Я не очень понимаю NIO = асинхронности? Или нет?

Вообще нет, NIO - это пакет, в который входят и синхронные средства ввода/вывода, но в контексте нашего обсуждения - да, мы говорим про мультиплексирование неблокирующихся сокетов, а это асинхронность и есть.

я не понимаю почему 10 000 человек будут ждать одинаково

Потому что ввод/вывод не мгновенный, а пропускная способность не безграничная. Если передача одного сообщения сетевой картой занимания 5 мс, то 10 000 сообщений будут отправлены за 50 секунд, независимо от того, была ли передача осуществлена асинхронным вызовом channel.write(buffer) в цикле мультиплексора или блокирующим вызовом outStream.write(buffer) в отдельном потоке.

[Эрнэст Фарукшин]

Сергей Горностаев,

Вообще нет, NIO - это пакет, в который входят и синхронные средства ввода/вывода, но в контексте нашего обсуждения - да, мы говорим про мультиплексирование неблокирующихся сокетов, а это асинхронность и есть.

То есть когда мы ставим configureBloking(false) и используем селекторы то вприципе наш код асинхронный, так?
И да то есть нам нужно создать отдельный поток только если побочные операции типа паркинга строки делаются долго?

[Сергей Горностаев]

Эрнэст Фарукшин, в целом да, только я бы привёл другой пример необходимости использовать потоки в асинхронном коде - обращение к БД. JDBC на сегодняшний день безобразно синхронное и приходится его использовать в потоках. Причём лучше не создавать поток явно, а использовать пул.

[Эрнэст Фарукшин]

Сергей Горностаев, Вприципе в данной реализации нет обращения к бд (т.к. пока пытаюсь разобраться с NIO), но в следующей реализации мне придется обращаться в бд на каждый запрос, то есть юзер отправил сообщение это нужно положить в бд, юзер входит нужно узнать правильный ли логин пароль и и.п. Получается мне везде создать отдельный поток?

[Сергей Горностаев]

Эрнэст Фарукшин, нет, я же написал, используйте пул. Или даже сразу CompletableFuture, они сильно облегчают смешивание асинхронности с многопоточностью.

[Эрнэст Фарукшин]

Сергей Горностаев, а сколько примерно можно выделить потоков в пул для эффективной работы

[Сергей Горностаев]

Эрнэст Фарукшин, универсального ответа нет, под каждую систему, сценарий эксплуатации и диапазон нагрузок приходиться подбирать свои значения. Но в большинстве случаев хватает стандартного пула, в котором потоков столько же, сколько доступно ядер процессоров.

Answer 2

[Владимир Коротенко]

Расточительно на каждый запрос создавать поток, используйте асинхронность.
Архитектура примерно такая:

1. определить биндинги к ip
2. в цикле создать слушатель на каждый ip (или привязаться к 0.0.0.0)
3. для каждого слушателя создать массив буферов ввода
4. при подключении добавить соединение в буфер
5. читать данные и что то с ними делать

Посмотрите вот этот пример, в Jave есть обертки, но суть в общем то одна
https://www.ibm.com/support/knowledgecenter/ssw_ib...

Answer 3

[xmoonlight]

Многопоточность - это не соединения, а потоки обработки каждого соединения.
NIO - это обмен данными по сети.
Применять надо и то, и то!