пока не ясно как грамотно сделать балансировку нагрузки между множеством серверов
У вас сколько коннектов-то? До 100к примерно можно смело говнокодить на чем угодно из списка. До 300к можно говнокодить на Эрланге. Все это спокойно будет работать на одной машине.
Вот старая уже публикация про 1м на машине с 128Гб/40 cores на Phoenix:
phoenixframework.org/blog/the-road-to-2-million-we...
Это с учетом оверхеда на Phoenix еще. Уберите его, пишите на чистом Эликсире, и будет еще полегче.