Сейчас существует TCP-сервер на С++, который общается с клиентами. Все данные хранятся в памяти, а несколько потоков выполняются фоновые вычисления на основе данных в памяти.
Стало не хватать мощности CPU. Какие есть способы вынести фоновые вычисления на другую машину или машины без переписывания сервера?
Реляционные базы данных выкинули довольно давно, о noSQL долго спорили, ничего не решили.
Совсем без переписывания сервера скорее всего не обойдетесь, как минимум вам придется выделить задачи, которые следует разнести на другие CPU. Смотрите в сторону MPI (Message Passing Interface). В свое время использовал его реализацию MPICH, но вполне подойдут и другие реализации.
