Мне кажется, аргументом за здесь будет являться ответ на вопрос: является ли в потенциале каждое вычисление приносящим доход, т.е. будут ли окупаться расходы на обработку каждого запроса?
Отдельный сервер с БД и несколько серверов с сайтами
Но в виду некоторых вещей мне необходимо чтобы бОльшая часть данных была централизованно в 1 месте и вариант иметь централизованную админку которая по АПИ дергает каждый сайт и управляет контентом.
Вернее вопрос в том какие методы балансировки пользовательских запросов, применяются в настолько громадных системах что бы еще не терялись данные пользователей?
Распределенные приложения и пользовательские данные или как происходит горизонтальное масштабирование?
нужно пройтись по чеклисту из основных параметров: