Для начала провести анализ нагрузки.
Так как варианты решения могут быть вплоть до противоположенных.
Кроме того, непонятно что у вас за система, насколько вы можете ее модифицировать с учетом работы с двумя серверами.
Навскидку один вариант, часто используют:
На основном сервере ведется оперативная деятельность. Записи данных.
А длительно выполняемые запросы, только чтение - выполняются на другом сервер.
Между серверами репликация.
Другой вариант:
Часть сущностей на одном сервере, а часть на другом.
Например, каждый четный пост вашего форума - или что там у вас - на первом.
А каждый нечетный на втором.
И т.д.