Прикрыться CDN вроде Cloudflare и настроить в качестве origin servers все внешние IP-адреса. Ну или просто на уровне DNS А-записей домена разбалансировать.
Имхо, в вашем случае как раз балансировка на уровне DNS - то что надо. Если, конечно, у вас не полтора клиента и ситуация "на одном сервере двое, на втором никого - и это проблема".