Можно использовать DNS, закрепить за одним DNS именем 10 IP адресов. Так можно получить балансировку, но надеятся придется на провайдера DNS, насколько хорошо он перемешивает адреса при ответе.
Если надо более четкая балансировка с возможностью вывода сервера из пула, то стоит развернуть свой DNS который будет делать доп запросы на backend и определять кто живой и насколько загружен.