Так как роутеры дешевые домашние, если в них какого то функционала не предусмотрено, то красиво решить не получится.
Но, скорее всего просто будет для ручного переключения делать несколько шевелений на роутере и может быть на машинах... в очень похожей ситуации я подсмотрел, какие http запросы делает роутер, когда меняешь настройки, и повторил их в curl (скопировав его из консоли разработчика браузера), и настроив пару простеньких скриптов, которые переключал настройки роутера по моему выбору на основной и резервный (параллельно запускал команду повторного получения настроек dhcp на машине, так как на роутере нельзя было изменить его автообновления на меньше часа).
Так как роутеры у тебя получается в одной локальной сети, то по уму можно было бы настроить что бы основной интернет выводил машины в сети по одному ip адресу (настройка у клиентов - шлюз по умолчанию), а резервный по второму, соответственно на машинах достаточно было бы сменить шлюз по умолчанию, что бы они выходили по нужному (сейчас у меня так в локальной сети vpn настроен)