Хотите динамические апстримы - покупайте NGINX Plus. https://docs.nginx.com/nginx/admin-guide/load-bala...
В опенсурсном только правка конфига с перезапуском. Либо колхозинг с доменными именами апстримов с ротацией на уровне DNS сервера
ретрансмиты появляются при потерях. Потери возникают либо из-за проблем с портом/кабелем/софтом, либо из-за перегрузки порта. Если нигде порт не перегружен при этом - смотрите у одних хостов ретрансмиты или разных, оттуда и копайте в сторону поиска причины. Не исключено что просто какой-то софт немного неадекватно работает