Нужно вынести антенну от модема на крышу, новый кабель тянуть не вариант
Антенну вообще нельзя выносить далеко от передатчика, потери в кабеле огромные.
Поэтому выносите модем.
Покупайте модем в уличном исполнении, либо защитный бокс для модема. Данные по витой паре к модему, питание тоже по ней.
Нечто типа: некое устройство с sma разъёмом <-> lan <-> некое устройство с sma разъёмом <-> антенна
Такие устройства есть, называются они -
модем.
МОДулято-
ДЕМодулятор, они как раз и служат для преобразование аналогового сигнала в цифровой и обратно.