Предложу немного хардкорное решение. На каждом компе установить Wireguard, на роутере пробросить порты к wireguard каждого компа. В отличии от обычных VPN, wireguard может одну сеть подключать к нескольким точкам и является p2p-протоколом(кто "белый" адрес знает, тот и клиент и никакого dhcp). Но хоть он и относительно прост, но работу с ним придётся изучать.
В результате можно будет шарится по директориям компов встроенными средствами винды, почти как в локалке. Подключатся по RDP и т.д. И не придется ничего делать с кривым роутером ведь для него это просто UDP.
Минус в том, что широковещательный трафик не проходит и нельзя будет увидеть компы через обозреватель компьютеров винды. И больше телодвижений, чем если бы роутер умел быть vpn-роутером. Пример конфига на вашем компе
[Interface]
PrivateKey = IPqn1...секрет-0...acmc=
ListenPort = 4049
Address = 10.17.4.1/24
[Peer]
PublicKey = публичный ключ первого компа
AllowedIPs = 10.17.4.0/24 # правило брандмауэра, обязательно
Endpoint = myhost.ddns.example.net:4050 #public ip
[Peer]
PublicKey = публичный ключ второго компа
AllowedIPs = 10.17.4.0/24 # правило брандмауэра, обязательно
Endpoint = myhost.ddns.example.net:4051 #public ip
Пример конфига одного из компов
[Interface]
PrivateKey = IPqn1...секрет-1...acmc=
ListenPort = 4050
Address = 10.17.4.2/24
[Peer]
PublicKey = публичный ключ вашего компа
AllowedIPs = 10.17.4.0/24 # правило брандмауэра, обязательно
#Endpoint = необязателен