Любой. Ну выжмете вы 50-150 мб озу. а потом придёт браузер и выжрет 850.
самое прожорливое не ОС, а современные сайты.
linux тут не спасёт.
если надо экономить озу, то ищите нетребовательные сайты, а не дистрибутив.

чтобы на флешку ставить, не нужно iso,
просто копируйте файлы ФС на флешку и прописывайте загрузчик

сначала chmod +x script_name
потом
./sciptname

вообще на linux самый простой предсказуемый, надёжный и понятный в плане отладки это OpenVPN.

проверьте, воспроизводится ли проблема в других ОС, отличных от винды.
linux, андроид на телефоне...
в настройках сетевой карты отключите QoS
убедитесь, что на роутере, свичах - гигабитные порты, а не 100 мбит.
убедитесь, что на кабелях по 8 жил, а не по 4.