unseriously

Большой популярностью пользуется VS Code. Есть еще Atom с кучей всяких плагинов, ну и Subiime.

OpenVPN именно то что нужно. На VPS поднимаете openvpn-сервер, на винде openvpn-клиент и ходите себе по туннелю на ваш впс или даже вообще в глобальный тырнетик.

Обычно, если покупаешь какой-нибуль VPS, то на нем уже установлен пакет необходимых программ, всякие nginx, php, mysql. Если у вас не так, то наверняка в сети можно найти готовые скрипты, нужно лишь немного погуглить. Но здесь же возникает много нюансов: какая ОС у вашего сервера, какой набор программ вам нужен, да и собственно какие еще настройки вы хотите сделать. Если же использовать упомянутый ansible, то например вот здесь есть куча готовых решений на все случаи жизни,
апач+остальное: https://galaxy.ansible.com/fvarovillodres/lamp
nginx: https://galaxy.ansible.com/larixsource/lemp