можно ли на этом VPS поднять веб сервер с GIT чтобы писать веб приложения
Да.
Не будет ли это мешать OpenVPN
Нет.
как сделать чтобы писать на локальном компе через netbeans а смотреть в браузере с VPS?
В NetBeans есть синхронизация по SFTP. Настраивается в таком случае так чтобы по сохранению файла он автоматически заливался на сервер.
С какими камнями придется столкнуться в данном случае.
С точки зрения поднятия конфигурации - никаких особо подводных камней. А вот с точки зрения пригодности этого для разработки - не очень удобно будет. Лучше локальная виртуалка (проще) или Docker (сложнее).
Проблемы будут, например, с настройкой XDebug (не невыполнимо, но менее удобно и нужно поднимать прокси.
И другие мелочи.