SourceTree уже предложили, я использую его.
В качестве альтернативы можно попробовать SmartGit, кроссплатформенный.
Оба работают так же и с Mercurial.
А вообще, если не было опыта работы с Git, следует изучить хотя бы основные команды, чтобы ни один клиент не вызывал вопросов, а был просто набором кнопок и окошек.
Обновление после редактирования вопроса:
Ну это другой разговор, могут быть такие варианты:
1. Через SSH (по сути консольный Git), самый нормальный и не костыльный вариант, но тут нужен навык работы с чистым Git без графического интерфейса.
2. Ставите что-нибудь типа TeamViewer на виртуалку (если она удаленная), туда же SmartGit.
3. Можно ещё попробовать организовать [S]FTP доступ к виртуалке, а на Винде подключить этот ресурс как локальный диск и работать через один из предложенных клиентов.
Клиенты, которые могут управлять удаленным хранилищем и его файлами, мне неизвестны.