С git можно работать на хостингах, где он уже есть, или ставить самому на VPS под клиента.
Специализированные хостинги, которые поддерживают git и заточенные под WordPress - WP Engine и SiteGround, второй дешевле, первый удобнее.
В целом отличная вещь, особенно если есть разделение труда между backend и frontend разработчиками. Для командной разработки частного проекта в таком ключе, я бы скорее рекомендовал GitLab, и отгрузку кода оттуда на git на хостинг.
