Если я правильно понял, то это заменяет front-end магазина, делая его более управляемым и быстрым, оставляя back-end (управление заказами, товарами и пр.)

Это отдельный Front, работающий с Magento по API

Кто в теме, напишите что это такое и зачем нужно?

Высокая скорость работы сайта, очень высокая. За счёт технологии PWA

Какие недостатки, нюансы?

В данный момент лишь начало разработки проекта, сырой. Многое надо будет реализовывать самостоятельно.

Есть ли смысл нанять программиста чтоб установить и настроить Vue Storefront вместо перехода на другой движок?

В перспективе на будущее с вложениями в разработку — да, если магазин приносит доход, который перекрывает с лихвой затраты на разработку.
Если же требуется просто e-commerce решение то лучше с 1.9 переехать на 2.x

Все-таки по функционалу Shopify отстаёт, а версия Magento 2.3 еще сыровата.

Версия 2.2 вполне стабильна на сегодняшний день. в 2.3 появился PageBuilder, но это лишь рюшечки на общем фоне.

В текущем магазине меня не устраивает скорость загрузки страниц и куча ошибок в файлах темы, накопившиеся при различных доработках, не очень профессиональными программистами.

Текущий магазин не имеет отношения к скорости загрузки и программистам. Такие проблемы Вы можете получить при пользовании совершенно любым ПО сделав те же ошибки.
Эти проблем решаются кешированием и наймом соответствующих специалистов, которые хорошо разбираются в системе и придерживаются рекомендаций по разработке от Magento.