Почти с любой программой, включая Photoshop,
можно работать по RDP.
Процесс работы с ним будет не таким отзывчивым, как на локальном компьютере, но работать это будет. Вы будете испытывать задержки в прорисовке картинки ~пропорционально сетевой задержке (latency) до хоста.
Профессиональные хостинги обычно используют только серверные ОС.
Поиск хостинга принципиально с домашней версией ОС может занять время, но они существуют. Обычно это чьи-то частные небольшие площадки, иногда называемые "школохостингами".
Ещё есть "Desktop as a Service". Её предоставляют не многие, но это виртуальный десктоп с десктопной версией ОС, иногда работающий не только по PCoIP/HDX, но и по RDP.
Photoshop будет работать и на десктопной версии, и на серверной ОС. В этом разницы нет.
Для акселерации, Photoshop старается использовать GPU. Если у сервера слабая видеокарта (напр.: Intel HD Graphics), то вся нагрузка будет ложиться на процессор. На хостинге со слабым CPU Photoshop может лагать.
Знаю вариант покупки выделенного сервера, но есть ли там услуги установки операционной системы собственноручно?
Не всегда. Часто это просто выбор среди заготовленных дистрибутивов для развёртки.
Вы не обязаны активировать лицензию на сервере, она будет работать в триальном режиме в районе 180 дней. После этого можно будет запросить переразвернуть сервер повторно, предварительно сохранив данные куда-нибудь к себе.