Как сделать доступ к RDP не по ip адресу?
Никак.
Доступ будет идти в любом случае по ip адресу.
Вы можете для удобства пользователей привязать домен к адресу, тогда пользователи могут в настройках указывать домен, а он уже автоматом будет резольвиться в ip адрес. Но в итоге подключение все равно будет по ip адресу.
На хостинге ничего не надо привязывать и хостинг к этому вообще никакого отношения не имеет.
Зайдите в панель управления доменом и создайте A запись - rdpserver.example.com 87.11.22.333