По мотивам комментариев:
1) сначала откройте nslookup и проверьте, в какой айпишник СЕЙЧАС резолвится ваш домен, тот который вам нужен. Если он резолвится в IP, который к вашему не имеет отношения, то скорее всего это парковочный сервер, который и редиректит на сайт хостера
2) вы уж определитесь, есть у вас белый IP или нет. То что вы подключаетесь по ssh вовсе не значит, что IP у вас белый, вам скорее всего просто проброс порта настроили, раз вы указываете нестандартный порт для подключения (2006, стандартный - 22). Вероятно, вы сняли сервер по дешевому тарифу, который не включает в себя выдачу белого IP. Направить A-запись на общий IP конечно можно, и может быть даже нужно, но это зависит от конфигурации сети вашего хостера. Теоретически он может пускать траф через прокси, который затем стучится на ваш сервер.
3) вообще обычно в таких случаях выдают белый IP, и человек делает с ним что хочет, привязывает dns и подключается по стандартным портам. если внешнего адреса у вас нет, разбирайтесь с хостером, какие конкретно возможности он предоставляет и как у него можно захостить сервисы на такой VPS. Киньте ссылку что-ли на тариф, который выбрали.
P.S. И да, причем тут sudo hostname мне тоже непонятно, запись в файле hostname к конфигурации dns никакого прямого отношения не имеет.
