Могу ли я делать это с своими днс сервером?

"Запустить" домен на своём сервере можно любой, но если на него не будут ссылаться корневой серверы (например, ru, com итд), то разрешать это имя смогут только пользователи вашего сервера, а не все