От сюда вопрос - нужно ли их менять на аналог в настройках купленного DNS сервера или нужно оставить такие какие есть, или нужно просто к ним добавить еще и те, которые прописаны у DNS?
В настройках DNS регистратора необходимо и достаточно прописать NS-запись, которая будет указывать на IP-адрес арендованного Вами DNS-сервера.
Зачем они там вообще прописаны?
У каждой зоны есть сервер который за неё отвечает. Скорее всего, регистратор предоставляет бесплатную возможность управлять DNS-записями Вашего домена посредством своих серверов, которые он собственно и прописал в NS. Пока Вы не измените у регистратора NS-записи на свой сервер, Ваших настроек никто не увидит.
Я мог типа не покупать отдельный DNS сервер и ничего не прописывать, если там уже прописаны NS записи доменного регистратора?
Скорее да чем нет. Лично я ещё не встречал регистраторов, которые непредоставляли возможность управлять записями купленного домена бесплатно.
Значит ли это, что домен привязан к какому-то DNS регистратора? Думается, что нет, так как там, как минимум должны были бы быть настройки у регистратора всех записей DNS сервера, и привязка к ip адресу, но зачем все таки там NS прописаны у домена и прописывать ли туда NS от купленного DNS сервера?
Что Вы имеете ввиду? Регистратор сообщил корневым серверам о том что он зарегистрировал домен (во многих случаях можно посмотреть используя сервис whois) и предоставил туда ряд административных записей типа SOA, NS... Соответственно, все будут обращаться к тому серверу, который указан в NS-записи регистратора.
Еще дополнительно вопрос, на некоторых сайтах читал, что можно в качестве NS записей указывать адреса google или яндекс в виде ip, так ли это?
Если я правильно Вас понял, речь идёт о публичных DNS-серверах, типа гугловского 8.8.8.8, этот адрес можно указывать на клиентском компьютере как адрес DNS-сервера, с которого клиентский комп будет брать данные для резолва DNS имён. Но это уже другая история.
А вообще, раз уж Вы "Backend software engineer", прочтите любую вводную статью по принципам работы DNS. Всю эту систему описать в рамках одного ответа затруднительно.