microphone

Ставишь бинд 9 (кэширующим) в локалке, прописываешь в настройке сетевых параметров клиентского устройства апишник со своим ДНС сервером(биндом 9) получаешь результат.
В конфиге бинда есть параметр которым можно указать на каком сетевом интерфейсе слушать запросы, из какого диапазона апишников можно/нельзя запросы.
+ Из за NATа(со стороны интернета) сложно обращаться к вашему ДНС серверу, следовательно опасаться внешних атак....
Рецептов в интернете океан, есть разжованые матерьялы как для школьников так и для понимающих людей
ответы:
1)в телефоне не прописан ваш днс.
2)потому что не поставлен порядок преобразования апишника-имени в системе. (типа есть набор служб которые могут это делать БИНД resolv самба..........)

Примерно так должно работать.
ns1.hello.example.com. IN A 11.22.33.44
ns1.hello.example.com. IN NS hello.example.com.

1) обычно, по феншую

создают в днс сначала типа "SOА"

если у вас сервисы находятся на том же самом сервере пишут коротко и красиво примерно так:

@ IN A 11.22.33.44
@ IN MX 10 mail
www IN CNAME xyz.com.
ftp IN CNAME xyz.com.
mail IN CNAME xyz.com.

далее вам необходимо ознакомиться с типами ДНС записей как минимум "МХ" и его параметры,
(MX xyz.com 1 3600)
там есть приоритеты серверов, вам соответственно, надо ПРАВИЛЬНО выствить на какой из серваков по приоритету должны лететь месаги, на ваш сервак или на один из гугловских в случае отказа вашего
2) стоит заметить что изменения в днс происходят далеко не мгновенно.
3) зарание стоит убедиться в правильной настройке почтового сервака, дабы письма ходили в обе стороны.
4) смысл поднимать свой почтовик если можно пользоваться гугловским? + там же можно пересылать всю почту на другой ящик например как вариант.

5)

Как правильно раздать значения чтобы и гугл и свой клинет не ругались и работали друг с другом.

Что значит свой клиент? Почтовый клиент (Мозиловский зиндербёрд || аутглюк || the bat ..)? дык настройте на подключение к гугловским сервакам и пусть письма туда и ходят. например для протоколa IMAP