1) Опечатка ли
voip | viop.subdomain.domain.ru | ask.subdomain.domain.ru
2) Недоменному компьютеру (или члену другого домена) нужно указывать полное имя сайта (сервера) с суффиксом, иначе он будет его искать в своей доменной зоне.
3) Клиент не получает данных от DNS из-за настроек firewall на сервере. Т.к. DNS находится на контролллере домена, вероятно к нему сейчас разрешён доступ только от клиентов сети домена. Выход: разрешить доступ к сервису или к порту из общедоступных и частных сетей .