Это называется split-dns. Насколько я знаю, до win 2012 r2 включительно винда так не умела. Возможно в 2016 что-то придумали на этот счёт.
Варианты решения: или ставить Bind или разносить dns сервера которые отвечают на внешние запросы и которые отвечают на внутренние.