В чём причина такого поведения?
Здесь не точно, но вроде как днс клиент выбирает "случайным" образом один из указанных серверов. Типо Round-robin - но только на клиенте. Если хост не доступен, он переходит к следующему.
Разве не найдя адрес на первом сервере система не должна обращаться к альтернативному?
Неа, если сервер ответил, что такого хоста нету, то смысла искать дальше нету. Все это идет из правил проектирования сетей. А проблемы идут от тех, кто не удосужился с ними ознакомиться.
Можно ли поменять это поведение не меняя их местами?
Написать свой днс клиент, заложить в него нужную вам логику. Либо изначально сделать все правильно.