Виндовый сервер с dns-ом наружу изначально плохая идея. Если маршрутизатор позволяет можно настроить на нём файрвол таким правилом, если, количество пакетов в сек с адреса Х больше чем N пакетов, в дроп лист на неделю. А если это реальный ddos канала, тут вам только роутер дёргать меняя динамический ip.