1. поставить перед сервером отдельно файрвол, либо железный по типу циски (очень дорого) либо на отдельном сервере с нормально настроенным софтом.
2. если вы говорите что вас досят с 1 айпи, то это называется дос и он не страшен, не понимаю почему не можете забанить. Очень сомневаюсь что с 1 айпи можно забить весь канал (или он у Вас через модем 56к =) )