Читайте Iptables и обязательно ipset.
Как пример:
проверить что модуль Ipset есть
modprobe ipt_set
если нет , то установить apt-get install ipset
Создаем
ipset -N accips iphash
Первое это название списка , второе тип списка. Тип можно посмотреть в man
Добавить нужные ip
ipset -A aссips 8.8.8.8
создать правило
iptables -A INPUT -m set --set accips src -j ACCEPT
-m set - использовать модуль ipset
--set accips список ip
src сверять только источник
После того как указали все нужные Ip, запретить доступ
iptables -P INPUT DROP
Почему используется ipset ? Что бы не городить очень много правил в iptables на каждый ip и сэкономить ресурсы.
как вариант почитать
linuxru.org/linux/324
P.S. Помимо всего этого, надо сделать базовую настройку firewall. Например не блокировать icmp, отбрасывать неправильные пакеты (invalid) итд.