Для начала советую разобраться с самим принципом работы iptables (2 главу можно пропустить, 1 - по диагонали)
https://www.opennet.ru/docs/RUS/iptables/
Далее можно придерживаться политики:
блокировать все из неконтролируемой зоны (кроме tcp порта 80, 443), из контролируемой зоны (локальная сеть) разрешить все.
+ как писали выше, дополнить все fail2ban