InkOut

В Iptables внесите строку. Ограничение в 10 подключений с одного IP на 80 порт

iptables -A INPUT -p tcp --dport 80 -m connlimit --connlimit-above 10 -j REJECT

Еще вариант. Суть та же:

iptables -A INPUT -p tcp --syn --dport 80 -m recent --name radiator --set
iptables -A INPUT -p tcp --syn --dport 80 -m recent --name radiator --update --seconds 120 --hitcount 10 -j REJECT