iptables -t mangle -A POSTROUTING -s 111.0.0.0/8 -p tcp --dport 25 -m state --state NEW -m recent --name SMTP --update --seconds 30 --hitcount 1 -j LOG --log-prefix "Recent30sec1: "
По выводу с /var/log/message ничего.
Проверяю: создаю screen telnet smtp.yandex.ru много раз.
Цель при превышении например в минуту 201 подключений по 25 порту с такой-то сети отправлять в дроп, пока этих подключений не станет 200
А вообще, такое сложное правило надо по частям отладивать. Сначала добиться, чтобы по одному критерию в лог всё падало (-s xxx -p nn), потом добавить второй и т. д. Сразу будет понятно, где затык.