Устанавливаешь ipset (возможно уже установлен) и добавляешь список:
sudo ipset -N BANNED_IP nethash
Добавляешь правила:
# Отбрасываем пакет если TTL 58 и IP есть в списке BANNED_IP
sudo iptables -A INPUT -m ttl --ttl-eq 58 -m set --match-set BANNED_IP src -j DROP
# Надо как-то добавлять IP отвечающие критериям в список BANNED_IP, для этого
# Добавляем кастомную цепочку RATE-LIMIT
sudo iptables -N RATE-LIMIT
# Если TTL 58 передаём пакет на обработку в цепочку RATE-LIMIT
sudo iptables -A INPUT -m ttl --ttl-eq 58 -j RATE-LIMIT
# Если количество пакетов не превышает 2 в секунду, то пропускаем
sudo iptables -A RATE-LIMIT -m limit --limit 2/second -j ACCEPT
# Когда лимит превышен добавляем в лог запись об этом событии
sudo iptables -A RATE-LIMIT -j LOG --log-prefix "LIMIT_EXCEEDED: "
# Затем добавляем IP в список BANNED_IP
sudo iptables -A RATE-LIMIT -m ttl --ttl-eq 58 -j SET --add-set BANNED_IP src
# Не обязательно, но отбрасываем пакет
sudo iptables -A RATE-LIMIT -j DROP
Посмотреть, кто попался
sudo ipset list BANNED_IP
Удалить из списка если надо
sudo ipset del BANNED_IP <Забаненый IP>
Проверить, что работает
sudo ping -i 0,1 -t 58 <IP сервера>
Посмотреть лог
tail -F /var/log/syslog | grep LIMIT_EXCEEDED
Или так
dmesg | tail | grep LIMIT_EXCEEDED
PS
Себя только не забань. Убедись, что при любом раскладе ты сможешь подключиться к серверу по IPMI или физически присутствуя рядом с ним с монитором и клавиатурой.