Nomadic

Если достаточно знаний то эту конфигурацию легко настроить руками на любом стабильном дистрибутиве Linux (Debian, CentOS, SUSE, Ubuntu LTS).
Ставишь samba для сетевых папок и vsftpd для фтп.
На Linux есть несколько технологий кеширования данных на SSD — bcache, EnhanceIO, dm-cache и т.п. Но надо ядро посвежее...

Если надо использовать именно только iptables то:

iptables -A INPUT -p tcp --dport 80 -m string --string "xxx.com/admin/" --algo kmp -j DROP

Но метод мягко говоря не оптимален так как очень сильно нагружает процессор разбором всех приходящих TCP пакетов, кроме того пакет то дропается, но сессия к серверу будет продолжать висеть

Не проще ли использовать .htaccess?