Я обычно просто дропаю таким подключениям каждый пятый пакет и говорю что сеть перегружена, люди всегда сами одумываются и не перегружают. Социальная инженерия что тут скажешь.
Попробуйте какой нибудь из thecus на них можно поставить просто линукс.
Надо только логи отключать habrahabr.ru/blogs/DIY/120589/
может у них есть модели которые уложатся в ваш бюджет
Прикручивайте nginx, да и в целом для lampa мало 256 мегабайт оперативы, без жутких оптимизаций, да и при повышение нагрузки чуть выше нуля все равно их не хватит.
Оставьте по умолчанию все, это самые оптимальные настройки и под них сделана максимальная оптимизация в линукс рейд.
В свое время на тестах xfs на мускуле показал себя лучше чем екст3.
Фринас по моему растет ногами из monowall, а это дистрибутив роутер, так что думаю все будет работать, по крайней мере объединение каналов по lacp во фринасе работает.