Рекомендую в качестве базовой защиты сервера использовать
csf.
Просто устанавливается и настраивается (есть встроенный веб-интерфейс и модуль для webmin), мониторит как сетевые вещи (сканы портов, например), так и всевозможные логи (в том числе перекрывает весь функционал fail2ban) на предмет брутфорса подобных вещей.
От DDoS'а надо защищаться по ситуации, т.к. он бывает разный. Автоматической защиты не существует. Точнее есть что-то похожее на это, но за большие деньги (например решения Radware DefensePro, Arbor Pravail/PeakFlow и другие подобные) и все равно требует постоянного наблюдения и подстройки для сохранения эффективности. Ну или подключиться к сервису, типа Qrator/Kaspersky/Akamai/Cloudflare/etc. (на платных тарифах cloudflare есть опции защиты от ddos, а также сервис WAF).
Но раз такой вопрос вообще возник, то настоятельно рекомендую нанять профессионала, который будет эти вещи для вас делать/подстраивать/обслуживать.