Есть две консольные утилиты для линукс серверов
chkrootkit, rkhunter
Еще есть clamav, который может быть полезным. Тоже консольный.
Есть утилита, которая анализирует логи сама - logwatch
Но это все доп. программы.
Можно смотреть логи ручками, например этот /var/log/auth.log
Или проверять новые пакеты в системе, файлы ежедневно по крону, и думать, а должны ли эти файлы там быть.
Для этого свой bash скрипт был бы хорошим.
Я писал свой скрипт для мониторинга под убунту, может пригодится:
linuxstar.ru/poluchenie-informacii-o-sisteme-ezhed...
https://github.com/ADMINICANA/ubuntu-server-daily-...