Сеть, ssh-agent для доступа по ключам, запретить ssh по паролю, ntp, firewall, в идеале selinux. Дальше уже в зависимости от потребностей. По окончании настройки, натравить nmap на сервер и посмотреть, что у вас лишнего открыто.
Учитывая, что у вас файловое хранилище, почитайте про openstack swift, seph. Может вам будет полезнее что-то из этого развернуть.