Olfaer

По тому что надо создавать виртуальный хост. Апач не настроен.
Жаль что Webmin лет 10 назад использовал )))

почему-то когда я захожу на на тот или иной сайт он открывает папку с сайтами

У тебя запущен Apache только с defaul хостом, поэтому любой запрос скорее всего идет /var/www/html/ и там включен просмотр папок ( папки и файлы отображаются как в проводнике).
Нужно создать виртуальный хост с именем sait.by (тут тонкость - как правильно сказать?) и корневой папкой /var/www/html/sait.by/. Повторить с mail.sait.by.

Трафик? Посмотрите хотя-бы /var/log/auth.log, туда некоторые службы складывают события авторизации, в том числе попытки взлома/подбора пароля. Может вас просто сетевые сканеры долбят, пытаются проломить, вот и трафик...

Узнать, не взломали-ли? Можно проверить бинарники установленных программ утилитой debsums на случай их модификации. Антивирусники под UNIX-like тоже существуют, можно воспользоваться.

Создать виртуальные хосты, в зависимости от дистрибутива процесс создания может различаться. Лучше все делать руками через конфиги, не рекомендую пользоваться графическими установщиками.