Я бы порекомендовал вам iRedMail - скрипт, который поставит и настроит почтовый сервер на любом популярном дистрибутиве, да ещё и панельку с управлением доменами и пользователями поставит. Roundcube тоже автоматически ставится. Уже почти год на собственном сервере использую, всё отлично работает за исключением того что периодически оказываются битыми *.index файлы в папке с почтой, это файлы Dovecot, они используются для ускорения работы, я их просто по крону удаляю раз в час, работает всё отлично и без глюков. Есть веб-интерфейс, антиспам, настольные и мобильные почтовые клиенты работают без проблем, есть почтовые фильтры на серверной стороне. В целом - доволен, до этого использовал почту для домена Яндекса.
После установки рабочей системы можете настраивать её, но у вас хотя бы будет всё работать изначально как точка отсчёта.