Да много чего. Сначала нужно поставить iRedMail.
Потом нужно посмотреть как настраивается DNS для работы с доменом,
например тут
Обратите внимание на всевозможные PTR и прочие обратные записи домена.
В общем я бы предложил сначала поставить, а потом по задаче ковыряться.