Как минимум, у вас некорректно настроен hostname, поэтому сервер не принимает ваше сообщение.
Проще всего будет поставить
PHPMailer и отправлять письма через smtp того же рамблера.
Если же вы хотите все-таки свой почтовый сервер, то нужно прописать hostname, а также настроить PTR и SPF записи. Вот вам ссылки в помощь:
https://www.linode.com/docs/getting-started#settin...
geektimes.ru/post/59417
habrahabr.ru/post/101628
После этого можете проверить отправку почты с помощью сервиса
mail-tester.com, отправив письмо из консоли:
echo "This is a test." | mail -s Testing someone@somedomain.com