1. Насколько трудоёмко будет написать такой почтовый сервер самому?
Трудоёмко. Для соответствия современным стандартам -- как минимум, умаетесь, но есть шанс и поехать головой.
Не ст
оит того, берите что-то готовое, возможно, дорабатывайте.
2. Какие частые проблемы возникают в эксплуатации готовых решений?
Главная проблема -- ниже, в п.3.
3. Как скрепные сервисы, почтовые и не только, реагируют на самодельную почту, есть тут какие-то проблемы?
Не знаю какие сервисы вы называете
"скрепными", но основные проблемы у вас будут с сервисами из "свободных" стран, с "открытым рынком", как говорится,
образцов демократии.
Если у вас будет идеально чистый IP и вы всё настроите максимально точно, то возможно, что на адреса gmail ваши письма будут доходить даже в inbox.
На доставку пользователям майкрософта (live. / hotmail. / outlook.com) надеяться почти наверняка не стоит, скорее всего, там письма не будут попадать даже в спам.
В целом же, для того, чтобы доставка от неизвестного сервиса была стабильной, вам нужно, чтобы с вашего IP шёл
определённый поток писем (не большой и не маленький) и чтобы у этих писем был очень низкий процент пометок как спам -- ориентируйтесь на 0.5-0.6%.
Это максимально грубо, в условиях "невидимой руки" свободного рынка поддержание deliverability -- это целая наука, заморочек не меньше, чем с настройкой и техническими задачами.
4. Нужно ли регистрировать домен для своей почты?
Разумеется. Ещё и IP-адрес, и хостер/тариф, который позволяет выставить на нём необходимые настройки.
Также учтите, что не все домены верхнего уровня "одинаково белые". Есть "TLD niggers", письма с которых по умолчанию будут пессимизироваться.