Postfix в качестве MTA, с привязкой SASL (я cyrus использую, dovecot слишком замороченный для таких целей) для отправки писем с того же самого gmail'a, но через postfix. Получение простым редиректом на ящик gmail. Хранение писем вам не нужно, бд вам не нужны.
В настройках домена базово вам нужно только прописать адрес почтовика в mx запись. Как настраивается SPF и DKIM легко гуглится - это самая простая часть.
Под винду не советую... слишком дорого выйдет в итоге - сопоставимо с использованием непосредственно GSuite.