Если хотите именно свой свервер рассылки то возьмите
https://sendy.co/
Он так же умеет рассылать писме через Amazon SES (сервис рассылки писем от Amazon), используя его вы снимите с себя часть головняков по доставляемости писем, банам и т.п. вещам, особенно если вы ещё не в теме на 100%.
1. Минимальные характеристики для сервера рассылающего 10к писем в день - почти любые, даже 1 CPU и 1Gb памяти хватит, но просто может быть будет не так комфортно работать в админке.
2. sendy.co - удобно, расширяемо, есть статистики
3. Это вам надо почитать о том как вообще почта ходит. Есть MX запись в домене, есть NS запись в домене, есть другие ... домен может быть как угодно сконфигурирован, но прием писем идёт теми серверами, что в MX записях указаны, а отправка писем возможна с с сервров которые в SPF DKIM прописаны.