Какие минимальные характеристики сервера?
Практически любые, пойдет самая заурядная офисная тачка
что лучше для начинающих?
что одолеешь. В мире не так уж и много SMTP-серверов - Sednmail, Postfix и Exim, не считая закрытых решений. И все советы обычно даются применительно к тому, что стоИт.
Может ли сайт быть привязан к одному сервере, а почта этого сайты быть на другом
не только может, но обычно так и делается.
Если да, то это прописывать у регистратора
Прописывать вестимо в DNS. А уж где Вы его ведете - у регистратора или на своем компе - это Ваше дело. SPF, DKIM, DMARC - это все тоже прописывается в DNS
Сразу готовьтесь попадать в черные списки SpamCop, SpamHaus, DNSBL иже с ними. Ищите вебморды, читайте их критерии - если это не сервер под разовую рассылку, то общаться с ними придется много и часто :)