По сути вы можете воспользоваться любым сертификатом, т.к. решением акцептить данный сертификат или нет лежит на клиентском сервере. Логично предположить что клиентский (подключающийся) сервер ожидает в сертификате в SAN видеть разрешенный hostname к которому он подключается, по этому если он подключается к mail.example.com - логично было бы что бы в сертификате это имя присутствовало. Но даже если его там нет - то всё равно решение установить TLS или нет за подключаемой стороной.
Но с точки зрения здравого смысла, самоподписанный но с правильным Subject/SAN мне кажется более предпочтительным чем даже купленный, но не содержащий хостнейма почтового сервера.
Но в любом случае решать то вам.