Всё же просто. Exchange хочет Windows домен.
У вас заваливается на проверке ОС.
https://lists.samba.org/archive/samba/2018-Decembe...
Ещё ругается на уровень леса. Опять же Exchange 2013 и 2003 уровень леса - маловато. Надо покурить, как самба может эти данные поменять (судя по ссылке выше, будут проблемы при установке CU, а дырки там были большие).
Лично мне непонятно желание поставить самбу в роли AD. Ну или если ставите самбу, ищите другой почтовый сервер (Mdaemon - просто, на виндах, можно накрутить автодискавер и activesync, iRedMail - Linux и фришненько, Axigen - умеет MAPI как Exchange, но стоит денег).
Есть 3 вещи, которые M$ сделала хорошо, это и пользуйте: