Доброго времени суток!Ошибка 789 -это "Выбран неверный тип VPN соединения".Если Вы по статье настраиваете,то на последнем скриншоте видна проблема.Там должно быть выбрано L2TP + IpSec(самое стойкое шифрование)."Пробовал в реестр прописать prohibitipsec" <- так делать не нужно(шифрование просто можно отключить).
такая ошибка у меня решилась правкой MTU на сервере(Synology DSM)
Еще бы я советовал посмотреть настройки MTU(на сервере и клиенте).
Также если микротик подключен через модем,то на модеме нужно настроить форфард портов 1701,500,4500 на адрес микротика,в DMZ его помещать необязательно(делая так Вы открываете для всего Интернета).