Вау, какой интересный вопрос... И по моей части :)
OpenConnect мне не понравился. Какое-то топорное наколеночное поделие, для которого сам чуть ли не скрипты пиши - очень напомнило мне енота (racoon), в котором все тоже вроде как работало, только все это нужно было самому обвязать туевой хучей скриптов.
Здесь сразу возникает вопрос - где CA? Используется стандартный виндовый CA или ручной? Стандартный виндовый CA практически бесполезен для софта, который не от M$ - он тупо не умеет с ним работать - и даже для того, чтобы завести их в почте MS Outlook приходится бить в огромный бубен.
Затем второй вопрос - что в Вашем понимании "с помощью сертификатов"? Это просто сертификат сервера и сертификат удаленного узла или скажем сертификат пользователя и сертификат сервера? Больше информации нужно - кто должен цепляться к AD, какие сертификаты имеются в виду, откуда они берутся etc.
Задачка непростая и вполне возможно в текущей постановке не решаемая.