К сожалению, Windows Server не умеет проверять подлинность клиента по сертфикату. Все те инструкции в интернете, как использовать сертификат - они для того, чтобы КЛИЕНТ проверил подлинность СЕРВЕРА, чтобы не подключиться к "поддельному" серверу.
Еще раз другими словами: сервер подлинность клиента проверяет только по паролю. Чтобы клиент, проверил подлинность сервера - можно использовать сертификат.