Лучше всего создавать сертификат через ADSC для вашей фермы RDS, если его нет - попробуйте файл сертификата переместить из корня диска C:\ в какую нибудь папку, например c:\certs\
Его у нас нет. Пробовал из совершенно разных папок подсовывать. Всегда ошибка. В итоге решил обновив сертификат через IIS.
Похоже диагноз - Microsoft. Год назад все штатно прекрасно работало.