Такая же проблема была. В логах:
09[IKE] initiating EAP_IDENTITY method (id 0x00)
09[IKE] authentication of 'srv_crts.violonix.loc' (myself) with RSA signature successful
09[ENC] generating IKE_AUTH response 1 [ IDr CERT AUTH EAP/REQ/ID ]
09[IKE] sending end entity cert "C=US, O=VIOLONIX ltd., CN=srv_crts"
09[ENC] splitting IKE message (2000 bytes) into 2 fragments
09[ENC] generating IKE_AUTH response 1 [ EF(1/2) ]
09[ENC] generating IKE_AUTH response 1 [ EF(2/2) ]
09[NET] sending packet: from 192.168.10.138[500] to 192.168.1.30[500] (1252 bytes)
09[NET] sending packet: from 192.168.10.138[500] to 192.168.1.30[500] (820 bytes)
03[JOB] deleting half open IKE_SA with 192.168.1.30 after timeout
Проблема в сертификате для Windows, он должен быть в формате .p12 с ключом, установлен в папку корневые доверенные
Пример для OpenWrt 23+ с сертификатами сгенерированными strongswan-gencerts:
#openssl pkcs12 -export -inkey ./private/srv_crts.key -in ./x509/srv_crts.crt -name "client" -certfile ./x509ca/violonix.crt -caname "Server VPN Root CA" -out serverCert.p12