Телеграм плохо переваривает сертификаты, особенно самоподписанные. Можете попробовать скормить сертификат, передав файл в параметре при установке вебхука. Если это не поможет, то проверьте ваш сертификат через openssl. Возвращенный код должен быть 0, если сертификат прошел проверку
Пример командыopenssl s_client -connect my-host:duckdns.org:8443