Если у кого такая же проблема, мне помогло в mobaxterm, левее терминала есть панель с папками 3x-ui, нужно удалить папки вашего домена в папке cert и по пути .acme.sh там будет папка с именем вашего домена и _ecc в конце, ее тоже удаляем. Заново пробуем установить сертификат, если успешно у вас спросят "Would you like to modify --reloadcmd for ACME? (y/n): " соглашаемся и дальше выбираем 1. Preset: systemctl reload nginx ; x-ui restart и x-ui выдаст вам URL с https для входа как в видеоролике на ютабе.