телнет к 443 ничего не доказывает, это просто TCP-порт, а не рукопожатие REALITY. так что таймаут у клиентов почти наверняка из-за несовпадения параметров: publicKey/privateKey, shortId, serverName (должен быть из списка serverNames на сервере), плюс flow xtls-rprx-vision если он у тебя включён. глянь не access.log, а error.log в Xray Configs → Basics → Log — там видно на каком шаге хендшейка обрыв, а не гадание по конфигу.