Что значит "только через определённый домен"?
Т.е. чтобы нельзя было подключиться, уже зная IP сервера, но не зная домена?
Сомневаюсь. В HTTP протоколе передаётся имя сервера в заголовках, в HTTPS оно передаётся сначала через SNI, потом в заголовках, а вот в ShadowSocks... они не так давно вообще выкинули анализ расширения SNI. Так что скорее всего ShadowSocks по-барабану как юзер узнал IP - через DNS или ещё как.
И главное, зачем? Что за сценарий этого требует?