Непонятен вопрос. Шифрованием-дешифрованием занимаются протокольные слои SSL/TLS. Их не кодят на Java. Их просто конфигурируют на предмет ключей и сертификатов. Может быть у автора не шифрование а кодирование (Binhex, Base64) или просто кривая кодовая страница кириллицы. Но про это надо писать. Мы же не можем угадать о чем речь.
А в чем собственно проблема то? Вот на спринге и клиент и сервер. https://www.baeldung.com/java-websockets
Стандартный servlet api тоже поддерживает, как и современные сервлет-контейнеры, что tomcat, что jetty.