WSS - WS + SSL. То есть вам необходимо использовать https сервер, вместо http.
Пример такого сервера:
const fs = require('fs');
const https = require('https');
const WebSocket = require('ws');
const server = https.createServer({
cert: fs.readFileSync('./cert.pem'),
key: fs.readFileSync('./key.key')
}, (req, res) => {
console.log("Request");
res.end("Nice");
});
const wss = new WebSocket.Server({ server });
wss.on('connection', (ws) => {
ws.on('message', (msg) => {
console.log(msg);
ws.send(`msg: ${msg}`);
});
console.log("connected");
ws.send('connected');
});
server.listen(443);
Также, раз вы используете HTTPS, то вам нужен SSL сертификат, для тестовых целей его можно самому создать(легко гуглится). Если вы это собираетесь куда-то ставить, то необходим подписанный сертификат.