Если я правильно понял, вы пытаетесь подключиться по SSH к удаленному серверу из Windows Powershell с установленным OpenSSH клиентом, если это так, для указания порта, к которому вам нужно подключаться (в случае, если на удаленном хосте порт был изменен со стандартного 22 на любой другой, например 2222) нужно использовать ключ -p и номер порта установленного на удаленном хосте, пример: ssh username@host -p 2222