При подключении к серверу ключ автоматически подхватывается либо по стандартному:
c:/Users/YourUserName/.ssh/id_rsa
Чаще всего, используется 1 ключ для всех администрируемых серверов. В противном случае, необходимо указать для каждого сервера свой ключ в файле c:/Users/YourUserName/.ssh/config , например
Host myserver1
HostName server1.example.com
User username1
IdentityFile c:/Users/YourUserName/.ssh/id_rsa-1
Host myserver2
HostName server2.example.com
User username2
IdentityFile c:/Users/YourUserName/.ssh/id_rsa-2
Кроме того, можно будет подключаться к этим серверам по алиасу из конфига:
ssh myserver2