Чтобы исправить ошибку, сгенерируйте при помощи puttygen.exe (входит в putty) ключ, сохраните его в надёжное место (кнопка Save private key), файл с закрытым ключом укажите в настройках putty в разделе где Павел выше указал в ответе, а публичную часть ключа, что в puttygen отображается в текстовом поле сверху, вставьте в файл ~/.ssh/authorized_keys (если файла не существует - создать его, должен быть текстовый файл без расширения, ~ означает домашнюю директорию пользователя, для которого доступ этим ключём должен быть разрешён, для рута это /root/.ssh/authorized_keys )