я тоже решал эту задачку и ответ оказался довольно интереным
во- первый я сохранил ключ в файле
второе sudo chmod 0400 ~/ssh-key
и третье, для входа использовал ssh -i ~/ssh-key -l admin XXX.XXX.XXX.XXX -p XXXXX
вопрос заключался в правах на файл с ключом