У объекта paramiko.SSHClient есть методы load_system_host_keys и load_host_keys. Первый подгружает ключи того пользователя, от имени которого запущен, второй подгружает указанный ключ. Если ключ запаролен, будет выброшено исключение (не помню какое, но это легко проверить экспериментом). Соответственно, в случае исключения нужно запросить с консоли пароль, это лучше делать встроенным модулем getpass (он позволяет легко сделать ввод пароля без эха).