Если речь об RSA, то да.
Когда пара ключей сгенерирована, то у них нет разницы в каком направлении пользоваться ими для шифрования и расшифрования. Роль закрытого ключа выбирают после генерации - "вот этот ключ мы спрячем, а вот этот - путь будет публичный".