Все поставщики облачных сервисов (Amazon, MS Azure) включают службы хранения ключей.
https://azure.microsoft.com/en-us/products/key-vault
https://aws.amazon.com/kms
Вот надо их и использовать.
Если вы берете на себя шифрование секретов своими методами - то надо обсудить насколько
надежны ваши методы и какие усилия надо будет сделать экстренно если исходник утек или
ключ скомпрометирован. Это - вопрос в духе законов Керхгофа.