в заландо сделано следующим образом: разработчик шифрует секрет KMS ключем (у них есть самописная cli для этого), сохраняет получившийся текст в k8s secret. Дальше у них есть прослойка (не помню как это называется, secret operator?) которая расшифровывает секрет KMS ключем при старте пода (или обращении к секрету) используя IAM role инстанса