https://github.com/wikimedia/keyholder посмотрите. Но вообще хрупкое оно и shared secret, если нужно прямо безопасно, то лучше посмотреть на SSH по сертификатам.
Решение с сертификатами хорошо в том плане что не зависит от центрального сервера авторизации , но тогда тебе понадобится менеджить crl как то. Храни публичные ключи и юзеров в ldap, ну или решение с vault как выше написали.