вариантов масса, если надо хранить - ansible-vault, hashicorp vault.
Мне скорее интересно в плане Linux серверов.
Приходит человек на проект, и его pub-key нужно раскатать на N машинок вместе с правами и группами
Тогда да, подходит. Ещё можно во время развёртывания ос использовать файл предустановки. Либо готовый образ системы (голд имидж) преднастроенный использовать. Ещё, насколько я помню, openssh может обращаться к серверу ключей.