Ну вообще они обычно на другой машине. Но это отдельная проблема...
На работе юзаем для этого библиотеку
https://github.com/bitwalker/libclusterДля kubernetes там работает считай из коробки. Но вообще это девопсовая проблема, что надо уведомить другие инстансы, что поднялся еще один инстанс.
Иногда это не возможно, если используется платформа типа heroku или aptible. Тогда синхронизация через Redis или еще что-нибудь такое.