насколько я знаю, envoy умеет и чистый tcp proxy + для него можно написать расширение под любой протокол (если нужен например кастомный protobuf)
но в баду мы используем свой инструмент, встроенный в php код как и сказал
@Krashuevina по факту мы просто оборачиваем все вызовы во внешние сервисы в обертку, которая считает кол-во текущих запросов в шаред мемори php-fpm
если кол-во висящих в ожидании подключения или ответа на запрос превышает лимит, прописанный в конфиге обертки для этого сервиса - мы не делаем запрос/соединение