Может уже написал кто, нужно поискать

Haproxy, nginx, tarantul...таки придется потратить 15 минут и освоить луа 😊

Мне проще в своём приложении запилить всю эту магию с докером, и хелф-чек, который будет фейлится в нужных условиях 😊

так а на что ты рассчитывал?

или делать самому, или идти на поклон куберу, или ???

так в кубернетесе тоже придется делать проверочку. да, может быть не в виде http-эндпоинта (точнее, не обязательно), но сделать пару реверансов точно придется

там вообще сначала придется понять фундаментальную разницу между хелсчеком и рединесчеком

как минимум - настроить hpa с кастомными метриками

это другое совсем. так-то прежде чем вообще подходить к этой проверке, придется столько мрачного абстрактного говна поесть-почитать, что, может быть, и не надо кубернетес вообще упоминать.

хотя я его упомянул. мое оправдание: я тем самым проиллюстрировал подход, который более-менее уже оформлен в best practices, типа все так делают. у нас в сервисам тоже всегда есть 2 чека: /health и /ready. появилось еще до кубернетеса. но /ready в основном нужен, чтобы сказать, что либо я всосал всю конфигурацию и готов держать удар, либо что я поймал sigterm, и дообрабатываю последние запросы

Эх, значит у меня была "идея для стартапа", раз нет каких-то "коробочных" решений, кроме кубера.

Попробую тогда для начала уменьшить фрагментацию памяти

Хотя это будет не очень просто в asyncio приложении

Кубернетес - это примерно так же можно назвать решением, как и полный ремонт квартиры только для того, чтобы кран не подтекал

я бы сравнил с постройкой нового дома, бггг

тоже хорошо

А envoy случайно не умеет сам раздавать статику по HTTP (файлики из папки)?

Судя по issue на гитхабе - не умеет

не, не умеет

Можно пулы объектов создать.

Ну вот я в эту сторону и думаю, но если у меня там будут строки в рантайме создаваться, то всё равно они будут новую память "откусывать", а не переиспользовать буфер из пула