Size: a a a

Scalability Camp — чат про распределенные системы (и про HPC)

2020 July 09

AB

Aleksandr Borgardt in Scalability Camp — чат про распределенные системы (и про HPC)
а какая задача ?
источник

KZ

Kir Zharov in Scalability Camp — чат про распределенные системы (и про HPC)
Aleksandr Borgardt
а какая задача ?
Сейчас есть скрипты в ноутбуках, которые используют аналитики, их нужно упаковать для использования через web-интерфейс
источник

KZ

Kir Zharov in Scalability Camp — чат про распределенные системы (и про HPC)
Фронтовая часть делается с нуля, вот с бэком пока что разбираюсь
источник

RS

Rinat Shigapov in Scalability Camp — чат про распределенные системы (и про HPC)
API будет делать инференс? Какой-то пре/пост процессинг?
источник

KZ

Kir Zharov in Scalability Camp — чат про распределенные системы (и про HPC)
Rinat Shigapov
API будет делать инференс? Какой-то пре/пост процессинг?
Какую-то обработку, да, но в целом нужен как посредник между данными и запросами в другую апишку, грубо говоря для загрузки файлов для обработки и получения файла обратно
источник

RS

Rinat Shigapov in Scalability Camp — чат про распределенные системы (и про HPC)
Если брать Python, то можно сделать API на базе FastAPI - и получить спеку OpenAPI и валидацию по ней
источник

KZ

Kir Zharov in Scalability Camp — чат про распределенные системы (и про HPC)
Rinat Shigapov
Если брать Python, то можно сделать API на базе FastAPI - и получить спеку OpenAPI и валидацию по ней
Интересно, про FastAPI слышал 👍
источник

N

Nikolay in Scalability Camp — чат про распределенные системы (и про HPC)
Rinat Shigapov
Если брать Python, то можно сделать API на базе FastAPI - и получить спеку OpenAPI и валидацию по ней
++
источник

RS

Rinat Shigapov in Scalability Camp — чат про распределенные системы (и про HPC)
Если это просто посредник, то можно и на Golang сделать
источник

KZ

Kir Zharov in Scalability Camp — чат про распределенные системы (и про HPC)
Rinat Shigapov
Если это просто посредник, то можно и на Golang сделать
Понял, сейчас больше опыта на Python
источник

AB

Aleksandr Borgardt in Scalability Camp — чат про распределенные системы (и про HPC)
Rinat Shigapov
Если брать Python, то можно сделать API на базе FastAPI - и получить спеку OpenAPI и валидацию по ней
советую не использовать  asyncio   и маштбаироватся  процессмами
источник

KZ

Kir Zharov in Scalability Camp — чат про распределенные системы (и про HPC)
Aleksandr Borgardt
советую не использовать  asyncio   и маштбаироватся  процессмами
Про asyncio интересный совет, нужно будет как-нибудь обсудить 🙂
источник

KZ

Kir Zharov in Scalability Camp — чат про распределенные системы (и про HPC)
Думал, что сейчас многие используют asyncio
источник

N

Nikolay in Scalability Camp — чат про распределенные системы (и про HPC)
Aleksandr Borgardt
советую не использовать  asyncio   и маштбаироватся  процессмами
Смотря сколько данных перегонять и что с ними в процессе делать
источник

S

Slach in Scalability Camp — чат про распределенные системы (и про HPC)
Kir Zharov
Про asyncio интересный совет, нужно будет как-нибудь обсудить 🙂
ну дык asyncio из-за GIL он для CPU bound Задач ну вообще не упирается
Саша правильно советует =)
источник

S

Slach in Scalability Camp — чат про распределенные системы (и про HPC)
Nikolay
Смотря сколько данных перегонять и что с ними в процессе делать
да даже если просто csv в json конверить.. но много и массово и это именно batch pipeline а не по API запросы фигачить...
источник

RS

Rinat Shigapov in Scalability Camp — чат про распределенные системы (и про HPC)
Тут уже на вкус и цвет - делал инференс с интеграцией с RabbitMQ - здесь полнодуплексный протокол, асинхронность как раз была к месту.
источник

N

Nikolay in Scalability Camp — чат про распределенные системы (и про HPC)
"Масштабироваться процессами" - это, банально, "использовать uwsgi", например :)
источник

N

Nikolay in Scalability Camp — чат про распределенные системы (и про HPC)
Slach
да даже если просто csv в json конверить.. но много и массово и это именно batch pipeline а не по API запросы фигачить...
Я бы такое, честно сказать, писал на го. Он для этого очень хорошо подходит
источник

AB

Aleksandr Borgardt in Scalability Camp — чат про распределенные системы (и про HPC)
Nikolay
"Масштабироваться процессами" - это, банально, "использовать uwsgi", например :)
хорошая идея  в нем есть встроеная очередь можно  не ставить  rabbit
источник