Size: a a a

2020 March 11

UD

Uncel Duk in Data Engineers
источник

A

Alexander in Data Engineers
Как я понял, если совсем не мудрить и начать с чего-то простого то  я могу подходить к задаче с помощью PySpark как сказал Евгений или через докер как сказал Антон. Скажите, код не нужно переписывать ни в том ни в другом случае?
источник

A

Alexander in Data Engineers
Uncel Duk
conda-pack
xar
pex
Пока не понял как это может помочь, но спасибо
источник

S

Serg Slipushenko in Data Engineers
Alexander
С ним можно использовать любые питон пакеты?
Да, любые
источник

S

Serg Slipushenko in Data Engineers
источник

S

Serg Slipushenko in Data Engineers
В первую очередь он ориентирован нампай массивы гонять
источник
2020 March 12

a

agathis in Data Engineers
Господа, кто-нибудь сталкивался с задачей нагрузочного тестирования стримингового движка?
У нас kafka input и kafka output, хотелось бы конечно готовым фреймворком воспользоваться — графики там красивые, профили настраиваются. Тиньков написал плагин для gatling, но только для kafka input, а больше я и не нашел ничего.
источник

EV

Eduard Vlasov in Data Engineers
я тестил сервис с кафкой, но там просто джава продьюсер
источник

EV

Eduard Vlasov in Data Engineers
Юзал Яндекс танк
источник

r

romλn in Data Engineers
agathis
Господа, кто-нибудь сталкивался с задачей нагрузочного тестирования стримингового движка?
У нас kafka input и kafka output, хотелось бы конечно готовым фреймворком воспользоваться — графики там красивые, профили настраиваются. Тиньков написал плагин для gatling, но только для kafka input, а больше я и не нашел ничего.
Prometheus jmx + grafana, есть готовые helm чарты от confluent. Там почти все из коробки.
источник

a

agathis in Data Engineers
romλn
Prometheus jmx + grafana, есть готовые helm чарты от confluent. Там почти все из коробки.
спасибо!
источник

S

Stanislav in Data Engineers
romλn
Prometheus jmx + grafana, есть готовые helm чарты от confluent. Там почти все из коробки.
Графики Кафки, а тестируется вроде стримовое приложение
источник

S

Stanislav in Data Engineers
Странно
источник

S

Stanislav in Data Engineers
Почему не выкинуть из приложения концы в прометеус - непонятно
источник

r

romλn in Data Engineers
Ну так у нас jmx всех producers, consumers, streams apps,kafka connectors and brokers в прометеус потом на графану, оч удобно для алертов и мониторинга
источник

TB

Torlin Bios in Data Engineers
привет, ты хочешь протестить e2e latency или сорс и синк топики грузить?
источник

GP

Grigory Pomadchin in Data Engineers
Serg Slipushenko
Мы использовали jep для интертеграции инференса на питоне в скалу
Они кстати пофиксили это; я тут использовал свеженькие версии; и вроде было ок
источник

GP

Grigory Pomadchin in Data Engineers
но конечно раньше нумпаи текли и это было ужасно ):
источник

AV

Alexandr Vladimirovich in Data Engineers
Ребята, привет! Приглашаю вас принять участие в митапе «CREATE MEETUP (Greenplum) LOCATION (’SPB’);», который пройдет 19 марта в Санкт-Петербурге на площадке Quadcode (IQ Option).
В числе спикеров выступит Хейкки Линнакангас (на английском языке), ведущий разработчик Greenplum в Pivotal.
Вся информация о программе митапа и регистрация по ссылке: https://arenadata-events.timepad.ru/event/1273732/
источник

AE

Alexey Evdokimov in Data Engineers
а почто не в тренде мировых тенденций. коронавирус же. ну какой сейчас митап. всё надо перенести в онлайн.
источник