Size: a a a

2020 December 25

SZ

Sergey Zhiganov in Data Engineers
господа, ставки растут, уже хочется нажать.
источник

e

er@essbase.ru in Data Engineers
Админов нужно расплодить человек 20 . Что бы разом матрёшек отправлять , откуда пришли
источник

ПБ

Повелитель Бури... in Data Engineers
Sergey Zhiganov
господа, ставки растут, уже хочется нажать.
Я здесь читал что ради 15к тут доны даже спарк джопу не стартанут
источник

SZ

Sergey Zhiganov in Data Engineers
Повелитель Бури
Я здесь читал что ради 15к тут доны даже спарк джопу не стартанут
так оно и есть, но я не дон, могу и на такое клюнуть
источник

SZ

Sergey Zhiganov in Data Engineers
er@essbase.ru
Админов нужно расплодить человек 20 . Что бы разом матрёшек отправлять , откуда пришли
бюджета такого нет:) 1 админ = дон = 15к :)
источник

С

Сюткин in Data Engineers
источник

С

Сюткин in Data Engineers
Опять 15к
источник

С

Сюткин in Data Engineers
Хотите?
источник

GP

Grigory Pomadchin in Data Engineers
ага)
источник

DZ

Dmitry Zuev in Data Engineers
воспользуюсь положением, я нанимаю
https://t.me/datajobs/23035
Telegram
Dmitry Zuev in Data jobs
Senior Data Engineer

Мы в Ozon выводим работу с данными на новый уровень и развиваем собственный event sourcing фреймворк для наполнения хранилища данными из микросервисов.
Наша компания динамично развивается, поэтому мы работает в духе start up с минимальным количеством бюрократических процессов и выстраиваем свободные коммуникации в рамках команды. У нас есть внутренние проекты, которые мы реализуем с 0 и имеем большую поддержку со стороны CTO.

Что вам предстоит:
Разработка инструментов для доставки и обработки данных (scala, akka-stream, cats, spark, python);
Поддержка и развитие существующих инструментов на базе Hadoop (hadoop3, hdfs, yarn, hive);
Разработка spark приложений для обработки данных;
Поддержка и развитие существующих решений на Airflow (Celery Executor, k8s);
Поддержка и развитие существующих решений на Kafka;
Участие в проектировании архитектуры разрабатываемых решений;
Участие в выборе используемых технологий и компонентов;
Участие в настройке и улучшении CI/CD;
Внедрение и сопровождение…
источник

GP

Grigory Pomadchin in Data Engineers
^ порицание
источник

GP

Grigory Pomadchin in Data Engineers
источник

e

er@essbase.ru in Data Engineers
Dmitry Zuev
воспользуюсь положением, я нанимаю
https://t.me/datajobs/23035
Telegram
Dmitry Zuev in Data jobs
Senior Data Engineer

Мы в Ozon выводим работу с данными на новый уровень и развиваем собственный event sourcing фреймворк для наполнения хранилища данными из микросервисов.
Наша компания динамично развивается, поэтому мы работает в духе start up с минимальным количеством бюрократических процессов и выстраиваем свободные коммуникации в рамках команды. У нас есть внутренние проекты, которые мы реализуем с 0 и имеем большую поддержку со стороны CTO.

Что вам предстоит:
Разработка инструментов для доставки и обработки данных (scala, akka-stream, cats, spark, python);
Поддержка и развитие существующих инструментов на базе Hadoop (hadoop3, hdfs, yarn, hive);
Разработка spark приложений для обработки данных;
Поддержка и развитие существующих решений на Airflow (Celery Executor, k8s);
Поддержка и развитие существующих решений на Kafka;
Участие в проектировании архитектуры разрабатываемых решений;
Участие в выборе используемых технологий и компонентов;
Участие в настройке и улучшении CI/CD;
Внедрение и сопровождение…
Вот вопрос. Как в Бигдате строят тестирование ?) На каких принципах ?
источник

DZ

Dmitry Zuev in Data Engineers
Смотря что. End to end сложно строить. Но по частям отлично тестируется
источник

DZ

Dmitry Zuev in Data Engineers
У нас в большинстве трубы, они отлично тестируются с подъемом всего в докере
источник

AB

Andrey Bel in Data Engineers
er@essbase.ru
Вот вопрос. Как в Бигдате строят тестирование ?) На каких принципах ?
есть много вариантов- спарк джобы тестировать, качество данных , наполнение вообщем есть где разгуляться))
источник

DZ

Dmitry Zuev in Data Engineers
Ну качество данных это отдельная песня. и это continuous процесс
источник

DZ

Dmitry Zuev in Data Engineers
он от дев тестов отделен
источник

AB

Andrey Bel in Data Engineers
Dmitry Zuev
Ну качество данных это отдельная песня. и это continuous процесс
согласен, немного не так выразился)
источник

DZ

Dmitry Zuev in Data Engineers
обычно всех волнует как тестировать 500 строк sql
источник