Size: a a a

2020 January 17

SS

Sergey Sheremeta in Data Engineers
тулзов с подобным функционалом не видели?
источник

TT

Tsh Tsh in Data Engineers
Я давно делал
источник

TT

Tsh Tsh in Data Engineers
Баш курл + файл с скошенными данными + что то из штатной поставки кафки
источник

TT

Tsh Tsh in Data Engineers
Не помню точно
источник

SS

Sergey Sheremeta in Data Engineers
баш - это здорово. но если мне нужно держать 5-10к eps - вытянет?
источник

EV

Eduard Vlasov in Data Engineers
Sergey Sheremeta
тулзов с подобным функционалом не видели?
танк?
источник

SS

Sergey Sheremeta in Data Engineers
я пока думаю влить патронташ в темповую кафку, и программкой наподобие org.apache.kafka.tools.ProducerPerformance  на жаве переливать в нагружаемую кафку согласно заданному в файле распределению thoughput по минутам
источник

EV

Eduard Vlasov in Data Engineers
тока надо http перед кафкой намутить
источник

AZ

Anton Zadorozhniy in Data Engineers
Sergey Sheremeta
дяденьки, здравствуйте!
подскажите, чем можно сгенерировать НЕРАВНОМЕРНУЮ нагрузку на Кафку?
в поставке Кафки есть скрипт kafka-producer-perf-test.sh - но он долбит равномерно и рандомными патронами
так а всякие гатлинги с цунгами чем-то не подошли?
источник

SS

Sergey Sheremeta in Data Engineers
а мне надо максимально быстро сделать
источник

SS

Sergey Sheremeta in Data Engineers
короче, баш рулит!
watch и kafkacat + словарь со средним EPS в минуту
источник

K

KrivdaTheTriewe in Data Engineers
Делитесь )
источник

K

KrivdaTheTriewe in Data Engineers
Где вы сейчас логи храните Спарк приложений
источник

АЖ

Андрей Жуков in Data Engineers
KrivdaTheTriewe
Где вы сейчас логи храните Спарк приложений
в грейлог пуляем, но где-то рядом бродит корпоративный Лось
источник

K

KrivdaTheTriewe in Data Engineers
Андрей Жуков
в грейлог пуляем, но где-то рядом бродит корпоративный Лось
И чо , какие преимущества , как настраивали
источник

АЖ

Андрей Жуков in Data Engineers
KrivdaTheTriewe
И чо , какие преимущества , как настраивали
преимущества относительно чего? Были грейлог и спарк, надо было мониторить 🙂 теперь в телегу получаем алерты из грейлога
источник

DG

Denis Gabaydulin in Data Engineers
Привет, кто то использует квоты в кафке? Как они работают? Какие подводные камни?
источник

DZ

Dmitry Zuev in Data Engineers
Dmitry Zuev
Коллеги, кто прикручивал spark-bigquery connector?
ClassNotFoundException чо не делай.
Версия 0.11.0 , спарк 2.4.3 on k8s, scala 2.11
Кароч, победил, но путь был тернист. Когда подцепилось - начало крешиться jvm. Оказалось что образ под кубер на алпайне, и там проблемы с netty native. Собрал под дебиан, все взлетело
источник

K

KrivdaTheTriewe in Data Engineers
Dmitry Zuev
Кароч, победил, но путь был тернист. Когда подцепилось - начало крешиться jvm. Оказалось что образ под кубер на алпайне, и там проблемы с netty native. Собрал под дебиан, все взлетело
Кубер- энтерпрайз технологии
источник

λ

λoλdog in Data Engineers
jvm на алпаине есть?
источник