Size: a a a

2021 May 26

А

Алексей in Data Engineers
спасибо, понятно, хотяб ип вытащу, уже хорошо:
Seq("/bin/sh","-c","echo $SSH_CLIENT | awk '{ print $1}'") .!!
источник

ЕГ

Евгений Глотов... in Data Engineers
Коллеги, всем привет. Никто не сталкивался с такой темой - контейнеры выделены, спарк воркеры запущены, тасков в очереди дохрена, но при этом running только треть от возможного числа параллельных тасков
источник

ЕГ

Евгений Глотов... in Data Engineers
Что может быть? Я чёт с таким ни разу не сталкивался, чтоб спарк не успевал задачи раздавать на простаивающие ядра, уже выделенные в сессии
источник

t

tenKe in Data Engineers
и отдает только некоторым воркерам, да?
источник

ЕГ

Евгений Глотов... in Data Engineers
Ну, одновременно работает 16 тасков из 60, щас посмотрю, на каких воркерах
источник

ЕГ

Евгений Глотов... in Data Engineers
Спасибо, мысль появилась, куда копать😆
источник

t

tenKe in Data Engineers
источник

t

tenKe in Data Engineers
(в настройи локалити, если что)
источник

ЕГ

Евгений Глотов... in Data Engineers
Да, да)
источник

ЕГ

Евгений Глотов... in Data Engineers
Нафиг локалити👍
источник

AZ

Anton Zadorozhniy in Data Engineers
я только скажу что это очень плохая практика, все информация для сервиса должна браться из конфигурации, или нормальных стораджей
источник

А

Алексей in Data Engineers
это да, было бы хорошо, если у всех были именные учетки, но уже нагородили
источник

А

Алексей in Data Engineers
и я  продолжаю)
источник

SS

Sergey Sheremeta in Data Engineers
всем привет! тут есть опытные в Looker товарищи?
это нормально, что когда я создаю explore вида

explore: order_items {
 join: orders {
   type: inner
   relationship: many_to_one
   sql_on: ${order_items.order_id} = ${orders.id} ;;
 }
}


и в режиме adhoc-аналитики извлекаю атрибут только из измерения "orders" - все равно запрос подтягивает джойн к фактовой таблицей?
источник

IG

Igor Gorbunov in Data Engineers
Ребята, подскажите, несколько дней назад в чате (или соседнем) был публичный собес. Запись еще не выложили или я пропустил ссылку?
источник

ЕГ

Евгений Глотов... in Data Engineers
Ещё не выложили
источник

IG

Igor Gorbunov in Data Engineers
Ок, спасибо
источник
2021 May 27

VP

Vitaly Pismarev in Data Engineers
@pomadchin
https://newprolab.com/ru/dataengineer/

А скидок никаких не предвидится? )
источник

IK

Ilya Karpov in Data Engineers
привет, народ, поделитесь опытом, каким как деплоите flink в кубере (через новый native kubernetes или старый standalone kubernetes deployment, или через GCP flink-on-k8s-operator или еще как-то)?
источник

М

Михаил in Data Engineers
Привет всем.
Не могу разобраться в одном вопросе :
Допустим в hdfs лежит большой файл в 10 гигов, разбитый на 100 блоков по 100мб.
У меня есть несколько запущенных контейнеров в спарке.
Я хочу файл прочитать. Что при чтении произойдёт? Контейнеры поделят блоки между собой и будут читать файл параллельно - каждый свой блок? Или все блоки поедут на один контейнер будут читаться последовательно?
Спасибо.
источник