Size: a a a

2019 August 30

AZ

Anton Zadorozhniy in Data Engineers
Vladimir E.
И все в Пражской терадате?)
не, в пражской я один такой, остальные сидят по своим офисам
источник

E

Evgeny in Data Engineers
день добрый, помогите советом: хочу руками подергать getProcResourceValues() из LinuxResourceCalculatorPlugin, чтобы убедиться, что оно корректно работает, подскажите, как это правильно сделать?
источник
2019 September 01

DY

Dan Y in Data Engineers
Anton Zadorozhniy
у нас в конторе (до того как ее купила большая контора) всех архитекторов называли принципал инженерами (архитектор была роль в проекте), потому что если архитектор не умеет делать руками - нам такой не нужен, а если умеет - то он наверное больше инженер чем архитектор))
у нас оба фаундера - монстры кернельщики, и код до сих пор пишут
источник
2019 September 02

RI

Rustam Iksanov in Data Engineers
Инженеры! Есть ли способ сконвертировать static dataframe в streaming dataframe ?
источник

GP

Grigory Pomadchin in Data Engineers
Rustam Iksanov
Инженеры! Есть ли способ сконвертировать static dataframe в streaming dataframe ?
Что это значит?)
источник

RI

Rustam Iksanov in Data Engineers
Grigory Pomadchin
Что это значит?)
Столкнулся с проблемой. Если писать просто dataframe в кафку через 'df.writeStream.', то он ругается. Говорит датафрейм не стримовый
источник

AC

Alexander Chermenin in Data Engineers
просто нужно писать через write
источник

AC

Alexander Chermenin in Data Engineers
источник

RI

Rustam Iksanov in Data Engineers
Alexander Chermenin
просто нужно писать через write
этот вариант тоже не работает.
JobScheduler: Error running job streaming job 1567422530000 ms.0
java.lang.NullPointerException
 at org.apache.spark.sql.SQLImplicits.rddToDatasetHolder(SQLImplicits.scala:220)
источник

RB

Ramzan Bekbulatov in Data Engineers
А есть кто крутит TimescaleDB на таблицах 1-3млдр записей?
источник

ПФ

Паша Финкельштейн in Data Engineers
О, тут боты с новой схемой работы. Сначала плстят невинную картинку в чат, потом заменяют её на спам
источник
2019 September 03

OI

Oleg Ilinsky in Data Engineers
Привет!
Подскажите, пожалуйста, где искать логи хайва в hdp3? /var/log/hive/hiveserver2.log
Вот здесь что-то похожее, но нужных логов нет. (пытаюсь найти, почему ночью валился хайв)
источник

A

Alex in Data Engineers
ротация файлов?
источник

AP

Alexander Piminov in Data Engineers
Oleg Ilinsky
Привет!
Подскажите, пожалуйста, где искать логи хайва в hdp3? /var/log/hive/hiveserver2.log
Вот здесь что-то похожее, но нужных логов нет. (пытаюсь найти, почему ночью валился хайв)
В /var/log/hive есть отдельные категории лог-файлов, отдельно сервера (hiveserver2*), метастора (hivemetastore*), LLAP (hiveserver2Interactive*) и т.п. Может быть, у тебя LLAP падает, например, - детальная ошибка будет в соответствующем логе либо вообще в YARN логах daemon'ов.
источник

OI

Oleg Ilinsky in Data Engineers
Alex
ротация файлов?
да вроде не должны были удалиться
источник

A

Alex in Data Engineers
не удаляются, но там же они /var/log/hive/hiveserver2.log.{date} висят
источник

A

Alex in Data Engineers
ну и быть уверенным что вы на правильной машинке
источник

OI

Oleg Ilinsky in Data Engineers
Alexander Piminov
В /var/log/hive есть отдельные категории лог-файлов, отдельно сервера (hiveserver2*), метастора (hivemetastore*), LLAP (hiveserver2Interactive*) и т.п. Может быть, у тебя LLAP падает, например, - детальная ошибка будет в соответствующем логе либо вообще в YARN логах daemon'ов.
блин, точно) тупанул)
источник

OI

Oleg Ilinsky in Data Engineers
спасибо!
источник

OI

Oleg Ilinsky in Data Engineers
Alex
не удаляются, но там же они /var/log/hive/hiveserver2.log.{date} висят
ага, спасибо большое) вроде похоже на правду, осталось найти проблему)
источник