Size: a a a

2021 May 12

AZ

Anton Zadorozhniy in Data Engineers
аналитику вообще все равно, он не знает где это бежит
источник

AZ

Anton Zadorozhniy in Data Engineers
он логи видит прямо в приложении (мы через вебсокет с бэкенда ему показываем), вход/выход он регулирует, это просто запуск контейнера
источник

K

KrivdaTheTriewe in Data Engineers
покажите где посмотреть как у вас сделано)
источник

K

KrivdaTheTriewe in Data Engineers
источник

AZ

Anton Zadorozhniy in Data Engineers
а вы клиент терадаты?)
источник

K

KrivdaTheTriewe in Data Engineers
у нас есть терадата
источник

AZ

Anton Zadorozhniy in Data Engineers
а ну вот скажите своему контакту из терадаты что хотите AnalyticOps посмотреть - сразу появится мой коллега, или я)
источник

AZ

Anton Zadorozhniy in Data Engineers
в принципе можно и так договорится, только по времени будет ближе к концу мая, я покажу и расскажу
источник

AZ

Anton Zadorozhniy in Data Engineers
(денег за эту штуку терадата не берет)
источник

SS

Sergey Sheremeta in Data Engineers
дяденьки, а что нынче используют для anomaly detection в Spark заданиях? вместо Deequ
источник

NN

No Name in Data Engineers
А почему вместо?
источник

SS

Sergey Sheremeta in Data Engineers
судя по активности на github - проект умирает
источник

NN

No Name in Data Engineers
А great expectations?
источник

AG

Alexander Gorokhov in Data Engineers
Prefect
источник

DM

Dmitry Moscow in Data Engineers
Граждане, а есть что-то удобное для построения визуальной схемы сложного запроса в хайве?
источник

N

Nikita Blagodarnyy in Data Engineers
в амбари была показывался тез-дага для hive запроса
источник

АБ

Артемий Богданов... in Data Engineers
всем привет! при старте спарка ловлю ошибку ERROR StreamMetadata: Error writing stream metadata StreamMetadata(6a0e2a1a-a6ec-4196-bc3e-a7e34b42fb53) to file:/C:/Temp/temporary-b7ad4c78-7c59-4220-b643-c2c04bcb4a2c/metadata
ExitCodeException exitCode=-1073741515:

нагуглил, что может не хватать msvcp100.dll и надо установить vcredist, но не помогло. думал путь длинный, сменил папку темп на C:\Temp\, тоже не помогло

в чем может быть проблема?
источник

АБ

Артемий Богданов... in Data Engineers
падает на последней строчке
 SparkSession spark = SparkSession.builder()
               .appName("Read stream")
               .master("local")
               .getOrCreate();

       Dataset<Row> df = spark
               .readStream()
               .format("socket")
               .option("host", "localhost")
               .option("port", 3001)
               .load();

       StreamingQuery query = df
               .writeStream()
               .outputMode(OutputMode.Append())
               .format("console")
               .start();
источник
2021 May 13

t

tenKe in Data Engineers
.awaitTermination?
источник

AS

Andrey Smirnov in Data Engineers
repartition(1)?
источник