Size: a a a

2019 October 10

GP

Grigory Pomadchin in Data Engineers
Oleg Ilinsky
Ну т.е. несколько стримов создать нельзя, только 1 и там уже раскладывать по табличкам?
сколько угодно можно, у тебя твой цикл висит чисто из-за того что ты эвейтиш его после каждой итерации зачем-то
источник

GP

Grigory Pomadchin in Data Engineers
Вынеси эвейт за фор и все работать будет
источник

OI

Oleg Ilinsky in Data Engineers
а, блин
точно
спасибо!)
источник

OI

Oleg Ilinsky in Data Engineers
источник

GP

Grigory Pomadchin in Data Engineers
spark.streaming.concurrentJobs тоже пригодиться может для одновременного процессинга ‘джоб’
источник

GP

Grigory Pomadchin in Data Engineers
ткак стрима 4 может хотеться их параллельно процесить
источник

OI

Oleg Ilinsky in Data Engineers
Окей, пасиб) а без dynamic allocation норм будет или лучше добавить?
источник

OI

Oleg Ilinsky in Data Engineers
А то у меня почему-то при dynamic вешается на cannot allocate resources
источник

GP

Grigory Pomadchin in Data Engineers
поставь минимальные и максимальные лимиты при даннймик алокейшене
источник

OI

Oleg Ilinsky in Data Engineers
чота не помогает(
он съедает столько ресурсов, сколько может, а потом всё равно виснет на 19/10/10 09:17:26 WARN YarnScheduler: Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient resources
источник

F

Flover in Data Engineers
Всем привет, чем лучше примонтировать HDFS кроме как cloudera fuse? х32 система...
источник

A

Alex in Data Engineers
ну был еще hdfs nfs вариант
источник

A

Alex in Data Engineers
@flo_fd https://hadoop.apache.org/docs/r2.4.1/hadoop-project-dist/hadoop-hdfs/HdfsNfsGateway.html

сам не пользовался, ничего не гарантирую
источник

F

Flover in Data Engineers
хотелость бы конечно через fuse какой... но судя по всему нет норм аналогов. буду пробовать что ж поделаешь
источник

F

Flover in Data Engineers
спасибо
источник

A

Alex in Data Engineers
так cloudera fuse это тот fuse который сразу в коробке с хадупом и идёт
источник

A

Alex in Data Engineers
какие еще аналоги хочется?
источник

F

Flover in Data Engineers
Alex
так cloudera fuse это тот fuse который сразу в коробке с хадупом и идёт
я думал что там  допилено что то для hdfs
источник

A

Alex in Data Engineers
вы наверное немного что-то перепутали
источник

F

Flover in Data Engineers
Alex
вы наверное немного что-то перепутали
наверное... пойду читать, спасибо
источник