Size: a a a

2020 January 15

EV

Eduard Vlasov in Data Engineers
А вот тут не подскажу :(
источник

DZ

Dmitry Zuev in Data Engineers
Easycore Programming
Да хотел уточнить, что там стриминг и mapPartitions будет регистрировать драйвер на на каждом батче. Или просто использовать флаг, что драйвер уже зарегистрирован?
Сделай грязный хак, try { Class.load } catch {}
источник

SK

Sergej Khakhulin in Data Engineers
кто-нибудь при сборке с таким сталкивался?
* creating vignettes ... ERROR

Attaching package: 'SparkR'

The following objects are masked from 'package:stats':

   cov, filter, lag, na.omit, predict, sd, var, window

The following objects are masked from 'package:base':

   as.data.frame, colnames, colnames<-, drop, endsWith, intersect,
   rank, rbind, sample, startsWith, subset, summary, transform, union

Picked up _JAVA_OPTIONS: -XX:-UsePerfData
Picked up _JAVA_OPTIONS: -XX:-UsePerfData
Error: A JNI error has occurred, please check your installation and try again
Exception in thread "main" java.lang.NoClassDefFoundError: org/slf4j/Logger
       at java.lang.Class.getDeclaredMethods0(Native Method)
       at java.lang.Class.privateGetDeclaredMethods(Class.java:2701)
       at java.lang.Class.privateGetMethodRecursive(Class.java:3048)
       at java.lang.Class.getMethod0(Class.java:3018)
       at java.lang.Class.getMethod(Class.java:1784)
       at sun.launcher.LauncherHelper.validateMainClass(LauncherHelper.java:544)
       at sun.launcher.LauncherHelper.checkAndLoadMain(LauncherHelper.java:526)
Caused by: java.lang.ClassNotFoundException: org.slf4j.Logger
       at java.net.URLClassLoader.findClass(URLClassLoader.java:382)
       at java.lang.ClassLoader.loadClass(ClassLoader.java:418)
       at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:352)
       at java.lang.ClassLoader.loadClass(ClassLoader.java:351)
       ... 7 more
Quitting from lines 79-81 (sparkr-vignettes.Rmd)
Error: processing vignette 'sparkr-vignettes.Rmd' failed with diagnostics:
JVM is not ready after 10 seconds
Execution halted


Собирал
./dev/make-distribution.sh --name with-hive --pip --r --tgz -Phadoop-provided,sparkr,hive,hive-thriftserver,yarn -Pscala-2.12 -DskipTests
источник

SK

Sergej Khakhulin in Data Engineers
Sergej Khakhulin
кто-нибудь при сборке с таким сталкивался?
* creating vignettes ... ERROR

Attaching package: 'SparkR'

The following objects are masked from 'package:stats':

   cov, filter, lag, na.omit, predict, sd, var, window

The following objects are masked from 'package:base':

   as.data.frame, colnames, colnames<-, drop, endsWith, intersect,
   rank, rbind, sample, startsWith, subset, summary, transform, union

Picked up _JAVA_OPTIONS: -XX:-UsePerfData
Picked up _JAVA_OPTIONS: -XX:-UsePerfData
Error: A JNI error has occurred, please check your installation and try again
Exception in thread "main" java.lang.NoClassDefFoundError: org/slf4j/Logger
       at java.lang.Class.getDeclaredMethods0(Native Method)
       at java.lang.Class.privateGetDeclaredMethods(Class.java:2701)
       at java.lang.Class.privateGetMethodRecursive(Class.java:3048)
       at java.lang.Class.getMethod0(Class.java:3018)
       at java.lang.Class.getMethod(Class.java:1784)
       at sun.launcher.LauncherHelper.validateMainClass(LauncherHelper.java:544)
       at sun.launcher.LauncherHelper.checkAndLoadMain(LauncherHelper.java:526)
Caused by: java.lang.ClassNotFoundException: org.slf4j.Logger
       at java.net.URLClassLoader.findClass(URLClassLoader.java:382)
       at java.lang.ClassLoader.loadClass(ClassLoader.java:418)
       at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:352)
       at java.lang.ClassLoader.loadClass(ClassLoader.java:351)
       ... 7 more
Quitting from lines 79-81 (sparkr-vignettes.Rmd)
Error: processing vignette 'sparkr-vignettes.Rmd' failed with diagnostics:
JVM is not ready after 10 seconds
Execution halted


Собирал
./dev/make-distribution.sh --name with-hive --pip --r --tgz -Phadoop-provided,sparkr,hive,hive-thriftserver,yarn -Pscala-2.12 -DskipTests
это про Spark
источник

A4

Anon 43 in Data Engineers
сейчас все на спарке сидят?
источник

A

Alex in Data Engineers
смотря для чего, задачи ведь разные
источник

AE

Alexey Evdokimov in Data Engineers
коллеги,

у меня есть к вам один интересный вопрос. или предложение.

точнее, к тем из вас, кто готов потратить некоторое время на чтение серии статей про кейс геоинформационной системы, которую разрабатывает моя контора. я готовлю выход части нашего тулсета (который на Spark) в опенсорс, но чтобы оно взлетело, мне нужно создать начальный публичный контекст. и требуется конструктивный фидбек со стороны.

опубликовано будет на хабре где-то через пару недель. если ваш фидбэк окажется полезным, и у вас есть там профиль — укажу в качестве рецензентов.

и, конечно же, я буду кидать ссылки в этот канал по мере публикации.

если интересно поучаствовать — напишите в личку
источник

DM

Daniel Matveev in Data Engineers
Alexey Evdokimov
коллеги,

у меня есть к вам один интересный вопрос. или предложение.

точнее, к тем из вас, кто готов потратить некоторое время на чтение серии статей про кейс геоинформационной системы, которую разрабатывает моя контора. я готовлю выход части нашего тулсета (который на Spark) в опенсорс, но чтобы оно взлетело, мне нужно создать начальный публичный контекст. и требуется конструктивный фидбек со стороны.

опубликовано будет на хабре где-то через пару недель. если ваш фидбэк окажется полезным, и у вас есть там профиль — укажу в качестве рецензентов.

и, конечно же, я буду кидать ссылки в этот канал по мере публикации.

если интересно поучаствовать — напишите в личку
@pomadchin твои конкуренты кажись
источник

GP

Grigory Pomadchin in Data Engineers
Alexey Evdokimov
коллеги,

у меня есть к вам один интересный вопрос. или предложение.

точнее, к тем из вас, кто готов потратить некоторое время на чтение серии статей про кейс геоинформационной системы, которую разрабатывает моя контора. я готовлю выход части нашего тулсета (который на Spark) в опенсорс, но чтобы оно взлетело, мне нужно создать начальный публичный контекст. и требуется конструктивный фидбек со стороны.

опубликовано будет на хабре где-то через пару недель. если ваш фидбэк окажется полезным, и у вас есть там профиль — укажу в качестве рецензентов.

и, конечно же, я буду кидать ссылки в этот канал по мере публикации.

если интересно поучаствовать — напишите в личку
готов почитать и поучаствовать!
источник

GP

Grigory Pomadchin in Data Engineers
Daniel Matveev
@pomadchin твои конкуренты кажись
¯\_(ツ)_/¯
источник

GP

Grigory Pomadchin in Data Engineers
чем плохо? Тулинг в гис предмет отдельных страданий
источник

DM

Daniel Matveev in Data Engineers
так и не было про плохо
источник

DM

Daniel Matveev in Data Engineers
я все жду твоего повествования
источник

AE

Alexey Evdokimov in Data Engineers
один есть, нужно хотя бы трое. заявки принимаю до конца недели :))
источник

GP

Grigory Pomadchin in Data Engineers
источник

АЖ

Андрей Жуков in Data Engineers
Alexey Evdokimov
один есть, нужно хотя бы трое. заявки принимаю до конца недели :))
да без проблем 🙂 записывай!
источник

A

Alex in Data Engineers
тут же вопрос не в набрать 3х, а те кто в теме
например я с гис никогда не сталкивался
источник

AE

Alexey Evdokimov in Data Engineers
можно быть в теме просто бигдаты и спарка в амазоне
источник

A

Alex in Data Engineers
пас, всегда свои хадуп кластера =)
источник

A

Alex in Data Engineers
я бы в вопросе сразу указал кого ищешь и ожидаемые навыки, чтобы было более релевантно
источник