Size: a a a

2021 November 21

R

Roman in Moscow Spark
FROM apache/zeppelin:0.10.0

EXPOSE 8080 8080

ENV FLINK_HOME=/opt/flink
ENV SPARK_HOME=/opt/spark
ENV ZEPPELIN_LOG_DIR='/logs'
ENV ZEPPELIN_NOTEBOOK_DIR='/notebook'
ENV PATH=$SPARK_HOME/bin:$FLINK_HOME/bin:$PATH



services:

 zeppelin:
   image: zeppelin
   volumes:
     - /Users/a18523272/Documents/spark-3.2.0-bin-hadoop3.2:/opt/spark
     - /Users/a18523272/Documents/flink-1.14.0:/opt/flink
     - $PWD/logs:/logs
     - $PWD/notebook:/notebook
   ports:
    - 8080:8080
источник

R

Roman in Moscow Spark
я нигде её не ставил и не указывал
источник

R

Roman in Moscow Spark
источник

GP

Grigory Pomadchin in Moscow Spark
мне кажется он не умеет в скалу 2.12
источник

ПФ

Паша Финкельштейн... in Moscow Spark
А попробуй на цеппелине без докера
источник

ПФ

Паша Финкельштейн... in Moscow Spark
Вероятно они криво докер собрали
источник

GP

Grigory Pomadchin in Moscow Spark
+
источник

GP

Grigory Pomadchin in Moscow Spark
Ну в репе докеримеджа я не увидел 2.12
источник

GP

Grigory Pomadchin in Moscow Spark
источник

A

Alex in Moscow Spark
Спарк 3.2 собран со скала версией 2.12.15

Предыдущие версии собраны были с версией 2.12.10

Цепелин как и ливи закидывает кусок кода в драйвер

Вот этот код собран с 2.12.10 и он не совместим с 2.12.15

@pomadchin говорит за скала девелоперов "это внутренний пакет, поэтому пользователи должны страдать из-за нестабильности апи, им никто ничего не обещал"

В данном случае вы как пользователь цеппелина страдайте :)

У себя я персобрал нужную часть ливви со скалой 2.12.15 и поднял отдельным сервисом, все кто на спарк 3.0 3.1 ходят в один ливи

Кто на 3.2 ходят в другой ливви
источник

GP

Grigory Pomadchin in Moscow Spark
Как они с 2.12 работают? Отдельный интерпретатор?
источник

R

Roman in Moscow Spark
как оказалось, он не может в спарк 3
поставил spark-2.4.7 и всё заработало
источник

R

Roman in Moscow Spark
понял, спасибо
источник

GP

Grigory Pomadchin in Moscow Spark
3.0 тоже?
источник

A

Alex in Moscow Spark
Нет, это вопросы скала апи

Вернее на уровне api осталось работать
На уровне abi поломали между версиями

Ты помнится в том срачике тоже участвовал со стороны котлин
источник

R

Roman in Moscow Spark
не пробовал, я только 3.2 успел затестить
источник

GP

Grigory Pomadchin in Moscow Spark
Да успокойся) сан пакеты када пропадают также у тебя или это другое?))
источник

A

Alex in Moscow Spark
Попробуй, 3.0 и 3.1 должны работать
источник

A

Alex in Moscow Spark
Да, правда я только на 9 помню что пропали, причём там в заголовках висит чтобы не использовали :) тут я не вижу нигде чтобы не использовали
источник

A

Alex in Moscow Spark
И да, они исчезают в мажорных версиях, а не в минорных апдейтах
источник