Size: a a a

2021 December 16

SI

Sergey Ivanychev in Moscow Spark
а как оно в коде устроено? навряд ли там на каждую операцию пишется sql запрос, иначе было бы куча бойлерплейта

таблицы декларативно описываются?
источник

DZ

Dmitry Zuev in Moscow Spark
аа, ты про это.
Тут каждый сам ухищрается как может.
У кого то набор операторов заготовленных, у кого то кодген какой то.
Но в целом да, сначала описывается модель, дальше под нее sql
источник

SI

Sergey Ivanychev in Moscow Spark
я правильно понимаю что задача по написанию кодгена/операторов — это уже пространство для творчества по твоему опыту и каких-то инструментов открытых нет?
источник

DZ

Dmitry Zuev in Moscow Spark
можешь на dbt посмотреть
источник

SI

Sergey Ivanychev in Moscow Spark
уже давно планирую, но пока руки не добрались, спасибо
источник

SI

Sergey Ivanychev in Moscow Spark
а по твоему опыту бизнес-логика должна быть ближе к построению детального слоя с волтом, или уже быть после при построении витрин?
источник

DZ

Dmitry Zuev in Moscow Spark
не понял вопроса
источник

DZ

Dmitry Zuev in Moscow Spark
волт или якоря это модель, твоя задача ее из сурсов заполнить.
Поверх уже строить витрины, там уже есть какая то логика
источник

ПБ

Повелитель Бури... in Moscow Spark
Якоря на спарке наверное не построить. Апдетов быстрых нет, джоины через фулскан
источник
2021 December 17

T

T in Moscow Spark
Слушайте а кто-нибудь комитит офсеты в кавку? Вы свой велосипед используйте или есть готовая либа?
источник

DZ

Dmitry Zuev in Moscow Spark
у нас свой был ((
источник

K

KrivdaTheTriewe in Moscow Spark
На аккумуляторах можно слабать ))
источник

T

T in Moscow Spark
Да слабать не проблема, просто решил чекнуть прежде чем свой велосипед изобретать
источник
2021 December 20

Р

Рамик in Moscow Spark
Всем привет !
Можно ли сделать rollback для  _temporary  который сформирован спарком при записи и остался  при некорректном  завершении?
источник

k

kvadratura in Moscow Spark
что вы имеете ввиду под "rollback"?
источник

Р

Рамик in Moscow Spark
откатить до предыдущего состояние
источник

A

Alex in Moscow Spark
Там же временные файлы, снесите
источник

A

Alex in Moscow Spark
Спарк пишет туда, потом делает им move

Если ваша джоба упала, то....
источник

SI

Sergey Ivanychev in Moscow Spark
рекомендую глянуть на delta lake на досуге
источник

ЕГ

Евгений Глотов... in Moscow Spark
_temporary - это незакоммиченные изменения, Спарк не читает их
источник