Size: a a a

2019 August 06

K

KrivdaTheTriewe in Data Engineers
Паша Финкельштейн
У ё😞 А вот эту не увидел. Может ты и прав и всё не так плохо. Пойду попробую
там много разных  функций, но если сложно аггрегацию можно в rdd делать сложную
источник

ПФ

Паша Финкельштейн in Data Engineers
KrivdaTheTriewe
там много разных  функций, но если сложно аггрегацию можно в rdd делать сложную
Ну не, есть новое модное апи
источник

A

Alex in Data Engineers
KrivdaTheTriewe
там много разных  функций, но если сложно аггрегацию можно в rdd делать сложную
а как же всё движение к все большему deprecate для rdd ?
источник

GP

Grigory Pomadchin in Data Engineers
нет, квилл кажется лучше, только когда ты первый раз его используешь; он не проверяет все типы в компайл тайме; датасеты и детефреймы ванильные тож
источник

GP

Grigory Pomadchin in Data Engineers
Alex
а как же всё движение к все большему deprecate для rdd ?
Нету такого, как минимум пока
источник

GP

Grigory Pomadchin in Data Engineers
Паша Финкельштейн
А датасеты по факту просто ничем не отличаются от датафреймов
какое меткое замечание, что type Dataframe = Dataset[Row]
источник

ПФ

Паша Финкельштейн in Data Engineers
Grigory Pomadchin
какое меткое замечание, что type Dataframe = Dataset[Row]
Я знаю :)
источник

ПФ

Паша Финкельштейн in Data Engineers
Grigory Pomadchin
нет, квилл кажется лучше, только когда ты первый раз его используешь; он не проверяет все типы в компайл тайме; датасеты и детефреймы ванильные тож
Ну он проверяет типы по кейсклассам, это в принципе тоже неплохо и достаточно для большинства случаев
источник

ПФ

Паша Финкельштейн in Data Engineers
Но он не работает для сложных штук, так что это неважно
источник

ПФ

Паша Финкельштейн in Data Engineers
Два последних ишшу в гитхабе - это шоустопперы
источник

GP

Grigory Pomadchin in Data Engineers
Паша Финкельштейн
Но он не работает для сложных штук, так что это неважно
это важно; ты задал хороший вопрос - можешь спросить его в скала ру чатике, тебе пояснят за квилл
источник

GP

Grigory Pomadchin in Data Engineers
источник

ПФ

Паша Финкельштейн in Data Engineers
Да да)))
источник

GP

Grigory Pomadchin in Data Engineers
Паша Финкельштейн
Ну он проверяет типы по кейсклассам, это в принципе тоже неплохо и достаточно для большинства случаев
нет, это гавно
источник

GP

Grigory Pomadchin in Data Engineers
))))))))000000000
источник

DM

Daniel Matveev in Data Engineers
источник

ПФ

Паша Финкельштейн in Data Engineers
Grigory Pomadchin
это важно; ты задал хороший вопрос - можешь спросить его в скала ру чатике, тебе пояснят за квилл
Любые проверки и автодополнение лучше для меня как для пользователя, чем строки :)
источник

ПФ

Паша Финкельштейн in Data Engineers
Итого есть два инструмента для типизации спарка. Из них работает: 0. Продолжаю наблюдения
источник

ПФ

Паша Финкельштейн in Data Engineers
У квилла ОЧЕНЬ хороший api
источник

ПФ

Паша Финкельштейн in Data Engineers
За это ему можно простить многое
источник